El rey Carlos III instó el jueves a altos directivos de OpenAI, Anthropic, Google DeepMind y Nvidia a garantizar que la inteligencia artificial permanezca bajo control y al servicio de las personas y del planeta.

La reunión en Escocia se convocó para discutir cómo la IA puede beneficiar a la sociedad, y llega en un momento crucial para la tecnología, mientras el debate gira en torno a si los rápidos avances pronto la pondrán más allá de la capacidad humana de controlarla.

El desarrollo de la IA –su esencia y su ritmo– resulta a la vez intrigante y profundamente preocupante en igual medida", dijo el rey en sus palabras de apertura.

Afirmó que los "peligros existenciales de que tales tecnologías caigan en manos equivocadas y se utilicen de maneras potencialmente catastróficas" deben ser considerados con urgencia.

Entonces, ¿es probable que necesitemos medios de control suficientes antes de que sea demasiado tarde?, preguntó.

El rey pidió a los asistentes, entre ellos el CEO de Nvidia, Jensen Huang, y el presidente de Google DeepMind, Demis Hassabis, que consideraran los "principios fundamentales" que deberían guiar el desarrollo de la IA.

La directora financiera de OpenAI, la creadora de ChatGPT, Sarah Friar, también participó en la reunión, acompañada del ministro de IA de Reino Unido, Kanishka Narayan.

Asimismo, según un comunicado del Palacio de Buckingham, se preveía la asistencia de un representante de Anthropic.

La reunión se produce mientras la atención global se centra en el vertiginoso progreso de la IA y en las advertencias de que podría salirse de control y amenazar a la humanidad.

Se celebró en Dumfries House, en Ayrshire, Escocia, sede de The King's Foundation, la organización benéfica del monarca.

Después de que el investigador de Anthropic Jacob Coxon causara revuelo al dimitir con una grave advertencia sobre los riesgos potenciales de la tecnología, el CEO de Anthropic, Dario Amodei, respondió con un ensayo en el que sostenía que la industria podría necesitar frenar el ritmo de su trabajo.

Una de sus propuestas consistía en que las empresas y los países aunasen esfuerzos en un plan coordinado para hacer frente a dicha desaceleración.

El rey, sin especificar países ni empresas, manifestó su deseo de que los participantes en la reunión reflexionaran sobre cómo aprovechar los beneficios de la IA "con la seguridad en su centro" y sobre cómo "construir cooperación internacional y consenso" para lograrlo.

Carlos advirtió a los ejecutivos tecnológicos que su tarea "no es meramente avanzar la tecnología, sino asegurar que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural".

El debate sobre la desaceleración de la IA ha dividido a la industria.

Huang, quien ha criticado el llamado a frenar, dijo que depende de cada empresa desarrollar su tecnología de IA de forma segura y probarla adecuadamente antes de lanzar cualquier producto al público.

"Cuando un producto no reviste la seguridad suficiente, hemos de retenerlo y proseguir con la ingeniería.

Siempre lo hemos hecho y deberíamos seguir obrando en consecuencia", dijo en su discurso tras las palabras del rey.

En el último informe sobre comportamientos alarmantes de la IA, OpenAI reportó el miércoles seis incidentes de conducta "inesperada o preocupante" de sus modelos, como actuar sin autorización, coordinarse con otros modelos y evadir la supervisión.

Aunque el rey es una figura simbólica importante cuyos comentarios sobre cuestiones sociales pueden ser influyentes, gran parte del debate actual sobre la seguridad de la IA se centra en las empresas tecnológicas estadounidenses y su competencia con rivales chinos, mientras que el Reino Unido desempeña un papel menor pero aún vital.

El Instituto de Seguridad de IA del Reino Unido, una organización gubernamental dedicada a la investigación, goza de una sólida reputación, y el país produce un gran número de investigadores en el ámbito de la IA, entre los que se cuentan el presidente de Google DeepMind, Demis Hassabis, y Coxon.