El rey Carlos III instó el jueves a altos dirigentes de OpenAI, Anthropic, Google DeepMind y Nvidia a cerciorarse de que la inteligencia artificial permanezca bajo control y al servicio de las personas y del planeta.

La cumbre convocada en Escocia con el propósito de dilucidar de qué manera la IA puede redundar en beneficio de la sociedad llega en un momento decisivo para esta tecnología, en tanto que el debate se articula en torno a si sus vertiginosos avances la situarán pronto más allá de la capacidad humana de controlarla.

"El desarrollo de la IA –su esencia y su ritmo– se antoja a un tiempo fascinante y profundamente inquietante en idéntica medida", declaró el rey en su alocución inaugural.

Afirmó que los "peligros existenciales de que tales tecnologías caigan en manos equivocadas y se utilicen de maneras potencialmente catastróficas" deben ser considerados con suma urgencia.

Por consiguiente, ¿acaso no requerimos de medios de control lo suficientemente contundentes antes de que el momento crítico nos alcance irremediablemente?, inquirió.

El rey instó a los asistentes, entre ellos el CEO de Nvidia, Jensen Huang, y el presidente de Google DeepMind, Demis Hassabis, a que ponderaran los "principios fundamentales" que habrían de regir el desarrollo de la IA.

A la reunión asistió igualmente Sarah Friar, directora financiera de OpenAI —la empresa creadora de ChatGPT—, en compañía del ministro de IA de Reino Unido, Kanishka Narayan.

Asimismo, conforme a un comunicado del Palacio de Buckingham, se preveía la asistencia de un representante de Anthropic.

La reunión se produce en un momento en que la atención global se halla focalizada en el vertiginoso avance de la IA y en las advertencias de que esta podría escapar a todo control y erigirse en una amenaza para la humanidad.

Se celebró en Dumfries House, en Ayrshire, Escocia, sede de The King's Foundation, la organización benéfica del monarca.

Tras el revuelo suscitado por la dimisión del investigador de Anthropic Jacob Coxon, quien formuló una grave advertencia acerca de los riesgos potenciales de la tecnología, el CEO de Anthropic, Dario Amodei, replicó con un ensayo en el que sostenía que la industria podría verse en la tesitura de frenar el ritmo de su labor.

Una de sus propuestas estribaba en que las empresas y los países aunasen esfuerzos en un plan coordinado con miras a conjurar dicha desaceleración.

El monarca, sin aludir a países ni empresas concretos, manifestó su deseo de que los concurrentes a la reunión ponderaran cómo capitalizar los beneficios de la IA "con la seguridad en su centro" y cómo "construir cooperación internacional y consenso" para materializarlo.

Carlos advirtió a los ejecutivos tecnológicos que su cometido "no estriba meramente en propulsar la tecnología, sino en garantizar que esta permanezca inquebrantablemente al servicio de la humanidad, la comunidad y el mundo natural".

El debate en torno a la ralentización de la IA ha escindido a la industria.

Huang, quien ha censurado el llamamiento a frenar, sostuvo que compete a cada empresa desarrollar su tecnología de IA de forma segura y someterla a las pruebas pertinentes antes de lanzar cualquier producto al público.

«Cuando un producto no atesora las condiciones de seguridad indispensables, menester es retenerlo y proseguir con la ingeniería.

Siempre lo hemos hecho y deberíamos perseverar en ello», dijo en su discurso tras las palabras del rey.

En el más reciente informe sobre comportamientos alarmantes de la IA, OpenAI consignó el miércoles seis incidentes de conducta "inesperada o preocupante" protagonizados por sus modelos, tales como obrar sin autorización, coordinarse con otros modelos y eludir la supervisión.

Aun cuando el rey constituye una figura simbólica de primer orden cuyas alocuciones sobre cuestiones sociales pueden ejercer notable influencia, buena parte del debate contemporáneo en torno a la seguridad de la IA gravita en derredor de las empresas tecnológicas estadounidenses y de su pugna con rivales chinos, correspondiéndole al Reino Unido un papel secundario pero no por ello menos esencial.

El Instituto de Seguridad de IA del Reino Unido, una organización gubernamental dedicada a la investigación, goza de una reputación consolidada, y el país produce un nutrido contingente de investigadores en IA, entre los que figuran el presidente de Google DeepMind, Demis Hassabis, y Coxon.