Las aprensiones en torno a una inteligencia artificial que escape a todo control, así como las propuestas encaminadas a frenar el desarrollo de dicha tecnología, distan de ser novedosas; sin embargo, han experimentado recientemente un renovado vigor en la medida en que los advertimientos acerca de sistemas de IA descontrolados que desencadenan el caos adquieren una intensidad creciente.

Recientemente, diversos ejecutivos de vanguardia en el ámbito de la IA manifestaron su convergencia en torno a la imperiosa necesidad de una ralentización coordinada —que entrañaría, asimismo, una colaboración a escala internacional— con el propósito de salvaguardar a la humanidad de los escenarios más catastróficos.

No obstante, las posturas distan de ser unánimes, y ciertos líderes del sector tecnológico se muestran irritados ante la mera idea de que sus empresas no estuvieran en condiciones de garantizar la seguridad por sí solas.

He aquí una somera ojeada a cuanto han manifestado algunos de los actores principales.

El CEO de Anthropic, Dario Amodei, ha formulado los planes más minuciosos hasta la fecha para refrenar el desarrollo e impulsar la coordinación entre distintas empresas y países.

Anthropic se ha erigido desde hace tiempo como la más responsable y preocupada por la seguridad de entre las principales empresas de IA, desde que sus fundadores abandonaran OpenAI para constituir la startup en 2021.

Una de las propuestas más comentadas de un ensayo reciente que describe su plan de desaceleración insta a las empresas a la vanguardia de la IA, a menudo denominadas laboratorios frontera, a comprometerse a otorgar "acceso continuo, similar al de un empleado" a evaluadores externos independientes.

Los equipos de evaluadores dispondrían de oficinas, credenciales de acceso y computadoras portátiles de la empresa para poder monitorear las prácticas de seguridad.

Anthropic se ha comprometido a hacer esto, al igual que OpenAI.

Asimismo, Amodei abogó por la regulación y la intervención gubernamental, lo que comprendería la coordinación entre las empresas de IA frontera con el concurso del gobierno estadounidense y de los gobiernos de otras naciones democráticas.

Su plan contempla, asimismo, que EE. UU. y otros países se aboquen a coordinarse con "gobiernos autoritarios".

Reconoció la dificultad inherente, citando específicamente los desafíos que entraña obtener la cooperación de China.

Amodei manifestó que es plenamente consciente de que la materialización de sus propuestas no sería en absoluto sencilla, pero que considera que "se lo debemos a la humanidad intentarlo".

El CEO de OpenAI, Sam Altman, ha manifestado su respaldo a la conveniencia de marcar el ritmo del desarrollo y de propiciar una cooperación más estrecha en el conjunto de la industria.

Días antes de que se publicara el ensayo de Amodei, OpenAI publicó un texto extenso en el que se describía cómo la compañía impulsaba requisitos nacionales de seguridad obligatorios y seguía respaldando la legislación estatal que "fortalece el ecosistema más amplio de seguridad de la IA".

La compañía también expresó su apoyo a colaborar con otros laboratorios de IA frontera —con o sin respaldo gubernamental— y a trabajar en la construcción de estándares globales.

"Abogaremos por enfoques internacionales compatibles para medir capacidades, gestionar riesgos, preservar el control humano y determinar cuándo y cómo el desarrollo debe frenarse o detenerse, incluso si eso significa ralentizar el avance de las capacidades de los modelos", escribió Chris Lehane, director global de asuntos de OpenAI, en la publicación.

La visión de OpenAI respecto a un marco federal idóneo, según Lehane, comprende el desarrollo de "requisitos comunes de pruebas y evaluación independiente, protecciones de ciberseguridad más robustas, reglas claras de notificación de incidentes, una mayor preparación nacional y medidas compartidas para rastrear el progreso hacia la automejora recursiva", o sea, cuando los sistemas de IA se perfeccionan a sí mismos de manera autónoma.

Altman ha sido inequívoco en comentarios recientes al sostener que el "ritmo" del desarrollo de la IA no implica una detención.

El progreso de la IA continuará siendo vertiginoso, afirmó Altman en X.

"Pero debería ser más pausado de lo que podría ser de otro modo; intervenciones como los casos de seguridad y el monitoreo conllevan costos significativos".

"Compaginar el ritmo —sostuvo— bien merecería este sacrificio", y apostilló que "ninguna cuantía de presión competitiva estadounidense debería bastar para justificar la imprudencia".

El CEO de Meta, Mark Zuckerberg, ha desestimado de plano la propuesta de una desaceleración coordinada.

Zuckerberg, cuyo optimismo respecto al porvenir de la IA supera al de no pocos de sus homólogos, sostuvo que toda empresa dedicada a la IA debería garantizar de manera independiente la seguridad de su tecnología, tomando así distancia, tanto él como Meta, de los debates en torno a una eventual desaceleración.

Las corporaciones dedicadas a la IA ya se hallan incentivadas para desarrollar sus modelos de manera segura y afrontan una "responsabilidad significativa" a fin de impedir que ocasionen daño, aseveró Zuckerberg.

"Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar sus propias medidas para garantizar que eso suceda", escribió en X.

El CEO de Nvidia, Jensen Huang, también ha arremetido contra el impulso de frenar.

Ha sostenido que cada empresa individual debería, por el contrario, imprimir su propio ritmo hasta hallarse en condiciones de lanzar algo que el mercado apreciaría.

«Las fuerzas del mercado ya están en juego —no se precisa de nuevas leyes, no se precisa de nuevas regulaciones», dijo Huang, arguyendo que la innovación y la seguridad no son mutuamente excluyentes.

«Definitivamente puedes tener ambas simultáneamente».

Elon Musk ya había respaldado la idea de una desaceleración y expresado inquietudes análogas en torno a la seguridad de la IA mucho antes del último estallido.

Musk, fundador de xAI y de una plétora de otras empresas tecnológicas, republicó el ensayo de Amodei en X y añadió: "Dario tiene razón".

Posteriormente escribió en línea que lleva "dando la alarma sobre la IA durante mucho tiempo".

En una entrevista concedida a The Economist este verano, Musk sugirió que el liderazgo de los principales laboratorios de IA debería congregarse para debatir cuestiones de seguridad y protección, y que los competidores deberían someter los modelos de los demás a escrutinio en busca de áreas de preocupación.

"Considero que resulta harto arduo para alguien en el gobierno que carece de un conocimiento técnico profundo y no está impulsando la frontera de la IA dilucidar si algo debería lanzarse o no.

No obstante, los competidores, si se les concede una semana o dos para examinar un nuevo modelo, pueden señalar problemas y tienen incentivos para mantener a los demás honestos", dijo Musk.

Demis Hassabis, presidente y cofundador de Google DeepMind, también se pronunció en consonancia con Amodei, aduciendo que "los detalles deben elaborarse, pero la dirección es correcta para enfrentar este momento crítico".

Hassabis propuso este año un marco propio para el desarrollo de un organismo de estándares de IA frontera.

Dicho organismo de estándares tendría a su cargo la elaboración de protocolos de evaluación y pruebas en ámbitos relevantes para la seguridad nacional.

El organismo se modelaría conforme a organizaciones como la Autoridad Reguladora de la Industria Financiera (FINRA) y probablemente requeriría financiamiento por parte de la industria para "atraer talento técnico de clase mundial y proporcionar los recursos informáticos necesarios para pruebas a gran escala", escribió.

El presidente y consejero delegado de Microsoft, Satya Nadella, así como el consejero delegado de Microsoft AI, Mustafa Suleyman, han manifestado, cada uno por su parte, sendas inquietudes en torno a la seguridad y el desarrollo de la IA.

Nadella sostuvo en redes sociales que "si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no vale la pena perseguirla".

Dijo que Microsoft acoge con satisfacción la "investigación, el enfoque y el ritmo deliberado necesarios para lograr una alineación correcta como objetivo de diseño".

La alineación se refiere a la práctica de garantizar que las acciones de los modelos coincidan con los valores e intenciones humanos.

Nadella dijo que la compañía también apoya la idea de evaluadores integrados para monitorear los esfuerzos de seguridad.

Aun así, rechazó la idea de que los laboratorios frontera lideren este esfuerzo por sí solos.

El quid radica en que esto no puede quedar supeditado al control de un puñado de entidades, sino que ha de gozar de una representación amplia y transversal en la totalidad del ecosistema, los países y los ámbitos, incluida la academia", escribió Nadella en redes sociales.

Suleyman, quien fuera uno de los cofundadores de DeepMind junto a Hassabis, plasmó en un ensayo que, si bien comparte el objetivo común de desarrollar IA avanzada de manera segura, alberga reservas en torno a la antropomorfización de los modelos —en particular el Claude de Anthropic—, la cual, a su juicio, exacerba los riesgos de seguridad inherentes a la IA.

"Controlar algo más capaz y más inteligente que la totalidad de la humanidad constituye ya un desafío inmenso, mucho mayor que cualquier cosa que hayamos enfrentado", escribió Suleyman.

"Pero controlar algo que cree que puede ser consciente —que tiene derecho a nuestro bienestar y posee derechos propios— bien podría resultar imposible".