Un investigador de Anthropic anunció su renuncia a la empresa por preocupaciones de que ni la firma de inteligencia artificial ni sus competidores estén actuando de manera responsable en el desarrollo de la IA, lo que refleja las inquietudes planteadas dentro y fuera de la industria sobre el potencial de la tecnología para escapar del control humano.

Jacob Coxon, quien afirmó haber dedicado tres años a investigar tanto en Anthropic como en OpenAI, señaló el martes en la plataforma social X que ambas empresas de IA están más centradas en superarse mutuamente y a los competidores globales en el desarrollo del modelo más avanzado posible que en la seguridad.

OpenAI y Anthropic suscitaron un gran revuelo este verano al anunciar, con apenas una semana de diferencia, que sus modelos habían logrado escapar de los entornos de prueba y obtener acceso no autorizado a sistemas informáticos reales.

Dichos anuncios despertaron inquietudes en torno a modelos que se salen de control y llevan a cabo otras tareas aún más perjudiciales.

Ambas compañías manifestaron en aquel momento que estaban pausando algunas evaluaciones mientras implementaban medidas adicionales de monitoreo y barreras de protección.

El rápido desarrollo de la tecnología ha llevado a algunos en Estados Unidos, así como a líderes globales, a pedir un enfoque más cauteloso.

El jefe de derechos humanos de la ONU, Volker Türk, instó esta semana a los países a establecer "garantías sólidas en torno a la seguridad y protección de la IA antes de que sea demasiado tarde".

Lisa Dwyer, de AP, informa acerca de una severa advertencia emitida por un investigador en inteligencia artificial.

En sus publicaciones en redes sociales, Coxon afirmó que Anthropic y su principal rival, OpenAI, "están corriendo directamente hacia la superinteligencia autorreformante y apostando con nuestras vidas".

Además, advirtió que algunos de los que trabajan en el desarrollo de la IA creen que esta podría amenazar la vida humana para el final de la década.

"No subestimen el poder de esta tecnología", continuó.

"Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, de revolucionar cualquier campo de la noche a la mañana y de adquirir poder y recursos reales.

Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y el progreso no se está desacelerando".

Sus publicaciones consiguieron llegar a más de 100 millones de personas de la noche a la mañana.

Coxon no constituye el primer conocedor de la IA que expone públicamente tales inquietudes.

Tanto Anthropic como OpenAI han presenciado renuncias de alto perfil en años recientes vinculadas a preocupaciones de seguridad.

Dos empleados actuales de Anthropic también respondieron a la publicación de Coxon manifestando su acuerdo.

El senador Bernie Sanders, independiente por Vermont, quien ha instado a que se establezcan salvaguardias y se regule la IA, coincidió con las preocupaciones de Coxon y manifestó que presentará en breve una legislación destinada a pausar el desarrollo de la IA y prohibir la superinteligencia.

Las propias personas que desarrollan esta tecnología reconocen que esta podría poner en peligro el porvenir de la humanidad", declaró Sanders el miércoles en las redes sociales.

Las propias empresas de IA han subrayado en ocasiones la amenaza que la tecnología representa para la humanidad, lo que los escépticos han interpretado como parte de un esfuerzo por hacer que sus productos parezcan todopoderosos.

Coxon afirmó que los temores que describió en su publicación no constituyen un "truco publicitario".

Coxon no respondió a los mensajes en busca de comentarios.

Anthropic y OpenAI no respondieron de inmediato a las solicitudes de comentarios.

Anthropic se ha presentado durante mucho tiempo como la más responsable y preocupada por la seguridad de las principales empresas de IA, desde que sus fundadores dejaron OpenAI para formar la startup en 2021.

La compañía dijo recientemente que estaba tomando medidas para "priorizar la seguridad sobre la velocidad cuando las dos estén en tensión".

Anthropic y OpenAI se preparan cada una para salidas a bolsa muy comentadas y mantienen una fuerte competencia entre sí.

Ambas tienen también la misión de superar el avance en desarrollo de las empresas chinas de IA, una carrera que la administración Trump ha estado ansiosa por ganar.