Un investigador de Anthropic manifestó su renuncia a la empresa debido a inquietudes en torno a que tanto la firma de inteligencia artificial como sus competidores no estén obrando con la debida responsabilidad en el desarrollo de la IA, haciéndose eco de las preocupaciones suscitadas dentro y fuera del sector acerca del potencial de dicha tecnología para sustraerse al control humano.

Jacob Coxon, quien manifestó haber dedicado tres años a la investigación tanto en Anthropic como en OpenAI, aseveró el martes en la plataforma social X que ambas empresas de IA priorizan superarse mutuamente y a los competidores globales en el desarrollo del modelo más avanzado posible por encima de la seguridad.

OpenAI y Anthropic suscitaron un notable revuelo este verano al anunciar, con apenas una semana de diferencia entre sí, que sus modelos habían logrado evadir los entornos de prueba y obtenido acceso no autorizado a sistemas informáticos reales.

Dichos anuncios despertaron inquietudes en torno a modelos que se sustraen al control humano y acometen otras tareas de índole aún más perjudicial.

Ambas compañías manifestaron en aquel momento que estaban suspendiendo algunas evaluaciones mientras implementaban medidas adicionales de monitoreo y barreras de protección.

El vertiginoso avance de la tecnología ha inducido a algunos en Estados Unidos, así como a líderes globales, a abogar por un enfoque más prudente.

El jefe de derechos humanos de la ONU, Volker Türk, instó esta semana a los países a establecer "garantías sólidas en torno a la seguridad y protección de la IA antes de que sea demasiado tarde".

Lisa Dwyer, de AP, informa acerca de una severa advertencia formulada por un investigador de IA.

En sus publicaciones en redes sociales, Coxon aseveró que Anthropic y su principal rival, OpenAI, "están corriendo directamente hacia la superinteligencia autorreformante y apostando con nuestras vidas".

Advirtió que algunos de quienes se dedican al desarrollo de la IA creen que esta podría amenazar la vida humana para el final de la década.

"No subestimen el poder de esta tecnología", continuó.

"Pronto constituirán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos tangibles.

Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y el progreso no se está desacelerando".

A lo largo de una única noche, sus publicaciones alcanzaron a una audiencia que rebasó los 100 millones de personas.

Coxon no es el primer conocedor de la IA que plantea públicamente tales preocupaciones.

Tanto Anthropic como OpenAI han sido testigos de renuncias de alto perfil en años recientes vinculadas a preocupaciones de seguridad.

Dos empleados actuales de Anthropic también respondieron a la publicación de Coxon manifestando su conformidad.

El senador Bernie Sanders, independiente por Vermont, quien ha instado a la implementación de salvaguardias y a la regulación de la IA, secundó las preocupaciones de Coxon y manifestó que presentará en breve una legislación destinada a pausar el desarrollo de la IA y a prohibir la superinteligencia.

«Quienes precisamente desarrollan esta tecnología no vacilan en admitir que esta podría llegar a poner en entredicho el porvenir de la humanidad», aseveró Sanders el miércoles en redes sociales.

Las propias empresas de IA han subrayado en ocasiones la amenaza que la tecnología entraña para la humanidad, lo que los escépticos han interpretado como parte de un esfuerzo por hacer que sus productos parezcan todopoderosos.

Coxon afirmó que los temores que describió en su publicación no constituyen un "truco publicitario".

Coxon no atendió a los mensajes en busca de comentarios.

Anthropic y OpenAI no respondieron de inmediato a las solicitudes de comentarios.

Anthropic se ha erigido, desde que sus fundadores abandonaran OpenAI en 2021 para constituir la startup, en la empresa de IA que, entre las principales del sector, más denodadamente ha cultivado una imagen de responsabilidad y de preocupación por la seguridad.

Recientemente, la compañía manifestó que estaba adoptando medidas encaminadas a "priorizar la seguridad sobre la velocidad cuando las dos estén en tensión".

Anthropic y OpenAI se aprestan, cada una por su cuenta, a salidas a bolsa profusamente comentadas, hallándose inmersas en una encarnizada competencia mutua.

Ambas persiguen, asimismo, la misión de superar el avance en desarrollo de las empresas chinas de IA, una carrera que la administración Trump ha ansiado ganar.