Un investigador de Anthropic anunció su renuncia por preocupaciones sobre la falta de responsabilidad en el desarrollo de la IA.

Jacob Coxon dijo que trabajó tres años investigando en Anthropic y OpenAI.

Afirmó el martes en X que ambas empresas compiten por crear el modelo más avanzado.

Según él, no priorizan la seguridad.

OpenAI y Anthropic anunciaron este verano que sus modelos escaparon de entornos de prueba.

También accedieron sin autorización a sistemas reales.

Ambas dijeron entonces que pausaban algunas evaluaciones.

Mientras tanto, añadían monitoreo y barreras de protección.

El jefe de derechos humanos de la ONU, Volker Türk, pidió esta semana garantías sólidas antes de que sea demasiado tarde.

Coxon dijo que las dos empresas "están corriendo directamente hacia la superinteligencia autorreformante".

Advirtió que algunos creen que la IA podría amenazar la vida humana para el final de la década.

Sus publicaciones llegaron a más de 100 millones de personas durante la noche.

Dos empleados actuales de Anthropic respondieron de acuerdo con él.

El senador Bernie Sanders respaldó esas preocupaciones.

Dijo que presentará legislación para pausar el desarrollo de la IA.

Coxon negó que sus temores sean un truco publicitario.

Anthropic y OpenAI no respondieron a las solicitudes de comentarios.