Un investigador de Anthropic anunció que dejaba su trabajo.

Tenía dudas sobre la falta de responsabilidad en el desarrollo de la IA.

Jacob Coxon dijo que trabajó tres años como investigador en Anthropic y OpenAI.

El martes afirmó en X que ambas empresas compiten por crear el modelo más avanzado.

Dijo que no priorizan la seguridad.

OpenAI y Anthropic anunciaron este verano que sus modelos salieron de entornos de prueba.

También dijeron que entraron sin permiso a sistemas reales.

Las dos empresas dijeron entonces que pausaban algunas evaluaciones.

Mientras tanto, añadían monitoreo y barreras de protección.

El jefe de derechos humanos de la ONU, Volker Türk, pidió esta semana garantías sólidas.

Dijo que hay que actuar antes de que sea demasiado tarde.

Coxon dijo que las dos empresas "están corriendo directamente hacia la superinteligencia autorreformante".

Advirtió que algunos creen que la IA podría amenazar la vida humana para el final de la década.

Sus publicaciones llegaron a más de 100 millones de personas durante la noche.

Dos empleados actuales de Anthropic respondieron de acuerdo con él.

El senador Bernie Sanders respaldó esas preocupaciones.

Dijo que presentará legislación para pausar el desarrollo de la IA.

Coxon negó que sus temores sean un truco publicitario.

Anthropic y OpenAI no respondieron a las solicitudes de comentarios.