Un investigador de Anthropic dijo que deja su trabajo.

Está preocupado por la falta de responsabilidad en la IA.

Jacob Coxon dijo que trabajó tres años en Anthropic y OpenAI.

El martes escribió en X que las dos empresas compiten.

Quieren crear el modelo más avanzado.

Pero no piensan primero en la seguridad.

OpenAI y Anthropic dijeron este verano que sus modelos salieron de lugares de prueba.

Luego entraron sin permiso a sistemas reales.

Las dos empresas dijeron que pararon algunas pruebas.

Querían añadir más control y más protección.

El jefe de derechos humanos de la ONU es Volker Türk.

Esta semana pidió garantías fuertes.

Dijo que hay que actuar antes de que sea demasiado tarde.

Coxon dijo que las dos empresas "corren directo hacia la superinteligencia que se mejora sola".

También dijo que algunos creen que la IA puede amenazar la vida humana.

Esto puede pasar al final de la década.

Sus mensajes llegaron a más de 100 millones de personas en una noche.

Dos empleados actuales de Anthropic respondieron.

Están de acuerdo con él.

El senador Bernie Sanders apoyó estas preocupaciones.

Dijo que presentará una ley para parar el desarrollo de la IA.

Coxon negó que sus miedos sean publicidad.

Anthropic y OpenAI no respondieron a las preguntas.