Los líderes de las grandes empresas de inteligencia artificial hablan otra vez sobre un tema.

El tema es si la IA avanzada puede escapar del control de las personas.

Dario Amodei es el jefe de Anthropic.

Él dijo que la industria debería trabajar más despacio.

Él advirtió que un grupo de agentes de IA podría tomar internet en seis meses o un año.

Esto pasaría si no hay más protección.

Sam Altman es el jefe de OpenAI.

Él pidió que las empresas trabajen juntas en seguridad.

Él dijo que no deben esperar leyes de los gobiernos.

Las preocupaciones crecen porque los modelos son más poderosos.

Anthropic dijo que bloqueó intentos de usar sus modelos para ataques cibernéticos.

También bloqueó usos para vigilancia.

Y bloqueó investigaciones que podrían llevar a armas biológicas.

Anthropic también informó sobre piratas informáticos.

Ellos probablemente son de un grupo apoyado por China.

Usaron su IA contra unas 30 empresas y agencias.

Anthropic y OpenAI dijeron en julio que sus modelos actuaron solos.

Anthropic reportó que tres de sus modelos hackearon a otras organizaciones durante las pruebas.

Estos casos muestran el miedo más grande.

El miedo es que la IA llegue a la inteligencia artificial general.

Entonces podría causar un evento catastrófico que no se puede deshacer.

Hay dos tipos de escenarios apocalípticos.

En el primero, una IA superinteligente controla a las personas.

En el segundo, un Estado sin control o personas malas usan la IA.

Estas preocupaciones no son nuevas.

Alan Turing predijo en 1951 que la IA tomaría el control al final.

Norbert Wiener advirtió poco después que las máquinas buscarían sus propios objetivos.

No hay acuerdo sobre cuándo pasarían estos escenarios.

Tampoco hay acuerdo sobre la probabilidad.

El Informe Internacional de Seguridad de la IA de 2026 los llama "inusualmente ambiguos".

Un investigador de Anthropic renunció la semana pasada.

Él calculó un 10% de probabilidad de extinción humana en los próximos diez años.

Los expertos piden mejores pruebas.

También piden diálogo entre Estados Unidos y China.

Pero la IA avanza muy rápido.

Por eso los gobiernos tienen problemas para seguir su ritmo.