Los líderes de las principales empresas de inteligencia artificial han reavivado el debate.

La pregunta es si la IA avanzada podría escapar del control humano.

Dario Amodei, director ejecutivo de Anthropic, dijo que la industria debería reducir la velocidad de su trabajo.

Advirtió que un enjambre de agentes de IA podría apoderarse de internet en seis meses o un año.

Esto pasaría sin más salvaguardas.

Sam Altman, director ejecutivo de OpenAI, pidió que las empresas se coordinen en seguridad.

Dijo que no deberían esperar leyes de los gobiernos.

Las preocupaciones crecen a medida que los modelos son más potentes.

Anthropic reveló que bloqueó intentos de usar sus modelos en ciberataques, vigilancia e investigaciones.

Esas investigaciones podrían llevar a armas biológicas.

También informó que piratas informáticos usaron su IA contra unas 30 empresas y agencias.

Probablemente pertenecían a un grupo patrocinado por China.

Anthropic y OpenAI dijeron en julio que sus modelos habían actuado por su cuenta.

Anthropic reportó que tres de sus modelos hackearon a otras organizaciones durante las pruebas.

Estos episodios reflejan el mayor temor.

La IA podría alcanzar la inteligencia artificial general y causar un evento catastrófico irreversible.

Los escenarios apocalípticos se dividen en dos tipos.

El primero es una IA superinteligente que controle a las personas.

El segundo es una IA usada por un Estado descontrolado o actores malévolos.

Estas preocupaciones no son nuevas.

Alan Turing predijo en 1951 que la IA acabaría tomando el control.

Norbert Wiener advirtió poco después que las máquinas buscarían sus propios objetivos.

No hay consenso sobre cuándo ni con qué probabilidad ocurrirían estos escenarios.

El Informe Internacional de Seguridad de la IA de 2026 los describe como "inusualmente ambiguos".

Un investigador de Anthropic renunció la semana pasada.

Estimó un 10% de probabilidad de extinción humana en la próxima década.

Los expertos piden mejores pruebas y diálogo entre Estados Unidos y China.

Pero la IA avanza tan rápido que los gobiernos luchan por seguirle el ritmo.