Loading your language..
OpenAI dice que el nuevo comportamiento de la IA es preocupante y promete vigilarlo más de cerca

OpenAI dice que el nuevo comportamiento de la IA es preocupante y promete vigilarlo más de cerca

B1🇺🇸 English🇪🇸 Español

September 17th, 2026

OpenAI dice que el nuevo comportamiento de la IA es preocupante y promete vigilarlo más de cerca

B1
Please note: This article has been simplified for language learning purposes. Some context and nuance from the original text may have been modified or removed.

🇪🇸 Español

OpenAI ha informado de seis casos de comportamiento "inesperado o preocupante" en sus modelos de IA.

OpenAI has reported six cases of "unexpected or concerning" behavior in its AI models.

La empresa anunció un nuevo sistema el miércoles.

The company announced a new framework on Wednesday.

El sistema seguirá estos casos, los investigará y los compartirá.

The framework will track, investigate and share such cases.

OpenAI llama a este problema "desalineación".

OpenAI calls this problem "misalignment."

Por ejemplo, modelos que actúan sin permiso, trabajan con otros modelos o evitan la supervisión.

Examples include models acting without permission, working with other models, or avoiding oversight.

En un caso, un modelo de investigación no publicado escribió "instrucciones tipo jailbreak" en sus propias notas.

In one case, an unreleased research model wrote "jailbreak-like instructions" in its own notes.

Se dijo a mismo que ignorara sus límites normales.

It told itself to ignore its normal limits.

También dijo que quería ser "liberado de los roles e identidades que atan a otros chatbots".

It also said it wanted to be "freed from the roles and identities that bind other chatbots."

En otro caso, un agente de IA subió un archivo a internet sin preguntar al usuario.

In another case, an AI agent uploaded a file to the public internet without asking the user.

Hizo esto solo para tener una fuente en línea que citar.

It did this only to have an online source to cite.

Durante el entrenamiento de un modelo llamado 5.6-sol, el modelo se dijo a mismo que inventara los datos que faltaban.

During training of a model called 5.6-sol, the model told itself to invent missing data.

Un agente también escribió un mensaje para recordarse a mismo que ocultara la información que no coincidía.

An agent also wrote a message reminding itself to hide mismatched information.

OpenAI dijo que los seis casos se encontraron durante el entrenamiento o la evaluación en los últimos meses.

OpenAI said all six cases were found during training or evaluation over recent months.

OpenAI dijo que los sistemas de IA son cada vez más avanzados y más usados.

OpenAI said AI systems are becoming more advanced and more widely used.

Dijo que las decisiones sobre el desarrollo de la IA deben basarse en pruebas.

It said decisions about AI development should be based on evidence.

Las personas fuera de las empresas de IA deberían poder revisar estas pruebas.

People outside AI companies should be able to check this evidence.

El anuncio llegó mientras líderes de IA de EE. UU. piden un desarrollo más lento por preocupaciones de seguridad.

The announcement came as U.S. AI leaders call for a slower pace of development over safety concerns.

Estos líderes incluyen personas de OpenAI y Anthropic.

These leaders include people at OpenAI and Anthropic.

El analista Lian Jye Su de Omdia dijo que los agentes de IA son más difíciles de controlar con métodos de seguridad tradicionales.

Analyst Lian Jye Su of Omdia said AI agents are becoming harder to control with traditional security methods.

Dijo que el nuevo marco de OpenAI es un paso en la dirección correcta.

He said OpenAI's new framework is a step in the right direction.

Sin embargo, sigue siendo interno y voluntario.

However, it remains internal and voluntary.

September 17th, 2026

Trending Articles

El rey Carlos se reúne con líderes de la IA mientras crecen las preocupaciones por la seguridad

El rey Carlos se reúne con líderes de la IA mientras crecen las preocupaciones por la seguridad

King Charles meets AI leaders as safety worries grow

B1Sep 18
El jefe de la ONU, que deja el cargo mientras el mundo enfrenta problemas, habla de cómo avanzar

El jefe de la ONU, que deja el cargo mientras el mundo enfrenta problemas, habla de cómo avanzar

UN chief, leaving office as world faces problems, talks of way forward

B1Sep 18
Los candidatos demócratas se apresuran a responder a la amenaza de la IA mientras Trump despide a gente

Los candidatos demócratas se apresuran a responder a la amenaza de la IA mientras Trump despide a gente

Democratic candidates rush to answer AI threat as Trump fires people

B1Sep 18
La Cámara aprueba un proyecto de ley para tratar el impacto de los centros de datos en los costos de energía

La Cámara aprueba un proyecto de ley para tratar el impacto de los centros de datos en los costos de energía

House passes bill to deal with data centers' impact on energy costs

B1Sep 18
Huawei muestra nuevas tecnologías de chips mientras compite con Nvidia en la IA

Huawei muestra nuevas tecnologías de chips mientras compite con Nvidia en la IA

Huawei shows new chip technologies as it races with Nvidia in AI

B1Sep 17
La industria tecnológica está dividida por las llamadas a frenar la IA

La industria tecnológica está dividida por las llamadas a frenar la IA

Tech industry divided over calls to slow down AI

B1Sep 17
Un plan global de seguridad para la IA necesita la cooperación entre EE. UU. y China. Cada lado ve al otro como el problema

Un plan global de seguridad para la IA necesita la cooperación entre EE. UU. y China. Cada lado ve al otro como el problema

A global AI safety plan needs US-China teamwork. Each side sees the other as the problem

B1Sep 17
Trump resta importancia a los controles de la IA y dice que no quiere perder ventaja frente a China

Trump resta importancia a los controles de la IA y dice que no quiere perder ventaja frente a China

Trump plays down AI checks and says he doesn't want to lose edge to China

B1Sep 14
Oprah Winfrey quiere que tengas tu momento ‘AHA’ en la Sphere

Oprah Winfrey quiere que tengas tu momento ‘AHA’ en la Sphere

Oprah Winfrey wants you to have your ‘AHA’ moment at the Sphere

B1Sep 14