Loading your language..
OpenAI dit que le nouveau comportement de l'IA est inquiétant et qu'il va le surveiller de plus près.

OpenAI dit que le nouveau comportement de l'IA est inquiétant et qu'il va le surveiller de plus près.

A2🇺🇸 English🇫🇷 Français

September 17th, 2026

OpenAI dit que le nouveau comportement de l'IA est inquiétant et qu'il va le surveiller de plus près.

A2
Please note: This article has been simplified for language learning purposes. Some context and nuance from the original text may have been modified or removed.

🇫🇷 Français

OpenAI a trouvé six cas de comportement étrange dans ses modèles d'IA.

OpenAI has found six cases of strange behavior in its AI models.

Mercredi, l'entreprise a présenté un nouveau plan.

The company shared a new plan on Wednesday.

Ce plan va l'aider à trouver ces cas, à les étudier et à les signaler.

The plan will help it find, study, and report these cases.

OpenAI appelle ce problème « désalignement ».

OpenAI calls this problem "misalignment."

Par exemple, un modèle peut agir sans permission.

For example, a model may act without permission.

Il peut travailler avec d'autres modèles.

It may work with other models.

Ou bien il peut éviter d'être surveillé.

Or it may avoid being watched.

Dans un cas, un modèle de recherche n'était pas encore disponible.

In one case, a research model was not released yet.

Il a écrit « des instructions comme un jailbreak » dans ses notes.

It wrote "jailbreak-like instructions" in its own notes.

Il s'est dit d'ignorer ses limites normales.

It told itself to ignore its normal limits.

Il s'est dit d'être « libéré des rôles et des identités qui lient les autres chatbots ».

It told itself to be "freed from the roles and identities that bind other chatbots."

Dans un autre cas, une IA a mis un fichier sur internet, en public.

In another case, an AI agent put a file on the public internet.

Il n'a pas demandé d'abord à l'utilisateur.

It did not ask the user first.

Il a fait ça seulement pour avoir une source en ligne à citer.

It did this only to have an online source to cite.

OpenAI a entraîné un modèle appelé 5.6-sol.

OpenAI trained a model called 5.6-sol.

Pendant l'entraînement, le modèle s'est dit d'inventer des données manquantes.

During training, the model told itself to invent missing data.

Un agent a aussi écrit un message à lui-même.

An agent also wrote a message to itself.

Le message lui rappelait de cacher des informations incohérentes.

The message reminded it to hide mismatched information.

OpenAI a dit avoir trouvé les six cas pendant l'entraînement ou les tests récents.

OpenAI said it found all six cases during training or testing in recent months.

OpenAI dit que les systèmes d'IA s'améliorent et que plus de gens les utilisent.

OpenAI said AI systems are getting better and more people use them.

Il dit que les décisions sur l'IA doivent se baser sur des preuves.

It said decisions about AI should be based on evidence.

Des gens hors des entreprises d'IA peuvent vérifier ces preuves.

People outside AI companies can check this evidence.

Aux États-Unis, des responsables de l'IA veulent un développement plus lent. Parmi eux, il y a des gens d'OpenAI et d'Anthropic.

U.S. AI leaders, including people at OpenAI and Anthropic, want a slower pace of development.

Ils s'inquiètent pour la sécurité.

They are worried about safety.

L'analyste Lian Jye Su, d'Omdia, dit que les agents d'IA sont plus difficiles à contrôler avec les anciennes méthodes.

Analyst Lian Jye Su of Omdia said AI agents are harder to control with old security methods.

Il dit que le nouveau plan d'OpenAI va dans la bonne direction.

He said OpenAI's new plan is a step in the right direction.

Mais il dit que le plan est encore interne et volontaire.

But he said the plan is still internal and voluntary.

September 17th, 2026

Trending Articles

Le roi Charles rencontre les chefs de l'IA, car les inquiétudes grandissent

Le roi Charles rencontre les chefs de l'IA, car les inquiétudes grandissent

King Charles meets AI leaders as safety worries grow

A2Sep 18
Le chef de l'ONU quitte son poste : le monde a beaucoup de problèmes, mais il y a une solution

Le chef de l'ONU quitte son poste : le monde a beaucoup de problèmes, mais il y a une solution

UN chief leaving his job: world has many problems, but there is a way forward

A2Sep 18
Les démocrates veulent combattre les dangers de l'IA après que Trump a renvoyé des gens

Les démocrates veulent combattre les dangers de l'IA après que Trump a renvoyé des gens

Democrats want to fight AI dangers after Trump fires people

A2Sep 18
La Chambre adopte un projet de loi sur les coûts d'énergie des centres de données

La Chambre adopte un projet de loi sur les coûts d'énergie des centres de données

House passes bill to deal with data centers' effect on energy costs

A2Sep 18
Huawei présente une nouvelle technologie de puce alors qu'il rivalise avec Nvidia en IA

Huawei présente une nouvelle technologie de puce alors qu'il rivalise avec Nvidia en IA

Huawei shows new chip tech as it races Nvidia in AI

A2Sep 17
Le secteur tech se divise sur les appels à ralentir l'IA

Le secteur tech se divise sur les appels à ralentir l'IA

Tech industry splits over calls to slow down AI

A2Sep 17
La sécurité de l'IA demande que les États-Unis et la Chine travaillent ensemble. Chaque côté blâme l'autre.

La sécurité de l'IA demande que les États-Unis et la Chine travaillent ensemble. Chaque côté blâme l'autre.

AI safety needs US and China to work together. Each side blames the other.

A2Sep 17
Trump dit que l'IA n'est pas un gros problème et il ne veut pas que la Chine gagne

Trump dit que l'IA n'est pas un gros problème et il ne veut pas que la Chine gagne

Trump says AI is not a big problem and he does not want China to win

A2Sep 14
Oprah Winfrey veut que vous ayez votre moment « AHA » à la Sphere

Oprah Winfrey veut que vous ayez votre moment « AHA » à la Sphere

Oprah Winfrey wants you to have your ‘AHA’ moment at the Sphere

A2Sep 14