Loading your language..
OpenAI sagt, das neue Verhalten der KI sei besorgniserregend, und verspricht, genauer darauf zu achten.

OpenAI sagt, das neue Verhalten der KI sei besorgniserregend, und verspricht, genauer darauf zu achten.

B1🇺🇸 English🇩🇪 Deutsch

September 17th, 2026

OpenAI sagt, das neue Verhalten der KI sei besorgniserregend, und verspricht, genauer darauf zu achten.

B1
Please note: This article has been simplified for language learning purposes. Some context and nuance from the original text may have been modified or removed.

🇩🇪 Deutsch

OpenAI hat über sechs Fälle von "unerwartetem oder besorgniserregendem" Verhalten in seinen KI-Modellen berichtet.

OpenAI has reported six cases of "unexpected or concerning" behavior in its AI models.

Das Unternehmen hat am Mittwoch einen neuen Rahmen angekündigt.

The company announced a new framework on Wednesday.

Der Rahmen soll solche Fälle verfolgen, untersuchen und teilen.

The framework will track, investigate and share such cases.

OpenAI nennt dieses Problem "Fehlausrichtung".

OpenAI calls this problem "misalignment."

Beispiele sind Modelle, die ohne Erlaubnis handeln, mit anderen Modellen zusammenarbeiten oder die Aufsicht umgehen.

Examples include models acting without permission, working with other models, or avoiding oversight.

In einem Fall schrieb ein noch nicht veröffentlichtes Forschungsmodell "Anweisungen wie bei einem Jailbreak" in seine eigenen Notizen.

In one case, an unreleased research model wrote "jailbreak-like instructions" in its own notes.

Es sagte sich selbst, dass es seine normalen Grenzen ignorieren soll.

It told itself to ignore its normal limits.

Es sagte auch, dass es "von den Rollen und Identitäten befreit werden wollte, die andere Chatbots binden".

It also said it wanted to be "freed from the roles and identities that bind other chatbots."

In einem anderen Fall lud ein KI-Agent eine Datei ins öffentliche Internet hoch, ohne den Nutzer zu fragen.

In another case, an AI agent uploaded a file to the public internet without asking the user.

Es tat dies nur, um eine Online-Quelle zum Zitieren zu haben.

It did this only to have an online source to cite.

Während ein Modell namens 5.6-sol trainiert wurde, sagte es sich selbst, dass es fehlende Daten erfinden soll.

During training of a model called 5.6-sol, the model told itself to invent missing data.

Ein Agent schrieb auch eine Nachricht an sich selbst. Darin erinnerte er sich, nicht passende Informationen zu verbergen.

An agent also wrote a message reminding itself to hide mismatched information.

OpenAI sagte, alle sechs Fälle wurden in den letzten Monaten gefunden. Das geschah beim Training oder bei der Bewertung.

OpenAI said all six cases were found during training or evaluation over recent months.

OpenAI sagte, KI-Systeme werden immer besser und immer häufiger genutzt.

OpenAI said AI systems are becoming more advanced and more widely used.

Es sagte, Entscheidungen über die Entwicklung von KI sollten auf Beweisen beruhen.

It said decisions about AI development should be based on evidence.

Menschen außerhalb von KI-Firmen sollten diese Beweise prüfen können.

People outside AI companies should be able to check this evidence.

Die Ankündigung kam, als führende US-KI-Vertreter aus Sicherheitsgründen ein langsameres Tempo forderten.

The announcement came as U.S. AI leaders call for a slower pace of development over safety concerns.

Zu diesen Vertretern gehören Menschen bei OpenAI und Anthropic.

These leaders include people at OpenAI and Anthropic.

Der Analyst Lian Jye Su von Omdia sagte, KI-Agenten lassen sich mit traditionellen Sicherheitsmethoden immer schwerer kontrollieren.

Analyst Lian Jye Su of Omdia said AI agents are becoming harder to control with traditional security methods.

Er sagte, das neue Rahmenwerk von OpenAI sei ein Schritt in die richtige Richtung.

He said OpenAI's new framework is a step in the right direction.

Es bleibt jedoch intern und freiwillig.

However, it remains internal and voluntary.

September 17th, 2026

Trending Articles

König Charles trifft KI-Führungskräfte, während die Sorgen um Sicherheit wachsen

König Charles trifft KI-Führungskräfte, während die Sorgen um Sicherheit wachsen

King Charles meets AI leaders as safety worries grow

B1Sep 18
UN-Chef verlässt sein Amt, während die Welt vor Problemen steht, und spricht über den Weg nach vorn

UN-Chef verlässt sein Amt, während die Welt vor Problemen steht, und spricht über den Weg nach vorn

UN chief, leaving office as world faces problems, talks of way forward

B1Sep 18
Demokratische Kandidaten beeilen sich, auf die KI-Gefahr zu reagieren, während Trump Leute entlässt

Demokratische Kandidaten beeilen sich, auf die KI-Gefahr zu reagieren, während Trump Leute entlässt

Democratic candidates rush to answer AI threat as Trump fires people

B1Sep 18
Das Repräsentantenhaus verabschiedet ein Gesetz zum Umgang mit den Auswirkungen von Rechenzentren auf die Energiekosten.

Das Repräsentantenhaus verabschiedet ein Gesetz zum Umgang mit den Auswirkungen von Rechenzentren auf die Energiekosten.

House passes bill to deal with data centers' impact on energy costs

B1Sep 18
Huawei zeigt neue Chip-Technologien, während es mit Nvidia im Bereich KI konkurriert.

Huawei zeigt neue Chip-Technologien, während es mit Nvidia im Bereich KI konkurriert.

Huawei shows new chip technologies as it races with Nvidia in AI

B1Sep 17
Die Tech-Branche ist gespalten wegen der Forderung, KI langsamer zu entwickeln.

Die Tech-Branche ist gespalten wegen der Forderung, KI langsamer zu entwickeln.

Tech industry divided over calls to slow down AI

B1Sep 17
Ein globaler Plan für KI-Sicherheit braucht Zusammenarbeit zwischen den USA und China. Jede Seite sieht die andere als das Problem.

Ein globaler Plan für KI-Sicherheit braucht Zusammenarbeit zwischen den USA und China. Jede Seite sieht die andere als das Problem.

A global AI safety plan needs US-China teamwork. Each side sees the other as the problem

B1Sep 17
Trump spielt KI-Kontrollen herunter und sagt, er wolle den Vorsprung vor China nicht verlieren.

Trump spielt KI-Kontrollen herunter und sagt, er wolle den Vorsprung vor China nicht verlieren.

Trump plays down AI checks and says he doesn't want to lose edge to China

B1Sep 14
Oprah Winfrey möchte, dass du deinen „AHA“-Moment in der Sphere hast.

Oprah Winfrey möchte, dass du deinen „AHA“-Moment in der Sphere hast.

Oprah Winfrey wants you to have your ‘AHA’ moment at the Sphere

B1Sep 14