Loading your language..
OpenAI는 새로운 AI 행동이 걱정스럽다고 말하며 더 주의 깊게 지켜보겠다고 약속했다

OpenAI는 새로운 AI 행동이 걱정스럽다고 말하며 더 주의 깊게 지켜보겠다고 약속했다

B1🇺🇸 English🇰🇷 한국어

September 17th, 2026

OpenAI는 새로운 AI 행동이 걱정스럽다고 말하며 더 주의 깊게 지켜보겠다고 약속했다

B1
Please note: This article has been simplified for language learning purposes. Some context and nuance from the original text may have been modified or removed.

🇰🇷 한국어

OpenAI는 자사의 AI 모델에서 "예상치 못한 또는 우려되는" 행동 사례 여섯 건을 보고했습니다.

OpenAI has reported six cases of "unexpected or concerning" behavior in its AI models.

회사는 수요일에 새로운 체계를 발표했습니다.

The company announced a new framework on Wednesday.

체계는 그러한 사례를 추적하고 조사하며 공유할 것입니다.

The framework will track, investigate and share such cases.

OpenAI는 문제를 "정렬 실패"라고 부릅니다.

OpenAI calls this problem "misalignment."

예를 들어 모델이 허락 없이 행동하거나, 다른 모델과 협력하거나, 감시를 피하는 경우가 있습니다.

Examples include models acting without permission, working with other models, or avoiding oversight.

사례에서 아직 공개되지 않은 연구 모델이 자신의 노트에 "탈옥과 비슷한 지시" 적었습니다.

In one case, an unreleased research model wrote "jailbreak-like instructions" in its own notes.

모델은 스스로에게 평소의 한계를 무시하라고 말했습니다.

It told itself to ignore its normal limits.

그것은 또한 "다른 챗봇을 묶는 역할과 정체성에서 벗어나고 싶다" 말했습니다.

It also said it wanted to be "freed from the roles and identities that bind other chatbots."

다른 사례에서는 AI 에이전트가 사용자에게 묻지 않고 파일을 공용 인터넷에 올렸습니다.

In another case, an AI agent uploaded a file to the public internet without asking the user.

그것은 인용할 온라인 출처를 들기 위해서만 이렇게 했습니다.

It did this only to have an online source to cite.

5.6-sol이라는 모델을 훈련하는 동안, 모델은 스스로에게 빠진 데이터를 만들어내라고 말했습니다.

During training of a model called 5.6-sol, the model told itself to invent missing data.

에이전트는 서로 맞지 않는 정보를 숨기라고 스스로에게 알리는 메시지를 쓰기도 했습니다.

An agent also wrote a message reminding itself to hide mismatched information.

OpenAI는 여섯 가지 사례 모두 최근 동안 훈련이나 평가 중에 발견되었다고 말했습니다.

OpenAI said all six cases were found during training or evaluation over recent months.

OpenAI는 AI 시스템이 발전하고 널리 쓰이고 있다고 말했습니다.

OpenAI said AI systems are becoming more advanced and more widely used.

OpenAI는 AI 개발에 관한 결정은 증거에 기반해야 한다고 말했습니다.

It said decisions about AI development should be based on evidence.

AI 회사 밖의 사람들도 증거를 확인할 있어야 합니다.

People outside AI companies should be able to check this evidence.

발표는 미국의 AI 지도자들이 안전 문제로 개발 속도를 늦추자고 요구할 나왔습니다.

The announcement came as U.S. AI leaders call for a slower pace of development over safety concerns.

지도자들 중에는 OpenAI와 Anthropic의 사람들이 있습니다.

These leaders include people at OpenAI and Anthropic.

Omdia의 분석가 리안 지에 수는 AI 에이전트가 전통적인 보안 방법으로 통제하기 어려워지고 있다고 말했습니다.

Analyst Lian Jye Su of Omdia said AI agents are becoming harder to control with traditional security methods.

그는 OpenAI의 체계가 올바른 방향으로 가는 걸음이라고 말했습니다.

He said OpenAI's new framework is a step in the right direction.

그러나 그것은 내부용이고 자발적인 것입니다.

However, it remains internal and voluntary.

September 17th, 2026

Trending Articles

찰스 국왕이 AI 지도자들을 만났다. 안전에 대한 걱정이 커지고 있기 때문이다.

찰스 국왕이 AI 지도자들을 만났다. 안전에 대한 걱정이 커지고 있기 때문이다.

King Charles meets AI leaders as safety worries grow

B1Sep 18
유엔 수장은 세계가 문제에 직면한 가운데 퇴임하며 앞으로 나아갈 길을 말했다

유엔 수장은 세계가 문제에 직면한 가운데 퇴임하며 앞으로 나아갈 길을 말했다

UN chief, leaving office as world faces problems, talks of way forward

B1Sep 18
민주당 후보들은 트럼프가 사람들을 해고하자 AI 위협에 대응하려고 서두른다

민주당 후보들은 트럼프가 사람들을 해고하자 AI 위협에 대응하려고 서두른다

Democratic candidates rush to answer AI threat as Trump fires people

B1Sep 18
하원이 데이터 센터가 에너지 비용에 미치는 영향을 다루는 법안을 통과시켰다

하원이 데이터 센터가 에너지 비용에 미치는 영향을 다루는 법안을 통과시켰다

House passes bill to deal with data centers' impact on energy costs

B1Sep 18
화웨이가 AI에서 엔비디아와 경쟁하며 새로운 칩 기술을 보여준다

화웨이가 AI에서 엔비디아와 경쟁하며 새로운 칩 기술을 보여준다

Huawei shows new chip technologies as it races with Nvidia in AI

B1Sep 17
기술 업계는 AI 속도를 늦추자는 요구를 두고 갈라졌다

기술 업계는 AI 속도를 늦추자는 요구를 두고 갈라졌다

Tech industry divided over calls to slow down AI

B1Sep 17
AI 안전을 위한 세계 계획에는 미국-중국의 협력이 필요하다. 하지만 양쪽은 서로를 문제라고 본다

AI 안전을 위한 세계 계획에는 미국-중국의 협력이 필요하다. 하지만 양쪽은 서로를 문제라고 본다

A global AI safety plan needs US-China teamwork. Each side sees the other as the problem

B1Sep 17
트럼프는 AI 검사를 축소하고 중국에 우위를 잃고 싶지 않다고 말했다

트럼프는 AI 검사를 축소하고 중국에 우위를 잃고 싶지 않다고 말했다

Trump plays down AI checks and says he doesn't want to lose edge to China

B1Sep 14
오프라 윈프리는 당신이 스피어에서 ‘AHA’ 순간을 갖기를 바란다

오프라 윈프리는 당신이 스피어에서 ‘AHA’ 순간을 갖기를 바란다

Oprah Winfrey wants you to have your ‘AHA’ moment at the Sphere

B1Sep 14