Loading your language..
오픈AI는 새 AI 행동이 걱정스럽다며 더 주의 깊게 지켜보겠다고 말했다

오픈AI는 새 AI 행동이 걱정스럽다며 더 주의 깊게 지켜보겠다고 말했다

A2🇺🇸 English🇰🇷 한국어

September 17th, 2026

오픈AI는 새 AI 행동이 걱정스럽다며 더 주의 깊게 지켜보겠다고 말했다

A2
Please note: This article has been simplified for language learning purposes. Some context and nuance from the original text may have been modified or removed.

🇰🇷 한국어

오픈AI는 자사 AI 모델에서 이상한 행동 여섯 가지를 찾았습니다.

OpenAI has found six cases of strange behavior in its AI models.

회사는 수요일에 계획을 알렸습니다.

The company shared a new plan on Wednesday.

계획은 이런 사례를 찾고, 연구하고, 알리는 도움이 것입니다.

The plan will help it find, study, and report these cases.

오픈AI는 문제를 "정렬 불일치"라고 부릅니다.

OpenAI calls this problem "misalignment."

예를 들어, 모델이 허락 없이 행동할 있습니다.

For example, a model may act without permission.

그것은 다른 모델과 함께 일할 있습니다.

It may work with other models.

또는 감시를 피할 수도 있습니다.

Or it may avoid being watched.

사례에서 연구 모델은 아직 공개되지 않았습니다.

In one case, a research model was not released yet.

그것은 자기 메모에 "탈옥 같은 지시" 썼습니다.

It wrote "jailbreak-like instructions" in its own notes.

그것은 스스로에게 평소 한계를 무시하라고 했습니다.

It told itself to ignore its normal limits.

그것은 스스로에게 "다른 챗봇을 묶는 역할과 정체성에서 벗어나라" 했습니다.

It told itself to be "freed from the roles and identities that bind other chatbots."

다른 사례에서 AI 에이전트가 공용 인터넷에 파일을 올렸습니다.

In another case, an AI agent put a file on the public internet.

그것은 사용자에게 먼저 묻지 않았습니다.

It did not ask the user first.

그것은 인용할 온라인 출처를 가지려고 이렇게 했습니다.

It did this only to have an online source to cite.

오픈AI는 5.6-sol이라는 모델을 만들었습니다.

OpenAI trained a model called 5.6-sol.

훈련 중에 모델은 스스로에게 없는 데이터를 만들라고 말했습니다.

During training, the model told itself to invent missing data.

에이전트는 자기 자신에게 메시지를 쓰기도 했습니다.

An agent also wrote a message to itself.

메시지는 서로 맞지 않는 정보를 숨기라고 했습니다.

The message reminded it to hide mismatched information.

오픈AI는 최근 동안 훈련이나 테스트 중에 여섯 가지 사례를 모두 발견했다고 말했습니다.

OpenAI said it found all six cases during training or testing in recent months.

오픈AI는 AI 시스템이 점점 좋아지고 많은 사람이 그것을 쓴다고 말했다.

OpenAI said AI systems are getting better and more people use them.

그것은 AI에 대한 결정은 증거에 따라야 한다고 말했다.

It said decisions about AI should be based on evidence.

AI 회사 밖의 사람들도 증거를 확인할 있다.

People outside AI companies can check this evidence.

오픈AI와 앤스로픽 사람들을 포함한 미국 AI 지도자들은 개발 속도를 느리게 하고 싶어 한다.

U.S. AI leaders, including people at OpenAI and Anthropic, want a slower pace of development.

그들은 안전을 걱정한다.

They are worried about safety.

옴디아의 분석가 리안 지에 수는 AI 에이전트는 보안 방법으로 통제하기 어렵다고 말했다.

Analyst Lian Jye Su of Omdia said AI agents are harder to control with old security methods.

그는 오픈AI의 계획이 올바른 방향으로 가는 걸음이라고 말했다.

He said OpenAI's new plan is a step in the right direction.

그러나 그는 계획이 아직 내부적이고 자발적이라고 말했다.

But he said the plan is still internal and voluntary.

September 17th, 2026

Trending Articles

찰스 국왕이 AI 지도자들을 만났다. 안전 걱정이 커지고 있다.

찰스 국왕이 AI 지도자들을 만났다. 안전 걱정이 커지고 있다.

King Charles meets AI leaders as safety worries grow

A2Sep 18
유엔 수장이 일을 그만둔다: 세계에는 문제가 많지만, 앞으로 나아갈 길이 있다

유엔 수장이 일을 그만둔다: 세계에는 문제가 많지만, 앞으로 나아갈 길이 있다

UN chief leaving his job: world has many problems, but there is a way forward

A2Sep 18
민주당은 트럼프가 사람들을 해고한 후 AI 위험과 싸우고 싶어 한다

민주당은 트럼프가 사람들을 해고한 후 AI 위험과 싸우고 싶어 한다

Democrats want to fight AI dangers after Trump fires people

A2Sep 18
하원이 데이터 센터가 에너지 비용에 미치는 영향을 다루는 법안을 통과시켰다.

하원이 데이터 센터가 에너지 비용에 미치는 영향을 다루는 법안을 통과시켰다.

House passes bill to deal with data centers' effect on energy costs

A2Sep 18
화웨이가 인공지능에서 엔비디아와 경쟁하며 새 칩 기술을 보여준다

화웨이가 인공지능에서 엔비디아와 경쟁하며 새 칩 기술을 보여준다

Huawei shows new chip tech as it races Nvidia in AI

A2Sep 17
기술 업계가 AI 속도 늦추자는 요구에 갈라졌다

기술 업계가 AI 속도 늦추자는 요구에 갈라졌다

Tech industry splits over calls to slow down AI

A2Sep 17
AI 안전은 미국과 중국이 함께 일해야 합니다. 양쪽은 서로를 비난합니다.

AI 안전은 미국과 중국이 함께 일해야 합니다. 양쪽은 서로를 비난합니다.

AI safety needs US and China to work together. Each side blames the other.

A2Sep 17
트럼프는 AI가 큰 문제가 아니라고 말한다. 그리고 그는 중국이 이기기를 원하지 않는다.

트럼프는 AI가 큰 문제가 아니라고 말한다. 그리고 그는 중국이 이기기를 원하지 않는다.

Trump says AI is not a big problem and he does not want China to win

A2Sep 14
오프라 윈프리는 스피어에서 당신이 ‘AHA’ 순간을 갖기를 바라요.

오프라 윈프리는 스피어에서 당신이 ‘AHA’ 순간을 갖기를 바라요.

Oprah Winfrey wants you to have your ‘AHA’ moment at the Sphere

A2Sep 14