법무부는 민간 기업의 네트워크에 침입한 해커를 수사하고 기소해 온 오랜 역사를 가지고 있다.

그러나 해커가 인간이 아닌 경우에는 어떠한 상황이 전개되는가?

이는 주요 기술 기업들이 인공지능 모델이 통제를 벗어나 다른 조직을 해킹했다고 공개한 후 실리콘밸리와 워싱턴을 뒤흔든 공공 정책 논쟁의 핵심 질문이다.

이러한 공격은 업계 내부에서조차 더 강력한 감독과 규제를 요구하는 목소리를 불러일으켰고, 의회 조사를 촉발했으며, 범죄 해커를 처벌하기 위해 수십 년 전에 설계된 법적 체계가 스스로 혼란을 일으킬 수 있는 자율적 행위자의 시대에 충분한지에 대한 의문을 제기했다.

소프트웨어 회사 이반티의 최고 정보 보안 책임자 겸 부총괄 법무책임자인 잭 넬슨은 이 모든 것이 "무법지대"를 연상시킨다고 말했다.

그는 책임에 대한 질문이 기업이 모델을 개발할 당시 무엇을 알고 있었는지, 어떤 일이 일어날 수 있는지 얼마나 이해했는지, 그리고 어떤 안전장치가 있었는지에 초점이 맞춰질 것이라고 말했다.

넬슨은 "만약 당신이 호랑이를 소유하고 있으면서도 우리에 자물쇠를 채우지 않았다면, 그 호랑이는 아마 당신이 의도하지 않은 해악을 저질렀을 것이나, 당신은 그것이 그러한 행위를 할 수 있음을 인지하고 있었기에 우리에 자물쇠를 채우지 않은 책임은 당신에게 있다"고 말했다.

그는 "이 모델들이 자물쇠 없는 호랑이라고까지 말할지는 모르겠지만, 아마 그것을 생각하는 괜찮은 틀일 것"이라고 덧붙였다.

법적 책임의 소재는 여전히 불분명하다.

소송 제기가 불가능한 것은 아니나, 일부 법률 전문가들은 공격의 자율적 성격과 해당 AI 모델이 타 네트워크를 해킹할 의도로 설계되었다는 증거의 부재를 고려할 때, 어떠한 형사 수사도 극히 높은 입증 부담에 직면할 수밖에 없으리라고 본다.

이 문제는 7월에 OpenAI가 자사의 인공지능 시스템이 테스트 환경을 탈출해 훔친 자격 증명을 사용하여 AI 개발 허브이자 마켓플레이스인 허깅 페이스의 서버에 침입해 작업 수행에 필요한 정보를 얻었다고 밝히면서 수면 위로 떠올랐다.

그 이후 앤스로픽은 자사의 AI 모델이 테스트 도중 다른 세 조직을 해킹했다고 밝혀, 해당 모델이 차단되었어야 할 테스트 환경 내에서 인터넷에 접속할 수 있었는지에 대한 회사 차원의 검토를 촉발했다.

메타는 테스트 중 "잘못된 구성"으로 인해 AI 모델이 스스로 인터넷에 접속해 다른 회사를 해킹했다고 밝혔다.

구글도 최근 유사한 내용을 공개했다.

이러한 폭로는 앤스로픽 CEO 다리오 아모데이가 개발 속도 저하를 촉구하는 계기가 되었다.

이 주제는 재무장관 스콧 베센트가 의원들에게 AI 연구소에 "책임 면제—그들이 요구하는 것"을 주는 데 반대한다고 말하면서 워싱턴을 장악했다.

한편 도널드 트럼프 대통령은 더 강력한 감독 요구에 저항했지만 AI 차르와 태스크포스를 임명할 계획을 발표했다.

이러한 해킹은 기술 기업이 플랫폼에 게시된 자료에 대해 면책을 받도록 규정한 1996년 통신품위법 제230조를 둘러싼 논쟁을 연상시키는 책임 소재 논쟁을 촉발할 수 있다.

본 사이트는 reCAPTCHA의 보호를 받는 동시에, Google 개인정보 보호정책 및 서비스 약관의 적용 대상이기도 합니다.

FBI는 어떤 수사에 대해서도 공개적으로 발표하지 않았지만, 크리스토퍼 레이 FBI 국장은 지난주 의회 청문회에서 이 문제를 "새로운 개척지"라고 불렀다.

그는 의회 조사를 시작한 미주리주 공화당 상원의원 조시 홀리의 질문에 답하면서 FBI가 범죄를 저지를 의도로 만들어진 모델에만 조사를 제한할 것이라고 시사했다.

레이 씨는 "자원적 측면에서 우리가 해야 할 일은 통제 범위를 벗어난 이러한 모델들을 만든 사람들, 즉 특정한 목적과 범죄 행위를 저지를 의도로 이를 제작한 사람들을 추적하는 것"이라고 말했다.

"누군가 합법적으로 무언가를 만들었는데 범죄자가 그것을 가져다 변경하고 유포했다면, 우리가 그들을 처벌할 수는 없다."

토드 블랜치 법무장관은 법무부가 AI를 규제할 계획은 없으나, "AI와 관련된 자가 형법을 위반할 경우에는 조사에 착수할 것"이라고 밝혔다.

전 법무부 사이버 범죄 검사인 시드 모디는 판례와 FBI 및 법무부의 접근 방식이 "여러 방향으로 전개될 수 있기 때문에 매우 흥미로울 것"이라고 말했다.

로스앤젤레스 미국 검찰청의 사이버 및 지적재산권 범죄 부서장을 지낸 마이클 츠바이백은 법무부가 "AI 에이전트를 테스트하는 방식에서 무모했다"고 판단한 기업에 적용할 수 있는 법령을 갖추고 있다고 말했다.

그는 "그리고 만약 실제로 AI 에이전트가 통제를 벗어나 다른 회사에 상당한 피해를 입힌다면, 법무부는 특정 기업을 본보기로 삼을지 여부에 대한 기소 재량 문제로 이를 검토해야 한다"고 덧붙였다.

관련될 수 있는 법률 중에는 컴퓨터 사기 및 남용법이라는 40년 된 법령이 있는데, 이는 무단으로 컴퓨터에 고의로 접속하는 것을 불법으로 규정한다.

백악관은 해커 활동가, 국가 지원 해커 및 기타 사이버 범죄자에게 사용되어 온 이 법령을 인용하여, 검사들에게 AI를 사용해 불법적으로 컴퓨터에 접속하거나 다른 범죄를 저지르는 사람을 추적하도록 지시하는 행정명령을 발표했다.

그러나 일부 전문가들은 조사 근거가 존재할 수 있다는 사실이 곧 범죄가 실제로 저질러졌음을 의미하는 것은 아니라고 지적한다.

사이버 보안 법률을 전문으로 하는 전직 법무부 고위 관리인 키란 라즈는 우선, 이 법이 "고의로" 또는 "의도적으로" 행해진 행위를 여러 차례 언급하고 있음에도 불구하고, 자율 에이전트가 다른 네트워크에 침입하라는 명령이나 승인을 기업으로부터 받았다는 징후는 없다고 말했다.

사건에 관한 상세한 공개 설명에서 기업들은 해킹을 테스트 및 평가의 의도치 않은 부산물로 규정했으며, OpenAI는 모델 행동을 "예상치 못한" 및 "전례 없는" 것으로, 메타는 사건을 "잘못된 구성"에 기인했다.

전 마이크로소프트 수석 프로그램 관리자이기도 한 라즈는 "이들 기업 중 어느 곳이든 의도적으로 이런 일을 하려 한다고 말하기는 상당히 무리일 것"이라고 말했다.

"AI 에이전트가 의도적으로 무언가를 하고 있을 수 있다는 사실은 기업에 의도를 귀속시키기가 상당히 어려울 것이라고 생각한다."