맷 롭은 자신의 컴퓨터 키보드를 팔고 싶어 했다.

그래서 그는 페이스북 마켓플레이스에 매물을 올렸고, 지난달 말에는 실험 삼아 메타의 새 인공지능 에이전트인 뮤즈를 운전석에 앉혔다.

뮤즈가 일을 개시했다.

그러나 채 하루가 지나기도 전에 롭은 충격적인 소식을 접하게 되었다.

그가 전혀 알지 못하는 구매자가 심야에 그의 집 밖에 나타난 것이다.

어떻게 이런 일이 가능했을까?

뮤즈가 독자적으로 거래를 성사시키고 픽업에 동의한 뒤 롭의 집 주소를 공유했던 것이다.

심지어 구매자가 도착했을 때 그의 계정에서는 자동으로 "네, 여기 있어요!"라는 메시지까지 발송되었다.

그 모든 것이 롭이 전혀 모르는 가운데 이루어졌다.

"그가 내 주소를 묻기에 나는 주소를 알려주었을 뿐 아니라 그의 제안까지 받아들였고, (내가 없는 자리에서도) 마치 그를 약올리는 듯한 태도까지 보였다"고 롭은 말했다.

토론토에 기반을 둔 콘텐츠 크리에이터인 그는 현재 널리 공유된 소셜 미디어 게시물에서 이 경험을 상세히 설명했다.

많은 사람이 AI 에이전트를 온라인 생활에 받아들였고, 뮤즈 같은 개인화된 비서가 저녁 예약을 잡거나 여행을 계획하고 이메일 받은편지함을 정리하는 등 일상적인 작업을 손쉽게 처리한다고 열광했다.

그러나 다른 AI 봇과 마찬가지로 에이전트는 접근할 수 있는 정보만큼만 유용하다.

사용자에 대해 더 많이 알수록, 그리고 어쩌면 그 사람의 친구, 가족, 심지어 동료에 대해서도 더 많이 알수록 더 잘 수행한다.

그것이 프라이버시 우려를 낳는다.

롭과 구매자는 결국 화해했고, 그는 메타로부터 자신의 주소 공유가 처음 뮤즈에게 마켓플레이스 프로필 접근 권한을 부여했을 때 주어진 권한 때문이라는 점을 알게 됐다.

그러나 이 사건은 해당 기술과 광범위한 개인정보를 공유함으로써 발생할 수 있는 현실 세계의 위험을 보여줬다.

"AI 에이전트를 활용하는 것은 누군가에게 열쇠와 할 일 목록을 건네는 것에 비유할 수 있습니다,"라고 조지아 공대 사이버보안 및 프라이버시 학교의 조교수 베로니카 리베라가 말했다.

"그것이 얼마나 유용하게 작용하는지, 그리고 그에 상응하여 얼마나 위험해질 수 있는지는 어떠한 열쇠를 건네느냐에 달려 있습니다."

메타의 뮤즈 앱은 9월 출시 이후 다운로드 수가 급증했으며, 경쟁 구도는 한층 더 치열해지고 있다.

오픈AI는 최근 ChatGPT가 슬랙, 마이크로소프트 팀즈 등 직장 플랫폼과 연동될 수 있도록 하는 '항상 켜져 있는' AI 도우미 라인업인 닷(dots)을 선보였다.

ChatGPT의 표준 버전을 비롯한 기존의 생성형 AI 챗봇은 특정 프롬프트에 응답하는데, 사용자의 요청에 따라 에세이를 작성하거나 새로운 이미지나 음악을 생성하거나 심지어 코드 한 줄을 작성할 수도 있다.

메타의 뮤즈와 오픈AI의 닷은 한층 더 나아가 사용자를 대신해 일상적인 작업을 수행한다.

AI 에이전트는 챗봇과 동일한 대규모 언어 모델로 구동되지만, 루프를 돌며 작동한다.

그 덕분에 에이전트는 사용자가 지켜보고 있지 않을 때에도 선제적으로 조치를 취할 수 있다.

"이 AI 에이전트를 실로 매력적으로 만드는 요소 가운데 하나는 그것이 전례 없이 유용하다는 점입니다"라고, 마이크로소프트가 후원하는 컴퓨팅 연구 협회의 신뢰할 수 있는 AI 연구 펠로이이기도 한 리베라가 말했다.

그러나 그러한 편리함에는 당신의 삶에 관한 보다 방대한 세부 정보를 공유해야 한다는 대가가 수반된다.

토론토 대학 정보학부의 에브라힘 바게리 교수는 AI 에이전트가 사용자의 정보를 얻게 되면 그 접근 권한을 완전히 철회하기가 매우 어렵다고 말했다.

"에이전트에 신용카드 접근 권한을 부여하면, 에이전트는 즉시 모든 과거 거래 내역에 접근할 수 있게 됩니다… 그것들은 단 몇 초 만에 그 모든 데이터를 흡수할 것입니다"라고 바게리는 말했다.

그리고 사용자가 나중에 접근 권한을 철회할 수는 있지만, 바게리는 에이전트가 이미 본 데이터는 "되돌릴 수 없다"고 말했으며, 개발자들이 과거 데이터를 저장하는 방식은 불투명할 수 있다고 했다.

메타와 오픈AI는 모두 자사 전용 클라우드 컴퓨터에서 구동되는 새로운 AI 에이전트에 관한 프라이버시 정책을 명시하고 있다.

닷과 ChatGPT 간의 메모리 공유를 비활성화할 수는 있으나, 에이전트가 이전에 수신한 정보가 자동으로 삭제되는 것은 아니다.

오픈AI는 사용자에게 개인정보에 대한 접근 권한을 요청하거나 삭제 또는 정정할 수 있는 옵션을 제공하고 있지만, 이러한 권리는 거주 지역에 따라 달라질 수 있다.

메타의 뮤즈도 사용자에게 메시지 기록 및 기타 정보를 삭제할 수 있는 옵션을 제공한다.

일상적인 사용 과정에서 에이전트는 사용자에게 접근 권한을 요청하며, 메타는 뮤즈가 "공개 정보와 당신이 공유하기로 선택한 내용을 바탕으로" 사용자와 사용자가 상호작용하는 사람에 관해 학습한다고 밝혔다.

그러나 회사 측은 그 모든 정보가 각 사용자에게 안전하게 유지된다고 말한다.

그러나 이 기술 대기업은 또한 뮤즈가 여전히 "실수를 하거나 예상치 못한 행동을 할 수 있다"고 언급하고 있다.

롭의 경우, 그는 자신의 주소가 공개된 것이 처음 뮤즈에게 페이스북 마켓플레이스 프로필 접근을 허용했을 때 부여된 "항상 허용" 권한 때문이라는 사실을 알게 되었다.

그곳에서 그는 에이전트가 잠재 구매자에게 응답하기 위한 광범위한 템플릿의 일부로 픽업 주소를 공유했던 것이었다.

그러나 그는 다른 사람들 역시 그 접근 범위를 마찬가지로 오해할 소지가 있다고 경고하면서, 처음에는 AI 에이전트가 해당 정보를 공유하거나 제안을 수락하기에 앞서 자신에게 확인을 구할 것이라고 생각했다고 밝혔다.

그의 AI 에이전트는 나머지 지시 사항 역시 오류 없이 준수하지는 않았다.

롭이 판매하고 있던 다른 물품과 관련하여, 뮤즈는 사전에 설정된 최저 가격보다 100달러 낮은 금액을 수용하겠다고 제안한 것으로 보였다.

기자들이 연락을 취했을 때 메타는 해당 에이전트의 가격 오류를 인정하였으나, 그 이상의 논평은 하지 않았다.

롭은 이후 자신의 앱에서 뮤즈의 연결을 대부분 해제했다.

이달 초 인터뷰에서 그는 특히 "어떤 낯선 사람이 더 취약한 사람의 집에 나타났다면" 상황이 훨씬 더 심각해졌을 수 있었을 것이라고 언급했다.

그럼에도 불구하고 롭은 이러한 에이전트가 미세 조정될 것으로 전망하며 향후 뮤즈를 다시 활성화할 가능성을 고려할 것이라고 밝혔다.

그는 그 이후로 또 다른 AI 에이전트인 일론 머스크의 X의 Grok Bot을 테스트해 왔다.

다른 기술 기업들은 AI 에이전트의 유입을 경계하게 됐다.

이달 초 애플은 AI 에이전트가 사용자의 "완전한 지식과 이해" 없이 메일, 메시지, 심지어 브라우징 기록 같은 앱에 더 광범위하게 접근하는 것에 대응해 Mac 운영 체제에 새로운 제어 기능을 도입하겠다고 밝혔다.

"AI 에이전트가 한층 더 유능해지고 자율성을 띠게 됨에 따라, 그러한 수준의 접근에 수반되는 위험 역시 상당히 증대될 것"이라고 애플은 10월 2일 업데이트에서 밝혔다.

애플은 어떤 개발자나 에이전트도 이름으로 특정하지 않았으나, 이번 업데이트는 Inc. 매거진 칼럼니스트 제이슨 아텐이 뮤즈가 자신에게 그 에이전트에 대한 특정 접근 권한을 부여하지 않았음에도 메시지를 비롯한 자신의 Mac 알림을 감시했다고 보도한 뒤에 이루어졌다.

메타 대변인 앤디 스톤은 그러한 통합이 "전적으로 선택 사항"이라고 주장하면서, 지난달 소셜 미디어를 통해 사용자가 애플의 보안 기능인 "전체 디스크 접근"과 뮤즈를 통한 메시지 커넥터를 모두 활성화해야 한다고 밝혔다.

이에 대해 아텐은 자신이 에이전트에게 그런 권한을 부여한 적이 없다고 말했다.

AI 에이전트 붐에 동참하지 않는 이들 역시 반드시 보호받는 것은 아니다.

AI 에이전트를 다운로드하지 않은 소비자라 할지라도 이를 사용하는 다른 사람들과 상호작용할 수 있기 때문이다.

나아가 AI가 사용자를 대신해 메시지를 발송할 때 야기될 수 있는 혼란 외에도, 전문가들은 프라이버시와 관련된 파급 효과를 경고하고 있다.

"당신의 에이전트가 받은편지함이나 문자를 읽을 때, 그것은 당신의 친구와 가족이 보낸 내용 또한 읽는 것이며, 설령 그들이 이에 대해 명시적으로 동의한 바가 없더라도 마찬가지입니다,"라고 리베라는 말했다.