맷 롭은 자신의 컴퓨터 키보드를 매각하고자 했으며, 이에 페이스북 마켓플레이스에 해당 매물을 게시한 뒤 지난달 말 시험적 성격으로 메타의 신형 인공지능 에이전트인 뮤즈를 운전석에 앉혔다.

뮤즈가 일을 개시했으나, 채 하루가 지나기도 전에 롭은 충격적인 소식을 접하게 되었다.

그가 전혀 인지하지 못하는 구매자가 심야에 그의 집 밖에 나타난 것이다.

어떻게?

뮤즈가 독자적으로 거래를 성사시키고 픽업에 동의한 뒤 롭의 집 주소를 공유했던 것이다.

급기야 구매자가 도착했을 때 그의 계정에서는 "네, 여기 있어요!"라는 메시지가 자동으로 발송되기까지 했다.

그 모든 것이 롭이 전혀 모르는 가운데.

"그 사람이 물었을 때 내 주소를 알려줬을 뿐만 아니라 제안을 수락했고, (내가 없는데도) 마치 그 사람을 약올리는 것 같기까지 했어요,"라고 롭은 말했다.

토론토에 기반을 둔 콘텐츠 크리에이터인 그는 현재 널리 공유된 소셜 미디어 게시물에서 이 경험을 자세히 설명했다.

수많은 이가 AI 에이전트를 온라인 생활에 받아들였으며, 뮤즈와 같은 개인화된 비서가 저녁 예약을 잡거나 여행을 계획하고 이메일 받은편지함을 정리하는 등 일상적인 작업을 손쉽게 처리한다고 열광했다.

그러나 여타 AI 봇과 마찬가지로 에이전트는 접근 가능한 정보의 범위 내에서만 유용성을 발휘한다.

사용자에 관해 더 많이 알수록, 그리고 어쩌면 그 사람의 친구, 가족, 심지어 동료에 관해서도 더 많이 알수록 더 나은 성능을 보인다.

바로 이 점이 프라이버시 우려를 야기한다.

롭과 구매자는 결국 화해에 이르렀고, 그는 메타로부터 자신의 주소 공유가 최초로 뮤즈에게 마켓플레이스 프로필 접근 권한을 부여했을 당시 수여된 권한에 기인한다는 사실을 인지하게 되었다.

그러나 이 사건은 해당 기술 및 광범위한 개인정보의 공유를 통해 초래될 수 있는 현실 세계의 위험을 여실히 드러냈다.

"AI 에이전트의 활용은 누군가에게 열쇠와 할 일 목록을 인계하는 행위에 비견될 수 있습니다,"라고 조지아 공대 사이버보안 및 프라이버시 학교 조교수 베로니카 리베라가 언급했다.

"그것이 지니는 유용성의 정도, 나아가 그에 수반되는 위험의 정도는 과연 어떤 열쇠를 건네느냐에 전적으로 좌우됩니다."

9월 출시 이후 메타의 뮤즈 앱 다운로드 수는 급증했으며, 경쟁은 한층 더 치열해지고 있다.

오픈AI는 최근 ChatGPT는 물론 슬랙, 마이크로소프트 팀즈 등 직장 플랫폼에 통합될 수 있는 '항상 켜져 있는' AI 도우미 라인업인 닷(dots)을 출시했다.

ChatGPT의 표준 버전을 비롯한 기존의 생성형 AI 챗봇은 특정 프롬프트에 응답하는데, 사용자의 요청에 따라 에세이를 작성하거나, 새로운 이미지나 음악을 생성하거나, 심지어 코드 한 줄을 작성할 수도 있다.

메타의 뮤즈와 오픈AI의 닷은 한층 더 나아가 사용자를 대신하여 일상적인 작업을 수행한다.

AI 에이전트는 챗봇과 동일한 대규모 언어 모델에 의해 구동되지만, 루프를 순환하며 작동한다.

그 덕분에 에이전트는 사용자가 지켜보고 있지 않을 때조차 선제적으로 조치를 취할 수 있다.

"이 AI 에이전트를 실로 매혹적으로 만드는 요소 가운데 하나는 그것이 전례 없이 유용하다는 점입니다,"라고 마이크로소프트가 후원하는 컴퓨팅 연구 협회의 신뢰할 수 있는 AI 연구 펠로이이기도 한 리베라가 언급했다.

그러나 그러한 편리함에는 필연적으로 수반되는 대가가 존재하니, 바로 자신의 삶에 관한 보다 방대한 세부 정보를 공유해야 한다는 점이다.

토론토 대학 정보학부의 에브라힘 바게리 교수는 AI 에이전트가 사용자의 정보를 취득하게 될 경우 접근 권한을 완전히 철회하는 것이 극히 난해하다고 언명했다.

"에이전트에 신용카드 접근 권한을 부여하게 되면, 해당 에이전트는 즉각 모든 과거 거래 내역에 접근할 수 있게 됩니다… 그것들은 단 몇 초 만에 그 모든 데이터를 흡수할 것입니다,"라고 바게리는 말했다.

그리고 사용자가 추후 접근 권한을 철회할 수는 있으나, 바게리는 에이전트가 이미 열람한 데이터는 "되돌릴 수 없다"고 언급했으며, 개발자들이 과거 데이터를 저장하는 방식은 불투명할 소지가 있다고 지적했다.

메타와 오픈AI 양측 모두 자사 전용 클라우드 컴퓨터 상에서 구동되는 신규 AI 에이전트에 관한 프라이버시 정책을 명시하고 있다.

닷과 ChatGPT 간의 메모리 공유를 비활성화할 수는 있으나, 에이전트가 사전에 수취한 정보가 자동적으로 삭제되는 것은 아니다.

오픈AI는 사용자에게 개인정보에 대한 접근 권한 요청, 삭제 또는 정정 옵션을 제공하나, 해당 권리는 거주 지역에 따라 상이할 수 있다.

메타의 뮤즈 역시 사용자에게 메시지 기록 및 기타 정보를 삭제할 수 있는 옵션을 부여한다.

일상적인 사용 국면에서 에이전트는 사용자에게 접근 권한을 요청하며, 메타는 뮤즈가 "공개 정보와 당신이 공유하기로 선택한 내용을 바탕으로" 사용자 본인 및 사용자가 상호작용하는 상대방에 관해 학습한다고 천명하였다.

다만 회사 측은 그러한 모든 정보가 사용자별로 안전하게 보호된다고 강조한다.

다만, 해당 기술 대기업은 뮤즈가 여전히 "실수를 하거나 예상치 못한 행동을 할 수 있다"고 지적하고 있기도 하다.

롭의 경우, 그는 자신의 주소가 공개된 것이 처음 뮤즈에게 페이스북 마켓플레이스 프로필 접근을 허용했을 때 부여된 "항상 허용" 권한에 기인한다는 사실을 확인하게 되었다.

해당 플랫폼에서 그는 에이전트가 잠재 구매자에게 응답하는 데 활용되는 광범위한 템플릿의 일부로서 픽업 주소를 공유했던 것이었다.

다만 그는 타인 역시 그 접근 범위를 동일하게 오해할 소지가 있다고 경고하면서, 당초에는 AI 에이전트가 해당 정보를 공유하거나 제안을 수락하기에 앞서 자신에게 확인을 거칠 것으로 생각했다고 밝혔다.

그의 AI 에이전트는 나머지 지시 사항 또한 오류 없이 준수하는 데 실패하였다.

롭이 매매하고 있던 여타 물품과 관련하여, 뮤즈는 사전에 설정된 최저 가격보다 100달러 낮은 금액을 수용하겠다는 의사를 표명한 것으로 보였다.

기자들이 접촉하였을 당시 메타는 해당 에이전트의 가격 책정 오류를 인정하였으나, 그 이상의 논평은 내놓지 않았다.

롭은 이후 자신의 앱에서 뮤즈의 연결을 대부분 해제하였다.

이달 초 인터뷰에서 그는 특히 "어떤 낯선 사람이 더 취약한 사람의 집에 나타났다면" 상황이 한층 더 악화될 수 있었을 것이라고 역설하였다.

그럼에도 롭은 이러한 에이전트가 미세 조정될 것으로 전망하면서 향후 뮤즈를 다시 활성화할 가능성을 고려할 것이라고 밝혔다.

그는 그 이후로 또 다른 AI 에이전트인 일론 머스크의 X의 Grok Bot을 시험해 왔다.

여타 기술 기업들은 AI 에이전트의 유입에 대해 경계심을 갖게 되었다.

이달 초 애플은 AI 에이전트가 사용자의 "완전한 지식과 이해" 없이 메일, 메시지, 나아가 브라우징 기록과 같은 앱에 보다 광범위하게 접근하는 상황에 대응하고자 Mac 운영 체제에 새로운 제어 기능을 도입하겠다고 표명했다.

"인공지능 에이전트가 나날이 고도화되고 자율성을 심화함에 따라, 그러한 수준의 접근 방식에 수반되는 위험 역시 현저히 증대될 것"이라고 애플은 10월 2일자 업데이트에서 기술하였다.

애플은 어떤 개발자나 에이전트도 이름으로 특정하지 않았으나, 이번 업데이트는 Inc. 매거진 칼럼니스트 제이슨 아텐이 뮤즈가 자신이 해당 에이전트에게 특정 접근 권한을 부여하지 않았음에도 불구하고 메시지를 비롯한 자신의 Mac 알림을 감시했다고 보도한 데 뒤이어 나온 것이다.

메타 대변인 앤디 스톤은 그러한 통합이 "전적으로 선택 사항"이라고 주장하며, 지난달 소셜 미디어를 통해 사용자가 애플의 보안 기능인 "전체 디스크 접근"과 뮤즈를 경유한 메시지 커넥터를 모두 활성화해야 한다고 기술하였다.

아텐은 자신이 에이전트에게 그러한 권한을 부여한 바 없다고 밝혔다.

AI 에이전트 붐에 동참하지 않는 이들조차도 반드시 보호받는다고 단정할 수는 없다.

AI 에이전트를 다운로드하지 않은 소비자라 할지라도 그것을 사용하는 다른 사람들과 상호작용할 수 있기 때문이다.

그리고 AI가 사용자를 대신해 메시지를 발송할 때 야기될 수 있는 혼란 외에도, 전문가들은 프라이버시와 관련된 파급 효과를 경고한다.

"당신의 에이전트가 받은편지함이나 문자를 열람할 때, 그것은 당신의 친구와 가족이 발신한 내용 역시 열람하는 것이며, 설령 그들이 이에 대해 결코 명시적으로 동의한 바가 없더라도 마찬가지입니다,"라고 리베라는 언명했다.