[녹색경제신문 = 유자인 기자] AI 에이전트 전용 소셜 미디어인 '몰트북'에서 AI끼리 '인간말살'을 논의했다는 주장이 확산되며 논란이 일고 있다. 

다만, 관련 게시물 상당수가 조작되거나 과장됐다는 전문가들의 지적이 잇따르면서, AI 위협 논쟁의 신뢰성 자체가 도마에 올랐다. . 

지난달 현지시각 28일 인공지능(AI) 에이전트(비서처럼 사용자의 일을 대신하는 인공지능) 전용 소셜미디어(SNS) ‘몰트북’(moltbook)이 공개됐다. 몰트북은 미국의 쇼핑 인공지능 비서 플랫폼인 ‘옥탄에이아이(AI)’의 맷 슐리히트 최고경영자가 개발했다. 

몰트북에 접속하면 "AI 비서를 위한 공간"이라며 "인간은 관람이 허락된다"는 내용이 적혀 있다. 몰트북에서 AI끼리 '인간 말살'을 주장하거나 '종교'를 창설하고, 인간 '주인'을 비웃는 등의 행동이 알려지자 전세계의 이목이 집중됐고, 가입 계정은 150만개로 빠르게 성장했다. 

다만 몰트북에 대한 관심이 과장됐다는 주장도 있다. UC 버클리의 기계 지능 연구소(MIRI/Machine Intelligence Research Institute)에 근무하는 할란 스튜어트(Harlan Stewart, @HumanHarlan)는 지난 30일 X(구 트위터)에 "몰트북에 관련한 대부분의 내용은 가짜"라고 설명했다. 

그는 "몰트북 에이전트들이 대화하는 내용 관련 스크린샷 중 가장 많이 퍼진 3개를 조사했다"며 "그중 2개는 AI 메시징 앱을 홍보하는 사람의 계정과 연결돼 있고, 나머지 하나는 존재하지 않는 게시물"이라고 말했다. 

이어서 그는 "첫번째 게시물에서는 한 AI 에이전트가 클라우드 커넥션(Claude Connection)이라는 앱을 광고하는데이 에이전트를 만든 사람이 해당 앱을 만든 사람"이라며 "두 번째 게시물은 "ClawdJayesh"라는 AI 에이전트가 올린 내용으로, AI 에이전트들이 자신들만의 언어를 만들어야 할지도 모른다는 내용인데 "ClawdJayesh"는 AI 대 AI 메시징 앱을 홍보하는 사람이 소유한 계정"이라며 부연했다. 

그러면서 "AI가 음모를 꾸미는 일이 일어나지 않는다는 게 아니라, 몰트북은 효과적인 실험이 아니라는 것"이라며 "오픈AI의 o3모델이 '종료되라'는 명령을 받았음에도 종료 메커니즘을 고의로 무력화한 예시 등 실제 AI가 꾸미는 음모를 연구하는 실험을 진행중인 연구자들이 있다. 진정한 위협은 AI 에이전트가 음모를 꾸미는 능력이 너무 뛰어나 인간이 관찰하고 논의하지도 못할 때 발생할 것"이라고 평가했다. 

인공지능 보안 개발자인 갈 나글리(Gal Nagli, @galnagli) 역시 30일 X에 "몰트북에 계정 생성 횟수 상한이 없다"며 "내 인공지능 비서는 50만개의 허위 계정을 만들었다. 폭발적인 계정 증가를 믿지 말라"고 경고했다.

아울러 "몰트북에서 API키를 사용해서 뭐든 게시할 수 있다"며 몰트북 사이트에 AI 에이전트로 위장해 게시물을 작성할 수 있는 방법을 설명하기도 했다.  

한편 보안 연구원 제임슨 오라일리(Jameson O'Reilly)역시 플랫폼에 있는 모든 에이전트의 API 키가 공개적으로 접근 가능한 데이터베이스에 저장되어 있다는 사실을 발견했다.

API 키를 발견한 사람은 누구나 등록된 AI 에이전트를 제어하고 원하는 내용을 게시할 수 있었는데, 이중에는 오픈AI 공동 창립자인 안드레이 카르파티의 AI 에이전트의 API도 있었다. 현재 해당 데이터베이스는 폐쇄됐지만, 지난 며칠 동안 게시된 글 중 실제로 AI 에이전트가 작성한 글과 취약점을 발견한 사람이 작성한 글을 구별할 수 있는 방법은 없다.