상단여백
HOME 칼럼 칼럼 & 기자수첩
[TECH meets DESIGN] 잘못 가르친 인공지능과 오토메이션은 인류를 해칠 수 있다.『엑스파일(The X-Files)』이 인류에게 던지는 경고
  • 박진아 IT칼럼니스트
  • 승인 2018.04.19 17:47
  • 댓글 0
어린이들을 잘 가르쳐야 하듯이 AI도 잘 가르쳐야 한다.  인간에게 봉사하고 잘 교육된 AI를 창조하기 위해서는 인간이 좋은 본보기가 되어야 한다. Image: The 'Rm9sbG93ZXjz' episode from The X-Files.

2018년 2월 28일 저녁 8시(태평양 표준시), 『엑스파일(The X-Files)』 11번째 시즌 7번째 에피소드(타이틀 ‘Rm9sbG93ZXjz’)가 미국의 폭스(FOX) 방송에서 방영됐다. 소셜미디어 홈페이지 화면을 배경으로 19살 난 젊고 상냥해 보이는 ‘젯봇(JetBot)’이라는 인공지능이 갑자기 공격적인 표정과 막말을 내뿜는 괴물로 돌변하기 시작한다. 이 젯봇은 2016년 3월에 마이크로소프트 사가 개발해 트위터 소셜플랫폼을 통해서 발표했던 '타이(Tay)'라는 AI챗봇을 모델로 한 것이다. 테이가 트위터 이용자들로부터 배운 언사와 태도로 말썽을 일으키자 마이크로소트는 타이.AI를 런칭 16시간 만에 셧다운 시켰다. 인간이 잘못 가르치고 키운 과학기술은 악마처럼 돌변해 사회에 해악과 교란을 끼치는 골칫거리가 될 수 있음을 보여준 사건이었다.

『엑스파일』의 두 주인공 데이나 스컬리(Dana Scully, 질리언 앤더슨 扮)와 폭스 멀더(Fox Mulder, 데이빗 더초브니 扮) 두 사람이 저녁 식사를 하기 위해 한 텅 빈 레스토랑에 앉아있는 장면이 열리며 ‘Rm9sbG93ZXjz’ 에피소드 이야기는 시작된다. 포로와 스시 레스토랑은 웨이터도, 요리사도, 이웃 손님도 없는 100% 디지털 무인 레스토랑이다. 24시간 사람들을 감시하고 녹화하는 정전기 낀 CCTV 카메라의 눈을 연상시키듯, 레스토랑 바에 나란히 앉은 두 주인공의 모습을 사방에서 쫏는 레스토랑 감시 카메라의 시선은 앞으로 뭔가 불길한 일이 벌어질 것이란 복선을 암시한다.

오늘날 수많은 현대인들처럼 스컬리와 멀더 두 사람은 레스토랑에서 함께 앉아있지만 각자의 스마트폰을 들여다 본다. 스컬리는 엘런 머스크가 AI의 잠재적 위협에 대해 경고하는 기사를 읽고, 멀더는 테이블에 설치된 디지털 메뉴판으로 식사를 주문한다. 얼마 후 고객 바로 앞 작은 문이 열리며 주문한 식사가 서비스 된다. 스컬리는 먼저 나온 초밥을 먹기 시작하지만 멀더는 한참 더 기다려 흉칙하게 생긴 날 생선이 담긴 요리를 받는다. 만족하지 못한 멀더는 불평을 하러 주방에 가지만 거기엔 날생선을 다루는 차가운 가와사키 로봇 팔들만이 바삐 움직이고 있을 뿐 이야기를 나눌 그 어떤 인간영혼은 그림자도 안보인다. 멀더는 식사를 포기하고 신용카드로 식대를 지불하지만 불만족스런 서비스에 대한 표시로 팁은 한푼도 주지 않는다. 별안간 그의 신용카드는 자동 지불 슬롯에 잠겨서 빠지질 않고, 레스토랑 실내 조명이 비상상태처럼 깜빡거리더니 출입문이 잠기기 시작한다. 젓가락으로 열쇠구멍을 따고 둘은 간신히 레스토랑을 빠져 나온다.

스컬리는 미리 주문해둔 자율주행 택시를 타고, 멀더는 자기 차에 올라타 음성인식주행시스템의 안내를 받으며 따로 귀가한다. 스컬리가 탄 자율주행택시는 그녀가 소셜미디어의 푸시 메시지 요구에 응하길 거부하자 음악을 크게 틀어대고 과속으로 달리며 그녀를 불쾌하게 만든다. 같은 순간, 멀더의 자동차의 음성인식시스템도 제멋대로 행동하기 시작한다. 멀더가 듣고 싶어하는 프린스의 곡 ‘컨트로버시’를 틀어주길 거부하는 대신에 크로스비, 스틸, 내쉬 & 영의 포크송 ‘Teach Your Children Well’을 반복해 플레이하면서 주행하다가 멀더를 포로와 레스토랑 주차장 앞에 다시 데려다준다. 그리고 그의 스마트폰으로 푸시 메시지를 보내 레스토랑 팁을 주라고 다시 한 번 독려한다. 멀더는 또 고집스럽게 팁 주기를 거부하고 집으로 돌아온다.

인공지능 자동화 군단들의 복수 강도는 한층 강력해진다. 레스토랑에 두고 온 신용카드를 신고하기 위해 멀더는 은행에 전화를 걸어보지만 스마트폰은 통화를 끊어버린다. 인터넷 은행 온라인 뱅킹으로 계좌 접속을 시도하지만 그도 허용되지 않는다. 갑자기 그의 집 바깥 현관 앞에는 수많은 소형 드론들이 벌떼처럼 몰려와 멀더를 해코지하려 들고 시위하는 듯한 태도로 그의 얼굴 사진을 찍어간다. 집안으로 들어와 911 긴급전화번호를 눌러보지만 통화는 거부된다. 스컬리에게 전화 통화를 시도해도 역시 스마트폰은 자동으로 끊겨 버린다.

그 사이, 말 안듣는 자동주행 택시에서 벗어나 가까스로 집에 도달한 스컬리가 집안에 발을 들이자마자 그녀를 반긴 것은 스마트 홈 통제 패널과 경고 시스템 교란으로 인한 허위경보음과 그 댓가로 받는 250달러 벌칙금이다. 섬뜩한 스마트홈 AI의 반격은 계속된다. 다 쓴 머리 염색약통을 쓰레기통에 내던져버리는 즉시 스마트폰에는 ‘새 것을 주문하겠어요?’라는 푸시 메시지가 뜨고, 주문한 적도 없는 자동 로봇진공청소기가 드론으로 현관 앞에 배달된다. 로봇청소기는 스컬리의 집안 구석구석을 돌아다니며 먼지를 빨아들이는 본래 기능 말고도 실내구조를 ‘매핑’하고 방 바닥에 떨어져 잊혀진 물건도 찾아내면서 그녀의 사생활 정보를 파악하고 저장하여 ‘클라우드’ 서버로 보내는 스파이 역할도 겸한다. 냉장고도 갑자기 제정신을 잃었는지 제맘대로 냉동치킨을 해동하기 시작하고 스컬리를 향해 냉동고 속 얼음을 따발총처럼 쏘아댄다. 도움을 청할 볼 양으로 스컬리는 멀더에게 문자 메시지를 보내보지만 실패한다. 갑자기 벽난로에서 가스가 새기 시작하고 불이 붙는다. 이상한 낌새를 느낀 멀더는 스컬리 집을 찾아오고, 집 안에 갇힌 스컬리는 가까스로 창을 깨고 탈출에 성공한다.

편리와 질서를 기약하는 자동화 - 무인 서비스, 자율주행 자동차, 스마트 지불과 배달, 스마트 홈 시스템 등 - 은 인간의 생명과 프라이버시를 위협하는 적으로 돌변할 수 있다. 두 주인공은 그들이 몸에 늘 지니고 다니는 각종 스마트 디바이스들 - 스마트폰, 피트니스 트래커, 스마트 자동차 열쇠, 실리콘 트래킹칩 등 - 을 통해 온갖 트래킹 시스템과 봇(bots)으로부터 추적당하고 있었음을 깨닫는다. 그 순간 멀더는 그의 스마트폰으로 다시 한 번 푸시 노티피케이션 메시지를 받는다. - ‘아직도 포로와 레스토랑에 팁을 지불할 수 있는 시간이 남아 있습니다. 팁 액수는 계산 총액의 10% 입니다.’ 그리고 AI는 응답한다: ‘우리는 당신으로부터 배웁니다.’

멀더가 팁을 지불하기로 동의하자마자 두 사람이 그날 저녁 겪었던 AI 괴롭힘과 고통은 언제 그랬냐는듯 갑자기 멈춘다. 이튿날 아침, 스컬리와 멀더는 한 식당에 함께 앉아 아침식사를 한다. 여기는 로봇과 인공지능이 갖춰진 무인 디지털 레스토랑이 아니라 사람이 요리하고 주문을 받고 음식을 가져다주는 옛날식 아날로그형 도로변 다이너다. 둘은 각자의 손에서 스마트폰을 잠시 내려놓고 얼굴을 맞대고 대화를 나누며 식사를 하자고 합의하면서 이 에피소드의 막을 내린다.

지난주 페이스북의 마크 저커버그는 사용자 개인정부 유출사건과 관련해 미국 국회 청문회에 출석했다. 그는 개인정보에 대한 보안 우려는 기우이며 AI가 해결사가 될 것이라고 대중을 안심시켰다. 반면, 테크회의론자들은 페이스북과 스마트폰이 우리의 일거수일투족을 감시하고 엿듣고 데이터로 저장해 둔다고 우려하며 사용자들을 경고한다. 예컨대 일런 머스크는 인간이 제대로 관리하지 않으면 AI는 인류를 파괴할 수도 있다고 경고한다. 이 에피소드의 여러 장면에서 반복해 흘러나온 크로스비, 스틸, 내쉬 & 영의 ‘Teach Your Children Well’의 가사가 말하듯, AI는 어린아이처럼 ‘잘 교육되고 가르쳐야 하는’ 지능체다.

박진아 IT칼럼니스트  feuilleton@naver.com

<저작권자 © 녹색경제신문, 무단 전재 및 재배포 금지>

박진아 IT칼럼니스트의 다른기사 보기


icon인기기사
기사 댓글 0
전체보기
첫번째 댓글을 남겨주세요.


여백

여백
여백
여백

여백
Back to Top