[녹색경제신문 = 이선행 기자] 국회미래연구원이 「국가미래전략 Insight」 97호 ‘생성형 인공지능(AI)가 만든 진짜 같은 가짜: 딥페이크의 진화와 의미’를 27일 발간했다. 

보고서를 작성한 이승환 국회미래연구원 혁신성장그룹 연구위원(이하 이 연구위원)은 “생성형 AI 시대에 맞춰 진화하는 딥페이크에 대비해야 한다”며 “(딥페이크에 대한) 규제뿐 아니라 산업적 가치에도 주목해야 한다”고 말했다.  

이어 “기업은 AI 트윈 가수, 과거 재현 등 딥페이크를 활용한 생산성 증대, 다양한 혁신 사업모델 발굴 방안을 모색하고, 정부는 기존 벤처창업 활성화, 크리에이터 양성 과정, 1인 창조기업 육성 등의 지원사업을 AI 시대를 주도할 슈퍼 개인 양성 관점에서 보완하는 방안을 검토해야 한다”고 제언했다.

딥페이크는 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, AI를 이용해 원본 이미지나 동영상 등 다양한 디지털 콘텐츠를 원본과는 다른 가공 컨텐츠로 생성하는 기술을 말한다. 

생성형 AI 시대를 촉발한 챗GPT의 출시 이후, 딥페이크 검색량이 급속히 증가했다. 2023년 전 세계의 딥페이크 시도는 전년 대비 31배 증가했다. 

누구나 낮은 비용으로 쉽고 빠르게 딥페이크를 제작할 수 있도록 지원하기 때문이다. 생성형 AI를 활용해 얼굴을 바꾸거나, 완전히 새로운 얼굴을 만들거나, 목소리를 복제하는 등 다양한 디지털 합성 작업이 가능하다. 

산업적으로도 다양한 측면으로 활용되고 있다. 영화나 광고 등 엔터테인먼트 산업에서 딥페이크 기술을 활용하면 제작 비용과 시간을 절감할 수 있다. 

영국의 기업 신디시아(Synthesia)는 딥페이크를 활용해, 9개 국어로 축구 선수 데이비드 베컴의 말라리아 퇴치 홍보 캠페인 영상을 만들었다. 

하지만 부작용도 존재하며 특히 연예, 정치 분야에서 피해사례가 속출하고 있으며 피해는 기업과 일반인으로도 확대되며 다변화하는 모양새다. 

이 연구위원은 “기술적 측면에서 딥페이크 탐지 기술의 고도화가 요구되는 시점”이라며 “사회적으로는 AI 리터러시 교육, 딥페이크 피해사례 전파 등을 통해 구성원들이 딥페이크로 인한 위험을 인지하고 대처할 수 있도록 지원해야 한다”고 말했다.

이어 “현재 딥페이크 기술에 대한 규제는 성착취물 제작이나 선거운동 활용 금지 중심으로 이루어지고 있어 딥페이크를 악용한 사기에 대한 별도의 법률이나 진위 확인, 출처 표시 등 관련 정책을 마련하는 방안도 검토해야 한다. 주요국에서는 딥페이크 관련 사기방지, 출처 표시 등 정책 논의가 활발히 이루어지고 있는 중”이라고 설명했다.