유럽과 미국의 언론은 올 2024년을 ‘슈퍼 선거의 해(’Super-Election Year)’라 부르며 올 한 해 동안 전 세계 40여 개 국가에서 벌어질 중대한 선거 운동 추이와 투표 결과를 세심하게 관찰하고 있다. 

이미 2024년 정초는 대만 총통 선거 소식으로 언론 매체의 정치면을 장식하면서 출발했다. 1월 13일 치러진 대만 총통 투표 결과를 분석한 외신들은 벌써부터 유럽연합 국회 선거(6월 6~9일), 미국 대통령 선거(11월 5일), 유엔 안전보장이사회 선거(6월 중) 등 주요 선거 외에도 우리나라, 인도, 파키스탄, 러시아, 인도네시아, 멕시코 등 세계에서 가장 인구가 많은 10개 국 중 7개 나라에서 대규모 선거가 치러질 계획이다.

올 2024년 슈퍼 선거의 해에는 생성형 인공지능(generative AI)이 여론 조장과 선거 결과에 막강한 영향력을 끼칠 것이라고 ‘이코노미스트’ ‘MIT 테크놀로지 리뷰’ 등 해외 유력 언론들이 최근 연이어 논평을 내놓고 있다.

♢ AI 합성된 딥페이크 사진·동영상·음성 대량 배포 가능, 세부 규제책 없어 속수무책

이제까지 디지털 테크는 빅데이터 분석을 통한 투표 결과 예측 등 선거 운동과 정치적 담화 향방을 분석하고 대처하는데 주로 활용돼왔다.

작년부터 오픈AI의 챗GPT, 미드저니, DALL-E 등 생성 AI 플랫폼이 대중 사용이 공개된 이후, 특정 정당의 지지자 개인이 거 어떤 규제 당국의 감독이나 통제를 받지 않은 채 온라인상의 사진이나 동영상을 수집(harvest) 해 자유롭게 인공 조작·배포하는 게 사실상 가능해졌다.

현재 페이스북과 X 등 현대인들이 널리 사용하는 소셜미디어는 생성 AI로 조작된 사진과 동영상이 무단 배포될 수 있는 안성맞춤 플랫폼들이다. 가령, 페이스북에는 리시 수낵 현 영국 총리의 페이스북 계정에서 수집된 홍보용 초상 사진과 동영상을 수집해 AI로 조작한 가짜 광고 1백 여 편이 판을 치고 있다고 한다.

실제로 약 1년 전인 2023년 1월 25일, 조 바이든 미 대통령이 성 전환자를 모욕하는 발언을 하는 짧은 동영상이 페이스북에서 배포됐는데, 조사 결과 이 영상은 오픈소스 인공지능 알고리즘을 조작해 얼굴, 몸동작, 목소리를 합성해 생성한 딥페이크(deepfake)로 드러났다. 그런가 하면 미 공화당 대선 주자였던 론 디샌티스 플로리다 주지사가 경쟁 후보인 도널드 트럼프 전 대통령과 앤서니 파우치 전 전염병연구소 소장이 포옹하는 사진을 공개했는데, 이 또한 인공지능으로 조작합성된 이미지였던다고 로이터통신이 전한 바 있다.

작은 허위 정보성 사진과 동영상이 유권자와 대중의 여론을 특정 방향으로 몰거나 투표참여율 증가 또는 감소에 영향을 끼칠 수 있다는 점에서 우려된다.

정치 선거 운동 과정에서 AI 는 음성 도우미로써도 대거 활약할 전망이다. 

예를 들어, 미국 민주당 대통령 후보 경선 레이스에 투입됐다. 가령, 애슐리(Ashley)라는 인공지능 선거운동 자원봉사자가 미국 국민 한 사람 한 사람에게 직접 전화를 걸어 한 표를 부탁하는가 하면 민주당 대통령 대권주자 딘 필립스 후보 진영에서는 필립스 후보와 똑같이 말하는 딘봇(Dean.Bot)이라는 AI 음성 챗봇을 1월 중순부터 투입해 사용 중이다.

♢ 과학계 주도 AI 워터마크 개발 추세 한창 

현 단계에서 진짜 현실에서 촬영된 이미지와 인공지능으로 합성시켜 만든 가상 이미지를 가리는 진위 판별 기술이 절실하다.

2023년 중엽까지만 해도 인간 판별자는 인공지능 이미지에 잔여하는 세부적 실수나 어색함을 찾아낼 수 있었다. 그러나 그로부터 약 반 년이 지난 현재, 알고리즘은 큰 개선을 거쳐 훈련받은 전문가의 육안으로 구분이 어려워졌다.

그 같은 기술적 진보는 의료 진단과 스캔 판독 정확도를 높여서 의료계에 긍정적으로 활용될 수 있지만, 대중 미디어 부문의 경우 오정보와 역정보 효과를 확산시킬 수 있어서 우려된다.

최근인 2023년 12월 10~16일 미국 뉴올리언스에서 열린  제37회 뉴럴 정보 처리 시스템(Neural Information Processing Systems, 이하 NeuIPS 2023) 행사에서는 제시돼 문자와 이미지 속 픽셀에 미묘한 흔적을 남겨 진위를 판별하는 디지털 워터마크제 기술이 소개됐다.

올해 새로 소개된 ‘나무테(Tree-Ring)’ 워터마크 방식은 디지털 이미지가 생성되는 시작 단계에 무작위 오디오 소음을 각인시켰다 지웠다 재각인 시키는 3중 과정을 도입해 워터마크 제거 방지를 불가능하게 설계됐다는 것이 특징이다.

과학자 공동체가 주도된 AI 워터마크 기술 개발 추세와 나란히, 미국 정부는 지난 2023년 구글, 오픈AI 등 거물급 테크 기업들이 자체적인 딥페이크 및 인공지능 생성물의 판독 기술을 자체적으로 개발해 배포해 딥페이크 방지에 나서 줄 것을 당부한 바 있다.