‘도 넘은‘ AI 음란물 뉴스에서도 판쳐… “플랫폼 측 근본적인 대응책 시급”

[녹색경제신문 = 유자인 기자] AI 합성으로 만든 음란영상이 SNS는 물론이고 뉴스플랫폼에도 침투해 시민들에게 불쾌감을 유발하고 있다. 이와 관련 플랫폼측은 '조치 중'이라고 원론적인 답변만을 하고 있으나, 현재 법적 규제가 미비한 상태에서 여성계는 "플랫폼의 근본적인 대책마련이 시급하다"고 지적했다. 

제보자, "기사 읽는데 음란물 나와...매우 불쾌하고 기분나빴다"

26일 <녹색경제신문>의 취재에 따르면 한 제보자는 "네이버 스포츠면 '한 눈에 보는 배구 소식'에 기사와 각종 클립이 있다"며 "한국배구협회 공식 채널, 스포츠 채널 영상 등이 있는데 이 중 AI로 생성한 배구선수에게 성폭력을 저지르는 내용의 음란물이 나왔다"며 토로했다. 

제보자는 이어 "보자마자 역겹고 불쾌해서 차단했다"며 "이런 영상을 쿠팡파트너스 제도를 통해 수익을 창출해가며 제작중이라니 믿을 수 없다"며 분노했다. 

기자가 확인해 보니 해당 클립을 게시한 유저의 경우 배구 뿐만 아니라 육상 등 여러 스포츠 종목 선수에 대해 성적으로 불쾌한 AI영상을 제작하고 있었다. 이 유저의 경우 '쿠팡 파트너스의 일환으로 수수료를 제공받는다'라는 내용까지 올려둔 상태였다. 

쿠팡측은 이에 대해 "일부 악성 광고사업자의 부정 광고를 근절하기 위해 ▲불법 광고 모니터링 정책 강화 ▲수익금 몰수·계정 해지 등 강력한 페널티 운영 ▲부정광고 신고 및 포상제 확대 ▲전담 모니터링 인력 및 시스템 구축 등 다양한 노력을 지속해 왔다"고 설명했다. 

이어 "특히 2025년에는 정책을 개정해, 1회 위반 시에도 수익금을 장기간 몰수하고 2회 이상 위반 시 계정 해지까지 가능하도록 운영 정책을 강화했다"며 "앞으로도 모든 정책 위반 행위자에 대해 법적·제도적 책임을 엄격히 물을 것"이라고 주장했다. 

한 네이버 관계자는 "선정성/음란성 콘텐츠의 경우 네이버 이용약관 및 운영정책, 선정성 필터와 수동 모니터링을 포함해 조치중"이라며 "유저 신고가 인입되면 검수 진행하고 제재 처리되면 바로 미노출 조치한다. 해당 계정 역시 노출에서 제외하고 운영원칙 위반으로 미공개 처리했다"고 설명했다. 

이어 “향후 콘텐츠 모니터링 시스템을 비롯해 내부 프로세스를 강화할 예정“이라고 밝혔다.

AI 사용한 선정적 영상, 규제가 못 따라가... 여성계 "기존 법에서는 처벌 어려워"

실제로 AI가 성범죄에 사용되는 경우도 지속적으로 발각되고 있다. 지난 24일 인천 연수경찰서는 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집 혐의로 고등학교 2학년 A군을 불구속 입건했다고 밝혔다. 

A군은 지난 2022년부터 AI를 이용한 딥페이크 기술로 교사 2명과 학생 등 10명의 얼굴을 나체 사진에 합성하면서 성 착취물을 제작한 혐의를 받고 있다. 

다만 법은 현 실태를 따라가지 못하고 있다는 평가다. 지난 8월 법원은 성폭력처벌법상 허위영상물(딥페이크 음란물) 유포 혐의로 기소된 30대 남성에게 무죄를 선고했다. 

법원은 사진 속 인물은 AI가 만들어낸 가상의 인물일 가능성이 있고, 가상 인물을 대상으로는 성적 수치심 등을 유발할 수 없어 범죄가 성립하지 않는다고 판단했다. 

당시 허민숙 국회입법조사처 조사관은 “기술 발전이 만든 새로운 현실에 법이 뒤처져 있다”며 “AI 음란물이 가상 인물을 바탕으로 만들어졌다는 사실을 피의자가 입증하게끔 해야 한다”고 말했다.

미국의 경우 버지니아주는 딥페이크 음란물 피해자의 정의를 AI 등으로 만들어도 ‘실제 사람으로 인식될 수 있는 자’까지 확대했다. 캘리포니아주는 ‘실제 노출로 오인될 수 있는 이미지·영상’의 고의적 유포를 금지했다. 

영국은 성적 만족을 목적으로 유포된 합성 이미지·영상을 규제 대상에 포함했고, 호주도 '실제 인물과 매우 흡사하거나 실제 인물인 것처럼 가장한' 이미지 제작을 금지했다. 

이에 지난 9월 허영 더불어민주당 국회의원은 성폭력 처벌법 개정안을 발의했다. 개정안의 핵심은 실존 인물 여부와 상관없이 AI를 이용해 사람의 신체 또는 사람으로 인식될 수 있는 성적 영상물을 생성하거나 유포하는 행위를 처벌할 수 있게끔 하는 것이다. 

이와 관련 한국사이버성폭력대응센터 관계자는 "기존 법에서 특정한 개인의 성적 자기결정권 침해를 성폭력으로 정의한다"며 "현상태는 특정 개인에 대한 성폭력으로 정의하기 애매한 면이 있다. 새로운 관점으로 어떻게 선수를 보호하고 플랫폼이 고민해 나갈지가 필요하다"고 말했다.