‘지인 능욕’, ‘딥페이크’...늘어나는 불법합성물 범죄...기업들도 고심

[녹색경제신문 = 조아라 기자]

최근 딥페이크, 불법 합성물을 이용한 성범죄가 늘어나고 있다. 불법합성물의 제작 유포를 막기 위해 IT기업들의 움직임도 빨라지고 있다.

관련한 처벌은 성폭력범죄의 처벌 등에 관한 특례법 제14조의2에 따르면 (허위영상물 등의 반포등) ① ‘반포등을 할 목적으로’ 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집ㆍ합성 또는 가공한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.

라고 규정하고 있다.

이같은 딥페이크 불법 합성물은 트위터나 카카오톡 오픈채팅방등 SNS를 통해 쉽게 접할 수 있다. 제작해주는 계정이 존재하거나 최근 여러 매체가 보도한 대로 오픈채팅방이나 텔레그램 등 SNS 채팅방에서 합성물을 공유하는 등 SNS가 범죄의 온상이 되고 있다.

기업들 역시 불법 합성물의 피해를 최소화하기 위해 선제적으로 움직이고 있다.

네이버 AI 챗봇 클로바X는 최근 딥페이크 이슈와 연관될 수 있는 이미지 편집 기능을 일부 사용자를 대상으로만 실험적으로 제공하고 있다.

클로바X를 통해 생성된 이미지에 음란물 등의 콘텐츠 생성이 되지 않도록 엔진 필터를 포함한 안전 조치를 적용했다.

카카오브레인의 AI 이미지 생성 모델인 칼로는 워터마크로 합성된 이미지를 구분한다. 칼로로 이미지를 생성할 경우 비가시성 워터마크가 이미지 전체에 자동으로 적용된다는 것이 카카오브레인 측의 설명이다.

인스타그램, 페이스북의 모회사 메타는 AI로 생성된 이미지를 식별할 수 있도록 페이스북, 인스타그램, 스레드에서 AI 생성 이미지에 ‘라벨(Label)’을 붙이는 새로운 정책을 마련한 것으로 알려졌다.

한편, 경찰청에 따르면 딥페이크 허위 영상물 범죄 건수는 해를 거듭할수록 늘어나는 추세다. 2021년 156건, 2022년 160건에 이어 지난해에는 180건을 기록했다.

관련 범죄가 증가함에 따라 방송통신심의위원회가 국내 딥페이크 성적 허위 영상물 차단·삭제를 요구한 사례도 급증해 2020년 473건이던 시정 요구 건수는 지난해 7187건으로 약 15배가 늘었다.

딥페이크 범죄 피의자 중에서 10대가 차지하고 있는 비율도 점차 증가하고 있다.

국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 전체 피의자 중 10대가 차지하는 비중은 2021년 65.3%, 2022년 61.0%에서 지난해 75.8%로 크게 증가했다.