성인물 차단 AI, '1초만에 영상물 속 신체노출 찾아내' ... 알엔딥 레드AI, 30만건 학습
상태바
성인물 차단 AI, '1초만에 영상물 속 신체노출 찾아내' ... 알엔딥 레드AI, 30만건 학습
  • 고명식 객원기자
  • 승인 2020.04.09 19:51
  • 댓글 0
이 기사를 공유합니다

인공지능 개발 업체 알엔딥(www.rndeep.co.kr)이 생성적 적대 인공 신경망(GAN : Generative Adversarial Network)을 이용한 성인물 검출 기술을 개발했다고 밝혔다.

생성적 적대 신경망(GAN)은 2014년 몬트리올 대학의 이안 굿펠로우(Ian. j. Goodfellow)가 중심이 된 논문에서 처음 소개된 개념이다. 비지도 학습에 사용되는 인공지능 알고리즘으로 제로섬 게임 틀 안에서 두 개의 신경 네트워크가 경쟁하는 구조로 설계돼 있다.

알엔딥은 보유한 빅데이터와 크롤링 기술을 접목하면 특정 사이트에 성인물이 포함돼 있는 지를 검사할 수 있고, 성인물이 포함돼 있다면 해당 사이트 전체를 차단할수 있다고 밝혔다. 알엔딥은 이 같은 기술 개발을 위해 약 30만장의 성인물 사진을 인공지능에 학습, 훈련시켜 1초도 걸리지 않는 시간에 영상, 사진, 만화 등에 포함된 신체노출 부분을 정확히 찾아 냈다고 설명했다. 

회사측은 '알엔딥 Red AI'라고 해당 기술을 명명하고, 컨텐츠에 대한 직접적인 검사 뿐만 아니라 웹사이트 주소(URL) 검사도 가능하다고 밝혔다. 메신저 글 속에 있는 웹사이트 주소가 성인 사진이나 불법 동영상 링크일 경우 이를 차단할 수 있다는 뜻이다. 

국가에서 운영하는 유해사이트 정보는 인위적으로 등록된 웹사이트 주소를 차단하기 때문에 신규 사이트에 대한 차단에 부족함이 있다. 유해 사이트 등록 속도 보다 신규 사이트로 오픈되는 속도가 더 빠르고 그에 따른 피해가 확대되고 있다는 설명이다. 

알엔딥 관계자는 "레드AI는 특정 사이트에 연결된 컨텐츠를 모두 검사하고 유해성을 확인한다. 사이트를 클릭하기 전에 AI가 먼저 성인물 포함 여부를 검사하기 때문에 유해사이트 여부를 훨씬 높은 정확도로 검사해 낼 수 있다. 이렇게 확인된 유해사이트 웹주소(URL)는 국가유해사이트 정보원으로 자동으로 신고가 돼 훨씬 실효성이 높은 유해사이트 차단이 가능하다"라고 말했다.

알엔딥 레드AI는 현재 성인물 모자이크 생성기술 딥페이크 검출 기술이 완성단계에 있어, 이달 중에 공개한다는 방침이다. 딥페이크(deepfake)는 인공지능 기술을 활용해 기존에 있던 인물의 얼굴이나, 특정 부위를 영화의 컴퓨터그래픽(CG) 처리처럼 합성하는 영상편집을 말한다. 

고명식 객원기자  smartkoh@naver.com

▶ 기사제보 : pol@greened.kr(기사화될 경우 소정의 원고료를 드립니다)
▶ 녹색경제신문 '홈페이지' / '페이스북 친구추가'

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.