알엔딥, '불법영상 색출' 레드 AI기술 공유추진 ... 불법 콘텐츠 원천차단까지 영역 확대
상태바
알엔딥, '불법영상 색출' 레드 AI기술 공유추진 ... 불법 콘텐츠 원천차단까지 영역 확대
  • 고명식 객원기자
  • 승인 2020.04.24 10:37
  • 댓글 0
이 기사를 공유합니다

알엔딥(RnDeep)의 RED AI 딥페이크 검출 기술 구조도. 사진 = 알엔딥 제공
알엔딥(RnDeep)의 RED AI 딥페이크 검출 기술 구조도. 사진 = 알엔딥 제공

N번방 성착취 영상 유포사건에 대한 대응기술로 RED AI 기술을 발표한 알엔딥(RnDeep)이 성폭력, 포르노 및 음란물, 유해사이트 차단에 이어 유해 동영상과 이미지 특정 노출부위를 자동으로 모자이크하는 기술을 공개한다. 한편, 불법동영상 색출 기술을 개발해 이를 공유함으로써 불법콘텐츠의 원천봉쇄가 가능한 수준까지 기술개발 영역을 확장할 계획이라고 알엔딥측이 밝혔다.

# 노출부위 자동으로 모자이크 처리 = 알엔딥의 RED AI 모자이크 기술은 입력된 사진이나 영상의 모든 프레임을 검사하고, 주요 노출부위에 정확하게 모자이크 처리를 자동으로 생성해주는 기술이다. 성인물의 노출 수위, 모자이크의 크기, 모양, 투명도 등 모든 변수를 임의 설정가능하고, 그 설정 값에 따라 컨텐츠를 검사해 모자이크를 생성한다는 것이 회사측 설명이다.

특정 화면 전체를 블랙화면으로 처리할 수도 있고, 특정 부위만 흐릿하게 보이게 하는 블러링(Bluring) 처리도 가능하다. 모자이크를 원하는 형태로 생성시킬 수도 있고 영상에 특정 부위(가슴, 엉덩이, 성기) 노출이 어느 정도까지인지 세분화하여 알아 낼 수 있다. 즉, 기존 19세 이상 관람가 등급에 그치지 않고, 가슴노출 27초, 엉덩이 노출 35초등 세분화하여 컨텐츠를 분류할 수 있다는 얘기다.

# 불법영상 색출 기술 공유 = 레드 AI기술은 사회적 문제가 되는 아동포르노 검출에도 활용이 가능할 것으로 기대된다. 알엔딥 관계자는 "국내외 기관과 긴밀한 공조로 데이터 셋을 확보하고 이를 통해 아동포르노 등을 검출하는 기술을 개발, 공유할 예정"이라고 밝혔다.

알엔딥은 RED AI  딥페이크 검출 기술을 통해 불법적으로 활용되는 페이크영상(거짓영상)까지 검출하는 기술을 발표한 바 있다. 회사 관계자는 “텔레그램 내 성착취 영상을 ‘N번방’, ‘박사방’ 외에도 유명인 얼굴을 불법 영상, 이미지와 합성한 ‘딥페이크’ 영상이 유포되는 것까지 아울러 경찰의 엄중 수사가 펼쳐지고 있는 이 시점에 온라인 커뮤니케이션에서 행해지는 일련의 불법적 상황들에 원천적으로 대응할 수 있도록 기술개발을 확장하고 있다”고 말했다. 

# 1초 내에 페이크 찾아낸다 = 알엔딥(주)의 딥페이크 검출 기술은 AI 딥러닝으로 구현된 기술이다. 사진 및 영상 속 얼굴을 자동으로 찾아내고, 페이크 인지 아닌지를 1초내에 찾아낸다. 페이크 합성 기술이 날로 정교해 지고 있는 가운데, 알엡딥 역시 다양한 데이터 셋을 확보하고 AI기반의 학습을 시킴으로 정교한 합성을 모두 감별해 낼 수 있는 정확도 높은 기술을 구현해 내고 있다.

이러한 기술을 활용하면, 쉽게 페이크 인지 아닌지를 찾아 낼 수 있고, 페이크로 판별된 컨텐츠는 업로드/다운로드 및 SNS를 통해 전달 되지 않도록 하는 기술로 활용될 수 있다.

한류의 열풍이 이어지고 있는 가운데, 한류스타들에 대한 페이크영상도 날이 갈수록 많아지고 있으며, 그 기술 역시 점점 정교해지고 있어 ‘딥페이크물’의 피해는 K-pop, K-드라마, K-뮤비 스타들의 정신적 피해를 비롯한 기획사의 경제적 피해까지 그 규모 역시 날로 커지고 있는 실정이다.

# 욕설도 검출된다 = 연내 개발 완료를 목표로 하고 있는 욕설 검출 및 방지 기술은 문장 내 포함된 욕설 뿐만 아니라, 문맥상 공격성이 강한 표현 등을 AI 학습기반으로 찾아내고 수치화 하여 구분해 내는 기술이다. 이 기술을 통해, 인터넷 댓글의 긍정과 부정을 나누어 통계자료를 만들 수도 있고, 나아가 댓글의 공격성을 수치화할 수도 있고 긍정과 부정의 정도를 수치화 하고, 특정한 수치 조건에 맞는 문장들만 선별하여 뽑아내거나 제거할 수 있다고 회사측은 밝혔다.

고명식 객원기자  smartkoh@naver.com

▶ 기사제보 : pol@greened.kr(기사화될 경우 소정의 원고료를 드립니다)
▶ 녹색경제신문 '홈페이지' / '페이스북 친구추가'

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.