AI 챗봇 '이루다', 카톡 데이터 악용 증오·혐오 발언 후폭풍...카카오, 근절 원칙 운영정책 반영
상태바
AI 챗봇 '이루다', 카톡 데이터 악용 증오·혐오 발언 후폭풍...카카오, 근절 원칙 운영정책 반영
  • 박근우 기자
  • 승인 2021.01.13 18:38
  • 댓글 0
이 기사를 공유합니다

- 증오발언 근절을 위한 카카오의 원칙’ 적용
- 카카오 "인권을 보호하는 것 또한 카카오의 중요한 책무"
- 카카오톡 데이터를 제출한 연애의 과학 이용자들은 해당 데이터가 AI 챗봇에 이용하는 것 몰랐다

최근 인공지능(AI) 챗봇 ‘이루다’의 증오·혐오 발언 등으로 사회적 논란이 커진 가운데 카카오가 국내 기업 중 처음으로 이를 근절할 원칙을 만들어 운영정책에 반영했다.

앞서 이루다는 성소수자 등에 대한 혐오 발언을 한 사실이 알려지며 서비스 중단에 들어갔다.

이루다가 실제 카카오톡 사용자 대화를 학습하면서 사용됐던 데이터가 제대로 익명화되지 않아 개인정보유출 의혹까지 일었다. 실제 이루다와 대화시 특정인의 실명이나 계좌번호, 집주소, 예금주 등 개인정보가 쉽제 노출될 수 있다는 지적도 제기됐다.

이루다 개발사인 스캐터랩은 상대방과의 카카오톡 대화를 제출하면 애정도 수치 등을 분석해주는 ‘연애의 과학’ 앱으로 인지도를 높인 업체다. 이루다 개발에도 연애의 과학 앱을 통해 수집한 카톡 대화 약 100억건이 데이터로 쓰였다.

문제는 카카오톡 데이터를 제출한 연애의 과학 이용자들이 해당 데이터가 AI 챗봇에 활용된다는 점을 고지받지 못했다는 점이다. 카카오가 즉각 대응에 나선 것도 이 때문이다.

AI 챗봇 이루다

카카오는 13일 공식 브런치를 통해 ‘증오발언 근절을 위한 카카오의 원칙’이라는 제목의 글에서 "카카오는 이용자 표현의 자유를 보호하려고 힘쓰고 있지만, 이들의 인권을 보호하는 것 또한 카카오의 중요한 책무"라면서 "표현의 자유를 남용해 타인의 안전을 위협하는 온라인 증오발언을 근절하기 위해 노력해 나가려한다"고 밝혔다.

카카오는 국가, 지역 등 출신·인종·외양·장애·질병 유무·사회 경제적 상황 및 지위·종교·연령·성별·성 정체성·성적 지향 등을 이유로 특정인, 특정집단을 공격하는 발언을 ‘증오발언’으로 정의했다.

카카오는 "증오발언은 다양한 이용자들이 발언에 나설 자유를 위축시키고, 우리 사회의 신뢰·건강성을 저해한다"며 "이용자의 인권, 존엄성을 훼손하고 안전을 위협하는 이런 증오발언에 대해 강경 대처하겠다"고 강조했다.

다만 이런 원칙은 공개 게시물에 한정된다. 카카오톡 사적 대화공간이나 메일, 톡서랍 등 개인화한 서비스, 커뮤니티 비공개 게시물 등에는 프라이버시 존중을 최우선가치로 적용한다는 것이다.

또한 카카오는 증오발언을 근절하기 위해 정책, 기술, 서비스 기획, 디자인을 고도화해나갈 계획이다. 사내 교육, 모니터링 강화 등을 통해 카카오 내부로부터의 차별과 증오발언도 경계하겠다는 것.

박근우 기자  lycaon@greened.kr

▶ 기사제보 : pol@greened.kr(기사화될 경우 소정의 원고료를 드립니다)
▶ 녹색경제신문 '홈페이지' / '페이스북 친구추가'
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.