인종차별 논란이 일어났다. 용의자는 사람이 아닌 인공지능(AI) 알고리즘이다.

사진을 보정해주는 포토샵 기능의 '페이스앱(FaceApp)'에서 뷰티 기능의 '핫내스(Hotness)' 필터를 사진에 적용시키면 사용자의 의사와 관계없이 자동으로 어두웠던 피부색이 밝게 변한다. 아프리카계 미국인의 사진이 '핫내스'필터링을 거치자 백인처럼 얼굴이 하얗게 변해 논란이 됐다.

페이스앱은 인간의 뇌 기능을 모방한 '뉴럴 네트워크'를 사용한다. 이 네트워크를 통해 빅데이터를 학습해서 만든 알고리즘으로 사진을 수정한다. 따라서 어두운색의 얼굴을 하얗게 만든 이 알고리즘이 인종차별 도마에 올랐다.

문제는 필터 이름에도 있다. 필터 이름인 '핫내스(Hotness)'는 영어권에서 '인기있는', '섹시한', '매력있는'의 뜻으로 사용된다.

해당 인종차별 논란이 붉어지자 야로슬라프 곤차로프 페이스앱 CEO가 거듭 사과에 나섰다. 그는 이메일에서 "이런 의심할 나위 없이 심각한 문제가 발생해 깊이 사과한다. 특정성향을 학습하는 뉴럴 네트워크로 뜻하지 않게 부장용이 생겼다"고 했다.

페이스앱은 현재 '핫내스'필터 이름을 '불꽃', '빛나는'이란 뜻의 '스파크(Spark)'로 임시 수정했다.

미국 IT매체 테크크런치에 따르면 인공지능 알고리즘이 인간의 지식, 정보, 빅데이터만을 학습하는 것이 아니라 인간의 편견까지도 학습한다. 따라서 편향적 위험에 노출될 수 있어 흔히 말하는 '인종차별'을 할 수 있다.

실제로 라타냐 스위니 하버드대 컴퓨터과학 교수는 지난 2013년 발표한 연구 자료에서 로봇이 사람이 단어에 대해 갖고 있는 편견과 인종적인 편견을 그대로 학습한다고 밝혔다.

그녀는 자신의 이름을 구글에 검색하자 범죄자 체포와 관련된 광고가 구글광고에 나타났다.

또한 구글과 로이터통신 사이트에 2000명의 실명을 넣고 검색하자 인종 특성에 따라 나오는 광고가 다르다는 사실을 확인했다.

테크크런치는 인공지능 기반 시스템이 점차 확대되는 시점에서 알고리즘의 책임성에 대한 연구도 필요할 것이라며, 편견을 없애기 위해 더욱 견고한 시스템을 개발해야한다고 지적했다.