[심층취재] "아뿔싸! AI챗봇 '이루다' 오작동하면"···AI리스크 전용보험 개발 절실
상태바
[심층취재] "아뿔싸! AI챗봇 '이루다' 오작동하면"···AI리스크 전용보험 개발 절실
  • 윤덕제 기자
  • 승인 2021.01.20 16:10
  • 댓글 0
이 기사를 공유합니다

- AI기술 단기간 급격히 증가했지만 동시에 AI 실패 우려 높아
- 국내 보험사, AI챗봇으로 고객상담 및 보험사기 예방에 적용
- 다양한 기업이 AI기술 도입·활용에 따라 AI리스크에 특화된 전용보험 필요성↑
최근 서비스가 중단된 AI 챗봇 이루다. AI 리스크 전용보험 개발 필요성이 커지고 있다[사진=이루다 페이스북 캡처]

 

최근 인공지능(AI) 챗봇(채팅로봇) '이루다'가 혐오·차별 발언 등으로 물의를 빚으면서 기업들의 AI 리스크 대응을 위한 관련 보험상품 개발 필요성이 제기됐다.

20일 녹색경제신문 취재 결과 기존의 사이버보험은 AI알고리즘 결함으로 인한 신체 상해나 브랜드 훼손 및 물적 손실 등의 손해를 보장하지 않아 AI 리스크에 특화된 전용보험 개발이 요구되고 있다. 

최근 AI(Artificial Intelligence) 기술을 도입·활용하는 기업이 증가하면서 기업 생산성과 효율성 측면에서 AI 활용의 긍정적 효과가 부각되고 있다. 하지만 AI로 인한 새로운 형태의 사고가 발생하면서 AI 실패에 대한 우려도 현실이 됐다.

미국 시장조사 기업 가트너(Gartner)의 조사에 따르면, 지난 4년간(2015년~2019년) 'AI 기술을 활용하고 있다'고 응답한 기업 수는 10%에서 37%로 증가했고, Google, GM, Pfizer 등 글로벌 기업의 91.5%는 'AI 기술에 지속적으로 투자하고 있다'고 답했다.

하지만 AI 기술 도입이 단기간에 급증하면서 이전에는 예상할 수 없었던 오작동 및 오류로 새로운 종류의 사고들이 발생하고 있다.

미국 승차공유업체 우버(Uber)의 자율주행차 알고리즘 오작동으로 보행자의 신체상해 후 사망한 사건이나, 최근 국내 스타트업이 개발한 챗봇 '이루다'가 잘못된 알고리즘 데이터 학습으로 성차별 및 혐오 발언에 따른 논란으로 서비스 중단 사태가 생긴 것이다.

이런 AI 리스크는 기술수행, 정보보안, 경제·사회, 윤리 등 여러 측면에서 이미 현실화되고 있어 AI 기술 발전에 따라 더욱 다양한 형태로 진화될 것으로 예상된다.

'AI 리스크'는 AI 기술이 개인과 기업에 미칠 잠재적인 부정적 결과로 정의된다.

이에 보험연구원 김윤진 연구원은 "상당수 기업들이 AI를 활발하게 도입해 사용하고 있음에도 그에 따른 리스크는 명확하게 인지하지 못하고 있다"며 "기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다"고 지적했다.

특히 현재 판매되고 있는 사이버(Cyber) 보험은 AI 리스크 중 데이터 및 보안 관련 위험만을 보장하기 때문에 AI 알고리즘 결함으로 인한 신체 상해나 브랜드 훼손 등의 물적 손실은 보장받을 수 없다. 

현재 국내외 일부 보험회사에서 AI 관련 보험이 개발되고 있으나, 이는 AI 리스크 중 일부만을 보장하고 있어 고객이 AI 리스크를 종합적으로 보장받을 수 있게 보장범위도 확대해야 한다.

다만 기업의 AI 기술 도입이 초기에 불과하기 때문에 AI 리스크 관련 사고빈도 및 심도 데이터 부족으로 AI 전용보험 개발에는 시간이 필요하겠지만 AI 산업의 급속한 확장으로 향후 AI 리스크 보장 수요에 대응하기 위해 AI 전용보험의 보장 범위는 단계적으로 넓힐 필요가 있다는 것이다.

김 연구원은 "우리나라 보험회사들도 AI 챗봇을 고객상담에 활용하고 보험사기 예방을 위해 AI 기술을 적용하는 등 다양한 분야에서 AI 기술 도입이 증가하고 있다"며 "사회 전반에 걸친 AI 리스크 보장 확대와 함께 보험회사 자체적인 AI 리스크 관리 방안도 마련할 필요가 있다"고 말했다.

윤덕제 기자  financial@greened.kr

▶ 기사제보 : pol@greened.kr(기사화될 경우 소정의 원고료를 드립니다)
▶ 녹색경제신문 '홈페이지' / '페이스북 친구추가'

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.