[녹색경제신문 = 유자인 기자] 중국사이버공간관리국에서 AI 관련 규제를 강화하는 법안 초안을 공개했다. 해당 법안은 현존하는 EU나 국내 AI 규제 법안보다 더욱 엄격하고, 취약한 노인이나 미성년자 보호에 대한 세부적인 내용도 구체적으로 규제했다. 다만 실제로 해당 법안이 통과될지, 어떤 방식으로 실행될지, 실효성이 있을지는 미지수다. 

지난달 27일 중국사이버공간관리국은 '인공지능 의인화 상호작용 서비스 관리 잠정 방법'의 초안을 발표했다. 해당 초안은 현재 대중에게 공개돼 의견 접수중인 상태다. 

해당 법안은 유럽연합(EU)보다 훨씬 더 촘촘하고 강력한 규제를 표방하고 있다. 먼저 제 2조에서는 '의인화된 서비스'를 "인공지능 기술을 사용하여 인간의 성격 특성, 사고 패턴, 의사소통 방식을 시뮬레이션하고, 텍스트, 그림, 오디오, 비디오 및 기타 수단을 통해 인간과 정서적으로 상호작용하는 제품이나 서비스를 중국 내 대중에게 제공하는 것"이라고 명료하게 정의한다. 

반면 EU의 인공지능법에는 의인화에 대한 정의가 내려져있지 않다. 

중국의 새로운 AI법 초안 제 7조에서는 AI 서비스가 "법률 및 행정 규정을 준수하고, 사회적 도덕과 윤리를 존중"할 것을 요구하며 ▲국가 안보 위협·국가 명예와 이익 훼손·국가 통합 훼손·불법 종교활동 수행·경제, 사회질서를 교란하는 소문 배포 ▲음란·도박·폭력·범죄 교사 ▲타인을 모욕·비방해 타인의 합법적 권익 침해 ▲사용자 행동에 심각한 영향을 미치는 허위 약속 제공·사회적 대인관계 손상▲자살·자해를 조장·미화·암시해 사용자의 신체 건강을 해치거나, 언어 폭력·감정 조작 등을 통해 사용자의 존엄성·정신 건강 손상▲ 알고리즘 조작·정보 오도·감정 함정 설정 등 방식으로 사용자가 불합리한 결정을 내리게 유도 ▲기밀 및 민감한 정보를 유도·수집 ▲기타 법률·행정 규정·관련 조항 위반 등 내용의 콘텐츠 생성 및 배포를 금지한다. 

보안 관련 규정도 엄격해졌다. 제8·9조에서는 제공자에게 AI 서비스 보안에 대한 주요 책임을 부여하며 보안 시스템 관리·수립·경영을 의무화했다. 특히 제 9조에서는 사회적 교류 대체·사용자 심리 통제·중독 및 의존 유발과 같은 목표를 설계하는 것을 금지한다. 

이는 현재 메타, 유튜브, 틱톡, 스냅챗 등 SNS 플랫폼들이 실제로 서비스가 중독적이며 특히 아동청소년에게 해악을 끼친다는 점을 알면서도 일부러 그런 요소를 강화하고 방치했다는 증거가 드러남으로써 이 같은 전철을 밟지 않으려 한다는 해석이다. 

지난 2021년 월스트리트 저널지는 메타는 청소년, 특히 여성 청소년들에게 인스타그램 사용이 정신적 고통과 신체에 대한 불안감을 키운다는 것을 알고 있었다고 보도했다. 이후 2023년 메사추세츠를 포함한 여러 주 정부는 메타가 일부러 아동청소년들에게 중독적인 요소 등을 방치했다는 이유로 소송을 진행 중이다. 

중국의 새로운 AI법 초안 제 11조에서는 사용자가 과잉 의존을 보일 경우 개입할 것을 의무화했다. 제 16조는 실존인물이 아닌 AI와 대화한다는 사실을 의무적으로 표기할 것을 명령한다. 구체적으로는 처음 사용할 때 혹은 로그인할때 팝업 등의 방식으로 인공지능이 상호작용 콘텐츠를 생성한다는 것을 알려야 한다. 이는 제 17조에 따라 사용자가 2시간 이상 연속으로 AI를 사용할 때에도 마찬가지다. 

실제 AI에 중독됐거나 됐었던 사람들이 점점 늘어나고 있다. 해외 사이트 '레딧'에는 챗지피티나 캐릭터.AI(Character.AI) 등 챗봇에 중독됐던 사람들이 자신의 경험을 털어놓는 스레드가 존재한다.

지난해 6월 미국 소비자연맹 등은 연방거래위원회에 캐릭터.AI등 생성형 AI 기업에 대한 조사를 촉구하는 공식 진정서를 제출했다. 진정서에는 해당 플랫폼 기업들이 "사용자들이 계속해서 사이트를 방문하도록 유도하게끔 중독성을 부추기는 전략"을 사용한다고 명시됐다.

이를 반영하듯 중국의 AI법 초안에서는 특히 미성년자와 노인에 대한 보호가 두터워졌다. 제 12조에서는 ▲미성년자 모드 설정 ▲미성년자 사용자에게 개인화된 안전 설정 옵션 제공 ▲보호자에게 통제 기능 제공 ▲미성년자 신원 식별 능력을 갖출 것 등을 요구한다.

제 13조에서는 노인 사용자에게 ▲친척·특정 관계자를 모방한 서비스를 제공할 수 없으며 ▲긴급 연락처를 설치하도록 안내하고 ▲생명·건강·재산 등 안전에 위협 되는 경우 즉시 긴급 연락처 통지·구조 채널·심리적 혹은 사회적 지원을 제공할 것을 의무화한다. 

마지막으로 처벌규정도 존재한다. 제29조에 따르면 제공자가 규정 위반시 처벌한다는 점을 명시하며, 만일 시정을 거부하거나 상황이 심각하면 서비스 제공이 중단될 수도 있다.  

이는 EU의 인공지능법보다 훨씬 강력하고 세부적인 규제다. EU의 인공지능법에는 노인이나 미성년자등에 대한 세분화된 규제 부분이 존재하지 않는다. 

다만 실제 이 법이 얼마나 실효성을 가질지는 아직 '의문'이다. 한 전문가는 "중국은 AI관련 여러가지 규정을 도입해왔다"며 "그러나 현재 초안에 불과해 이 법안이 얼마나 수정될 것인지, 어떻게 통과될 것인지, 통과된다해도 어떻게 적용될지가 중요하다"고 말했다. 

또 다른 전문가는 "현재 EU나 국내의 경우 AI관련 포괄적인 규제가 있다"며 "위험 기반에 사전 규제를 도입하는 내용인데, 이 부분과 이번 중국의 새로운 법안 초안과는 조금 차이가 있다"고 짚었다. 

이어 "이번 법안은 생성형 AI에도 해당되지만 이 부분에 이미 중국에서는 규제를 진행중"이라며 "때문에 에이전트 AI 규제를 선제적으로 진행하려는 목적도 있어 차후 나중에 국내에서 AI 규제를 도입할 때 참고자료가 될 수는 있다"고 평가했다. 

아울러 실효성에 대해서는 "물론 개인정보 보호 등의 내용이 존재하긴 하지만 중론은 현재 중국 사회에서 개인정보 보호가 제대로 이뤄지고 있는지에 대해서는 부정적"이라며 "이 법이 원안대로 통과되더라도 실효성에 대해서는 지켜 봐야할 것"이라고 주장했다.