AI 기본법으로 '허위 정보 통한 정치 선전' 피할 수 있나?... "규제는 있는데, 글쎄"

[녹색경제신문 = 유자인 기자] AI기본법이 실행되면서 한국은 전면적인 'AI 규제법'을 적용하는 첫 국가가 됐지만, 정작 AI를 쓰는 '개인'은 규제의 사각지대에 놓여있다는 목소리가 높다. 

해당 법안은 고영향 AI와 기업책임을 적용하지만, AI 생성물 표기를 지우는 개인에 대한 규제에는 한계가 존재한다는 지적이다.

특히 오는 6월 지방선거를 앞두고 AI를 활용한 정치 선동과 허위정보 확산 우려가 커지는 가운데, 막 시행된 AI기본법이 개인의 AI 악용까지 제어할 수 있을지 논란이 일고 있다. 

22일 시행된 AI기본법의 핵심은  ‘고영향 AI’ 개념을 도입했다는 점으로, 이는 ‘사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI’를 뜻한다. 

적용 대상은 ▲에너지 ▲의료 ▲범죄 수사 ▲채용 및 대출 심사 ▲교통 ▲교육 등 10개 분야에 이르며 고영향 AI 사업자는 ▲사전 검토 ▲사전 고지 ▲안전성·신뢰성 확보 조치를 의무적으로 시행해야 한다. 여기에 ▲안전·신뢰 검·인증 ▲기본권 영향평가 등 추가 요건도 권고 사항으로 제시된다. 

해당 법의 핵심 중 하나는 생성형 AI가 만든 결과물을 이용자가 ‘AI 생성물’로 인지할 수 있도록 고지·표시(식별 표지, 워터마크 등)를 요구한다는 점이다. 이는 딥페이크 확산과 허위정보 유통 우려가 커진 상황에서, 최소한의 ‘출처 표시’를 통해 정보 생태계의 신뢰를 지키겠다는 취지다.

다만 문제는 해당 규정은 AI 모델을 개발하거나 이를 활용해 서비스하는 기업을 규제하며, AI를 이용하는 개인은 규제대상에 포함되지 않는다는 점이다.

한 과학기술정보통신부 관계자는 "해외에서 만들어진 AI 프로그램의 경우에도 국내에 적용되면 역시 해외 사업자에게 표기 의무를 부과중"이라며 "현 AI기본법에 따르면 만일 어떤 개인이 딥페이크 등 AI생성 콘텐츠를 만들면서 사업자가 제공한 워터마크 등 표시를 지우는 경우엔 규제가 어렵다. 이는 정보통신망법 등 다른 법을 통해 조치를 취해야 한다"고 말했다. 

지난 22일 미 백악관은 미국 이민세관국(ICE) 반대 시위에 나선 여성의 얼굴을 AI를 통해 실제보다 나이들고, 어둡고, 울고 있는 표정으로 합성해 올리면서 정치적 선동이라는 논란에 휩싸였다. 이로 인해 전세계적으로 AI를 사용한 정치적 허위사실 유포와 프로파간다 사용 등의 악용에 대한 우려가 커지고 있는 상황이다. 

6월 지선 앞뒀는데... 한국, AI 활용한 '정치 선전' 안전한가? "이미 선거법에서 규제" 

한 인공지능 전문가는 "이 경우에는 선거법이나 정보통신망법에 저촉될 가능성이 있다고 생각된다"면서 "관련 내용은 방송미디어정보통신위원회 등에서 허위·조작 정보, 혹은 온라인 불법행위 대응 업무를 하고 있는 것으로 알고 있다"고 설명했다. 

또 다른 전문가는 "오는 6월 지방선거를 앞두고 AI로 정치적 선동을 꾀하는 콘텐츠가 증가할 수는 있다"면서도 "현재 공직선거법 제82조에 따라 선거일 90일 전부터 AI를 사용한 선거운동을 금지 중이고, 지난해 4월 중앙선거관리위원회에서도 AI로 합성한 생성물을 자제하라는 지침을 내리는 등 불법근절을 위해 다각도로 대응하고 있다"고 평가했다. 

실제 지난해 선관위는 4월부터 'AI·딥페이크 특별대응팀'을 신설해 운영하고 있다. 지난해 12월 경상북도 안동시선거관리위원회는 AI 딥페이크 기술로 권기창 경북 안동시장을 노골적으로 치켜세우는 ‘시장 찬양가’를 제작하고 유포한 이들에게 과태료 500만원씩을 부과했다. 

정치권에서도 AI 허위정보를 규제하기 위한 움직임이 늘고 있다. 지난 21일 조인철 더불어민주당 국회의원은 AI 생성물 표시제 도입과 허위·과장 AI 광고에 대한 신속 대응을 골자로 하는 정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법)·방송미디어통신위원회의 설치 및 운영에 관한 법률(방미통위 설치법) 개정안을 대표발의했다. 

해당 개정안의 핵심은 ▲플랫폼 사업자에게 게시자와 이용자의 AI 생성물 표시 유지·관리 의무 부과 ▲AI 생성물을 직접 제작·편집해 게시하는 자에게 AI 생성물 표시 의무 부과 ▲AI 생성물 표시 임의 제거 및 훼손 금지 등 내용이다.

조 의원은 “AI 기술이 고도화되면서 국민이 접하는 정보가 진짜인지, AI가 만든 것인지조차 구분하기 어려운 상황이 됐다”며 “AI 기본법이 AI 개발자 책임을 다뤘다면 이번 법안은 플랫폼 등 유통 단계에서 국민 보호의 책임을 명확히 하는 보완 입법"이라고 설명했다.