인공지능(AI) 기술의 급속한 발전으로 산업 생산성 향상에 대한 기대와 함께 AI에 규제가 과제로 떠오르고 있다. 생성형 AI가 스팸 및 사기 도구로 악용되기도 해 인간에 미칠 위험성이 드러나고 있기 때문이다. 미국. EU 등은 AI 규제 및 지원 법안을 마련했거나 서두르고 있다. 

16일 캐임브리지·옥스포드·하버드대 등 15개 기관 AI 전문가들은 "사회가 AI를 긍정적으로 쓰려면 최소한 세 가지의 틀을 가지고 AI를 활용해야 한다"며 "첫째 AI가 처리할 수 있는 생산 범위를 할당하고, 둘째 불법 도구로 악용될 시 법률 규제를 강화하고, 마지막으로 국회가 관련 기술과 관련해 선도적으로 입법해야 한다"고 말했다. 

유럽연합(EU)은 인공지능 기술 규제 법안인(AI Act)를 2025년경 제정할 예정이며 초안은 나온 지 오래다. 미국은 AI 개발 업체들이 시스템과 서비스를 개시하기 전 정부로부터 안전성 평가를 받도록 의무화했다. 

한국의 경우 현재 AI 관련  13개 법안이 계류 중이며 이중 AI 규제를 명시한 것은 안철수 국민의힘 의원이 대표 발의한 인공지능 책임 및 규제 법안뿐이다.

안 의원은 "인공지능 개발 및 이용이 거의 모든 산업분야에 적용돼 부가가치를 창출할 것으로 예상되고 있으나, 한편으로는 인공지능의 위험성에 대한 우려도 확대되고 있다"며 "인공지능기술은 대량의 데이터를 학습해 성능을 향상시키는 기계학습에 기반하고 있어 불확실성과 불투명성이 있으며 노이즈 데이터로 인한 오류 생성 가능성도 크다"고 밝혔다.

이어 안 의원은 "인공지능기술이 특정 분야에서 인간의 통제를 넘어서 고의적으로 악용될 수 있는 문제에 대한 법적 규제의 필요성이 있다"며 "인공지능의 부작용과 위험이 무엇인지 정확하게 파악하고 인공지능 규제 정책을 마련하는 것이 필요하다"고 설명했다.

안 의원이 발의한 AI 규제 법안은 향후 신뢰할 수 있는 인공지능의 사용 환경을 조성하기 위해 인공지능의 개발 및 이용에 관한 기본 원칙과 인공지능 사업자의 책무 및 이용자의 권리를 규정하고 있다. 이 법안은 또 인공지능, 고위험 인공지능, 저위험으로 인공지능 유형을 구분해 이용자를 보호하기 위한 시책을 마련하도록 하는 등 인공지능기술·정책의 제도적 기반 조성에 주안점을 두고 있다.

서구를 중심으로 AI 규제 법안 또는 행정명령이 실행 예정이거나 이미 실행 중에 있음에도 불구하고 우리나라의 AI 규제 법안은 발의된 지 반년이 다돼가도록 상임위원회에 계류되고 있어 AI 악용의 위험성이 높아지고 있다. 

많은 학계 관계자는 "AI 규제 법안은 OECD 인공지능 원칙, 국제표준화기구(ISO)의 표준화 완료, EU AI Act, 미국의 행정명령에 따른 규제 등 다양한 국제적 모델이 있고 대부분 유사한 형태의 규제를 보이고 있다"면서 "규제 뿐만 아니라 미국의 경쟁법을 참고해 집중 지원하는 입법 제도화가 빠른 시일 내에 이뤄져야만 선도 국가에서 탈락하지 않을 것"이라고 강조했다.

미국의 경쟁법이란 미국 내 반도체 연구 지원 및 생산 보조에 520억 달러를 투입하고, 공급망 안정성 강화에 450억 달러를 투입하는 것을 골자로 하며, AI와 핵물리학 그리고 동위원소 등을 집중 지원하는 내용을 담고 있다.