[녹색경제신문=박한솔 기자] 인공지능(AI) 기본법 시행과 함께 정부가 기업이 따라야 할 구체 기준과 실행 체계까지 동시에 제시했다. 단순한 법 시행을 넘어, 투명성 이행 가이드라인 공개와 전담 지원 데스크 가동이 병행되면서 AI를 실제로 운영하는 기업들의 준비 수준이 처음으로 검증 국면에 들어갔다.

요금 추천과 고객 상담, 보안·사기 탐지 등 일상 서비스 전반에 AI를 적용해 온 통신 3사는 이번 기준의 대표적 적용 대상으로 꼽힌다. 다만 일부 업체가 설명하는 대응 방향을 보면, AI 기본법이 규정한 투명성 기준과 기업들이 이해하고 있는 규율의 초점 사이에는 차이가 감지된다는 지적이 제기된다.

‘고지·표시·외부반출’...AI 기본법이 기업에 요구하는 3가지 기준

AI 기본법과 정부 가이드라인이 기업에 요구하는 내용은 세 가지로 정리된다. AI를 쓰고 있다는 사실을 알리고, AI가 만든 결과임을 표시하며, 그 결과가 외부로 나갈수록 더 분명하게 드러내라는 것이다.

먼저 AI 사용 사실에 대한 사전 고지 의무다. 기업은 서비스가 고영향 AI 또는 생성형 AI 기반으로 운영된다는 점을 이용자가 사전에 인지할 수 있도록 해야 한다.

고지는 약관·계약서, 앱·웹 화면(UI), 오프라인 안내문 등 서비스 형태에 맞게 가능하지만, 핵심은 이용자가 AI 개입 사실을 모르고 서비스를 이용하지 않도록 하는 것이다.

두 번째는 AI 생성물 표시 의무다. 생성형 AI가 만든 텍스트·이미지·음성·영상 등 결과물에는 AI가 생성했다는 사실이 드러나야 한다. 다만 서비스 내부에서만 소비되는 경우에는 화면 내 문구나 로고 표시 등 비교적 유연한 방식이 허용된다.

기준이 가장 엄격해지는 지점은 AI 생성물이 서비스 외부로 반출되는 경우다. 내려받기나 공유가 이뤄질 때는 워터마크, 음성 안내, 명시적 문구, 메타데이터 등 사람이 인식하거나 추적할 수 있는 방식으로 AI 생성 사실이 남아야 한다.

실제와 구분하기 어려운 가상의 이미지·영상, 이른바 딥페이크 유형의 생성물은 사람이 즉시 인식할 수 있는 표시가 사실상 필수다.

이 같은 기준을 두고 통신사들은 AI 기본법 대응의 출발점을 어디에 두고 있는지에 대해 각기 설명했다. LG유플러스 관계자는 23일 〈녹색경제신문〉과 통화에서 “법에서 분류하는 고성능·고영향 AI 서비스는 없고, 생성형 AI 서비스만 운영하고 있다”고 말했다.

생성형 AI 서비스에 대해서는 “투명성 확보 의무에 따라 약관과 가입계약서, 서비스 화면(UI)을 중심으로 고지와 생성 결과물 표시를 점검·개선하고 있다”고 설명했다. 요금 추천 기능은 “생성형 AI가 아닌 낮은 수준의 자동화”라며 AI 기본법 적용 대상은 아니라고 봤다고 덧붙였다.

SK텔레콤 역시 대응의 기준을 고영향 AI 개념에 두고 설명했다. SKT 관계자는 〈녹색경제신문〉과 통화에서 “고영향 AI는 건강 등 개인의 기본권에 중대한 영향을 미치는 의사결정 영역을 전제로 한 개념”이라며 “현재 운영 중인 서비스는 이에 해당하지 않는다”고 말했다.

대표적 AI 서비스로는 에이닷(A.)을 언급하며 “생성형 AI 기반 에이전트 서비스”라고 설명했고, “약관을 통해 AI 활용 사실을 사전에 고지하고, 생성 결과물에는 AI로 생성됐다는 표시를 하고 있다”고 밝혔다.

이와 관련해 AI 기본법 집행을 지원하는 현장 창구에서는, 투명성 확보 의무를 고영향 AI 여부로만 한정해 보기는 어렵다는 입장을 내놓고 있다.

기도형 한국인공지능·소프트웨어산업협회(이하 KOSA) AI 추진전략팀장은 23일 〈녹색경제신문〉과 통화에서, AI 기본법상 투명성 확보 의무 적용 범위에 대해 “고영향 AI에만 해당하는 것은 아니다”라며 “생성형 AI 서비스 전반에 대해 적용을 권고하고 있다”고 말했다.

기 팀장은 기업들이 ‘고영향 AI 해당 없음’을 먼저 설명하는 방식과 관련해 “투명성 의무 충족 여부는 사안별로 판단할 수밖에 없고, 서비스가 어떤 형태인지 세부적으로 봐야 한다”며, 단순히 고영향 AI가 없다는 설명만으로 투명성 의무의 핵심이 충족됐다고 일반화하기는 어렵다는 취지로 설명했다.

또한 안홍준 KOSA 본부장은 〈녹색경제신문〉과의 통화에서 “외부 반출이 없더라도 생성형 AI 결과물을 제공하는 서비스라면 표시·고지의 적용 대상이 될 수 있다”고 말했다.

안 본부장은 “서비스 화면(UI)에 표시하는 방식도 가능하지만, 권고사항으로는 생성물에 직접 표시하는 것이 바람직하다”고 덧붙였다.