챗GPT 붐을 시작으로 생성형 인공지능(AI)의 열기가 뜨겁다. 질문(명령어)의 정확도나 정교함의 수준에 따라 답변이 달라지는 만큼, 이제 업계는 대화형 생성 AI 사용을 넘어서 활용에 주목하고 있다. 

15일 <녹색경제신문>의 취재에 따르면 네이버·카카오 등 언어모델 서비스 출시를 준비 중인 AI 기업들은 답변 정확도를 향상하기 위한 연구에 매진하는 한편, 윤리 문제를 일으키는 혐오 표현 학습을 방지하기 위해 고심 중이다. 

대표적으로 네이버는 혐오 표현 등 데이터 학습을 방지하고자 자사의 AI 개발도구 ‘클로바 스튜디오’를 스타트업이나 연구기관을 대상으로 한정해 시범 운영하고 있다. 

챗GPT와 같이 누구나 이용할 수 있도록 오픈하면 오답 사례나 윤리 문제 등이 발생할 수 있으므로 기술이 일정 수준 고도화되기 전까지는 제한 운영한다는 방침이다. 

네이버의 한 관계자는 <녹색경제신문>에 “AI 서비스 초기 단계인 지금은 사용자가 던지는 명확한 질문과 함께 관련 예시 등이 주어져야 만족하는 수준의 답변이 나온다”라며, “향후 AI 기술이 발전하면 사용자가 두루뭉술한 질문을 던져도 AI가 사용자 의도에 맞는 답변이 가능할 것”이라고 말했다. 

그러면서, “당사는 올 7월 초거대 AI 하이퍼클로바X 출시를 앞두고 있으며, 우리 역시 이러한 방향으로 고도화된 AI 구현을 위해 노력 중”이라고 강조했다. 

카카오도 이른바 ‘한국형 챗GPT’라 불리는 ‘Ko챗GPT(코챗GPT)’ 서비스 출시에 앞서 AI의 정확도와 윤리 문제 측면을 염두에 두고 고도화를 진행 중이라고 밝혔다. 

카카오의 한 관계자는 “양질의 데이터셋 구축과 인프라 고도화를 통해 AI의 정확도를 높이려고 한다”라며, “윤리적 문제 관련해서도 AI가 학습하는 데이터 가운데 일으킬 수 있는 유해 정보를 제거해 문제 발생을 최소화하기 위해 고심하고 있다”라고 설명했다. 

실제 챗GPT 서비스에서는 일부 사용자들이 교묘한 질문으로 혐오 표현 답변이나 사실과 다른 답변을 유도하는 악용사례가 나오고 있다. 이들은 커뮤니티에 모여 그런 종류의 답변을 받아낼 수 있는 명령어나 명령어 조합을 공유하며 “챗GPT 탈옥에 성공했다”라고 후기를 올리기도 한다. 

이 같은 챗GPT 악용사례에 대해 업계와 전문가들은 ‘기술 도입 초기에 발생하는 부작용’이라며, 기업의 적극적인 대처와 사회 차원의 기준 마련 등이 필요하다고 입을 모은다. 

생성형 AI를 개발 중인 한 기업의 관계자는 “챗GPT와 같은 대화형 생성 AI는 검색엔진과 다르게 ‘대화 가운데 맥락상’에서 오류나 혐오 표현이 발생한다”라고 지적했다. 

이어, “현재는 단어 필터링과 같은 단순한 차원의 접근이라면 방대한 데이터와 명령어 학습을 통해 맥락상의 오류를 잡아내고 사용자가 명백한 혐오단어를 쓰지 않더라도 혐오 표현을 방지하는 것이 가능할 것”이라고 설명했다.

전문가들은 AI 사용에 있어 윤리적 문제는 기술적 접근뿐만 아니라 윤리원칙 제정이나 AI 교육 의무화 같은 사회적 차원의 접근 역시도 필요하다고 조언한다. 

류은석 성균관대 컴퓨터교육과 교수 역시 “AI 기술이 고도화됨에 따라 이와 관련된 윤리에 대한 논의도 발전해야 한다”고 조언했다. 

이어, “AI를 단순 기계로 봤다면 이전 이루다 사태 때처럼 성희롱 논란은 나오지 않았을 것”이라며, “AI 기술의 대중화와 함께 업계와 정부 차원에서의 윤리 준칙 마련과 AI 윤리 교육 의무화 같은 좀 더 넓은 차원의 접근이 필요한 때”라고 지적했다.