"내 입맛 맞는 판례만 쏙쏙"… AI 확증 편향에 멍드는 법정, 사법부도 자체 AI로 맞불 ②

[녹색경제신문 = 임채영 기자] 민간 영역에서 무분별하게 쏟아지는 인공지능(AI) 생성 가짜 판례로 재판 지연이 가중되는 가운데, 사법부도 자체 AI를 꺼내 들었다. 소송 당사자와 변호사들이 거대 언어 모델(LLM) 기반의 상용 리걸테크를 무기로 삼았다면, 법원은 내부 데이터로 무장한 폐쇄형 소형 언어 모델(sLLM)로 방어에 나선 형국이다. 법정이 AI 대 AI의 대리전 양상으로 접어들고 있다.

◇ 161억 투입한 사법부 전용 AI 출범… "유치원생을 박사로 키우는 중"

대한민국 법원은 지난 13일 사법부 자체 AI 플랫폼을 구축하고 재판지원 AI 시스템을 시범 오픈했다. 민간 상용 리걸테크가 방대한 자본을 바탕으로 한 개방형 거대 언어 모델(LLM)을 사용한다면, 법원은 보안 유지를 위해 외부망과 단절된 내부 소형 언어 모델(sLLM)을 택했다.

재판지원 AI는 2013년 이후의 미공개 대법원 판결문과 실무제요 등 민간에서 접근하기 어려운 고품질 내부 데이터를 학습했다. 법원행정처에 따르면 세종시 전산정보센터에 최신형 H200 GPU 서버를 도입해 시스템을 구축했으며, 4년에 걸쳐 총 161억 원의 예산이 투입될 예정이다.

법원행정처 관계자는 본지와의 통화에서 "민간 상용 AI가 세계 일류 박사급이라면, 법원 AI는 이제 막 유치원생을 데려와 법률 전문가로 키우는 단계"라며 "적은 예산으로 최대의 효과를 내기 위해 폐쇄형 모델을 독자 구축하고 고도화하는 데 집중하고 있다"고 설명했다.

◇ AI가 심어준 확증 편향… 항소율 높이고 사법 불신 키워

법원이 자체 AI로 업무 효율화를 꾀하고 있지만, 현장의 판사들은 상용 AI가 만들어낸 허상과 싸우느라 여념이 없다. 상용 AI가 단순한 가짜 판례 생성을 넘어, 소송 당사자들에게 그릇된 확신을 심어주고 있기 때문이다.

1편에서 변론주의 마비 현상을 꼬집었던 권창환 사법부 인공지능위원회 주무위원·부산회생법원 부장판사는 본지와의 통화에서 또한 당사자들의 확증 편향 문제를 지적한 바 있다. 권 부장판사는 "AI는 사용자가 원하는 결론과 방향에 맞춰 기조를 맞추는 모방의 특성이 있다"며 "AI가 자신에게 유리한 해석을 내놓으면 당사자는 그것이 가짜 판례일지라도 진실로 맹신하게 된다"고 설명했다.

이러한 맹신은 사법 불신으로 직결된다. 권 부장판사는 "법원이 아무리 합리적인 판결을 내리고 상대방이 타당한 반박을 해도, AI가 내놓은 허구의 답변을 쥔 당사자는 법원의 판단을 좀처럼 받아들이지 않는다"며 "결국 무리한 항소로 이어지며 재판 지연이라는 악순환을 낳고 있다"고 지적했다.

또한 리걸테크 업계의 데이터 공개 요구와 관련해 권 부장판사는 "과거에는 무조건 대법원 판례를 데이터 세트로 공개하라고 요구했지만, 지금은 해외 거대 기술 기업에 국내 법률 시장을 잠식당할 수 있다는 우려 때문에 선두 업체들조차 전면 공개 주장을 꺼리고 있다"며 "단순한 정보 공개를 넘어선 데이터 주권 문제가 얽힌 복잡한 상황"이라고 설명했다.

◇ 수사기관도 AI 도입 속도… 법무부 "오용 방지책 면밀히 검토"

검찰과 경찰 등 수사기관 역시 형사사법 절차의 디지털화와 함께 AI 시대에 대비하고 있다. 법무부는 본지에 보낸 서면 답변을 통해 "2024년 9월 차세대 형사사법정보시스템(KICS)을 개통했고, 2025년 12월 이를 전국으로 확대해 수사기관과 법원 간 기록이 원활하게 공유되고 있다"고 밝혔다. 향후 각 기관의 독자적인 AI 시스템이 안착하면 판사와 검사, 변호사가 각기 다른 데이터로 학습한 AI를 대동하고 법정에 서는 3파전이 벌어질 전망이다.

최근 일선 경찰서의 불송치 결정문과 노무사 사건에서 연이어 불거진 가짜 판례 인용 사태 등 상용 AI 오용 문제에 대해서도 법무부는 "AI 환각 등 생성형 AI 오용 문제를 면밀히 검토하고 있다"며 "사법 분야에서의 AI 활용이 국민의 신뢰와 변호사 제도의 공공성을 훼손하지 않도록 각계 의견을 수렴해 합리적인 정책을 추진하겠다"고 답했다.

◇ "판결 책임은 결국 인간의 몫"… 법조계 AI 리터러시 시급

AI가 아무리 정교해져도 오판에 대한 책임은 알고리즘이 대신 지지 않는다. 법원행정처는 재판지원 AI 시범 도입을 알리며 "시스템 특성상 일부 답변이 부정확할 수 있으며, 최종적인 판단과 책임은 이용자인 법관에게 있다"고 못 박았다.

현장 전문가들은 기술의 한계를 비판하기보다 이를 올바르게 검증할 수 있는 역량, 즉 AI 리터러시(AI Literacy)의 필요성을 역설한다. AI 리터러시란 개인이 AI 기술을 비판적으로 이해 및 평가하고, AI와 효과적으로 소통 및 협업하며, 일상 및 직장에서 AI를 윤리적으로 활용할 수 있는 일련의 능력을 의미한다.

권 부장판사는 "법정에 음성을 텍스트로 변환하는 STT 기술 등을 적용해 재판을 빨리 진행하라는 당사자들의 기대 수준은 갈수록 높아지고 있다"며 "AI가 내놓은 결과물의 진위를 판별하고 검증할 수 있는 AI 리터러시 교육이 널리 이뤄져야 한다"고 덧붙였다.

1편에서 지적된 제도적 정비와 더불어, 이제는 기술을 통제할 수 있는 인간의 역량이 사법 신뢰를 좌우하는 시점이다. 기계가 방대한 서면을 요약하고 그럴듯한 논리를 제공하더라도, 오판의 위험을 걷어내고 최종 결론에 책임을 지는 주체는 결국 인간이다. 법조계 전반의 인공지능 해독 능력을 끌어올리고 책임의 경계를 명확히 세우는 일만이 알고리즘에 법정을 내어주지 않는 최후의 보루가 될 것이다.