SKT, 독자 LLM ‘A.X 3.1 라이트’ 공개

[녹색경제신문 = 문슬예 기자] SK텔레콤(SKT)이 독자적으로 개발한 대규모 언어 모델(LLM) ‘A.X 3.1 라이트’를 오픈소스 커뮤니티 허깅페이스를 통해 공개했다. 해당 모델은 모바일 기기에서의 효율적 운영을 목표로 설계된 경량 모델이다.

11일 SKT는 허깅페이스(Hugging Face)에 ‘A.X(에이닷 엑스) 3.1 라이트’를 공개했다고 밝혔다. 이 모델은 70억 개(7B) 매개변수를 기반으로 하는 경량 모델로, 모델 설계부터 데이터 학습까지 전 과정을 자체적으로 수행한 ‘프롬 스크래치(From Scratch)’ 방식으로 개발됐다. 

해당 모델은 기존 에이닷 전화 통화요약 서비스에 적용했던 ‘A.X 3.0 라이트’의 업그레이드 버전으로, 전작의 강점인 경량화된 성능과 높은 효율성을 이어받았다. 

특히 정보 처리 효율성과 낮은 전력 소모를 특징으로 하며, 다양한 사양의 모바일 기기에서 최적의 서비스 품질을 구현한다. 이를 통해 기업들이 AI 기반 서비스를 보다 쉽게 도입할 수 있도록 지원할 것으로 기대된다.

또한 ‘A.X 3.1 라이트’는 한국어 처리 능력에서도 두각을 나타냈다. 한국어 벤치마크 KMMLU에서 61.70점을 기록하며 같은 규모의 매개변수를 바탕으로 하는 모델 ‘A.X 4.0 라이트’(64.15점)의 96% 수준 성능을 달성했다. 

한국 문화와 언어를 반영한 CLIcK 벤치마크에서는 71.22점으로 ‘A.X 4.0 라이트’(69.97점)를 상회하는 성과를 보였다. 

SKT는 이달 중 340억 개 매개변수의 ‘A.X 3.1’ 모델도 추가 공개할 계획이다.

앞으로도 SKT는 A.X 3 계열의 소버린 AI 모델로 자생력 있는 기술을 갖추는 동시에, 최적화된 성능·효율이 필요한 영역에는 대규모 학습(CPT, Continual Pre-Training)에 기반한 A.X 4 계열 모델을 활용할 예정이다.

이러한 투 트랙(Two Track) 전략을 통해 국내 기업들이 각자의 환경에서 AI 기술을 보다 쉽게 활용할 수 있는 다양한 선택지를 제공한다는 방침이다. 또한 기존 모델의 성능을 대폭 혁신할 수 있도록 GPU(그래픽처리장치) 자원을 확충하고 개발 역량을 높여 나갈 계획이다.

김태윤 SK텔레콤 파운데이션 모델 담당은 "꾸준히 쌓아 온 한국형 LLM 개발 역량을 바탕으로 AI 생태계 자립성을 높이고, 국가 AI 경쟁력 제고에 기여하도록 노력할 것”이라고 말했다.