에이닷 엑스 4.0의 대규모 학습을 진행한 SK텔레콤 자체 구축 슈퍼컴퓨터 '타이탄'. SK텔레콤 제공SK텔레콤이 24일 독자 구축한 대규모 언어모델(LLM) 'A.X(에이닷 엑스) 3.1'을 글로벌 오픈소스 커뮤니티 허깅페이스에 공개했다.
'A.X 3.1'은 340억 개(34B)의 매개변수로 구성된 모델로, SKT가 모델 구축부터 학습까지 모든 과정을 프롬 스크래치(From Scratch) 방식으로 개발했다. 특히 이전 버전인 A.X 3.0이 한국어 대화에 집중했다면, A.X 3.1은 추론과 수학 성능을 대폭 개선해 활용 영역을 확장했다는 설명이다.
SKT는 이번에 A.X 3.1 모델 2종(표준형, 경량형)과 CPT 방식으로 학습한 A.X 4.0 모델 2종까지 총 4개의 LLM을 오픈소스로 공개했다. 이 모델들은 학술·상업용 등 다양한 용도로 자유롭게 활용할 수 있다.
성능 면에서도 주목할 만하다. KMMLU 벤치마크에서 A.X 3.1은 69.2점을 기록해 A.X 4.0(78.3점)의 88% 수준을 보였고, CLIcK 벤치마크에서는 77.1점으로 A.X 4.0(85.7점)의 90% 수준에 도달했다. 절반 이하의 매개변수로도 고효율을 구현한 셈이다.
SKT는 이번 기술 성과를 바탕으로 과학기술정보통신부가 주관하는 '독자 AI 파운데이션 모델 사업'에도 컨소시엄 형태로 참여했다. 컨소시엄에는 크래프톤, 포티투닷, 리벨리온, 라이너, 셀렉트스타 등 주요 산업 분야 기업과 서울대·KAIST 연구진이 함께한다.
또 △SK하이닉스 △SK이노베이션 △SKB △SK AX 등 그룹 계열사는 물론 △몰로코 △씨메스 △가우스랩스 △스캐터랩 등 K-AI 얼라이언스 참여사들도 모델 활용 의향서를 제출하며 협력에 동참했다.
SKT 컨소시엄은 A.X 모델을 기반으로 대한민국 대표 초거대 AI 모델을 개발할 계획이다. 특히 텍스트·음성·비디오·이미지를 통합하는 '옴니모달' 기술과 트랜스포머를 넘는 신구조 연구도 추진해 글로벌 경쟁력을 확보하겠다는 구상이다.
김태윤 SK텔레콤 파운데이션 모델 담당은 "각 분야 선도기업들과의 컨소시엄 구성으로 향후 소버린 AI 분야에서 새로운 성과를 만들어낼 것"이라며 "국내 AI 생태계를 종합적으로 고려해 혁신적인 인공지능 모델을 선보일 계획"이라고 말했다.