글로벌 평가기관서 ‘세계 7위’ 추론속도 기존比 150% 향상 “글로벌 모델과 대등하게 경쟁”
LG AI연구원이 5년 동안 자체 AI 파운데이션(범용 인공지능) 모델을 집약해 개발한 ‘K-엑사원(EXAONE)’을 공개했다. K-엑사원은 글로벌 AI 성능 평가기관 평가에서 7위를 차지하며 성능을 입증했다.
11일 LG AI연구원에 따르면 K-엑사원은 ‘고효율 저비용’ 설계를 통해 K-엑사원이 고가의 인프라가 아닌 엔비디아 A100급의 그래픽처리장치(GPU) 환경에서도 구동될 수 있도록 했다. 또 ‘하이브리드 어텐션’(비추론과 추론 모드를 통합한 추론 방식)을 고도화해 메모리 요구량과 연산량을 엑사원 4.0 대비 70% 절감했다.
K-엑사원의 학습 어휘는 15만개로, AI가 이해하는 단위인 토큰으로 문장을 쪼개는 기술인 ‘토크나이저’ 고도화를 통해 기존 모델 대비 1.3배 더 긴 문서를 기억하고 처리할 수 있다. 추론 속도는 기존 모델 대비 150% 향상됐다.
K-엑사원은 글로벌 AI 성능 평가 기관인 ‘아티피셜 어낼리시스’의 인텔리전스 지수 평가에서 32점으로 평가 대상 중 상위 10위 안에 들며 기대를 모으기도 했다.
오픈 웨이트 모델(가중치를 공개해 사용자들이 목적에 맞게 수정하고 사용할 수 있도록 한 AI 모델) 상위 10개를 나라별로 보면 중국 6개, 미국 3개, 한국(K-엑사원 7위) 1개였다.
최정규 LG AI연구원 에이전틱 AI 그룹장은 “K-엑사원은 자원의 한계 속에서 독자적인 기술 설계로 글로벌 거대 모델들과 대등하게 경쟁할 수 있음을 보여준 사례”라고 평가했다.
최우석 기자 dol@segye.com
LG AI 연구원 ‘게임체인저’ K-엑사원 공개
글자 크기