[가보니] "AI 성능 높이고 비용 낮춘다"…LGU+, 내년 토큰 사업 추진

모델 선택부터 반도체 조합까지 최적화…기업 시장 공략

자체 AI 활용해 코딩 에이전트 비용 90% 이상 절감 사례

이미지 확대

(서울=연합뉴스) 박형빈 기자 = LG유플러스[032640]가 인공지능(AI) 모델 선택부터 연산 처리, 반도체 활용까지 전 과정을 최적화해 기업의 AI 운영 비용을 낮추는 사업을 내년 추진한다.

자체 AI 모델을 활용해 코딩 에이전트 운영 비용을 90% 이상 줄인 사례를 바탕으로 AI 서비스 '익시오'와 사내 업무 자동화 등에서 축적한 기술과 운영 경험을 기업 고객에게 제공한다는 구상이다.

◇ 토큰 단가 넘어 업무당 비용 절감…모델 선택·연산 최적화

LG유플러스는 지난 12일 'AI 토큰 최적화 스터디'를 열고 이 같은 기술 개발 성과와 2027년 사업 추진 계획을 공개했다.

토큰은 AI가 문장을 이해하고 생성할 때 사용하는 데이터의 기본 단위다. 외부 AI 모델을 이용할 때는 일반적으로 입력·출력한 토큰 양에 따라 비용이 발생한다.

검색과 분석, 코딩 등을 자율적으로 수행하는 AI 에이전트가 확산하면서 기업의 비용 부담도 커지는 추세다.

LG유플러스는 AI가 하나의 업무를 완료하는 데 드는 총비용인 '태스크 코스트'를 줄이는 데 초점을 맞췄다.

이상엽 LG유플러스 최고기술책임자(CTO)는 "AI 시장의 패권은 누가 더 큰 모델을 만드느냐를 넘어, 고객이 원하는 비즈니스 결과를 얼마나 정교하고 경제적으로 완수하느냐로 이동했다"며 "AI 에이전트가 확산할수록 불필요한 검색과 분석을 반복하면 전체 비용은 눈덩이처럼 불어난다"고 설명했다.

핵심 기술 중 하나는 질문의 난이도와 특성에 따라 적합한 AI 모델을 자동으로 선택하는 '모델 라우팅'이다.

회사 측은 내부 테스트에서 모델 라우팅을 통해 일반 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감했다고 밝혔다.

자체 AI 모델을 활용한 코딩 에이전트에서는 기존 모델을 사용할 때보다 운영 비용을 90% 이상 줄인 사례도 확보했다. AI 모델의 연산 처리 방식을 개선해 동일한 인프라에서 처리 효율을 약 4배로 높였다는 설명이다.

실제 서비스 운영 경험도 경쟁력으로 내세웠다. 익시오는 출시 초기 LG AI연구원의 온디바이스 모델과 구글 제미나이를 함께 사용했지만, 이후 자체 모델의 처리 비중을 늘리며 외부 모델 의존도를 낮추고 있다.

기기 안에서 작동하는 자체 온디바이스 AI 모델의 용량도 기존 2.4∼3GB에서 약 800MB로 줄였고, 회사는 이 모델이 비교 대상 클라우드 모델의 95% 이상에 해당하는 성능을 냈다고 밝혔다.

작은 모델이 답변을 먼저 생성하고 큰 모델이 검증하는 기술 등을 통해 토큰 생성 속도도 2배 이상으로 높였다. 관련 연구 논문 2편은 국제 AI 학술대회 뉴립스(NeurIPS)에 채택됐다.

이미지 확대

◇ 작업 따라 GPU·NPU 조합…내년 기업용 토큰 사업 추진

LG유플러스는 AI 연산에 사용하는 반도체를 작업 특성에 맞춰 조합하는 '칩 믹스' 전략도 추진한다.

엔비디아와 AMD의 그래픽처리장치(GPU), 국산 AI 반도체 기업 퓨리오사AI의 신경망처리장치(NPU) 등을 활용해 특정 반도체 의존도를 줄이고 인프라 비용을 낮추겠다는 구상이다.

예를 들어 입력된 질문을 처리하는 '프리필' 단계는 연산 성능이 중요한 만큼 엔비디아 GPU에 맡기고, 답변을 순차적으로 생성하는 '디코딩' 단계는 메모리 성능을 고려해 AMD GPU에서 처리하는 방식이다.

퓨리오사AI와도 2년 이상 협력하며 경량 모델의 NPU 활용 가능성을 검증하고 있다.

권기덕 LG유플러스 담당은 "AMD GPU를 엔비디아보다 성능이 낮은 하드웨어로 보는 것은 아니다"라며 "하드웨어의 성능 순서에 따라 모델을 나누기보다는 모델과 작업의 특성에 따라 배치하는 것"이라고 설명했다.

LG유플러스는 이러한 기술을 바탕으로 내년부터 협력사 제휴와 자체 인프라 구축을 병행하며 기업 고객 대상 토큰 사업을 추진할 계획이다.

구체적인 서비스 형태와 토큰당 판매 가격, 익시오 유료화 여부 등은 아직 확정되지 않았다.

LG유플러스는 "토큰의 원가 경쟁력을 확보하고 고객의 총소유비용(TCO) 관점에서 전체 토큰 사용 비용을 줄이는 방향"이라며 "고객의 AI 성능은 높이고 AI 청구서는 낮추는 사업을 추진하겠다"고 밝혔다.

이 CTO는 "토큰 최적화를 빅테크 모델과의 경쟁으로 보지는 않는다"며 "모델 간 성능 경쟁보다는 고객이 원하는 작업을 더 적은 비용으로 처리할 수 있도록 엔지니어링하는 접근"이라고 강조했다.

binzz@yna.co.kr

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지> 2026년11월15일 09시00분 송고