[비즈니스포스트] 홍범식 LG유플러스 대표이사 사장이 인공지능(AI) 토큰 최적화 기술을 앞세워 기업용 AI 시장 공략에 속도를 낸다.

AI 서비스의 성능을 유지하면서 운영비용을 낮추는 토큰 최적화 기술을 확보해 2027년부터 AI 토큰 사업을 본격화한다는 계획이다.

다만 자체 AI 서비스 운영 과정에서 축적한 기술을 기업 고객에게 제공해 새로운 수익원을 확보하는 동시에 기존 AI 플랫폼 및 클라우드 사업자와 차별화된 경쟁력을 입증하는 것이 과제로 꼽힌다.

15일 LG유플러스에 따르면 이 회사는 2027년 AI 토큰 사업 진출을 목표로 기술 협력사와의 제휴 사업과 자체 인프라 및 기술을 활용한 직접 구축 사업을 함께 준비하고 있다.

김현민 LG유플러스 소버린클라우드사업팀장은 12일 서울 서대문구 위드스페이스에서 열린 'AI 토큰 효율화 기술과 관련 연구 현황' 기자 스터디에서 "내년에 토큰 사업을 시작하려 하고, 협력사들과 함께하는 제휴 사업 방식과 직접 구축하는 방식을 추진하고 있다"며 "고객의 AI 성능은 높이고, AI 청구서는 낮추겠다"고 말했다.

LG유플러스가 AI 토큰 사업에 뛰어드는 것은 AI 에이전트 확산으로 기업의 AI 운영비용 부담이 커지면서 관련 기술의 사업성이 높아지고 있기 때문으로 분석된다.

토큰은 AI가 문장이나 정보를 처리하는 기본 단위다. 생성형 AI 서비스에서는 입력과 출력에 사용되는 토큰량이 이용요금과 운영비용을 결정하는 주요 요소로 작용한다.

특히 AI 에이전트는 이용자의 요청을 처리하기 위해 여러 단계의 추론과 외부 시스템 호출을 반복한다. 기업이 AI 에이전트 활용을 확대할수록 토큰 사용량이 기하급수적으로 늘어나 비용 부담이 커질 수 있는 구조다.

LG유플러스는 이러한 시장 변화에 대응해 토큰당 가격을 낮추는 데 그치지 않고, 기업 고객이 AI로 업무를 완료하는 데 드는 전체 비용을 줄이는 데 사업의 초점을 맞추고 있다.

이상엽 LG유플러스 최고기술책임자(CTO)는 "단순히 토큰 단가를 얼마로 줄였다고 이야기하고 싶진 않다"며 "고객이 하려고 하는 여러 가지 업무를 얼마나 최적의 비용으로 처리할 수 있을지를 지향하고 있다"고 말했다.

LG유플러스는 이를 위해 AI 서비스 운영 전반에 걸쳐 토큰 처리 효율을 높이는 기술을 개발하고 있다.

AI 에이전트가 불필요한 작업을 반복하지 않도록 실행 경로를 설계하고, 질문 난이도에 따라 적합한 AI 모델을 선택하는 방식이다. 여기에 AI 모델 경량화와 추론 엔진 최적화, 서로 다른 반도체를 조합하는 기술도 활용한다.

관련 기술 개발에서도 성과를 거두고 있다고 회사 측은 밝혔다.

권기덕 LG유플러스 AX엔지니어링랩장은 "내부 기술 검증에서 AI 모델 라우팅을 통해 일반 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 줄이는 성과를 확인했다"고 말했다.

이어 "그래픽처리장치(GPU)의 연산을 제어하는 커널 스케줄러를 최적화해 답변 품질을 유지하면서도 토큰 생산량을 3배, 응답 속도를 2배 높이는 결과도 확보했다"고 덧붙였다.

앞서 LG유플러스는 10월 AI 모델 최적화 전문기업 옵트에이아이와 공동 연구를 통해 동일한 GPU에서 처리할 수 있는 토큰량을 최대 4배 늘렸다고 밝혔다.

홍 사장은 이러한 기술을 기업 고객의 업무 환경에 적용해 기업용 AI 사업의 경쟁력을 높이려는 것으로 분석된다.

기업이 AI 에이전트를 도입하더라도 이용량 증가에 따라 운영비용이 많이 늘어나면 실제 업무에 활용하는 데 부담이 커질 수밖에 없다.

LG유플러스는 기업의 업무 특성에 맞춰 AI 모델과 인프라를 최적화해 비용 부담을 줄이겠다는 구상이다.

실제 LG유플러스는 사내 개발자들이 사용하는 AI 에이전트에도 관련 기술을 적용하고 있다.

개발자가 사용하는 '클로드 코드'의 이용 환경은 유지하면서 실제 AI 모델을 호출하는 연결 지점을 변경해 비용을 낮추는 방식이다.

기존 업무 방식을 크게 바꾸지 않고도 더 저렴한 AI 서비스를 이용할 수 있도록 하는 것이다.

이상엽 CTO는 "이런 것들은 하나하나가 해당 영역에 맞게 기업 간 거래(B2B) 사업으로도 가능한 부분"이라며 "내부 인공지능 전환(AX)에도 많이 활용하고 있다"고 말했다.

LG유플러스는 토큰 처리에 필요한 반도체의 활용 효율을 높이기 위한 기술 협력도 확대하고 있다.

엔비디아 GPU 최적화는 옵트에이아이, AMD GPU 최적화는 앵커부스트와 협력하고 있다. 퓨리오사AI의 신경망처리장치(NPU)를 활용하는 방안도 연구하고 있다.

이혜진 LG유플러스 기술전략담당은 "AI 모델 선택부터 연산 자원 배분까지 서비스 전반을 최적화하는 것이 중요하다"고 말했다.

개별 기술의 효율을 높이는 데 그치지 않고 AI 서비스 운영 전 과정의 비용을 줄여야 기업의 수익성과 투자수익률을 개선할 수 있다는 것이다.
  LG유플러스의 AI 통화 에이전트 '익시오'도 토큰 최적화 기술의 주요 활용처로 꼽힌다.

LG유플러스는 익시오에 자체 온디바이스 AI 모델과 LG AI연구원의 엑사원, 구글 제미나이를 함께 활용하고 있다. 최근에는 자체 모델이 처리하는 비중을 점차 늘리면서 구글 제미나이 모델을 사용하는 트래픽을 줄이고 있다.

자체 모델의 처리 효율이 높아지면 익시오 이용자가 늘어나더라도 외부 AI 모델 사용에 따른 비용 부담을 완화할 수 있다. 장기적으로는 AI 서비스의 가격 경쟁력과 수익성을 높이는 기반이 될 것이란 게 회사 측 설명이다.

국내 통신사들도 AI 토큰을 새로운 사업 기회로 주목하고 있다.

SK텔레콤은 AI 모델과 인프라를 연결하고 토큰 사용량을 관리하는 '토큰 게이트웨이' 사업을 추진하고 있다. KT는 기업 고객이 다양한 AI 모델을 선택하고 이용량과 비용을 관리할 수 있는 '토큰팩토리' 서비스를 내놓았다.

다만 기술 검증 단계에서 확보한 비용 절감 성과를 실제 기업 고객의 서비스 환경에서도 구현할 수 있을지가 향후 사업 경쟁력을 좌우할 것으로 보인다.

이상엽 CTO는 "토큰 최적화의 경쟁 상대가 빅테크 AI 모델은 아니다"라며 "고객이 어떤 업무를 처리할 때 얼마나 더 싼 비용으로 처리할 수 있도록 엔지니어링해 줄 수 있느냐의 문제"라고 말했다. 조승리 기자