SK텔레콤이 그래픽처리장치(GPU)와 신경망처리장치(NPU)를 결합한 AI 서버 설루션 개발에 나선다. 이를 통해 저전력, 고효율, 저비용 등을 실현, AI 데이터센터(DC) 경쟁력을 강화하겠다는 복안이다.

SK텔레콤은 글로벌 반도체 설계 기업 Arm, 국내 인공지능(AI) 반도체 스타트업 리벨리온 등과 손잡고, 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.

3사는 Arm이 새롭게 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드’를 서버에 동시에 탑재해, AI 추론 성능을 높일 수 있는 설루션을 공동 개발한다. SK텔레콤은 해당 설루션을 자사 AI DC에서 실증할 계획이다.

SK텔레콤에 따르면 이번 협력의 기저에는 AI 산업 패러다임의 변화가 자리 잡고 있다. 기존 AI 산업이 AI 모델을 만드는 ‘학습’에서 실제 서비스를 제공하는 ‘추론’으로 이동하고 있다는 것이다.

이에 따라 AI 인프라의 핵심 과제도 적은 전력으로, 빠르고 저렴하게 AI 서비스를 제공할 수 있느냐로 변하고 있다. 추론의 경우 365일 쉬지 않고 작동해야 한다. 전력 효율이 곧 비용 경쟁력과 직결된다.

AI 추론은 학습과 달리 상대적으로 가벼운 연산을 빠르고 반복적으로 처리하는 작업이다. 이런 추론 작업에는 GPU가 어울리지 않는다. 과도한 전력을 소모하고 비용이 많이 들기 때문이다. 업계에서는 추론에 특화된 전용 칩, 즉 NPU가 새로운 대안으로 부상하고 있다.

이재신 SK텔레콤 AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써, AI DC 경쟁력을 더욱 강화해 나갈 것”이라고 예고했다.

고재우 기자