국내 연구진이 대규모 AI 서버 구축 전에 성능과 효율을 사전에 예측할 수 있는 통합 시뮬레이터 기술을 개발했다. 이를 통해 AI 인프라 개발 비용과 시간을 크게 줄일 수 있을 것으로 기대된다.

KAIST는 전산학부 박종세 교수 연구팀이 개발한 거대언어모델(LLM) 서비스 인프라 시뮬레이터(simulator·가상 실험 소프트웨어) 연구가 컴퓨터 시스템 성능 분석 분야 국제학회 ‘ISPASS 2026’에서 최우수 논문상을 수상했다고 29일 밝혔다.

연구팀이 개발한 ‘LLMServingSim 2.0’은 복잡한 AI 서비스 환경에서 다양한 하드웨어와 소프트웨어 조합을 가상으로 분석할 수 있는 시뮬레이션 플랫폼이다. 연구자와 개발자들은 값비싼 대규모 서버 인프라를 직접 구축하지 않고도 다양한 설계안을 자유롭게 실험하고 성능을 검증할 수 있다.

이 기술은 기존 그래픽처리장치(GPU) 중심 환경을 넘어 차세대 AI 반도체로 주목받는 신경망처리장치(NPU)와 프로세싱 인 메모리(PIM) 등 다양한 하드웨어 환경을 지원한다. 반도체와 AI 가속기 기업에서는 새로운 NPU, PIM 기반 메모리 장치와 같은 차세대 하드웨어가 실제 LLM 서비스 환경에서 어느 정도 효과를 낼 수 있는지 빠르게 검증하는 도구로 사용할 수 있다. 구본혁 기자