삼성SDS가 국내 최초로 최신 그래픽처리장치(GPU) ‘B300(블랙웰 울트라)’ 구독형 서비스(GPUaaS)를 출시한다.

이를 통해 기업용 인공지능(AI) 추론 성능 극대화를 지원하고, 국내 GPU 생태계를 선도하겠다는 복안이다.

삼성SDS(사진)는 자사 클라우드 플랫폼(SCP)을 통해 엔비디아의 최신 GPU인 B300 기반 GPUaaS를 출시했다고 23일 밝혔다.

SCP B300 GPUaaS 출시는 최근 기업들이 AI 모델 개발을 넘어, 실제 서비스에 적용하는 ‘AI 추론’ 단계로 진입함에 따른 움직임이다. 급증하는 고성능 컴퓨팅 수요에 선제적으로 대응하기 위한 전략이다.

B300 GPU는 12단 고대역폭메모리(HBM3E)를 탑재했다. GPU당 288의 메모리 용량과 초당 8TB의 대역폭을 제공한다. 복잡한 연산이 필요한 AI 추론 영역에서 H100 대비 용량은 3.6배, 대역폭 2.4배 등으로 메모리 성능이 향상됐다. 기존에는 대규모 언어 모델(LLM) 실행 시, GPU의 빠른 연산 처리 속도 대비 느린 메모리의 데이터 전송 속도가 문제였다. 이로 인해 전반적인 성능이 저하되는 데이터 병목 현상이 발생했는데, B300으로 이런 현상이 획기적으로 개선됐다는 게 삼성SDS 설명이다.

SCP B300 GPUaaS를 통해 고객은 거대 AI 모델을 효율적으로 처리할 수 있다. AI 에이전트, 이미지·영상·코드 생성 및 분석 등 AI 서비스의 지연 시간을 최소화할 수 있다.

또 필요한 만큼 쓰고 지불하는 구독형 모델을 이용 시, 초기 투자 리스크를 낮추고 비용을 효율화할 수 있다. GPU 수급이 어려운 상황에서도 SCP를 통해 엔비디아의 최신 아키텍처에 업무 도입이 가능하다. 나아가 고객은 삼성SDS의 보안 역량이 결합한 안전한 클라우드 환경에서 민감한 기업 데이터를 처리할 수 있다.

삼성SDS는 2021년 A100, 2023년 H100 기반 GPUaaS 등을 선제적으로 제공했다. 클라우드 기반의 인프라 구축, 운영, 고객 서비스 등에서 GPU가 AI 전용 인프라로 활용될 수 있도록 GPUaaS 생태계를 선도해 왔다.

아울러 삼성SDS는 AI 모델을 적용 시, 별도 인프라 사용료 없이 사용한 토큰 양만큼 비용을 지불하는 ‘서버리스(Serverless) 추론 서비스’, 개발자가 코드와 데이터를 입력하면 자동으로 AI를 분산 학습시키는 ‘AI 학습 서비스’ 등을 올해 3분기에 출시할 계획이다.

이호준 삼성SDS 클라우드서비스사업부장은 “SCP가 보유한 자원 최적화·에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견·중소, 공공 등에 B300 GPU 서비스를 제공해 인공지능 전환(AX)을 지원하겠다”고 밝혔다.

한편 삼성SDS는 민관협력형(PPP) 클라우드 서비스 사업자다. 대구센터에 H100 기반 GPUaaS를 최초로 도입했다. 현재 범정부 초거대 AI 공통 기반 구현, 지능형 업무관리 플랫폼 구축 등 다양한 정부 AI 사업을 수행 중이다.

고재우 기자