김대현 삼성리서치 글로벌AI센터장이 14일 서울 여의도 국회의원회관 제7간담회의실에서 열린 ‘텐서처리장치(TPU)와 신경망처리장치(NPU) 기술 등에 대한 현황분석 간담회’ 발표를 진행하고 있다. 박혜원 기자

[헤럴드경제=박혜원 기자] 김대현 삼성리서치 글로벌AI센터장은 14일 서울 여의도 국회의원회관에서 고동진 국민의힘 의원 주최로 열린 ‘텐서처리장치(TPU)와 신경망처리장치(NPU) 기술 등에 대한 현황분석 간담회’에서 “NPU 성공을 100% 장담하기는 어렵다”고 말했다.

이는 한국이 글로벌 NPU 기술 개발에서 앞서 나가고 있는 것과 별개로, 아직 실용성을 보장하기는 어렵다는 이야기다. 김 센터장은 엔비디아 그래픽처리장치(GPU)를 계속해서 활용하되, 장기적으로 NPU 산업을 육성하는 ‘이중 전략’이 필요하다고 강조했다.

NPU는 수많은 인공지능(AI) 연산을 동시에 처리할 수 있는 칩이다. 기존 GPU보다 전력 소모가 낮고 빨라, 국내 기업들은 GPU 대체제로 NPU를 주목하고 앞다퉈 개발에 뛰어들고 있다. 앞서 구글은 NPU의 일종인 데이터센터용 AI 반도체 텐서처리장치(TPU)를 개발하며 해당 분야에 선도적으로 투자하고 있다.

다만 NPU가 시장에서 얼마나 공급될 수 있을지는 불확실하다는 게 김 센터장의 의견이다. 그는 “NPU의 가능성은 굉장히 크다”면서도 “그러나 정작 NPU를 사용하기 위한 소프트웨어 툴 분야에서 한국 연구가 특히 뒤쳐져 있다. 엔지니어들이 이미 엔비디아 소프트웨어 툴에 너무 익숙해져서, NPU가 좋다고 해서 바꾸지 않을 것”이라고 지적했다.

GPU를 대체하는 새로운 NPU를 도입하려면 기존에 사용하던 소프트웨어 역시 새롭게 바꿔야한다. 이와 관련 김 센터장은 “한국은 이 부분에서 아마존 등 글로벌 기업들과 격차가 큰 상태인데, 소프트웨어가 쉬운 부분이 아니라 이 격차를 얼마나 좁힐 수 있을지는 의문”이라고 말했다.

김 센터장은 결국 NPU 산업 육성과 엔비디아 GPU 활용을 병행할 수밖에 없다고 주장했다. 그는 “AI는 AI대로 세계 최고의 하드웨어(엔비디아)를 사용해야 한다”며 “NPU 마켓도 성장할 수밖에 없고 투자해야 하는 게 맞다. 그렇지만 소프트웨어는 엔비디아가 확보하게 가지고 있기 때문에 다른 업체들이 쫓아가기 쉽지 않다”고 설명했다.

14일 4일 오전 서울 여의도 국회의원회관 제7간담회의실에서 열린 ‘텐서처리장치(TPU)와 신경망처리장치(NPU) 기술 등에 대한 현황분석 간담회’ 김대현 삼성리서치 글로벌AI센터장이 발표를 진행하고 있다.

정부 차원의 지원 필요성도 거론됐다. 김 센터장은 “NPU를 육성하기 위해선 약간의 정부 지원이 필요한데, 그렇지 않으면 시작 토대가 엔비디아와 다를 수밖에 없다. 중국은 강하게 정부 지원이 이뤄지고 있다”고 말했다.

정부 지원의 구체적인 방향성으로는 “스타트업들이 최종적으로 살아남기 위해서는 기술 개발 연장이 아니라, 궁극적으로 데이터센터와 직접 연결돼서 자생할 수 있도록 정부가 유도해줘야 한다”며 “그런데 현재는 투자에만 의존해 매출이 나지 않고 있다. 위기의식 없이 돈만 지원해주는 방식은 옳지 않다”고 지적했다.

NPU 개발 추세와 별도로 글로벌 AI 경쟁은 여전히 GPU 확보가 관건이다. 김 센터장은 “GPU 숫자가 결국 AI 경쟁력의 바로미터”라고 강조했다. 이어 “GPU를 얼마나 확보하느냐가 초거대 언어 모델을 만드는 경쟁력인데, 삼성도 작년엔 GPU가 없어서 못 샀을 정도”라며 “선주문을 해도 1년을 기다려야 했다. 이 과정에서 엔비디아 GPU가 천정부지로 올라가며 NPU 개발 이야기가 나오기 시작했다”고 설명했다.

그러면서 김 센터장은 “구글의 경우 10년 전부터 AI가 대세가 될 것이고, NPU를 직접 만들어야겠다는 생각을 하고 기획하고 만들기 시작했다”며 “이미 버전6까지 만들어, 구글 자체 데이터센터에는 자기들의 TPU를 어느 정도 설치해 가지고 있다”고 설명했다.