지난 25일 오후 카카오 판교 아지트에서 열린 협약식에 참석한 공용준(오른쪽) kt cloud Cloud 본부장, 김세웅(왼쪽) 카카오 AI시너지 성과리더가 기념 촬영을 하고 있다.

[헤럴드경제=김광우 기자] KT클라우드(kt cloud)는 카카오와 함께 안전한 AI 서비스 구현을 위한 AI 안전성 협력 체계를 구축하고, 공공·민간 분야에서 신뢰할 수 있는 AI 활용 환경 조성에 나선다고 26일 밝혔다.

최근 생성형 AI 활용이 확대되면서 유해 콘텐츠 생성, 프롬프트 주입(Prompt Injection), 개인정보 유출 등 AI세이프티 이슈의 중요성이 커지고 있다. 특히 공공기관과 금융권, 기업 고객은 AI 도입 과정에서 성능뿐 아니라 보안성, 신뢰성, 컴플라이언스까지 함께 고려해야 하는 만큼, 안전한 AI 운영 환경에 대한 요구도 높아지고 있다.

이에 kt cloud와 카카오는 kt cloud의 AI 인프라 플랫폼 역량과 카카오의 AI세이프티 기술을 결합해 고객이 안심하고 생성형 AI 서비스를 개발·운영할 수 있는 기반을 마련키로 했다. 양사는 AI 서비스의 안전성과 신뢰성을 높이는 기술 협력을 통해 국내 AI 생태계의 안전한 확산에도 기여한다는 계획이다.

25일 오후 카카오 판교 아지트에서 열린 협약식에는 공용준 kt cloud Cloud 본부장과 김세웅 카카오 AI 시너지 성과리더가 참석해 AI세이프티 협력 방안과 향후 추진 계획을 논의했다.

협력의 첫 단계로 kt cloud는 지난 4월 선보인 공공고객 대상의 RAG 기반 생성형 AI 서비스 플랫폼 ‘RAG Suite 2.0’에 카카오의 AI 가드레일 모델인 ‘카나나 세이프가드(Kanana Safeguard)’를 연동한다.

카나나 세이프가드는 한국어와 한국의 문화적·법적 맥락에 특화된 AI세이프티 모델로, 유해 콘텐츠 생성, 부적절한 응답, 프롬프트 공격 등을 탐지·차단해 생성형 AI 서비스의 안전한 활용을 지원한다.

양사는 가드레일뿐 아니라 모델 안정성 평가 시스템, 다양한 공격 시나리오를 기반으로 취약 영역을 진단하는 AI 레드티밍(Red-teaming) 시스템 등 다양한 AI세이프티 도구를 kt cloud 고객 환경에 단계적으로 제공할 계획이다.

또 kt cloud 환경에서 수집되는 고객 피드백과 운영 데이터를 바탕으로 AI세이프티 도구를 통합·관리하는 운영 플랫폼(Ops Platform) 분야로도 협력을 확대한다. 이를 통해 고객은 생성형 AI 서비스 개발부터 배포, 운영, 모니터링까지 전 과정에서 보다 체계적인 AI 운영 환경을 구축할 수 있으며, 공공기관과 금융권이 요구하는 보안 및 컴플라이언스 기준에도 효과적으로 대응할 수 있을 것으로 기대된다.

kt cloud는 카카오와의 기술 협력을 기반으로 공공과 민간 고객이 보다 신뢰할 수 있는 AI 활용 환경을 구축할 수 있도록 지원한다는 방침이다.

김봉균 kt cloud 대표는 “생성형 AI가 본격적으로 확산하면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다”며 “카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고, 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다”고 말했다.