지난 4월 2일 서울 영등포구에 위치한 라온시큐어 대회의실에서 김자현(왼쪽부터) 업스테이지 파트너 사업 부문 대표, 김태진 라온시큐어 최고기술책임자(CTO)이 업무 협약을 체결하고 있다. [라온시큐어 제공]

[헤럴드경제=고재우 기자] 미국 정부가 현존하는 최고 성능 인공지능(AI) 모델 접근권에 빗장을 걸면서, 라온시큐어와 업스테이지가 구축 중인 ‘한국형 보안 모델’이 주목받고 있다.

17일 업계에 따르면 미국 앤트로픽의 미토스5, 페이블5에 대한 수출 금지 조치에 나서면서, 라온시큐어와 업스테이지가 양사 주요 기술을 결합해 진행 중인 에이전틱AI 기반 보안 자동화 플랫폼 등에 관심이 쏠린다.

지난 4월 앤트로픽이 공개한 미토스는 보안 취약점을 자율적으로 탐색하고, 스스로 사이버 공격까지 수행하는 것으로 알려졌다. 이후 보안 업계의 관심은 수동 점검과 사후 대응을 넘어, AI 기반 자동화 방어 체계로 옮겨가고 있다. AI 발 사이버 위협에 대비해 방어 역시 탐지·분석·대응 전 과정을 자동화해야 한다는 인식이다.

이에 라온시큐어와 업스테이지는 올해 하반기 한국형 보안 모델인 에이전틱AI 기반 보안 자동화 플랫폼을 출시할 예정이다.

에이전틱AI 기반 보안 자동화 플랫폼은 사람이 일일이 로그를 확인하고 보안 방식을 업데이트하던 기존 방식보다 빠르게 위협을 식별하고 대응할 수 있다. 기업의 내부 절차와 대응 이력까지 학습해 보안 운영 전반을 유기적으로 조율함으로써, 자동화의 효율성과 함께 운영 통제력까지 확보했다는 게 양사 설명이다.

여기에 LLM 기반 ‘AI 모의해커’가 침투 시나리오를 구성해 공격 가능성을 점검하고, ‘AI 가드레일’이 실제 운영 환경에서 에이전틱AI를 겨냥한 위협을 탐지·차단하는 기능도 포함된다. 공격 시뮬레이션 결과를 방어 정책과 대응 절차에 반영해 선제 점검과 자동화 대응 동시에 강화하자는 차원이다.

사이버 침해 이후 통제도 중요하다. 공격자가 시스템 내부에 진입하더라도 인증과 권한 관리 기술을 통해 접근 범위를 제한하고, 침투 이후의 이동 경로와 권한 확대 시도를 통제한다. 최초 침투 차단을 넘어 피해 확산을 줄이는 데까지 방어 범위를 넓혔다.

업계 관계자는 “한국형 보안 모델에 주목하는 이유는 누가 설계하고, 운영하느냐가 국가 핵심 인프라 통제권과 직결되기 때문”이라며 “금융·공공·국방 등 민감한 영역일수록 해외 AI에 방어 판단을 의존하는 구조는 리스크로 작용할 수 있다”고 말했다.

이어 “미토스가 찾아낸 취약점 정보가 글래스윙 등 제한된 파트너 중심으로 먼저 공유될 경우, 국내 기업과 기관은 대응 시점부터 격차를 떠안을 수 있다”며 “미국이 최고 성능 AI의 접근은 통제하고, 제품 판매만 허용할 경우에 대비한 국내 기술 기반의 AI 보안 체계를 서둘러 갖춰야 한다”고 덧붙였다.