인공지능(AI) 공개 전, 정부가 사전 심사하는 방안이 미국에서 논의되면서, 국내에서도 찬반 논란이 불붙기 시작했다 [123rf 제공]

인공지능(AI) 모델을 정식 공개하기 전, 정부가 이를 사전 심사하는 움직임이 미국에서 본격화되면서, 국내 ICT 업계도 향후 여파에 촉각을 곤두세우고 있다.

AI가 보안 취약점을 찾아내 공격까지 수행할 수 있는 ‘미토스 쇼크’를 계기로, AI ‘통제’ 필요성이 급부상한 데 따른 것이다.

AI 보안 우려를 최소화하는 반면, AI 개발 속도를 늦추고 민간 기술에 대한 정부 영향력이 커질 수 있다는 우려가 공존하면서 ‘AI 사전 검증제’에 대한 공방이 지속될 것으로 보인다.

6일 뉴욕타임즈(NYT) 등 외신과 글로벌 ICT 업계에 따르면, 미국 도널드 트럼프 행정부는 고성능 AI 모델을 공개하기 전 정부가 이를 사전에 검토하는 방안을 논의 중이다.

미국 정부는 이를 위해 정부 당국자들과 기술 기업 임원이 참여하는 워킹그룹을 구성하는 행정 명령을 추진 중이다. 백악관은 이미 구글, 오픈AI, 앤트로픽 등 경영진들에게 이같은 계획을 전달했다.

사전 검증은 정부가 AI 모델 출시 전 안전 기준을 충족하는지 여부를 확인하는 식이 될 것으로 보인다. 이는 영국과 유사한 방식이다. 정부가 취약점을 먼저 검토하되, 출시 자체를 제한하지는 않는 방식이 될 것이라는 관측이 나온다. 해당 기술을 안보에 활용할 수 있는 방안도 함께 점검하고 있는 것으로 전해진다. 다만, 미 정부가 정책의 시행 여부와 구체적 형태를 아직 확정한 것은 아니다.

이번 ‘AI 사전 검증제’ 추진은 당초 그동안 트럼프 정부가 유지해 온 ‘AI 규제 완화’ 기조와 확연히 달라진 것이다.

이는 최근 전 세계 보안 업계 충격을 준 앤트로픽이 개발한 AI 모델 ‘미토스’의 영향이 크다는 분석이다. ‘미토스’가 보안 취약점을 찾아내고 시스템 공격까지 수행할 수 있다는 사실이 알려지면서, 자칫 대규모 사이버 공격으로 이어질 수 있다는 우려가 불거졌다.

‘AI 사전 검증제’를 보는 ICT업계의 시각은 엇갈린다.

당장 제2, 제3의 ‘미토스’가 등장하는 것을 대비해 최소한의 안전장치를 마련한다는 차원에서 도입 필요성이 제기된다. 미국 정부 역시 AI 모델의 사이버공격 능력이 강화될수록, 공개 방식과 접근 권한을 정부가 관리할 필요성이 크다고 판단하고 있다.

반면, 급변하는 글로벌 시장 경쟁에서 AI 개발 속도를 늦추고 과도한 정부 개입의 우려가 있다는 목소리도 나온다. 정부가 민간 기술을 어느 수준까지 개입할수 있는 지 여부도 쟁점이 될 것으로 보인다.

미국의 ‘AI 사전 검증’이 현실화할 경우, 국내에 미칠 영향도 관심이 집중된다. 미국을 필두로 ‘AI 사전 심사’ 기조가 전 세계로 확산할 여지가 있다는 점에서다. 국내 AI 모델의 기술 개발과 글로벌 진출에도 변수가 될 수 있다. 국내 AI 기술 상황에 맞는 적절한 정책 논의가 필요하다는 목소리가 커진다.

국내 ICT업계 관계자는 “AI 보안 안전장치가 필요하다는 점에는 공감한다”면서도 “국내는 글로벌 무대에 견줘볼 만한 AI 기술 추격이 시급한 과제인 만큼, 현재는 이에 맞는 육성이 필요한 시점”이라고 언급했다. 박세정 기자