헤킹 자료사진 [게티이미지뱅크]

[헤럴드경제=박세정 기자] “이것은 앞으로 닥칠 일의 맛보기다” (존 헐퀴스트 구글 위협정보그룹 GTIG 수석 분석가)

인공지능(AI)이 보안 취약점을 찾아내고 공격까지 수행할 수 있는 이른바 ‘미토스’ 우려가 현실로 다가왔다. AI를 활용한 해킹 시도가 사상 처음으로 실제 포착됐다.

AI가 실제 사이버 공격 도구로 활용되기 시작했다는 신호탄으로 읽히면서, 한국도 ‘발등의 불’이 떨어졌다. 정부도 대책 마련에 분주해진 가운데, 이달 말 ‘AI 기반 사이버 위협에 대한 대응책’을 내놓을 예정이다.

미국의 빅테크 기업 구글 로고. [AP]

▶AI로 해킹 시도 포착…“빙산의 일각”=13일 구글 GTIG는 최근 발표한 ‘AI 위험 추적 보고서’를 통해 AI가 활용된 것으로 추정되는 사이버 공격을 처음으로 발견했다고 밝혔다.

구글에 따르면 해커는 소프트웨어(SW) 취약점을 이용해 ‘2단계 인증’을 우회하려 한 것으로 조사됐다. 구글은 “해당 공격 조직이 AI를 활용해 취약점을 발견하고 무기화한 것으로 보인다”며 “우리의 선제 대응을 통해 실제 대규모 공격 실행은 막았을 가능성이 높다”고 설명했다. 다만 구글은 공격자가 누구인지, 어떤 AI 모델을 활용했는지는 공개하지 않았다.

더 나아가 구글은 “이것은 앞으로 닥칠 일의 맛보기”라며 AI를 활용한 보안 위협이 갈수록 커질 수 있다고 경고했다. 존 헐퀴스트 GTIG 수석 분석가는 “이 문제는 훨씬 더 클 것이며 우리가 확인할 수 있는 첫 번째 구체적인 증거”라고 설명했다.

이번 사례는 ‘미토스’의 등장으로 AI 보안 우려가 커진 상황에서 나온 것이다. ‘미토스’는 지난달 앤트로픽이 공개한 AI 모델이다. 보안 취약점을 찾아내고, 시스템 공격까지 수행할 수 있는 성능을 갖춘 것으로 알려지면서 AI가 해킹 도구로 악용될 수 있다는 위기감이 커졌다.

앤트로픽 로고. [로이터]

▶분주해진 정부…이달 말 ‘AI 보안대책’ 발표= 실제 첫 AI 공격 사례까지 발견되면서 한국을 비롯한 전 세계의 대책 마련도 시급해졌다.

당장 정부는 이달 말 ‘AI 기반 사이버 위협에 대한 대응책’을 발표한다. 이를 위해 국내 주요 ICT 기업 최고정보보호책임자(CISO), 보안 기업과 잇달아 간담회를 갖고 현장 의견을 수렴 중이다.

AI 보안 위협을 대비한 정부 차원의 대책 마련은 이미 주요 국가에서도 시작된 상태다. 대표적인 곳이 미국이다.

미국은 고성능 AI 모델을 공개하기 전 정부가 이를 사전에 검토하는, 이른바 ‘AI 사전 검증제’ 도입을 논의 중이다. ‘사전 검증’은 정부가 AI 모델 출시 전 안전 기준을 충족하는지 여부를 확인하는 식이 될 것으로 알려졌다. 이는 영국과 유사한 방식이다. 미국 정부가 취약점을 먼저 검토하되, 출시 자체를 제한하지는 않는 방식이 될 것이라는 관측이 나온다.

이에 따라 국내에서도 ‘AI 사전 검증’ 방식이 AI 보안 대책에 포함될지가 관심사다.

이외에도 정부는 지난 11일 마이클 셀리토 앤트로픽 글로벌 정책 총괄과 회동을 갖고 앤트로픽의 ‘글래스윙’에 참여 방안을 논의했다.

‘글래스윙’은 앤트로픽이 일부 기업·기관들과 구성한 보안 협력체다. AI 보안위협을 대비해 방어 기술 등을 공동 연구하고 검증하기 위해 조직됐다. 현재 구글, 마이크로소프트(MS), 애플, 엔비디아 등 글로벌 빅테크 기업을 비롯해 영국 과학혁신기술부 산하 AI 안보연구소 등 52곳이 참여하고 있다.

류제명 과학기술정보통신부 2차관은 류제명 과기부 2차관은 “AI 위험에 대한 예방·대응 체계를 강화하기 위해 글로벌 AI 선도기업들과 적극 협력해 나가겠다”고 밝혔다.