10일 정부서울청사에서 열린 AI 딥페이크 탐지 분석 모델 시연회에서 박남인 국립과학수사연구원 연구관이 선거유세 현장 가짜뉴스 탐지기술을 시연하고 있다. [연합]

[헤럴드경제=전새날 기자] 오는 6월 3일 치러지는 제9회 전국동시지방선거를 앞두고 경찰이 24시간 대응 체계를 가동하며 선거사범 단속에 나섰다. 특히 개정된 공직선거법에 따라 처벌 대상이 된 생성형 인공지능(AI) 활용 신종 선거범죄에도 적극 대응한다는 방침이다.

박정보 서울경찰청장은 23일 열린 정례 기자 간담회에서 “이달 18일부터 24시간 전담수사팀을 가동 중”이라며 이같이 밝혔다.

경찰은 지난 2월 3일부터 선거사범 수사전담반을 구성해 운영 중이다. 경찰청뿐 아니라 각 일선 경찰서에도 전담 상황실이 설치돼 선거 관련 사건에 실시간 대응하고 있다. 전담반 운영은 선거 다음 날인 6월 4일까지 이어질 예정이다.

선거사범 단속은 단계별로 강화된다. 경찰은 ▷전담수사팀 운영 ▷24시간 상황실 가동 ▷집중수사 기간 운영 ▷선거 이후 집중수사 체제 등 4단계 대응 체계를 마련했다. 현재는 상황실 중심의 상시 대응 단계에 들어간 상태다.

이번 선거에서 경찰이 특히 주목하는 부분은 AI를 활용한 선거범죄다. 기술 발전으로 허위 영상·음성 제작이 쉬워지면서 관련 범죄가 증가할 가능성이 크다는 판단이다.

박 청장은 “생성형 AI를 이용하면 후보자가 실제로 하지 않은 발언이나 행동을 한 것처럼 꾸미거나 특정 인물과의 관계를 조작하는 것도 가능하다”며 “딥페이크나 딥보이스를 활용하는 등 여러 가지 유형이 예상된다”고 설명했다.

이어 “과거 대선에서도 AI를 활용한 부정선거 의심 사례가 있었다”며 “이번 선거에서는 기술 고도화로 유사 범죄가 더 늘어날 것으로 보고 있다”고 말했다.

특히 경찰은 2024년 1월 29일부터 시행된 공직선거법 개정안을 근거로 AI 기반 선거범죄에 대응한다. 개정안에 따르면 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 없다.

박 청장은 “AI를 이용한 선거범죄는 물론 기존 유형에 해당하지 않더라도 AI를 활용한 선거운동 자체를 처벌할 수 있다”며 “관련 사례를 엄중히 지켜보고 대응하고 있다”고 말했다.