실제 아이유(왼쪽)와 딥페이크 아이유 [SNS]

[헤럴드경제= 박영훈 기자] “딥페이크 피해자 대부분은 한국인 가수와 배우 등 연예인이었다” (미국 사이버보안 업체 시큐리티 히어로)

연예인을 중심으로 한 가짜 영상 ‘딥페이크’에 대한 우려가 커지면서 국회 과학기술정보방송통신위원회가 불법 딥페이크물엔 알릴 표식(워터마크)를 의무화 하는 법안을 통과 시켰다.

딥페이크는 AI(인공지능) 기술을 기반으로 만들어낸 가짜 영상을 뜻한다. 연예인을 타깃으로 한 딥페이크 영상이 일파만파로 확산되면서 연예계가 ‘발칵’ 뒤집혔다.

아이유와 똑같은 외모의 딥페이크 영상이 중국 틱톡 등 SNS에 돌며, 엄청난 조회수를 기록했다. 가수 권은비는 자신의 사진을 합성해 불법 영상을 다수의 온라인 커뮤니티에 유포한 이들에 대해 경찰에 수사를 의뢰했다. 조인성, 송혜교의 목소리와 얼굴을 합성한 가짜 영상까지 나왔다.

지난 21일 국회 과학기술정보방송통신위원회 법안소위원회를 통과한 인공지능(AI) 기본법은 AI 사업자에 불법 딥페이크물 생성을 막을 의무를 강화한 것이 주요 내용이다.

여기서 AI 사업자란 오픈AI, 네이버처럼 AI 기본 모델을 제공하거나 AI 모델에서 파생된 다양한 AI 기능을 서비스하는 업체들을 말한다. 특히 타인의 권리 침해 가능성이 큰 합성물에는 눈에 보이는 워터마크를 반드시 달아야 한다.

송혜교 가짜 딥페이크 영상 [SNS]

다만 이미지를 합성한 생성물이라도 불법 요소가 없고 문화적·창작적인 가치가 높은 경우에는 사람 눈에는 보이지 않는 비가시적인 워터마크를 붙여 AI 사용으로 인한 문제가 사후 발견됐을 경우 구별만 할 수 있도록 했다.

딥페이크 범죄 방지에 얼마나 실효성이 있을지는 의문이다. 업계 관계자는 “앞으로 AI가 조금이라도 기여하지 않은 콘텐츠가 거의 없게 될 텐데 워터마크라는 하나의 방식을 모든 생성물에 부착하는 것이 딥페이크 범죄 방지에 얼마나 실효성이 있을지 의문”이라고 말했다.

한편 사이버보안 업체 시큐리티 히어로는 ‘2023 딥페이크 현황 보고서’에서 충격적인 사실을 공개했다. 전세계 딥페이크 피해자의 절반 이상이 한국 연예인이다. 또한 한국이 딥페이크 성착취물에 가장 취약한 국가로 나타났다.

보고서는 “한국은 딥페이크 성착취물에서 가장 많이 표적이 되는 나라”라고 지적했다. 특히 딥페이크의 최다 표적이 된 개인 10명을 꼽았는데 이 중 8명이 한국인 가수로 나타났다.