AI로 조작한 여성이 태극기 집회에 참여한 모습[온라인 커뮤니티 캡처]

[헤럴드경제=김성훈 기자] 최근 한 SNS 계정은 미모의 젊은 여성이 짧은 치마의 단정한 복장으로 “윤어게인!”이라 외치는가 하면 태극기 집회에 참여하는 영상 게시물을 잇따라 올려 이목을 끌었다.

그러나 영상 속 여성은 AI로 조작한 것이었고, 계정 주인은 남성이었다.

계정주는 논란이 되자 “어느 시점부터 솔직하게 말씀 드렸어야 했는데 타이밍을 놓쳤다. 놀라시거나 배신감을 느끼실 분에게 사과 이외는 변명의 여지가 없다. 결과적으로 다수를 속이게 되었다. 죄송하다”라고 밝혔다.

해당 계정만이 아니라 SNS에는 AI로 꾸며낸 인물이 정치적 주장을 하는 게시물을 심심치 않게 볼 수 있다.

황희두 노무현재단 이사는 최근 자신의 인스타그램에 이같은 문제를 지적하며 “AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다. 단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례”라고 지적했다.

그는 “최근 승무원, 인플루언서 등 실제 여성의 얼굴을 도용해 ‘멸공’, ‘윤어게인’을 외치던 사례도 있었다”고 했다.

황 이사는 “이 방식은 단순한 관심 유도가 아니라, 가짜 여론을 만들어내는 전형적 프로파간다”라며 “속는 사람이 꽤 많다. 인간의 ‘인지 과정’을 공격하는 인지전은 소수의 조작, 알고리즘 확산, 다수의 노출, 인식 왜곡, 세계관 형성‘의 구조로 확산된다”라고 우려했다.

그러면서 “(AI 기술 악용, 도용 범죄를) 방치할 경우 민주주의 자체가 무너질 수 있다”고 경고했다.