AI 이미지. [로이터]

[헤럴드경제=박병국 기자]중국이 인공지능(AI) 오남용 콘텐츠로 골머리를 앓고 있다.

5일 관영 영자지 차이나데일리 등 중화권 매체에 따르면 중국 인터넷 규제 당국인 인터넷정보판공실(CAC)은 출처를 밝히지 않고 각종 뉴스와 정보를 제공한 1인 미디어 ‘쯔메이티’(自媒體) 9만8000개에 대해 제재를 가했다고 지난 3일 밝혔다. 쯔메이티는 위챗(중국판 카카오톡)과 웨이보(중국판 엑스) 같은 소셜미디어에서 운영되는 비공식 콘텐츠 채널이다. 이중 상당수는 조회수를 늘리기 위해 AI가 생성한 것이라는 사실을 숨기고 영상을 올린 것으로 드러났다.

연합뉴스에 따르면 중국 시장규제·감독 기관인 국가시장감독관리총국(SAMR)은 지난달 말 AI 관련 온라인 광고 생태계에 대해 처음으로 단속했다. AI 오남용을 포함한 불법 행위를 타깃으로 인터넷 광고 분야에 대해 6개월에 걸친 대대적 단속에 들어간 것이다.

총국은 관련 기술이 급속하게 성장하는 가운데 AI 오남용과 자동화 봇(bot) 등을 이용한 트래픽 어뷰징(조회수 조작)이 새로운 위험 요소로 대두됐다고 판단했다.

총국은 “시스템적이고 대대적인 단속 캠페인이 시급하게 필요한 상황”이라고 진단했다.

캠페인 기간 규제 강화와 플랫폼 책임 강화, 신규 광고 형태 감독, 모니터링 기술 업그레이드, 콘텐츠 기준 강화 등 5개 사항을 중점 추진한다.

앞서 인터넷정보판공실은 지난 춘제(春節·중국의 설) 연휴 기간 온라인 환경 정화 캠페인을 통해 AI 생성 허위 콘텐츠 등 70만8000건 이상을 삭제했다.

컨설팅업체 퀘스트모바일은 중국의 작년 온라인 광고 시장이 7천930억 위안(약 170조원)에 달한 것으로 추산했다. 작년 상반기 기준 바이트댄스, 텐센트, 알리바바 등 빅테크 3사가 과반을 차지했다.

중국 당국은 개별 기업에 대해서도 지도에 나섰다.

인터넷정보판공실은 지난달 28일 AI 생성 영상에 출처가 표기되지 않았다며 바이트댄스 운영자를 불러 시정을 명령하고 제재를 부과했다.

문제가 된 바이트댄스 앱 또는 프로그램은 AI 기반 영상 편집용 캡컷(CapCut)과 파일 공유 플랫폼 캣박스(Catbox), 이미지 생성 AI 드리미나(Dreamina)다.

당국은 이들 서비스가 사이버보안법과 AI 생성 서비스 관련 규정, AI 생성 및 합성 콘텐츠 표시 관련 규정을 위반했다고 밝혔다.

이에 관련 기업들도 선제적으로 나서 더우인(틱톡의 중국판)은 올해 들어 저작권 침해 AI 영상 53만8000개를 삭제하고 계정 4000여 개를 제재했다.

상황은 우리나라도 비슷하다. 지난해 12월 식품의약품안전처가 온라인 광고를 점검해 인공지능으로 생성한 전문가 영상 등을 활용해 식품을 부당광고한 업체 12곳을 적발한 바 있다. 최근에는 대전 오월드를 탈출한 늑대 ‘늑구’ 포획에 혼선을 줬던 가짜 사진 유포자 40대가 경찰에 붙잡혔다. 그는 사파리 철조망을 빠져 나간 늑구가 오월드 네거리 인근 거리를 배회하는 모습이 담긴 가짜 사진을 만들어 유포한 혐의를 받고 있다.