그록 성적 이미지 생성 의혹에 DSA 위반 여부 검토
메타 왓츠앱 VLOP 지정…AI·알고리즘 규제 압박 강화

우르줄라 폰 데어 라이엔 유럽연합 집행위원회(EC) 위원장이 21일(현지시간) 프랑스 스트라스부르에서 열린 유럽의회에서 연설하고 있다. [로이터]

[헤럴드경제=서지연 기자] 유럽연합(EU)이 일론 머스크의 인공지능(AI) 챗봇 ‘그록’을 둘러싼 딥페이크 생성 논란에 대해 본격적인 조사에 착수했다. 동시에 메타플랫폼의 메신저 서비스 왓츠앱을 ‘초대형 온라인 플랫폼(VLOP)’으로 지정하며, 미국 빅테크를 겨냥한 규제 수위를 한층 끌어올렸다.

EU 집행위원회는 26일(현지시간) 엑스(옛 트위터)에 그록 기능을 적용하는 과정에서 불법 콘텐츠 유포 위험이 적절히 평가·완화됐는지를 조사할 예정이라고 밝혔다. 조사 대상에는 아동성착취물(CSAM)을 포함한 성적 이미지 생성 가능성도 포함됐다.

집행위는 그록을 활용한 딥페이크 생성 위험이 이미 현실화했을 가능성이 있으며, 이로 인해 EU 시민들이 심각한 피해에 노출됐을 수 있다고 보고 있다. 이에 따라 디지털서비스법(DSA)에 규정된 위험 평가 및 완화 의무가 제대로 이행됐는지를 집중적으로 들여다볼 방침이다.

그록의 딥페이크 논란은 이미 미국 캘리포니아주 검찰과 영국 방송통신 규제기관 오프콤, 말레이시아 방송통신멀티미디어위원회 등 여러 국가의 규제 당국이 조사에 착수한 사안이다. EU는 이와 별도로 엑스의 추천 알고리즘이 그록 기반으로 전환된 점을 문제 삼아, 기존 알고리즘 조사 범위도 확대하기로 했다.

EU는 엑스의 추천 알고리즘이 허위 정보와 불법 콘텐츠를 충분히 차단하지 못하고 있다고 보고, 2023년 12월부터 관련 조사를 진행해 왔다. 엑스는 페이스북, 인스타그램, 틱톡 등과 함께 DSA상 VLOP로 지정돼 있으며, 위반 시 연간 글로벌 매출의 최대 6%까지 과징금이 부과될 수 있다.

실제로 EU는 지난달 엑스의 계정 인증 표시와 광고 정책이 DSA를 위반했다며 1억2000만유로(약 2057억원)의 과징금을 부과했다. 이에 대해 미국 정부는 빅테크 규제를 ‘검열’로 규정하며, DSA 제정을 주도한 티에리 브르통 전 EU 내수담당 집행위원 등 5명에 대해 입국 금지 조치를 내리는 등 강하게 반발한 바 있다.

EU의 규제 강화는 머스크의 플랫폼에만 국한되지 않는다. 집행위는 이날 메타플랫폼이 운영하는 왓츠앱을 DSA상 VLOP로 새롭게 지정했다. 왓츠앱의 ‘채널’ 기능을 이용하는 EU 역내 사용자가 월간 4500만명을 넘어섰다는 이유에서다. 다만 개인 간 양방향 메신저 기능은 규제 대상에서 제외된다.

이에 따라 메타는 오는 5월까지 인권과 표현의 자유 침해, 선거 조작, 불법 콘텐츠 유포 등과 관련한 위험 평가 및 완화 방안을 제출해야 한다. 현재 EU에서 이 같은 강화된 의무를 적용받는 VLOP는 총 26개다.

EU는 또 메타가 왓츠앱에 자체 AI 챗봇 ‘메타 AI’를 탑재하면서 경쟁 AI 서비스 접근을 제한했다며 반독점 조사도 병행하고 있다. 메타가 운영하는 페이스북과 인스타그램 역시 미성년자 대상 정책이 중독을 유발할 소지가 있다는 이유로 조사 대상에 올라 있다.