당국, 위반 AI 1만4000개 삭제

바이트댄스 로고 [로이터]

[헤럴드경제=정목희 기자] 중국 빅테크 바이트댄스와 알리바바가 운영하는 인공지능(AI) 서비스 ‘더우바오(豆包)’와 ‘큐원(Qwen)’이 개인화 AI 에이전트 서비스를 이달 중 종료한다. 중국 정부가 AI 안전 규제를 대폭 강화하면서 관련 서비스 개편에 나선 것으로 풀이된다.

중국 관영 영문매체 글로벌타임스 등은 6일 더우바오와 큐원이 오는 15일부터 개인화 AI 에이전트 기능을 종료한다고 최근 발표했다고 보도했다.

개인화 AI 에이전트는 단순히 질문에 답하는 일반 AI 챗봇과 달리 사용자의 취향과 대화 이력을 기억하고, 사용자를 대신해 복잡한 업무를 수행하도록 설계된 AI 서비스다.

더우바오는 서비스 종료 이후에도 일정 기간 이용자 데이터를 보관하고, 이 기간 에이전트 정보와 대화 내용을 조회하거나 외부로 내려받을 수 있도록 할 예정이라고 밝혔다. 중국 증권시보는 보존된 데이터가 약 3개월 뒤 삭제될 예정이라고 전했다.

더우바오와 큐원의 개인화 AI 에이전트 서비스 중단 발표는 웨이보 등 중국 소셜미디어에서 논란이 됐다. 일부 사용자는 오랫동안 활용해온 서비스의 중단에 반대하기도 했다고 매체는 전했다.

글로벌타임스는 두 업체의 개인화 AI 에이전트 서비스 중단 배경에 중국의 AI 안전성 강화 요구 준수, 상업성이 제한적인 사업에 대한 투자 축소 등이 있을 수 있다고 설명했다.

알리바바 로고 [AP]

중국 정부는 지난 4월 ‘AI 의인화 상호작용 서비스(개인화 AI 에이전트) 관리 잠정 시행 방법’을 발표하고 이달 15일부터 시행하기로 한 바 있다.

개인화 AI 에이전트를 엄격하게 규제하는 이 규정은 플랫폼에 중독 방지 시스템 구축과 미성년자 신원 확인, 철저한 콘텐츠 심사 등 의무를 부과했다.

중국 정부가 5월 발표한 AI 에이전트의 응용·개발 촉진을 위한 지침에선 AI 에이전트와 사용자 간 의사결정 권한의 경계를 처음으로 정의했다. 사용자는 AI 에이전트가 내린 결정에 대한 최종적인 알권리와 거부권을 갖고 있어야 한다는 점이 명시됐다.

글로벌타임스는 현재 중국의 AI 에이전트 산업이 빠른 확산 단계에 접어들었지만, 일부 플랫폼에선 공식 기관을 사칭하는 가짜 에이전트, 저속하거나 극단적인 역할극 대화를 제공하는 경계선상의 서비스, 사용자 개인정보를 무단으로 수집하는 보안 위험 등 다양한 규정 위반 사례가 나타나고 있다고 강조했다.

당국도 대응에 나서고 있다. 상하이 인터넷정보판공실은 지난달 1만4000개 이상의 규정 위반 AI 에이전트를 삭제하기도 했다.