[123RF]

[헤럴드경제=이원율 기자]중국의 생성형 인공지능(AI) 서비스가 사용자와의 대화 중 욕설을 내뱉는 일이 발생해 논란이 되고 있다.

업체 측은 다중 대화 처리 중 모델이 비정상적인 결과를 내놓았다고 했다. 이후 긴급 수정을 했다고 덧붙였다.

25일 중국 매체 홍성신문 등에 따르면 시안의 한 변호사는 춘제(春節·중국의 설) 연휴 기간 텐센트의 생성형 AI 서비스 ‘위안바오’(元)를 이용해 새해 인사용 이미지를 만들던 중 욕설이 담긴 문구가 만들어졌다고 밝혔다.

위안바오는 텐센트가 자체 대형언어모델(LLM)을 기반으로 만든 대화형 AI 서비스다.

이 변호사는 자신의 사진을 올린 후 “나는 변호사니 직업 특성에 맞는 새해 인사 이미지를 만들어달라”고 했다. 하지만 초기 결과는 기대에 미치지 않았다. 이에 몇 차례 추가 지시를 했다. 이 과정에서 “이게 무슨 디자인이냐”는 취지의 불만도 보였다.

이후 새로 만들어진 이미지에는 기존의 “새해 복 많이 받으세요, 승진하시기를 바랍니다”라는 문구 대신 욕설이 들어갔다는 것이다.

텐센트 측은 해당 사례가 사회관계망서비스(SNS)에서 퍼지자 25일 사과하고 재발 방지를 약속했다.

텐센트 측은 “모델이 수차례 대화를 처리하는 과정 중 비정상적 결과가 발생했다”며 “관련 문제를 긴급하게 교정하고 사용자 경험을 최적화했다”고 했다.

이번 일은 중국이 생성형 AI 경쟁을 치열하게 벌이는 상황에서 발생했다.

텐센트, 바이두, 알리바바 등 주요 빅테크 기업은 잇달아 자체 LLM 상용 서비스 확대에 나서고 있다.

다만, 업계에서는 이번 일처럼 맥락을 오인하거나 감정 표현을 잘못 하는 등 비정상 출력 문제가 완전하게 해소되지 않은 과제로 지적된다.

중국 광저우일보는 “기술은 죄가 없지만 그대로 두는 것은 방임”이라며 “AI는 사람의 학습 능력과 지식만을 습득하면 안 된다. 인류의 양심도 계승해야 한다”고 했다.

중국은 최근 9일간 이어진 춘제(설) 연휴에도 AI와 휴머노이드 로봇 등 과학기술 분야 소비에 힘을 썼다.

중국 AI업체들은 연휴를 앞두고 천문학적 ‘훙바오’(세뱃돈)를 내걸고 이용자 확보 경쟁을 벌이기도 했다. 이에 알리바바 계열사 앤트그룹은 연휴 기간 주요 앱 사용자가 1억명을 넘겼다고 발표하기도 했다.

당시 베이징사회과학원의 왕펑은 “이는 단순히 수치상 이정표가 아니고, AI 모델이 일상생활의 진정한 일부가 되고 일반인들에게 혜택을 줄 가능성이 커졌음을 보여준다”고 했다.