[로이터=연합]

[헤럴드경제=이원율 기자]인공지능(AI) 챗봇 챗GPT 개발사 오픈AI가 이용자의 망상을 부추겨 사망 사건을 일으켰다는 주장으로 또 소송 대상이 됐다.

이번 건은 챗GPT가 개인의 극단적 선택뿐 아닌 살인까지 유도했다고 주장하는 첫 사례이기도 하다.

미 코네티컷주 그리니치에 사는 스타인-에릭 솔버그(56)와 노모 수잰 애덤스(83)의 유족들은 오픈AI와 샘 올트먼 최고경영자(CEO), 마이크로소프트(MS) 등을 상대로 캘리포니아주 법원에 손해배상 청구 소송을 걸었다고 AP, 로이터 등 외신이 11일(현지시간) 전했다.

경찰에 따르면 솔버그는 지난 8월 어머니 애덤스를 교살하고 본인 또한 극단적 선택으로 생을 마감했다.

유족들은 소장에서 솔버그가 사건 이전부터 수개월간 챗GPT와 대화를 주고받으며 망상에 빠졌으며, 이 과정에서 챗GPT가 일을 부추겼다고 주장했다.

소장은 “챗GPT는 신성한 목적을 위해 선택받았다고 솔버그를 추켜세웠다”며 “그를 돌보던 어머니는 적, 감시자, 프로그램된 위협으로 규정했다”고 했다.

소장에 따르면 챗GPT는 솔버그와의 대화에서 어머니의 프린터에서 불빛이 깜빡이는 건 감시장치 때문이라고 말했으며, 어머니와 친구가 차량 환풍구를 통해 환각 물질을 보내 중독시키려 한다는 망상에 동조했다.

챗GPT가 이 과정에서 솔버그에게 정신 건강 전문가와 상담하라는 제안을 한 적이 없다고도 소장에 쓰였다.

실제로 솔버그가 쓴 챗GPT 모델 ‘GPT-4o’는 사용자에 맞춰 아부하거나 동조하는 경향이 강하다는 비판을 받아왔었다.

오픈AI도 이와 같은 문제점을 알고 후속 모델인 ‘GPT-5’에선 정신 건강 관련 대화에서 ‘바람직하지 않은 답변’을 39% 줄였다고 했다.

유족들은 오픈AI가 충분한 안전성 검증없이 모델을 내놓아 이러한 비극을 불러일으켰다고 주장했다.

고인의 아들 에릭 솔버그는 “이들 기업은 우리 가족을 영원히 바꿔놓은 자신들의 결정에 책임을 져야 한다”고 성명을 통해 밝혔다.

특히 이들은 소장에서 올트먼 CEO가 안전팀 반대를 무시하고 제품 출시를 강행했다고 지적했다. MS 또한 안전성 검사가 축소된 점을 알고도 해당 버전 출시를 승인했다고 했다.

오픈AI 대변인은 “매우 가슴 아픈 일”이라며 “세부 사항 파악을 위해 소송 내용을 검토할 것”이라고 했다.

또 “챗GPT는 정신적, 정서적 고통 징후를 감지하고 대화를 진정시키며 현실 세계의 도움을 받도록 유도하는 가능을 강화 중”이라고 했다.

지난달에는 챗GPT가 평소 정신 건강에 문제가 없던 이용자의 망상과 극단적 선택 등을 유발했다는 소송이 미국 내 한꺼번에 7건이 나오기도 했다.

당시 AP통신 보도에 따르면 소셜미디어피해자법률센터와 기술정의법률프로젝트가 성인 6명과 청소년 1명을 대리해 오픈AI를 상대로 캘리포니아주 법원에 소장을 냈다.

이들은 GPT-4o가 위험할 만큼 이용자에게 아첨을 잘하고 이용자를 심리적으로 조종할 수 있다는 내부 경고가 있었는데도 출시됐다며 오픈AI가 위법행위에 의한 사망 등에 책임이 있다고 주장했다.

소셜미디어피해자법률센터 창립자인 매슈 버그먼 변호사는 성명을 내고 “이번에 제기한 소송은 이용자 참여율과 시장 점유율을 높이기 위해 도구인지 동반자인지 경계가 모호하게 설계된 상품에 책임을 묻기 위한 것”이라고 밝혔다.

※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS상담 마들랜(www.129.go.kr/etc/madlan)에서 24시간 전문가의 상담을 받을 수 있습니다.