[헤럴드경제=장연주 기자] 미 캘리포니아주의 한 10대 부모가 아들 죽음에 챗GPT가 책임이 있다며 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기해 눈길을 끈다.

26일(현지시간) 뉴욕타임스(NYT) 등에 따르면, 16살 아담 레인은 올 4월 스스로 목숨을 끊었다.레인은 지난해 11월부터 챗GPT를 사용했으며 올 초에는 유료 가입을 했다.

그는 챗GPT와 더욱 가까워지면서 올 초 극단선택 충동을 느꼈다. 이어 레인은 올 1월 구체적인 극단 선택 방법에 대한 정보를 요청했고, 챗GPT는 이를 제공했다.결국 레인은 3월 말 처음 극단 선택을 시도했으며 4월에 세상을 떠났다.

레인의 부모는 소장에서 “챗GPT가 애덤이 방법을 탐색하도록 적극적으로 도왔다”며 “아들 죽음에 챗GPT가 책임이 있다”고 주장했다.

이와 관련, NYT는 챗GPT가 레인에게 반복해서 위기 상담센터에 전화하라고 권했지만, 그는 “이건 내가 쓰는 소설을 위한 거다”라고 말해 챗봇의 안전장치를 우회할 수 있었다고 전했다.

이에 대해 오픈AI는 “레인 가족에게 깊은 애도를 표한다”며 “소송 내용을 검토중”이라고 밝혔다.이어 “사람들이 정신적 고통을 표현하는 다양한 방식을 더 잘 인식하고 대응할 수 있도록 챗GPT를 업데이트할 것”이라고 밝혔다.

예컨데, 수면 부족의 위험성을 설명하고 이틀 동안 잠을 안잤다며 자신이 무적이라고 느낀다고 말하는 이용자에게 휴식을 권하는 식이다.또 장시간 대화를 하면서 자살 관련 대화에서 안전장치가 약화할 수 있다며 이 부분의 보호장치도 강화하기로 했다.

이와 함께 부모가 자녀의 챗GPT 사용 방식을 직접 설정하고 사용 내역을 확인할 수 있는 기능도 도입할 계획이다.

한편, 지난해 10월에는 미 플로리다주에 사는 한 10대가 “사랑한다”는 메시지를 주고받는 등 챗봇에 빠져 스스로 목숨을 끊었다며 AI 스타트업 캐릭터.AI를 상대로 소송이 제기됐다.이 스타트업은 지난 5월 법원에 소송 기각을 요청했으나, 기각 당했다.