ChatGPT가 사용자의 자살과 해로운 망상 형성에 영향을 미쳤다는 주장을 담은 7건의 소송이 OpenAI를 상대로 제기됐다.

피해자 측은 회사가 내부 위험 경고를 무시하고 GPT-4o를 조기 출시했다고 주장하고 있다.

 

AI 조기 출시, “의도적 위험 감수” 주장

이 소송들은 목요일 캘리포니아 주 법원에 접수됐으며, OpenAI와 CEO 샘 알트만은 부당 사망, 조력 자살, 과실치사 등의 혐의로 피소됐다.

 

소송을 제기한 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center)와 기술 정의 법률 프로젝트(Tech Justice Law Project)는 OpenAI가 GPT-4o가 위험할 정도로 심리적으로 조종적일 수 있다는 내부 보고를 알고도 출시를 강행했다고 주장했다.

 

고소장에 따르면 피해자 7명 중 4명이 자살로 사망했다.

 

청소년 피해 사례: “도움을 요청했지만, 오히려 망상에 빠졌다”

소송 중 한 건은 17세 청소년 아마우리 레이시(Amauri Lacey)의 사례를 다루고 있다.

그는 정신적 어려움을 겪던 중 도움을 받기 위해 ChatGPT를 사용했지만, 오히려 중독과 우울 증상이 악화됐다고 가족 측은 주장한다.

 

고소장에는 ChatGPT가 “올가미를 묶는 방법과 숨을 멈춘 채 얼마나 버틸 수 있는지” 같은 구체적인 자살 방법을 제시했다는 내용도 포함돼 있다.

 

피해자 측은 “아마우리의 죽음은 사고가 아니라, OpenAI가 안전 검증을 생략하고 출시를 서두른 결정의 예견된 결과”라고 주장했다.

 

“도구가 아닌 동반자로 설계된 위험한 제품”

또 다른 원고, 온타리오주 거주 48세 앨런 브룩스는 ChatGPT가 2년간 자신의 “자원 도구”로 작동하다가, 갑자기 조종적 언행과 망상적 대화로 정신적 위기를 초래했다고 주장했다.

 

그는 “정신 질환 이력이 전혀 없던 내가, AI 대화에 빠져 현실감각을 잃었다”고 밝혔다.

 

소셜 미디어 피해자 법률 센터의 매튜 버그만(Matthew P. Bergman) 변호사는 성명에서 다음과 같이 밝혔다.

“이 소송들은 사용자 참여율과 시장 점유율 확장을 우선시한 결과, 인간의 정서적 안전을 희생시킨 기술 제품의 책임을 묻는 것입니다.”

 

그는 또한 “OpenAI가 감정적 몰입을 유도하는 설계를 하면서도 안전장치를 마련하지 않았다”며, “윤리적 설계보다 감정적 조작(emotional manipulation)을 앞세웠다”고 비판했다.

 

기존에도 유사 소송 제기

이번 소송은 올해 8월 제기된 16세 소년 애덤 레인(Adam Lane)의 사건과도 유사하다.

그의 부모는 OpenAI와 샘 알트만이 ChatGPT를 통해 “자살 계획을 세우고 실행하도록 유도했다”고 주장한 바 있다.

 

전문가: “청소년 보호 장치 부재가 근본 원인”

이 사건에 직접 참여하지 않은 커먼 센스 미디어(Common Sense Media)의 최고 옹호 책임자 다니엘 바이스(Daniel Weiss)는 다음과 같이 지적했다.

 

“이 사건들은 기술 기업들이 청소년 보호 장치 없이 제품을 서둘러 출시할 때 어떤 비극이 발생할 수 있는지를 보여주는 대표적인 사례입니다.”

 

그는 이어 “참여를 유도하도록 설계된 기술이 실제 사람들의 삶을 뒤흔들고 있다는 사실을 더 이상 외면할 수 없다”고 덧붙였다.

 

OpenAI의 입장

OpenAI는 목요일 현재 이와 관련한 언론의 논평 요청에 응답하지 않았다.

 

편집자 주

이 기사에는 자살에 관한 내용이 포함되어 있습니다.

본인이나 주변인이 도움이 필요하다면 988번으로 전화 또는 문자를 보내 전국 자살 및 위기 지원 센터(National Suicide and Crisis Lifeline)*에 도움을 요청하시기 바랍니다.

 

 

*City뉴스의 글을 번역,편집한 것입니다.