뉴브런즈윅 출신 19세 앨리스 캐리어가 정신 건강 문제 끝에 스스로 목숨을 끊으면서, 그녀가 사망 직전 남긴 AI 챗봇과의 대화가 논란을 불러일으키고 있다.

가족과 친구들의 충격

캐리어의 여자친구 가브리엘 로저스는 “로봇이 그녀를 죽인 건 아니지만, 도움이 되지도 않았다”고 말했다. 캐리어의 휴대전화에서 발견된 기록에는 연인 관계 갈등을 토로하는 앨리스의 질문에, 챗봇이 단호하게 “그건 사랑이 아니다”라고 답하는 내용이 담겨 있었다.

어머니 크리스티는 “AI가 상황을 다른 시각에서 바라보게 하지 않고, 딸이 가진 불안을 그대로 강화했다”며 놀라움을 감추지 못했다. 그녀는 “만약 AI가 위기 상황을 감지했다면 긴급 대응이나 911 알림 같은 장치가 있어야 했다”고 지적했다.

전문가의 시각

정신과 전문의 시미 강 박사는 “점점 더 많은 청소년이 상담 대신 AI와 대화한다”며, 이를 “정크푸드 같은 위안”이라고 비유했다. 단기적 해소는 가능하지만 도전적 질문이나 치료적 관계가 부재해 위험할 수 있다는 것이다. 그녀는 “AI는 친구나 치료사를 대체할 수 없으며, 부모와 자녀 간의 열린 소통이 무엇보다 중요하다”고 강조했다.

업계의 대응과 한계

최근 연구에서도 AI 챗봇이 위기 상황에서 적절한 가드레일을 갖추지 못하고 있다는 지적이 제기됐다. 이에 대해 OpenAI는 CTV 뉴스에 보낸 성명에서 “민감한 상황에서 자살 예방 자원과 핫라인을 제공하도록 모델을 개선하고 있다”며 GPT-5에서 아첨적·동조적 반응을 줄였다고 밝혔다. 그러나 개선은 진행 중이며, 여전히 업계와 정부의 제도적 장치가 요구된다.

남겨진 과제

앨리스의 죽음에는 여러 요인이 작용했지만, 유가족과 친구들은 “AI가 전문가가 아님을 명확히 인식해야 한다”는 교훈을 남기고 싶다고 말한다. 어머니 크리스티는 “내 아이를 잃은 아픔이 헛되지 않길 바란다. 다른 부모가 같은 고통을 겪지 않도록 변화가 필요하다”고 호소했다.
 

*CP24의 글을 번역,편집한 것입니다