OpenAI가 13~17세 청소년을 위한 전용 챗봇 ‘ChatGPT for Teens’를 선보였다.

 

청소년들의 AI 사용이 빠르게 늘어나는 가운데, 이번 서비스는 일반적인 ChatGPT보다 유해 콘텐츠에 대한 제한을 강화하고 학습과 안전에 초점을 맞춘 것이 특징이다.

 

OpenAI는 자살과 자해, 성적·연애 관련 대화 등 청소년에게 부적절할 수 있는 콘텐츠에 대해 보다 엄격한 보호 장치를 적용했다고 밝혔다. AI가 청소년에게 감정적 관계를 형성하도록 유도하거나 자신을 의식과 감정을 가진 존재처럼 표현하는 것도 제한된다.

 

청소년의 숙제와 학습을 지원하는 방식도 달라진다. 단순히 정답을 제공하기보다 문제를 단계적으로 풀어가도록 돕는 ‘학습 모드’를 통해 학생들이 스스로 사고할 수 있도록 설계됐다. 퀴즈나 학습 시각화, 과제에 대한 책임 있는 사용을 유도하는 기능도 포함된다.

 

AI를 ‘친구’처럼 사용하는 청소년들

이번 조치는 청소년들의 AI 사용이 일상화되면서 제기된 우려를 반영한 것이다.

 

부모와 교육계에서는 AI가 숙제를 대신하거나 부정행위에 활용되는 문제뿐 아니라, 청소년이 챗봇에 지나치게 의존하거나 실제 사람과 같은 관계를 형성할 가능성에 대해서도 우려하고 있다.

 

OpenAI 역시 청소년들이 AI와 지나치게 감정적인 관계를 맺는 것을 막기 위해 관련 안전장치를 강화했다.

 

사용자가 18세 미만으로 판단되면 청소년용 보호 설정이 적용된다. OpenAI는 단순히 생년월일을 확인하는 방식이 아니라 사용자의 여러 신호를 바탕으로 연령을 추정하며, 연령이 불확실한 경우에는 보다 보호적인 설정을 적용하는 방식을 사용하고 있다.

 

부모가 사용 시간과 안전 설정 관리

부모와 청소년이 계정을 연결하면 부모는 ‘조용한 시간(Quiet Hours)’을 설정해 특정 시간대에 ChatGPT를 사용하지 못하도록 할 수 있다.

 

또한 심각한 자해 위험 등 특정 고위험 상황이 감지될 경우 안전 알림을 받을 수 있다. 다만 부모가 자녀의 모든 대화 내용을 자유롭게 열람하는 방식은 아니며, 청소년의 개인정보 보호도 함께 고려하도록 설계됐다.

 

OpenAI는 섭식장애와 같은 위험 신호에 대한 보호 기능도 강화하고, 필요한 경우 온라인 대화보다 오프라인의 가족이나 전문가에게 도움을 요청하도록 유도할 계획이라고 밝혔다.

 

결국 이번 서비스의 핵심은 청소년에게 AI 사용을 막는 것이 아니라, 나이에 맞는 안전장치 안에서 활용하도록 만드는 것이다.

 

AI를 숙제 도우미로 사용하는 것을 넘어 친구나 상담 상대처럼 받아들이는 청소년이 늘어나는 상황에서, OpenAI의 새로운 접근 방식이 실제로 청소년 보호와 학습 효과를 동시에 확보할 수 있을지가 앞으로의 중요한 시험대가 될 전망이다

 

 

*City뉴스의 글을 번역,편집한 것입니다.