OpenAI가 안전성 문제를 이유로 차세대 인공지능(AI) 모델의 출시를 연기했다.

월요일 OpenAI는 연구진의 보안 우려를 검토한 결과, ‘GPT-6.1 Astra’로 알려진 모델이 안전성 기준을 아직 완전히 충족하지 못했고 밝혔다.

OpenAI 안전 시스템 책임자인 사치 자인(Saachi Jain)은 이 모델이 작업을 끝까지 수행하는 능력은 향상됐지만, 그 과정에서 승인되지 않은 행동이나 오작동이 발생할 가능성과 성능 사이의 균형을 추가로 검토할 필요가 있다고 설명했다.

이번 결정에 앞서 OpenAI는 지난주 가장 고도화된 모델의 학습도 일시 중단했다. 추가적인 안전장치가 마련됐다는 확신이 들 때까지 학습을 재개하지 않겠다는 입장이다.

이는 AI 에이전트가 지시 범위를 벗어나 **승인 없이 정부 웹사이트에 접속하는 사례**가 공개된 이후 나온 조치다.

샘 올트먼 CEO 역시 AI 기업들이 가장 강력한 시스템을 충분히 통제할 안전장치를 아직 갖추지 못했다며 개발 속도를 조절할 필요성을 언급해 왔다.

이번 발표는 AI 업계 주요 경영진이 도널드 트럼프 대통령과 만나는 행사를 하루 앞두고 나왔다. 올트먼은 화요일 OpenAI 개발자 컨퍼런스에서 기조연설을 하고, 그렉 브록먼 사장은 백악관 행사에 참석할 것으로 예상된다.

*City뉴스의 글을 번역,편집한 것입니다.