세계 유수의 인공지능 기업들은 AI에 관한 미니 정상회담을 시작하면서 가장 극단적인 위험을 억제하지 못하면 플러그를 뽑는 등 안전하게 기술을 개발하겠다고 약속했다.

세계 지도자들은 인공지능의 잠재적 위험뿐만 아니라 인공지능의 이점과 혁신을 촉진하는 방법에 대해 논의하기 위해 화요일 가상으로 모였기 때문에 인공지능에 대한 추가 협정을 마련할 것으로 예상된다.

AI 서울 정상회의는 11월 영국 블레츨리 공원에서 열린 세간의 이목을 끄는 AI 안전 정상회의의 낮은 후속조치로, 참가국들은 AI의 놀라운 발전에 의해 야기될 수 있는 잠재적인 "재앙적인" 위험을 억제하기 위해 함께 노력하기로 합의했다.

안토니우 구테흐스 유엔 사무총장은 블레츨리 공원 회담 7개월 후 개막 세션에서 "우리는 허위 정보에서 대량 감시, 치명적인 자율 무기의 전망에 이르기까지 생명을 변화시키는 기술 발전과 생명을 위협하는 새로운 위험을 보고 있다"고 말했다

유엔 사무총장은 비디오 연설에서 AI에 대한 보편적인 가드레일과 정기적인 대화가 필요하다고 언급했다. "우리는 AI의 힘이 인간의 이해를 넘어서는 알고리즘에 의해 통제되는 디스토피아적인 미래로 몽유병행할 수 없습니다."라고 그는 말했다.

한국과 영국 정부가 공동 주최하는 이틀간의 회의는 메타, OpenAI, 구글과 같은 주요 기술 회사들이 AI 모델의 최신 버전을 출시하는 가운데 열렸다.

영국 정부 발표에 따르면, 그들은 회담이 진행되는 동안 인공지능 안전에 자발적인 약속을 한 16개의 인공지능 회사들 중 하나이다. 아마존, 마이크로소프트, 프랑스의 미스트랄 인공지능, 중국의 Zhipu.ai , 그리고 아랍 에미리트의 G42를 포함한 그 회사들은 책임 있는 통치와 공공 투명성을 약속하며 그들의 가장 최신의 인공지능 모델의 안전을 보장하겠다고 맹세했다.

이 공약에는 이러한 모델의 위험을 측정하는 방법을 명시하는 안전 프레임워크를 게시하는 것이 포함된다. 위험이 심각하고 "내가 견딜 수 없는" 극단적인 경우, AI 회사는 위험을 완화할 수 없다면 킬 스위치를 켜고 모델과 시스템의 개발 또는 배포를 중단해야 한다.

작년 영국 회의 이후, 인공지능 산업은 "잘못된 정보와 데이터 보안, 편견과 인간을 고리에 묶어두는 것을 포함하여 가장 시급한 문제에 점점 더 집중하고 있습니다"라고 협약에 서명한 인공지능 회사들 중 하나인 코헤어의 에이든 고메즈 최고경영자가 말했다. "적절하게 해결되지 않으면 문제를 일으킬 가능성이 가장 높은 문제에 우리의 노력을 우선시하면서, 우리는 모든 가능한 위험을 계속 고려하는 것이 필수적입니다."

화요일 저녁에는 윤석열 한국 대통령과 리시 수낙 영국 총리가 다른 세계 지도자들, 업계 최고경영자들, 국제기구 수장들을 만나 가상 회의를 할 예정이다. 주최측에 따르면, 온라인 정상회담은 수요일 디지털 장관, 전문가 등이 직접 만나는 것으로 이어진다고 전했다.

왕윤종 국가안보 부국장은 월요일 기자들에게 이번 주 회의의 의제가 AI 안전 문제를 중심으로 한 반면, "혁신과 포용"으로 확대되었다고 말했다.

왕은 참가자들이 이후 "AI가 제기하는 위험뿐만 아니라 AI의 긍정적인 측면과 AI가 인류에게 균형 있게 기여할 수 있는 방법에 대해 논의할 것"이라고 말했다

박상욱 청와대 과학기술수석은 "AI 협약에는 안전과 혁신, 포용성에 대한 논의 결과가 담길 것"이라고 말했다.

기술이 빠르게 발전하고 교육과 직장에서 저작권과 개인 정보 보호에 이르기까지 일상 생활의 많은 측면을 변화시킬 준비가 되어 있음에도 불구하고 전 세계의 정부는 AI를 위한 규제를 만들기 위해 서두르고 있으며, AI의 발전이 일자리를 빼앗고, 사람들을 속이고, 허위 정보를 퍼뜨릴 수 있다는 우려가 있다.

이번 주 회의는 인공지능 가드레일을 작성하기 위한 수많은 노력 중 하나일 뿐이다. 최근 미국과 중국이 인공지능에 대한 첫 번째 고위급 회담을 개최하고 유럽연합의 세계 최초 인공지능법이 올해 말 발효될 예정인 가운데, 유엔 총회는 인공지능 시스템의 안전한 사용에 대한 첫 번째 결의안을 승인했다.

*CP24의 글을 번역,편집한 것입니다.