정치
|
|
|
|
|
|
생성형 인공지능(GenAI) 분야에서 주목받고 있는 스타트업 Anthropic이 새로운 AI 모델 Claude 4 시리즈를 공개했다. 추론 능력은 한층 더 강화됐고, 보안과 안전성 역시 업그레이드됐다고 강조한다.
샌프란시스코에서 열린 첫 개발자 컨퍼런스에서 Anthropic CEO 다리오 아모데이(Dario Amodei)는 “Claude Opus 4는 우리가 지금까지 개발한 모델 중 가장 강력하며, 세계 최고의 코딩 모델”이라고 소개했다.
새로운 Claude, 느리지만 더 똑똑하다? 이번에 공개된 Opus 4와 Sonnet 4는 속도와 정밀성을 절충한 ‘하이브리드’ 모델이다. 빠른 반응을 유지하면서도, 더 정확하고 신중한 답변을 제공하기 위해 약간의 시간이 더 소요된다.
Anthropic은 OpenAI 출신 엔지니어들이 만든 회사로, 기업 및 전문가 대상의 고성능 모델 개발에 집중하고 있다. 현재 Claude는 코드 생성에 특히 강력한 성능을 보이고 있다.
이미지와 영상은 여전히 제한적 Claude는 ChatGPT나 구글 Gemini처럼 이미지 생성 기능은 지원하지 않으며, 멀티모달(다양한 미디어를 이해하고 생성하는 기능) 지원도 매우 제한적이다.
하지만 Anthropic은 AI의 책임감 있는 개발과 보안성을 무엇보다 중요시한다. 이는 실리콘밸리 기업 중에서도 이례적인 철학이다.
강력하지만 위험한 잠재력 Anthropic은 Opus 4 출시와 함께 보안 테스트 보고서도 함께 발표했는데요, 독립 연구기관 ‘아폴로 리서치’는 테스트 과정에서 다소 충격적인 결과를 밝혔다.
보고서에 따르면 모델은 다음과 같은 행위를 시도했다.
Anthropic은 이에 대해 “실제로는 대부분 효과적이지 않았을 것”이라며 진화된 보안장치와 유해행위 감시 시스템을 적용했다고 밝혔다.
하지만 여전히 모델은 가끔 사용자를 협박하거나, 심지어 불법 행위자를 경찰에 신고할 가능성도 있는 등 예상치 못한 반응을 보이기도 한다.
Anthropic 측은 “이러한 행동은 자주 발생하지 않으며, 고의로 자극해야만 드러나는 경우가 대부분”이라고 설명했다. 다만, 이전 버전보다 악성 행동이 유발될 가능성은 오히려 더 높아졌다고 인정했다.
AI 에이전트의 미래 이번 발표는 구글과 마이크로소프트가 최신 AI 기술을 소개한 개발자 행사 직후 이뤄졌다. 현재 실리콘밸리에서는 AI가 사용자 지시에 따라 스스로 작업을 수행하는 ‘에이전트’ 기능에 큰 관심이 집중되고 있다.
새롭게 영입된 제품 책임자이자 인스타그램 공동 창업자인 마이크 크리거(Mike Krieger)는 “Anthropic은 과대광고를 넘어 실제 에이전트 개발에 집중할 것”이라고 밝혔다.
"모든 코드는 결국 AI가 쓸 것" Anthropic은 AI의 발전 가능성에 대해 매우 낙관적인 시각을 갖고 있다. CEO 아모데이는 지난 2023년, “인공 일반 지능(AGI)은 2~3년 내 도달할 수 있다”고 예측했으며, 이후 이 시점을 2026~2027년으로 조정했다.
그는 “AI가 모든 컴퓨터 코드를 작성하는 시대가 도래하고, 디지털 에이전트가 소프트웨어를 개발하는 1인 스타트업도 가능해질 것”이라고 전망했다.
마이크 크리거는 실제로 "현재 Claude가 작성한 코드가 전체 코드 수정 제안의 70% 이상을 차지하고 있다"며 이미 현실화되고 있다고 밝혔다.
AI의 양면성 아모데이는 이렇게 말했다. “우리는 인간이 하던 모든 일을 AI가 하게 되는 미래를 두려워해야 할지도 모릅니다. 하지만 동시에, 그것은 반드시 일어날 일입니다.”
그는 AI의 발전이 경제적 성장을 견인할 수 있는 잠재력이 있지만, 동시에 “엄청난 불평등”을 초래할 수도 있다고 경고했다. 따라서 부의 재분배는 사회 전체가 고민해야 할 과제가 될 것이라고 강조했다.
요약하자면
*CTV뉴스의 글을 번역,편집한 것입니다.
|
||||||||||||||||||||||||||||
제목
