OpenAI의 최고 책임자인 Sam Altman은 Anthropic의 Dario Amodei 및 Elon Musk와 합류하여 업계의 속도를 늦춰야 한다고 경고한 후 AI 안전 프레임워크가 어떻게 작동할 수 있는지에 대해 지금까지 가장 자세한 의견을 밝혔습니다.
알트만은 월요일 자정 직후 X에 올린 게시물에서 “우리는 국경 AI에 대한 일관된 안전 요구 사항을 설정하는 연방 프레임워크를 환영한다”며 “미국의 어떤 경쟁 압력도 무모함을 정당화해서는 안 된다”고 덧붙였다.
Altman은 “미래에 대한 통제권을 AI에게” 상실하는 것과 한 사람이나 회사에 너무 많은 권력이 집중되는 것을 포함하여 AI 발전이 “매우 잘못”될 수 있는 두 가지 방법에 대해 경고했습니다.
X의 게시물은 토요일에 AI 회사가 가장 진보된 모델을 개선하는 속도를 늦추도록 촉구한 Amodei의 에세이를 따릅니다.
AI 주가는 투자자들이 해당 논평을 소화하면서 월요일 하락했다. 도널드 트럼프 미국 대통령은 일요일 경기 둔화는 불필요하며 중국에 대한 인공지능 부문에서 미국의 주도권을 위태롭게 할 것이라고 말했습니다.
지난 주 Anthropic 연구원이 사임한 이후 안전에 대한 우려가 커져 업계가 이를 충분히 심각하게 받아들이지 않고 있다고 경고했으며, 이로 인해 연구소의 다른 직원과 경쟁사인 OpenAI는 치명적인 위험에 대해 공개적으로 경고했습니다.
한편 워싱턴 의원들은 보증 요구를 충족시키기 위해 안간힘을 쓰고 있습니다.
이 모든 것은 Anthropic과 OpenAI가 역사적인 IPO를 준비하는 과정에서 이루어집니다. Altman은 토요일에 발표된 Fortune과의 인터뷰에서 2026년 출판을 배제했습니다.
Amodei의 3단계 제안
많은 AI 안전 주제는 자체 성능을 향상하는 능력, 즉 반복적 자기 개선(RSI)이라고 알려진 기술을 개발하는 모델을 중심으로 전개됩니다.
Amodei는 자신의 에세이에서 “올 여름 현재 AI는 차세대 AI를 구축하는 AI의 능력 증가에 힘입어 엄청나게 빠르게 발전했습니다.”라고 말했습니다. “확인하지 않고 방치하면 이러한 시스템을 이해하고 제어할 수 있는 능력을 초과할 수 있으므로 매우 주의 깊게 관찰해야 합니다.”
Amodei는 “AI 분야에서 미국의 상업적 이점이나 리더십을 희생”하지 않고 개발 속도를 완화하는 것을 목표로 하는 3단계 계획을 제안했습니다.
이 계획은 각 선두 AI 회사가 외부 평가자에게 “직원과 같은 액세스”를 제공할 것을 요구하며, Anthropic은 현재 이에 전념하고 있다고 말했습니다. Amodei는 또한 첨단 AI 연구소에 공통 안전 표준을 설정하고, 통제되지 않은 AI 진행 속도를 제한하며, 전 세계적으로 노력을 조율하도록 노력할 것을 촉구했습니다.
지난 토요일 알트만은 간략한 X 포스트를 통해 AI 기업이 “선을 넘어야 한다”는 Amodei의 의견에 동의했다고 밝혔습니다. 그는 “직원과 같은 접근 권한을 가진 독립적인 검토자를 확보하는 것은 좋은 아이디어이며 우리도 그렇게 할 것입니다.
Altman은 월요일 게시물에서 “이익을 극대화할 수 있도록 프론티어 위험을 관리하기 위한 강력한 규칙은 좋은 아이디어입니다(그리고 우리는 독립 감사관과 같은 아이디어에 대해 기대하고 있습니다)”라고 말했습니다. 그러나 그는 “우리가 ‘속도’라고 말할 때 ‘멈추다’를 의미하는 것은 아니다”라고 덧붙였다. 발전은 매우 빨랐고 앞으로도 그럴 것입니다.”
그는 “참여는 그만한 가치가 있을 것입니다. 미국의 경쟁 압력이 무모함을 정당화하거나 역량이 조정 및 모니터링을 압도하도록 해서는 안 됩니다”라고 결론지었습니다.
“우리 정부의 도움이 필요한 곳은 국제적 조정입니다. 하지만 먼저 우리 스스로 할 수 있는 일을 해야 합니다.”
