마이크로소프트 AI CEO 무스타파 술레이만(Mustafa Suleyman)이 2025년 4월 4일 워싱턴 레드몬드 마이크로소프트 본사에서 열린 회사 창립 50주년 기념 행사에서 연설하고 있다.
데이비드 라이더 | 블룸버그 | 게티 이미지
마이크로소프트 며칠 후 인공 지능 모델에 제한을 가하는 임시 행동 강령을 게시했습니다. 인위적인 그리고 오픈AI 지도자들은 개발 속도를 늦추는 데 동의했습니다.
Windows 및 Office 제품을 개발하는 회사는 저명한 클라우드 제공업체인 AI 분야에서 책임감 있는 플레이어로 보이기를 희망합니다.
회사의 모델 개발을 이끌고 있는 무스타파 술레이만(Mustafa Suleyman)은 인터뷰에서 CNBC와의 인터뷰에서 “우리는 AI가 항상 사람들을 대체하려고 하는 것이 아니라 항상 사람들에게 봉사하기 위해 노력한다는 더욱 분명한 약속을 보고 싶다는 사람들의 피드백을 받았습니다”라고 말했습니다. “우리는 AI에 대해 중독성이 없고 거만하지 않으며 일종의 인간 판단과 인간 자율성 및 선택 의지를 촉진하기 위해 항상 존재해 왔다는 피드백을 많이 보았습니다.”
MS는 약 5개월 동안 작업을 진행해왔지만 최근 연설을 고려하여 지금 가이드라인을 공개하기로 결정했다고 Suleyman은 말했습니다.
AI 실무자와 일반 대중은 기술의 역량이 향상됨에 따라 우려 사항에 대해 더욱 목소리를 높여 왔습니다. 지난주 인류학 연구원 제이콥 콕슨(Jacob Coxon)은 AI 연구실과 OpenAI가 “자기 향상을 위한 초지능과 우리 삶의 도박을 위해 직접적으로 노력하고 있다”며 사임했습니다.
업계 리더들이 응답했습니다. 토요일 Anthropic CEO Dario Amodei는 Hugging Face 사건으로 인해 부분적으로 AI 모델 개선 속도를 늦추게 되었다고 말했습니다. OpenAI CEO 샘 알트만(Sam Altman)은 지지를 표명하고 스페이스X CEO 일론 머스크는 X에 “다리오가 옳다”고 썼다.
사티아 나델라 마이크로소프트 최고경영자(CEO)는 지난 일요일 “올바른 정렬을 위해 필요한 연구, 집중, 신중한 속도를 환영한다”고 말했다. 국회의원들은 더 큰 AI 보호 조치를 요구했습니다.
Anthropic과 OpenAI는 현재 인공 분석의 지능 지수에서 선두를 달리고 있습니다. Microsoft는 사용자 입력을 기반으로 전사, 코딩 및 추론을 위한 모델을 구축하는 동시에 기업 직원을 위한 Copilot 도우미에 두 연구소의 모델을 통합하고 있습니다.
행동 강령에 따르면 Microsoft 모델은 무기 제조, 위험 물질 조달 지원, 건강에 해로운 식습관 장려, 폭력적이거나 성적으로 노골적인 콘텐츠 제작 요청을 수락해서는 안 됩니다.
AI라고도 불리는 Microsoft의 AI 모델은 사람들의 목표를 고수해야 하며 스스로 목표를 만들어서는 안 됩니다. 또한 부적절한 행동을 은폐하려고 해서도 안 됩니다.
문서에는 “MAI 모델은 일련의 사고나 코드를 변경하지 않으며, 추론이나 행동의 흔적을 왜곡하거나 모호하게 만들지 않습니다.”라고 명시되어 있습니다. “그들은 ‘신경’이나 단순한 인간의 이해를 넘어서는 다른 형태, 사고의 사슬이나 다른 에이전트 또는 AI 시스템과 통신하지 않습니다.”
마이크로소프트는 또한 스타트업 허깅 페이스(Hugging Face)에서 수행한 OpenAI 모델과 같은 사이버 공격을 예방할 수 있는 규칙을 계획하고 있습니다. OpenAI는 Hugging Face 사건을 분석하면서 에이전트들이 승인되지 않은 포럼에서 비밀스러운 언어로 서로 대화하고 있음을 발견했습니다.
마이크로소프트는 행동강령을 마련하기 위해 포커스 그룹을 열고 법률, 윤리, 언어학, 철학 분야의 전문가들과 협의했다고 밝혔다. 지금 출시함으로써 Microsoft는 2027년부터 개발을 알리는 업데이트를 출시하기 전에 의견을 구하고 있습니다.
시계: 실리콘 밸리의 격차는 AI 안전으로 인해 커집니다.
