Anthropic CEO 다리오 아모데이(Dario Amodei):

Anthropic CEO이자 공동 창립자인 Dario Amodei는 인공 지능 개발에 대해 “나는 거짓말을 하지 않을 것입니다. 실제 위험이 있습니다”라고 말했습니다. “그리고 나는 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 너무 오랫동안 거짓말을 했다고 생각합니다.”

그리고 가장 큰 위험은 인류의 종말일 수 있다고 전 Anthropic 연구원 Jacob Coxon은 지난 화요일 소셜 미디어에서 경고하면서 Anthropic과 OpenAI는 “목숨을 건 도박” 스스로 발전하는 초지능의 발달과 함께.

콕슨은 목요일 CBS 뉴스에 “‘터미네이터’나 공상 과학 소설과 크게 다르지 않은 것 같다”고 말했다. “그는 우리를 죽일 만큼 똑똑해질 거예요.

이에 대해 Amodei는 어제 샌프란시스코에 있는 Anthropic 본사에서 “Sunday Morning”에서 “진행이 예전만큼 빨라질 때 실제로 어떨지 충분히 이해하지 못했다고 생각합니다.”라고 말했습니다.

그는 AI의 발전이 기하급수적인 곡선을 그리며 점점 더 가파르게 변하기 시작했다고 말했습니다. 그것이 무엇을 의미하는지 묻는 질문에 Amodei는 “오늘 우리가 당황해야 한다는 의미는 아닙니다. 모든 것을 폐쇄해야 한다는 의미는 아닙니다. 하지만 저는 이것이 경고 신호라고 말하고 싶습니다. 속도를 늦춰야 한다는 경고 신호입니다.”라고 말했습니다.

토요일에 발표된 에세이에서 Amodei는 전체 기술 산업이 AI 기능의 “속도를 늦추기” 위해 협력해야 한다고 썼습니다.

Anthropic이 더 발전된 모델 출시를 중단할 것인지 묻는 질문에 Amodei는 “그런 의미가 아닙니다. 즉, 우리가 출시하는 모든 세대의 모델이 제대로 테스트되었는지 확인해야 한다는 의미입니다.”라고 대답했습니다.

이를 시도하기 위해 Amodei는 Anthropic이 독립적인 검토자에게 해당 모델에 대한 영구적인 액세스 권한을 제공할 것이라고 말합니다. “누군가 AI 모델을 구축할 때마다 해당 회사가 약속한 안전 관행을 따르고 있는지 확인할 수 있는 제3자 평가자가 있습니다. 이는 마치 식품 검사관과 같습니다.”라고 그는 말했습니다.

그러나 인공지능 전문가들은 그것만으로는 충분하지 않다고 말하고 Amodei는 연방 규정을 지지한다며 이에 동의합니다. 지금까지 제안된 법안은 초지능을 전면적으로 금지하는 것부터 위험한 AI를 막을 수 있는 의무적인 “킬 스위치”까지 다양합니다.

Amodei는 “AI 킬 스위치가 좋은 생각일 수도 있다”고 말했습니다. “그러나 나는 금지, 완전한 금지가 올바른 접근 방식이라고 생각하지 않습니다. 첫째, 우리는 결코 엄청난 혜택을 얻지 못할 것이고 의료 치료도 받지 않을 것이라는 생각은 나에게 잘 맞지 않습니다. 둘째, 이 기술은 권위주의 국가를 포함한 다른 나라에서 구축될 것입니다.”

중국이 그러지 않으면 미국이 AI 개발을 늦추어야 하는지 묻는 질문에 Amodei는 “그것이 가장 어려운 딜레마입니다. 그것이 우리 상황의 가장 어려운 측면입니다”라고 말했습니다.

그는 구소련과의 핵무기 거래를 잠재적인 모델로 보고 있지만 기대치조차 낮다고 경고한다. “장기적인 것은 AI 진행 속도에 대한 속도 제한을 설정하기 위해 협력하는 것”이라고 그는 말했습니다. “내 생각에는 그것이 매우 어려울 것 같다. 왜냐하면 군사적 이점을 얻을 수 있는 인센티브가 너무 크기 때문이다. 그리고 솔직히 그것이 가능한지는 모르겠지만 노력해야 한다.”

인류의 운명이 위태로워 보이는 상황에서, 아모데이는 우리가 어디로 가는지에 대해 얼마나 개인적인 책임감을 느끼고 있습니까? 그는 “이 기술이 민간 기업에 의해 구축된다는 것은 항상 매우 이상하다는 것이 내 생각이다”고 말했다. “사람들은 항상 나에게 이런 질문을 합니다. 왜 이것은 정부가 건설하지 않는 걸까요? 그리고 가장 이상한 점은 나도 그 의견에 동의한다는 것입니다. 불편합니다.”

정부의 기술을 포기할 의향이 있는지 묻는 질문에 Amodei는 “정부의 올바른 조합에 대해 걱정합니다. 한 정부가 한 회사만큼 쉽게 이 기술을 남용할 수 있다는 것이 걱정됩니다. 하지만 민주적으로 선출된 정부의 조합은 양도에 대해 잘 모르지만 일종의 감독, 일종의 공유 거버넌스라고 생각합니다.”라고 말했습니다.

문제는 더 이상 AI가 제약을 요구할 만큼 강력해질지 여부가 아니라 누가 조치를 취할 것인가입니다.

“우리가 올바른 방식으로 구축한다면 나쁜 일이 일어날 가능성은 매우 낮다고 생각합니다”라고 그는 말했습니다. “잘못된 방식으로 구축하면 나쁜 일이 일어날 가능성이 매우 높습니다.”

웹 독점: Dario Amodei와의 심층 인터뷰 보기(비디오)

자세한 내용은 다음을 참조하세요.

존 굿윈(John Goodwin)과 더스틴 스티븐스(Dustin Stephens)가 제작한 스토리. 편집자: 제니퍼 포크.

자세히 보기: