Coxon에 따르면 가장 대답하기 어려운 질문은 AI 종말이 어떤 모습일 것인가였습니다.
Amodei의 발언에서 강조된 위험 중 하나는 슈퍼컴퓨터처럼 행동하는 로봇 떼가 인터넷을 장악할 수 있다는 것입니다.
Coxon은 시나리오가 6개월에서 1년 내에 현실화될 수 있다고 말했습니다.
Coxon의 사임에 대해 인류학 대변인은 BBC 뉴스에 다음과 같이 말했습니다. “우리는 AI가 엄청난 이점과 전례 없는 위험을 모두 가져올 것이라는 점을 항상 투명하게 밝혀 왔습니다.
“이러한 위험을 해결하기 위해 우리는 업계에서 가장 강력한 보증을 갖춘 모델을 계속해서 구축하고 있습니다.”
대변인은 이 회사가 AI 모델의 작동 방식을 연구하는 선구자라고 덧붙였습니다. 개발로 인해 발생하는 위험을 완화하기 위한 프레임워크를 최초로 게시했으며, 모델을 “공격적으로” 테스트하고 “AI 오정렬” 사고를 제어하고 예방하는 데 도움이 되는 결과를 게시했습니다.
“이 작업은 또한 우리가 강력한 모델을 출시하는 방식을 보조하기 위해 업계가 합법적이고 검증 가능한 협력 방식을 채택함으로써 세계가 이익을 얻을 것이라고 믿는 이유이기도 합니다.”라고 그들은 말했습니다.
Coxon은 그의 동료들이 위험이 빠르면 향후 2년 안에 나타날 수 있다고 우려하고 있다고 말했습니다.
그는 AI 회사 직원들이 “인생에서 무엇을 할지 계획하고 일이 미칠 영향에 대해 생각하고 있다”고 말했고, 일부는 “AI의 급속한 발전으로 인한 불안정성이 너무 무서워 어딘가에 땅을 사려고 생각하고 있다”고 말했다.
“그들은 모두 기술 작업을 하면서 매일 그 생각을 머릿속에 간직합니다.”
그러나 Coxon은 AI의 미래에 대해 어느 정도 낙관적이었습니다. BBC에 이 기술을 연구하는 사람들은 “질병을 해결하고 모든 사람의 삶을 개선하는 것”과 같은 것의 “긍정적인 측면을 정말로 보고 싶어합니다”라고 말했습니다.
