Geschäftsführer von Anthropic인 Dario Amodei는 소위 KI-Agenten이 인터넷을 장악하는 것에 대해 경고합니다. Angesichts der rasanten Entwicklung von künstliche Intelligenz konne ein solcher Agentenshwarm in sechs bis zwölf Monaten in der Lage sein, “das gesamte Internet zu überkehren” und Schäden in Höhe von Hunderten Billionaire Dollar 홈페이지 publichkeiten Essaio.
Claude 또는 ChatGPT와 같은 기존 KI-Chatbot은 질문이나 명령(“프롬프트”)을 기다린 후 답변합니다. KI-Agenten selbstständig, um ein gebenes Ziel zu erreichen.
Vergangene Week hatten KI-Agenten von OpenAI eine deutsche Website gekapert und in ein schwarze Brett für andere KI-Agenten verwendet; die Vernauttoren hielten den Vorfall zwei Monate lang unter Verschluss. 또한 OpenAI-Agents는 7월에 Platform Hugging Face를 공격했습니다.
“Der Progress wird immer noch schnell erscheinen”
Essay schlägt Amodei deswegen drei Schritte vor, wie KI-Konzerne die Entwicklung verlangsamen und neue Modelle besser prüfen könn처럼 보입니다. “Der Fortschritt wird immer noch schnell erscheinen”, Amodei가 씁니다. »Wir müssen die gewontene Zeit 현명하게 nutzen.«
KI berge »graviende« Risiken, schreibt Amodei. “Die Technologie nicht zu entwinkelten, beraubt die Menschheit ihrer Prostellät oder überlässt KI autoritären Mächten”이라고 그는 덧붙였습니다. Zugleich sei eine “zu schnelle Entwicklung leichtsinnig”.
Am Donnerstag, Anthropic hatte einen Threatungsbericht가 출판했습니다. in dem 자세하게 beschreibung wird, wie verschiedene Actere die Claude-KI-Modelle des Unternehmens für 불법 Aktivitants genutz haben – von Überwachung und Betrug of CyberOperation is Biowaffen. Zugleich trat der Anthropic-Forscher Jacob Coxon zurück und teilte mit, dass die »KI-Entwickler ernstaft glauben, dass die KI uns alle bis zum Ende des Jahrzehnts könnte töten«.
인류는 Gutachter 외부에 삽입될 것입니다.
Amodei ruft nach eigen Angaben nicht dazu auf, das Modelltraining oder den technischen Fortschritt zu stoppen. 그러나 Unternehmen müssten sich는 모델을 위험으로부터 보호할 충분한 시간을 갖고 있습니다. 그의 회사는 외부 감사인을 고용하여 그들에게 내부 Risikobewertungsprozessene에 대한 액세스 권한을 부여할 것이라고 Amodei는 썼습니다. KI-Unternehmen sollten freiwillig zusammenarbeiten, um Standards festgulegen, da immer mehr US-Gesetzgeber neue Vorschriften zur Regulierung von KI-Systemen Demandern.
Vor einigen Wochen unterzeichneten mehr als 1,000 Mitarbeiter führender KI-Unternehmen, daunter Amodei, eine 청원, in der sie die Hilfe der US-Regierung förderden, um »die Entwicklung automatisierter KI bewusst zu throttlen.
라이벌 Musk와 Altman이 Vorschlag를 지원합니다.
Anthropic-Rivalen OpenAI와 SpaceX, Sam Altman과 Elon Musk, Amodei의 수장입니다. “Dario hat recht”는 X와 Amodeis Essay의 제목에 Musk를 썼습니다. »Ich stimme Dario zu, dass wir das Tempo an der Pionierfront drosseln müssen«, schrieb dann auch Altman auf X. Er hatte bereits vor Kurzem gesagt, dass Entwickler womöglich freiwillig einen Gang zurückschalten müsthenmüsten, damitre Gesagt. »Die Obligation, unfahgängigen Gutachtern einen Zugang wie Mitarbeiter zu gewähren, ist eine grande Idee und wir werden das Gleiche tun. Wir werden 곧 mehr dazu mitteilen«, Altman이 덧붙였습니다.
나는 죽을 것이다 파이낸셜 타임즈schreibt, haben sich Führungskräfte bei Google DeepMind und Meta, 3개의 KI-Labore 중 가장 중요한 미국 경쟁자, bislang noch nicht dazu geäußert. 그러나 Google DeepMind의 Mitbegründer und Vorsitzinder인 Demis Hassabis는 이미 7월에 에세이에서 dass der sante Fortschritt der KI einen »neuen Ansatz für das Testen« von Pioniersystemen erfordere라고 경고했습니다.
