In einem am Mittwoch veröffentlichten Richtlinienpapier, der ehemalige Google-CEO Eric Schmidt, skalierter KI-CEO Alexandr Wang und Dan Hendrycks, Center for AI-Sicherheitsdirektor, sollten die USA nicht an einem Project-Push in Manhattan-Projekt nach der Entwicklung von KI-Systemen mit „Superhuman“ -Ergarten, auch bekannt als AGI, verfolgen.
Das Papier mit dem Titel “Superintelligence -Strategie”Behauptet, dass ein aggressives Angebot der USA, um die Superintelligent -KI -Systeme ausschließlich zu kontrollieren, eine heftige Vergeltungsmaßnahme aus China in Form eines Cyberangriffs ausführen könnte, was die internationalen Beziehungen destabilisieren könnte.
“(A) Das Manhattan-Projekt (für AGI) geht davon aus, dass Rivalen eher zu einem dauerhaften Ungleichgewicht oder einem Omnizid eingehen, als sich zu verhindern”, schreiben die Mitautoren. “Was als Drang für eine Superwaffe- und globale Kontrollrisiken beginnt, die feindliche Gegenmaßnahmen und eskalierende Spannungen veranlasst, wodurch genau die Stabilität, die die Strategie sicherstellt, untergraben.”
Mitautorisiert von drei hoch einflussreichen Persönlichkeiten in der Amerikas KI-Industrie, kommt das Papier nur wenige Monate nach a Die US-Kongresskommission schlug einen „Projektstil in Manhattan“ vor Bemühungen, die AGI -Entwicklung zu finanzieren, modelliert in den 1940er Jahren nach Amerikas Atombombenprogramm. US -Energieminister Chris Wright sagte kürzlich, die USA sei bei “Der Beginn eines neuen Manhattan -Projekts”Auf KI, während er neben OpenAI-Mitbegründer Greg Brockman vor einem Supercomputer-Standort steht.
Die Superintelligence-Strategie-Papier stellt die Idee in Frage, die in den letzten Monaten von mehreren amerikanischen Politik- und Branchenführern eingestuft wurde, dass ein von der Regierung unterstütztes Programm, das AGI verfolgt, der beste Weg ist, um mit China zu konkurrieren.
In der Meinung von Schmidt, Wang und Hendrycks befinden sich die USA in einer AGI -Pattsituation, die nicht unähnlich ist gegenseitig gesicherte Zerstörung. Auf die gleiche Weise, wie globale Mächte keine Monopole über Atomwaffen suchen-was einen präventiven Streik eines Gegners auslösen könnte, argumentieren Schmidt und seine Mitautoren, dass die USA vorsichtig sein sollten, um äußerst mächtige KI-Systeme zu dominieren.
Während das Vergleich von KI -Systemen mit Atomwaffen extrem klingen mag, betrachten die Weltführer KI bereits für einen Top -militärischen Vorteil. Bereits die Pentagon sagt, dass KI dazu beiträgt, die Kill -Kette des Militärs zu beschleunigen.
Schmidt et al. Führen Sie ein Konzept ein, das sie als gegenseitig versicherte KI -Fehlfunktion (MAIM) bezeichnen, bei dem Regierungen bedrohliche KI -Projekte proaktiv deaktivieren konnten, anstatt darauf zu warten, dass die Gegner AGI waffen.
Schmidt, Wang und Hendrycks schlagen vor, dass die USA ihren Fokus vom „Gewinn des Rennens bis zur Superintelligence“ auf die Entwicklung von Methoden verlagern andere Länder abschrecken vom Erstellen von Superintelligent AI. Die Co-Autoren argumentieren, dass die Regierung „das Arsenal von Cyberangriffen ausbauen sollte, um bedrohliche KI-Projekte zu deaktivieren“, die von anderen Nationen kontrolliert werden, und den Zugang der Gegner auf fortschrittliche KI-Chips und Open-Source-Modelle zu begrenzen.
Die Co-Autoren identifizieren eine Dichotomie, die in der KI-Politikwelt gespielt hat. Es gibt die „Doomere“, die glauben, dass katastrophale Ergebnisse der KI -Entwicklung eine ausgemachte Schlussfolgerung sind und sich für Länder befürworten, die den Fortschritt der KI verlangsamen. Auf der anderen Seite gibt es die „Strauße“, die glauben, dass die Nationen die KI -Entwicklung beschleunigen sollten und im Wesentlichen nur hoffen, dass alles funktionieren wird.
Das Papier schlägt einen dritten Weg vor: einen gemessenen Ansatz zur Entwicklung der AGI, die Verteidigungsstrategien priorisiert.
Diese Strategie ist besonders bemerkenswert von Schmidt, der zuvor über die Notwendigkeit der USA gesanglich war, aggressiv mit China bei der Entwicklung fortschrittlicher KI -Systeme zu konkurrieren. Vor wenigen Monaten veröffentlichte Schmidt ein Op-Ed-Sprichwort Deepseek markierte einen Wendepunkt im KI -Rennen der Amerikas mit China.
Die Trump -Administration scheint in der Amerikas KI -Entwicklung vor dem Vormarsch zu sein. Wie die Co-Autoren feststellen, gibt es jedoch nicht in einem Vakuum die Entscheidungen Amerikas um AGI.
Während die Welt zu sehen, wie Amerika die Grenze von KI vorantreibt, schlagen Schmidt und seine Co-Autoren vor, dass es klüger sein könnte, einen defensiven Ansatz zu verfolgen.
Source link
