Der Autor des kalifornischen SB 1047, der umstrittenste KI -Sicherheitsrechnung des Landes 2024, ist mit einer neuen KI -Rechnung zurück, die das Silicon Valley aufrütteln könnte.
Scott Wiener, Senator des kalifornischen Staates, stellte a vor Neue Rechnung Am Freitag schützen die Mitarbeiter in führenden AI Labs und ermöglichen es ihnen, sich auszusprechen, wenn sie der Meinung sind, dass die KI -Systeme ihres Unternehmens ein „kritisches Risiko“ für die Gesellschaft sein könnten. Der neue Gesetzentwurf SB 53 würde auch einen öffentlichen Cloud -Computing -Cluster mit Calcompute erstellen, um Forschern und Startups die erforderlichen Rechenressourcen für die Entwicklung von KI zu geben, die der Öffentlichkeit zugute kommen.
Wieners letzter AI Bill, Kaliforniens SB 1047, löste im ganzen Land eine lebhafte Debatte darüber aus, wie man mit massiven KI -Systemen umgeht, die Katastrophen verursachen könnten. SB 1047 zielte darauf ab verhindern die Möglichkeit von sehr großen KI -Modellen, die katastrophale Ereignisse erzeugenwie zum Beispiel den Verlust von Leben oder Cyberangriffe, die mehr als 500 Millionen US -Dollar Schadensersatz kosten. Gouverneur Gavin Newsom hat die Gesetzesvorlage jedoch im September eingelegt, und sagte jedoch SB 1047 war nicht der beste Ansatz.
Aber die Debatte über SB 1047 wurde schnell hässlich. Einige Führer von Silicon Valley sagten SB 1047 würde den Wettbewerbsvorteil Amerikas beeinträchtigen In der globalen KI-Rasse und behauptete, die Rechnung sei von unrealistischen Befürchtungen inspiriert worden, dass KI-Systeme Science Fiction-ähnliche Doomsday-Szenarien bewirken könnten. In der Zwischenzeit behauptete Senator Wiener, dass einige Risikokapitalgeber in a tätig waren “Propaganda -Kampagne” gegen seine RechnungMit dem Combinators Behauptung, SB 1047, würde Startup -Gründer ins Gefängnis schicken, sei eine irreführende Experte irreführend.
SB 53 nimmt im Wesentlichen die am wenigsten kontroversen Teile von SB 1047 – wie Whistleblower -Schutz und die Einrichtung eines Calcomput -Clusters – in eine neue AI -Rechnung um.
Insbesondere scheut Wiener in SB 53 nicht vor dem existenziellen KI -Risiko. Die neue Rechnung schützt ausdrücklich Whistleblower, die glauben, dass ihre Arbeitgeber KI -Systeme schaffen, die ein „kritisches Risiko“ darstellen. Die Rechnung definiert ein kritisches Risiko als “vorhersehbares oder materielles Risiko, dass die Entwicklung, Lagerung oder Einstellung eines Fundamentmodells eines Entwicklers wie definiert zu einem Tod oder einer schweren Verletzung von mehr als 100 Menschen oder mehr als 1 Milliarde US -Dollar an Geld- oder Eigentumsrechten führen wird. “
SB 53 begrenzt Grenze AI -Modellentwickler – wahrscheinlich auch OpenAI, Anthropic und XAI -, sich gegen Mitarbeiter zu verweisen, die Informationen über Informationen an den Generalstaatsanwalt Kaliforniens, die Bundesbehörden oder andere Mitarbeiter offenlegen. Nach dem Gesetzentwurf müssten diese Entwickler bei bestimmten internen Prozessen, die die Whistleblower finden, an Whistleblowers zurückreichen.
In CalCompute würde SB 53 eine Gruppe einrichten, um einen öffentlichen Cloud -Computing -Cluster aufzubauen. Die Gruppe würde aus Vertretern der Universität von Kalifornien sowie anderen öffentlichen und privaten Forschern bestehen. Es würde Empfehlungen zum Erstellen von Calcompute, wie groß der Cluster sein sollte und welche Benutzer und Organisationen Zugriff darauf haben sollten.
Natürlich ist es sehr früh im Legislativverfahren für SB 53. Der Gesetzentwurf muss von den kalifornischen Legislativbehörden überprüft und verabschiedet werden, bevor er den Schreibtisch von Gouverneur Newsom erreicht. Die Gesetzgeber des Bundesstaates werden sicherlich auf die Reaktion des Silicon Valley auf SB 53 warten.
2025 ist jedoch möglicherweise ein schwierigeres Jahr, um die KI-Sicherheitsrechnungen im Vergleich zu 2024 zu verabschieden. Kalifornien hat im Jahr 2024 18 KI-bezogene Rechnungen verabschiedet, aber jetzt aber jetzt Es scheint, als hätte die KI -Doombewegung den Boden verloren.
Vizepräsident JD Vance signalisierte auf dem Paris AI Action Summit, dass Amerika nicht an KI -Sicherheit interessiert ist, sondern die KI -Innovation eher priorisiert. Während der von SB 53 festgelegte Calcompute -Cluster sicherlich als Fortschritt der KI angesehen werden könnte, ist unklar, wie die gesetzgeberischen Bemühungen um existenzielles KI -Risiko im Jahr 2025 abschneiden werden.
Source link
