Interessieren sich KI -Unternehmen wirklich um die Sicherheit?

Ich war schon immer verwirrt von der Art und Weise, wie Sam Altman, der Leiter von Openai, darüber spricht, was passieren wird, wenn künstliche Intelligenz menschliche Intelligenz einholt oder übertrifft.

Er gibt zu, dass es schwer zu kontrollieren sein wird, mit allen Arten von unangenehmen Nebenwirkungen ausgestattet ist und – nur möglicherweise – zivilisatorischer Zusammenbruch verursacht. Und dann sagt er, seine Firma raste, um es so schnell wie möglich aufzubauen.

Nimmt er die Sicherheitsprobleme ernst oder versucht er nur, einen freien Pass zu verdienen, indem er uns darüber veräppeln, er sei wirklich ein verantwortungsbewusster Bürger, der nach unseren Interessen Ausschau hält?

Ich denke jetzt wissen wir. Die Trump -Administration hat die KI -Branche gerade über das, was sie von der US -Politik unter seiner neuen Verwaltung wünschen, festgelegt. Die Antwort: Es ist Zeit für Washington, den Weg für den Sektor zu klären, damit er sich viel schneller bewegen kann, die Vorschriften verdammt sind.

Wenn Sie nach Beweisen dafür suchten, wie sich das Silicon Valley mit den politischen Winden verschoben hat, wären Sie schwer, etwas anderes so stark zu finden.

Unter der vorherigen Verwaltung predigten die größten KI -Unternehmen Vorsicht – zumindest in der Öffentlichkeit. Sie stimmten sogar zu, ihre mächtigsten Modelle externer Tests auszusetzen, bevor sie sie auf den Rest von uns freizusten. Das Biden White House sah dies als einen ersten Schritt an, der schließlich zu einer vollständigen Überprüfung der Regierung und der Lizenzierung von fortgeschrittener KI führen könnte.

Träume weiter. Donald Trump zerriss Bidens Executive Order auf KI während seines In der ersten Woche Zurück im Büro. Dann forderte seine Regierung Kommentare, um eine neue KI -Richtlinie zu formen – zuerst ein klassischer Fall von Shooting, und stellen Sie später Fragen.

In ihren Einsendungen zum Weißen Haus waren Unternehmen wie Openai, Meta und Google fast einstimmig: Die USA müssen ihren KI -Unternehmen helfen, schneller zu ziehen, wenn es hofft, China zu übertreffen. Die US -Bundesstaaten sollten die Tech -Giganten nicht mit stückweise Vorschriften zusammenschließen (da die Bundesregierung jahrelang am Steuer über die technische Regulierung eingeschlafen ist, würde dies so ziemlich Beschränkungen ausschließen). Das Weiße Haus sollte die Unsicherheiten über das Urheberrecht beenden und erklären, dass die Unternehmen in ihrem Recht, ihre Modelle an Daten zu schulen, die öffentlich zugänglich sind.

Sicherheit? Die Unternehmen haben dieses Wort weitgehend aus ihrem Wortschatz geschrubbt. Dies ist wahrscheinlich weise: Sie hätten alle die Erklärung des Vizepräsidenten JD Vances auf einem kürzlichen AI-Gipfel in Paris gehört, dass die „KI-Zukunft nicht durch Handwringing über die Sicherheit gewonnen wird“.

Ich habe nie daran gezweifelt, dass das KI -Rennen genau das war: ein Rennen. Viele der beteiligten Unternehmen sind Veteranen anderer Tech-Kämpfe für Gewinner. Sie hatten immer vereinfachte und eigennützige Möglichkeiten, zu beurteilen, ob das, was sie tun, im öffentlichen Interesse ist: Wenn Menschen auf etwas klicken, müssen sie mehr davon wollen. Das ist die schnelle Feedback -Schleife, die uns die Algorithmen gab, die den Social -Media -Boom fütterten. Was kann man nicht mögen?

Nach all den Beweisen für Schäden, die durch soziale Medien verursacht werden, denken Sie, dass Unternehmen wissen möchten, wie ihre KI Zuneigung der Welt ist, bevor sie sich beeilt, uns mehr davon zu geben. Die Beweise beginnen erst zu rinnen und – Überraschung, Überraschung – ist es nicht ermutigend.

Das Medienlabor von MIT kürzlich studierte Leute, die KI -Chatbots verwenden und stellten fest, dass die schwerere Verwendung eng mit „höherer Einsamkeit, Abhängigkeit … problematische Verwendung und niedrigere Sozialisierung“ korrelierte. Müssen wir die Lektion noch einmal lernen, dass die Technologie, die uns fesselt, uns möglicherweise nicht gut machen? Es scheint, dass wir es tun.

Wenn Sie sich besonders großzügig gefühlt haben, könnten Sie versuchen, dass die Tech -Unternehmen nur ihre Welten anpassen, um Trump zu geben, was er hören möchte. Vielleicht sind sie immer noch Sicherheit gewidmet und halten das vorerst einfach ruhig. Aber ich denke, es würde ungewöhnliche Großzügigkeit des Geistes dauern, um diese Schlussfolgerung zu erreichen.

Cristina, als Technologiekorrespondent in San Francisco, befassen Sie sich mit diesen KI -Unternehmen. Denken Sie, dass sie es mehr über die KI -Sicherheit ernsthaft sind oder haben sie all das über Bord in der Eile geworfen, als Erstes für künstliche allgemeine Intelligenz (AGI) zu sein? Ist dieser Drehpunkt nur ein Spiegelbild der neuen Stimmung in Washington und der Forderung des Weißen Hauses des Trumps nach der amerikanischen Dominanz? Oder sehen wir die Technologieunternehmen jetzt in ihren wahren Farben?

Empfohlenes Lesen

• Sie können dies unter „einem anderen der Dinge, von denen Sie befürchtet haben, dass sich aus Elon Musks Angriff auf die Staatsausgaben ergeben kann“ einreichen. Claire Jones von der FT schreibt, dass sich Ökonomen Sorgen machen Die Glaubwürdigkeit der wirtschaftlichen Daten der USA. Sie hätten wahrscheinlich nie gedacht, dass Sie das beratende Ausschuss für Wirtschaftsstatistik vermissen würden. Aber jetzt, wo es weg ist. . .

• Sind Trump -Anhänger bereit für Die Erosion von Programmen wie Medicaid Das mag sich in der Lage sein, wenn die Republikaner nach tieferen Kürzungen bei den Staatsausgaben suchen? Guy Chazan ging nach Bogalusa, Louisiana, um von den Wählern zu hören. Der Refrain: “Es kam nie in der Kampagne auf … Ich glaube nicht, dass die Leute es kommen sahen.”

• Wenn ich die Regeln ein wenig biegen und ein Video in die empfohlene Leseliste aufnehmen kann: In den vielen Jahren, in denen ich über Tech geschrieben habe (23, seit Sie fragen), habe ich noch nie gesehen, dass ein Unternehmen eine wichtige neue Technologie so gründlich dominiert, wie Chipmacher Nvidia in KI dominiert hat. Aber nichts dauert für immer. Dieses Video untersucht einige seiner größten Herausforderungen.

Cristina Criddle antwortet

Die führenden KI -Entwickler haben tiefe Wurzeln in Sicherheit: Google, bekannt für sein Mantra „nicht böse“; OpenAIs Mission, um sicherzustellen, dass KI der Menschheit zugute kommt; und ehemalige OpenAI -Mitarbeiter gründeten Anthropic, um sich auf verantwortungsbewusste KI zu konzentrieren.

Diese Labore führen bereits strenge interne Tests durch und führen bereits durch Veröffentlichung akademischer Papiere Und Systemberichtskarten Die wahrgenommenen Risiken aus jedem Modell auslegen und sie für ihre Gefahren einrangieren. Es gibt keinen Hinweis darauf, dass sich diese Verfahren ändern werden, aber es liegt an den Gesetzgebern und der Öffentlichkeit, zu entscheiden, ob diese Unternehmen, die ihre eigenen Hausaufgaben markieren, gut genug sind.

Außerdem hat der Aufstieg von Deepseek die Wahrscheinlichkeit erhöht, dass das erste Unternehmen, das AGI erreicht, in einem Land mit demokratischen Werten und Normen möglicherweise nicht in Betrieb ist.

Nachdem China die Dominanz bedroht und die neue Trump -Regierung über die Verhinderung von „Wok“ KI fest entschlossen ist, gab es einen Drehpunkt von „Sicherheit“ zu einem heißeren Begriff: „Sicherheit“. Das eigene AI -Sicherheitsinstitut der britischen Regierung hat im Februar an das AI Security Institute umbenannt. Regierungen und Forscher konzentrieren sich, wie diese Systeme von Gegnern in potenziellen Kriegsführung, Spionage oder Terrorismus verwendet werden können.

Trotz Europas BemühungenDie gesellschaftlichen und menschlichen Implikationen dieser Technologie scheinen deproriert zu sein. KI-Start-ups warnen häufig vor den Kosten für die Einhaltung und darüber, wie sie Innovationen behindern könnten, insbesondere in den Ländern mit den strengsten Regulierungsregimen.

Als ich Mike Krieger, Chief Product Officer bei Anthropic, nach dem besten Sicherheitsansatz unter der gegenwärtigen Regierung fragte, sagte er, das Unternehmen habe versucht, so viele Gespräche wie möglich zu beteiligen.

“Wir sind nicht da, um Politik zu machen, aber wir sind da, um die Politik so zu gestalten, dass wir glauben, dass wir zu guten Ergebnissen führen werden, ohne Innovation zu unterdrücken. Es gibt immer dieses Gleichgewicht”, sagte er.

Als Mitbegründer und ehemaliger Chief Technology Officer von Instagram ist Krieger nur allzu vertraut, wie Social Media sich auf die Demokratie und das Wohlbefinden seiner Benutzer auswirken kann. Während viele Parallelen zwischen den Risiken von sozialen Medien und KI gezogen wurden, haben wir immer noch nicht viel sinnvolle Regulierung oder Lösungen für die erstere. Wie viel Hoffnung können wir für Letzteres haben?

Wohl die Bedrohungen durch künstliche Intelligenz sind weitaus bedeutender und das Entwicklungstempo ist schnell. Als Chatgpt startete, sahen wir weit verbreitete Besorgnis von Führungskräften vor Ort, zitierten existenzielle Risiken und forderten ein Moratorium für leistungsstarke KI -Systeme.

Elon Musk unterstützte eine Pause in der Entwicklung und stellte doch Monate später sein eigenes KI-Start-up, XAI, ein und entwickelte mächtige Modelle und sammelte schnell 12 Mrd. USD. Die move-schnelle Haltung des Silicon Valley ist stärker als je zuvor, aber ist es gereift, dies zu tun, ohne Dinge zu brechen?

Ihr Feedback

Und jetzt ein Wort von unseren Swampianern. . .

Als Antwort auf “Wird Trump Schiffe wieder großartig machen?: “
„Ich frage mich, wie die Erfolgschancen für eine Verwaltung sein könnten, die keine Mittel für den Versand von Schiffbaubuilding zur Verfügung stellt, selbst wenn der Präsident an sie glaubt, und die Invasion von freundlichen Ländern (z. B. Kanada, Panama und Dänemark/Grönland) eher die Invasion von freundlichen Ländern bedrohen, oder sie mit Verbotshöhen, die sich mit einem Haufen mit hohem Tarifs (alle) als Chaoshilfe wenden, wodurch sich die Möglichkeiten, die sich mit dem Anbieter zu befassen. Alles andere als höhere, inflationäre Versandkosten für US -Unternehmen und Verbraucher. “ – David Gantz