Die Gewinner der Turing -Preisträger warnen vor der unsicheren Bereitstellung von KI -Modellen

Bleiben Sie mit kostenlosen Updates informiert

Einfach anmelden Künstliche Intelligenz Myft Digest – direkt an Ihren Posteingang geliefert.

Zwei Pioniere des Verstärkungslernens, eine wissenschaftliche Technik, die für den Boom für künstliche Intelligenz von grundlegender Bedeutung war, haben vor dem Gewinn des diesjährigen Turing Award vor dem unsicheren Einsatz von KI -Modellen gewarnt.

Andrew Barto, emeritierter Professor an der Universität von Massachusetts, und Richard Sutton, Professor an der Universität von Alberta und ehemaliger Forschungswissenschaftler bei DeepMind, haben den $ 1 -mn -Preis vom Association for Computing -Maschinerie zur Entwicklung der bahnbrechenden Methode gewonnen.

Barto und Sutton entwickelten in den 1980er Jahren Verstärkungslernen, nachdem sie von der Psychologie inspiriert wurden und wie Menschen lernen. Die Technik für maschinelles Lernen, die KI -Systeme für die gewünschten Weise belohnt, hat dazu beigetragen, den Erfolg einiger der weltweit führenden KI -Gruppen wie OpenAI und Google zu betreiben.

Die Gewinner der Auszeichnung, die oft als Nobelpreis von Computing bezeichnet wird, sagten, sie seien besorgt über KI -Unternehmen, die sich beeilen, Produkte zu starten, bevor sie sie gründlich testen.

“Es ist keine gute Ingenieurpraxis, Software für Millionen von Menschen ohne Schutz zu veröffentlichen”, sagte Barto und verglich sie mit dem Aufbau einer Brücke und dem Testen, indem sie sie benutzen lassen.

„Die Ingenieurpraxis hat sich entwickelt, um zu versuchen, die negativen Folgen der Technologie zu mildern, und ich sehe nicht, dass die Entwicklung von Unternehmen, die sich entwickeln, praktiziert werden“, fügte er hinzu.

Die Auszeichnung, die nach dem britischen Mathematiker Alan Turing benannt ist, erfolgt danach AI -Durchbrüche wurden auch sowohl in den Nobelpreisen der Chemie als auch in der Physik im Oktober anerkannt. Dadurch wurde die Bedeutung von Computerwerkzeugen und Datenwissenschaften für die Knackung komplexer wissenschaftlicher Probleme in weitaus kürzeren Zeitskalen hervorgehoben.

„Die Tools (Barto und Sutton), die entwickelt wurden, bleiben eine zentrale Säule des KI -Booms und haben große Fortschritte erzielt, legionen von jungen Forschern angezogen und investiert Milliarden von Dollar an Investitionen. (Verstärkungslernen) Die Auswirkungen werden in die Zukunft fortgesetzt “, sagte Jeff Dean, Senior Vice President bei Google, der den Preis gesponsert hat.

Google DeepMind nutzte die Technik, um Alphago zu entwickeln, ein KI -System, das menschliche Spieler im Spiel lag, einen großen Meilenstein in der KI -Forschung. OpenAI verwendete auch eine Art Verstärkungslernen, die auf menschlichem Feedback beruht, um die Ausgabe von Chatgpt zu steuern.

Aber sowohl Barto als auch Sutton warnten vor dem aktuellen Tempo der KI -Entwicklung, bei dem Unternehmen auf den Marktmodellen rennen, die leistungsstarke, aber anfällig für Fehler sind, wodurch beispiellose Mengen an Finanzmitteln und investieren Milliarden in Infrastrukturen wie Rechenzentren zum Ausbilden und Betrieb von KI investieren.

Big Tech -Gruppen sagten, die KI -Ausgaben könnten in diesem Jahr 320 Mrd. USD übersteigen, während OpenAI, das 2022 Chatgpt startete, derzeit 40 Mrd. USD für neue Finanzmittel bei einer Bewertung von 260 Mrd. USD sammelt.

Barto kritisierte den KI -Sektor dafür, dass er durch geschäftliche Anreize motiviert war, anstatt die KI -Forschung zu fördern. “Die Idee, riesige Rechenzentren zu haben und dann eine bestimmte Menge für die Verwendung der Software zu berechnen, ist motiviert Dinge, und das ist nicht das Motiv, das ich abonnieren würde”, fügte er hinzu.

OpenAI hat argumentiert, dass es durch eine traditionellere Unternehmensstruktur weitere Investitionen freischalten muss, um die Gründungsmission des Unternehmens zu erreichen, um sicherzustellen, dass künstliche allgemeine Intelligenz (AGI) – ein Szenario, in dem Computersysteme ein ähnliches oder überlegenes Intelligenzstufe für den Menschen erreichen – die Menschheit.

Aber Sutton entließ die Erzählung von Tech -Unternehmen in AGI als „Hype“. “Agi ist ein seltsamer Begriff, weil es immer KI gegeben hat und Menschen, die versucht, Intelligenz zu verstehen.” Er fügte hinzu, dass „Systeme, die intelligenter sind als Menschen“, irgendwann durch ein besseres Verständnis des menschlichen Geistes passieren werden.

Barto und Sutton kritisierten auch den Versuch von US -Präsident Donald Trump, die Bundesausgaben für wissenschaftliche Forschung zu senken und Mitarbeiter der US -amerikanischen Wissenschaftsagenturen zu entlassen.

Dies könnte verheerende Konsequenzen für die Dominanz der USA in der Wissenschaft haben, sagte Barto, der es „falsch und eine Tragödie nicht nur für dieses Land, sondern für die Welt“ nannte.

Er fügte hinzu, dass die Möglichkeiten, die Art von Forschung durchzuführen, die ihre Arbeit im Verstärkungslernen ermöglichen würden, ohne die Freiheit, abstrakte, unbewiesene Konzepte zu erforschen.

Trotz ihrer Bedenken sind beide Wissenschaftler optimistisch das Potenzial für Verstärkungslernen in Kombination mit KI, um die Welt positive Ergebnisse zu erzielen.

„Wir haben das Potenzial, weniger gierig und egoistisch zu werden und sich dessen bewusst zu werden, was in anderen vor sich geht. . . Es gibt viele Dinge in der Welt, aber zu viel Intelligenz ist nicht einer von ihnen “, sagte Sutton.