Die neue KI -Suchfunktion von Anthropic durchgeht das Web für Antworten durch das Web

Vorsicht über Zitate und Quellen

Claude -Benutzer sollten gewarnt werden, dass große Sprachmodelle (LLMs) wie solche, die Claude sind berüchtigt zum Schleichen in plausible klingende konfabulierte Quellen. A Jüngste Umfrage zur Zitiergenauigkeit Nach LLM-basierten Websuchassistenten zeigten Assistenten eine Fehlerrate von 60 Prozent. Diese bestimmte Studie enthielt keine neue Suchfunktion von Anthropic, da sie vor dieser aktuellen Version stattgefunden hat.

Bei der Verwendung von Websuche bietet Claude Zitate für Informationen, die sie aus Online -Quellen enthält, und hilft den Benutzern angeblich zu helfen, Fakten zu überprüfen. Aus unseren informellen und unwissenschaftlichen Tests schienen die Suchergebnisse von Claude auf einen Blick ziemlich genau und detailliert zu sein, aber das ist keine Garantie für die allgemeine Genauigkeit. Anthropic hat keine Suchgenauigkeitsbenchmarks veröffentlicht, sodass unabhängige Forscher dies wahrscheinlich im Laufe der Zeit untersuchen werden.

Selbst wenn die Claude -Suche beispielsweise 99 Prozent genau wäre (eine Zahl, die wir als Illustration ausmachen), kann die 1 -prozentige Chance, dass es falsch ist, zurückkommen, um Sie später zu verfolgen, wenn Sie es blind vertrauen. Bevor Sie eine Informationsquelle annehmen, die von Claude (oder einem AI-Assistenten) zu einem aussagekräftigen Zweck geliefert wird, überprüfen Sie sie sehr sorgfältig mit mehreren unabhängigen Nicht-AI-Quellen.

Eine Partnerschaft mit Brave unter der Motorhaube

Hinter den Kulissen sieht es so aus, als würde anthropische Partnerschaft mit einer Partnerschaft eingerichtet Mutige Suche Um die Suchfunktion von einem Unternehmen, Brave Software, mit Strom zu versorgen, vielleicht am besten bekannt für seine Webbrowser -App. Brave Search markte selbst als “private Suchmaschine”, die sich im Einklang mit der Vermarktung von Anthropic selbst als ethische Alternative zu großen technischen Produkten anfühlt.

Simon Willison entdeckte die Verbindung zwischen anthropisch und mutig durch Anthropics Subprozessorliste (Eine Liste von Diensten von Drittanbietern, die anthropisch für die Datenverarbeitung verwendet), die am 19. März mutige Suche hinzugefügt wurden.

Er weiter demonstriert Die Verbindung in seinem Blog bittet Claude, nach pelikanischen Fakten zu suchen. Er schrieb: “Es führte zu einer Suche nach” interessanten pelikanischen Fakten “und die zehn Ergebnisse, die es zeigte, als Zitate genau zu dieser Suche nach Brave standen.” Er fand auch Beweise bei Claude’s eigene Ausgängeauf die “BravesearchParams” -Heurmen bezog.

Die tapfere Engine unter der Haube hat Auswirkungen auf Einzelpersonen, Organisationen oder Unternehmen, die Claude möglicherweise den Zugriff auf ihre Websites verhindern möchten, da der Webcrawler von Brave vermutlich die Webindizierung durchführt. Anthropic hat nicht erwähnt, wie Websites oder Unternehmen die Funktion abgeben könnten. Wir haben uns zur Klärung an Anthropen gewandt.