Googles Gemma 3 ist eine Open Source, Single-GPU-KI mit einem 128K-Kontextfenster

Laut Google ist Gemma 3 das “weltbeste Einzelfahrermodell” der Welt. Allerdings sind nicht alle Versionen des Modells ideal für die lokale Verarbeitung. Es ist in verschiedenen Größen erhältlich, von einem petite-nur-Milliarde-Parameter-Modell, das auf fast alles bis zur klobigen 27-Milliarden-Parameter-Version überragt kann, die RAM verschlingt. In Modi mit niedrigerer Präzision könnte das kleinste Gemma 3-Modell weniger als eine Gigabyte Speicher einnehmen, aber die supergroßen Versionen benötigen sogar bei 4-Bit-Präzision 20 GB-30 GB.

Aber wie gut ist Gemma 3? Google hat einige Daten bereitgestellt, die anscheinend erhebliche Verbesserungen gegenüber den meisten anderen Open -Source -Modellen zu zeigen scheint. Mit der ELO-Metrik, die die Benutzerpräferenz misst, bläst Gemma 3 27b nach Gemma 2, Meta Llama3, OpenAI O3-Mini und anderen in Chat-Funktionen. In diesem relativ subjektiven Test wird Deepseek R1 nicht ganz einholt. Es wird jedoch hier auf einem einzelnen Nvidia H100 -Beschleuniger ausgeführt, während die meisten anderen Modelle eine Knallerung von GPUs benötigen. Laut Google ist Gemma 3 auch fähiger, wenn es um Mathematik, Codierung und folgende komplexe Anweisungen geht. Es bietet jedoch keine Zahlen, um das zu sichern.

Google verfügt über das neueste Gemma -Modell, das online im Google AI Studio verfügbar ist. Sie können das Training des Modells auch mit Tools wie Google Colab und Vertex AI, oder einfach Ihre eigene GPU verwenden. Die neuen Gemma 3 -Modelle sind Open SourceSie können sie so aus Repositorys wie herunterladen Kagle oder Umarmtes Gesicht. Die Lizenzvereinbarung von Google beschränkt jedoch das, was Sie mit ihnen tun können. Unabhängig davon weiß Google nicht, was Sie auf Ihrer eigenen Hardware untersuchen, was der Vorteil ist, effizientere lokale Modelle wie Gemma 3 zu haben.

Egal was Sie tun möchten, es gibt ein Gemma -Modell, das auf Ihre Hardware passt. Benötigen Sie Inspiration? Google hat eine neue “Gemmaverse”Community, um Anwendungen hervorzuheben, die mit Gemma -Modellen erstellt wurden.