Glossar · AIZuletzt aktualisiert: 2. September 2026

Was ist GGUF?

GPT-Generated Unified Format

Ein Dateiformat, das für den effizienten Betrieb großer KI-Modelle auf PCs entwickelt wurde.

Definition

GGUF ist eine Verpackungsmethode, die es Modellen ermöglicht, flüssiger zwischen dem Prozessor und der Grafikkarte Ihres Computers zu agieren. Indem das Modell in einer einzigen Datei gehalten wird, vereinfacht es die Installation und ermöglicht eine ausgewogenere Nutzung der Hardwareressourcen. Es ist zum Standard für diejenigen geworden, die große Modelle auf heimischer Hardware ausführen möchten.

Analogie: Es ist wie eine spezielle Kompressionstasche, in die man eine riesige Bibliothek packen und mit sich führen kann.

So funktioniert es

Wenn Sie das Modell herunterladen, erhalten Sie normalerweise eine einzelne Datei mit der Endung .gguf. Sie können diese Datei in lokale KI-Ausführungstools laden und sofort mit der Nutzung beginnen. Sie müssen sich nicht mit zusätzlicher Installation oder komplexen Softwarekonfigurationen herumschlagen.

Wo es eingesetzt wird

Es wird in lokalen KI-Anwendungen verwendet, insbesondere in Tools wie LM Studio oder Ollama.

Häufig verwechselt mit

Es kann mit allgemeinen Dateiformaten oder reinen Komprimierungsmethoden verwechselt werden.

Häufige Fragen

Warum sollte ich GGUF verwenden?

Es ermöglicht Ihnen, die Größe und Geschwindigkeit des Modells einfach an die Leistung Ihres Computers anzupassen.

Funktioniert jedes Modell mit GGUF?

Ja, GGUF-Versionen der meisten gängigen Modelle werden von der Community erstellt und geteilt.