Künstliche IntelligenzZuletzt aktualisiert: 23. Oktober 2026

Was ist Supervised Fine-Tuning?

SFT

Es handelt sich um den Prozess der Anpassung eines vortrainierten KI-Modells an eine bestimmte Aufgabe mithilfe von beschrifteten Datenpaaren.

Definition

Supervised Fine-Tuning ermöglicht es Basismodellen, die durch umfangreiche Datensätze allgemeine Sprachfähigkeiten erworben haben, auf ein bestimmtes Fachgebiet ausgerichtet zu werden. Bei diesem Prozess werden dem Modell direkte Beispieldaten in Form von Fragen und idealen Antworten präsentiert. Das Modell lernt durch die Analyse dieser beschrifteten Datenpaare, wie es korrekte Antworten auf die ihm gegebenen Anweisungen generiert.

Analogie: Dies ähnelt einem Arzt mit allgemeiner medizinischer Ausbildung, der sich durch das Studium dokumentierter Fälle auf eine bestimmte Krankheitsart spezialisiert.

So funktioniert es

Die Gewichtungen des Modells werden in geringem Maße basierend auf den Eingabe- und Ausgabemustern im vorbereiteten Datensatz aktualisiert. Durch die Berechnung der Fehlerrate wird sichergestellt, dass die vom Modell generierten Antworten sich den Zielantworten annähern. Dieser Vorgang trägt dazu bei, das Modell auf das gewünschte Format auszurichten, ohne dass es zu einer Überanpassung (Overfitting) kommt.

Wo es eingesetzt wird

Es wird verwendet, um sicherzustellen, dass Kundendienst-Bots antworten, die internen Unternehmensdokumenten entsprechen, und damit Programmierassistenten Ausgaben nach bestimmten Standards generieren.

Häufig verwechselt mit

Es kann mit dem allgemeinen Begriff Fine-Tuning verwechselt werden. Während Fine-Tuning ein allgemeiner Anpassungsüberbegriff ist, stellt Supervised Fine-Tuning die spezifische Phase dar, die mit beschrifteten Anweisungs- und Antwortpaaren durchgeführt wird.

Fragen und Antworten

Wie viele Daten werden für Supervised Fine-Tuning benötigt?

Abhängig von der Komplexität der zu entwickelnden Aufgabe reichen im Allgemeinen einige Hundert bis wenige Tausend qualitativ hochwertige Datenpaare aus.

Führt der SFT-Prozess dazu, dass das Modell seine allgemeinen Fähigkeiten vergisst?

Bei falsch konfigurierten oder übermäßig verlängerten Trainingsprozessen besteht für das Modell das Risiko, seine allgemeine Wissensbasis zu verlieren.