Zum Inhalt springen
Teil von Agenten- und LLM-Beratung →

LLM-Feinabstimmung, wenn Ihre Evaluierung zeigt, dass sie sich lohnt.

Wir passen Open-Weight-Modelle per Feinabstimmung an Ihre Beispiele an, mit der Methode, die Ihre Daten unterstützen, und bewerten das Ergebnis im Vergleich zu dem Modell, von dem es ausgegangen ist.

Die Feinabstimmung verändert das Verhalten. Der Dokumentenabruf liefert Fakten.

Durch die Feinabstimmung werden ein Format, ein Tonfall oder ein Entscheidungsmuster vermittelt. Sich ändernde Fakten gehören in den Bereich des Dokumentenabrufs, wo sie noch am selben Tag aktualisiert werden können.

Was sich nicht ändert

Die Daten stehen an erster Stelle

Die Beispiele werden vor Beginn des Trainings auf Qualität, Abdeckung und Überschneidungen mit dem Testdatensatz überprüft.

Gemessen am Basismodell

Jedes feinabgestimmte Modell wird anhand desselben zurückgehaltenen Testdatensatzes bewertet wie das Modell, auf dem es basiert.

Es bleibt Ihr Eigentum

Der Adapter bzw. die feinabgestimmten Gewichte, die Trainingsdaten und die Skripte gehören Ihnen, im Rahmen der Lizenzbedingungen des Basismodells.

Die Methoden und ihre jeweiligen Anforderungen

Überwachtes Feinabstimmen

Paare aus einer Eingabe und der gewünschten Antwort. Dies ist der übliche erste Schritt und derjenige, den die meisten Projekte benötigen.

LoRA und QLoRA

Kleine Adaptergewichte, die auf einem eingefrorenen Modell trainiert wurden. Kostengünstiger im Training und bei der Speicherung; QLoRA ermöglicht die Verwendung größerer Modelle auf kleineren GPUs.

Präferenz-Feinabstimmung

Paare aus einer besseren und einer schlechteren Antwort, wie bei DPO. Dabei wird dem Modell beigebracht, welche von zwei akzeptablen Antworten Sie bevorzugen.

Feinabstimmung im Reinforcement-Stil

Belohnungen durch einen Prüfer, wie beispielsweise eine Testsuite oder eine Regel, wie bei GRPO. Dies eignet sich für Aufgaben mit einer richtigen Antwort, die ein Programm überprüfen kann.

Destillation

Die Antworten eines großen Modells dienen dazu, ein kleineres Modell zu trainieren, das dann bei der spezifischen Aufgabe schneller und kostengünstiger arbeitet.

Fortgesetztes Vortraining

Ein umfangreicher Korpus unbeschrifteter Texte in einer Sprache oder einem Fachgebiet, das das Basismodell nur unzureichend beherrscht.

Fragen, die Käufer stellen

Wie viele Daten benötigen wir?

Das hängt von der Methode und der Aufgabe ab. Wir prüfen Ihre vorhandenen Daten und teilen Ihnen vor Beginn des Trainings mit, welche Möglichkeiten diese Daten bieten.

Können Sie Claude oder GPT für uns feinabstimmen?

Deren aktuelle Modelle lassen sich nicht feinabstimmen: Keiner der Anbieter bietet dies derzeit an. Wir stimmen ein Open-Weight-Modell wie gpt-oss, Qwen oder Llama ab, und Sie behalten das Ergebnis.

Wo findet das Training statt?

Auf Ihren eigenen GPUs, auf von RunPod oder Lambda gemieteten NVIDIA-GPUs oder mit NVIDIA NeMo, stets innerhalb der durch Ihre Datenrichtlinie festgelegten Grenzen.

Zuletzt überprüft:

Bringen Sie Beispiele für gut gelungene Arbeiten mit.

Wir prüfen, was diese Beispiele leisten können und ob die Feinabstimmung das Basismodell bei Ihrer Aufgabe übertrifft.

Sprechen Sie mit uns