Modelltraining und Fine-Tuning: KI-Modelle gezielt auf deine Aufgaben anpassen
Manchmal reichen gute Prompts und RAG nicht: wenn tausende Texte exakt im Markenstil entstehen sollen, wenn eine Klassifikation hochpräzise sein muss oder wenn ein kleines Modell eine Aufgabe günstiger erledigen soll als ein großes. Dann passen wir Modelle mit deinen Daten an und messen, ob es sich lohnt.
Erst prüfen, dann trainieren
Fine-Tuning klingt nach dem naheliegenden Weg, einem Modell das eigene Unternehmen beizubringen. In der Praxis ist es oft der teuerste und am schwersten zu pflegende. Wissen, das sich ändert, etwa Produktdaten, Preise oder Handbücher, gehört in ein RAG-System, nicht in die Gewichte eines Modells. Viele Stil- und Formatfragen lösen gute Anweisungen mit einigen Beispielen.
Fine-Tuning lohnt sich für stabile Verhaltensmuster, die in großer Menge gebraucht werden. Deshalb beginnen wir jedes Trainingsvorhaben mit einem Vergleich: Wie gut löst ein Basismodell mit Prompting und RAG die Aufgabe? Erst wenn ein trainiertes Modell messbar besser oder günstiger ist, trainieren wir.
Wann Training sich lohnt
Einheitlicher Stil in großer Menge
Tausende Produkt- oder Kategorietexte, die zuverlässig Tonalität, Struktur und Terminologie deiner Marke treffen.
Präzise Klassifikation
Tickets, Dokumente oder Produkte zuverlässig in deine Kategorien einordnen, auch bei vielen ähnlichen Klassen.
Kleines Modell statt großes
Ein kompaktes Modell lernt eine eng umrissene Aufgabe so gut, dass es ein teures großes Modell ersetzt, bei geringeren Kosten und Antwortzeiten.
Bessere Suche
Eigene oder angepasste Embedding-Modelle, die Fachbegriffe und Produktnamen deiner Branche besser verstehen.
Wie wir trainieren
Die Qualität eines trainierten Modells steht und fällt mit den Trainingsdaten. Wir sammeln deshalb zuerst geeignete Beispiele aus deinem Bestand, bereinigen sie, entfernen personenbezogene Daten, wo sie nicht nötig sind, und legen einen getrennten Testsatz an, der nie ins Training einfließt.
Trainiert wird je nach Ziel über die Fine-Tuning-Angebote der Modellanbieter oder mit Open-Source-Modellen und ressourcenschonenden Verfahren wie LoRA, die nur einen kleinen Teil der Parameter anpassen. Letzteres hat den Vorteil, dass das Ergebnis dir gehört und auf eigener Infrastruktur laufen kann, siehe KI-Infrastruktur.
Jedes trainierte Modell vergleichen wir mit dem Ausgangsmodell auf dem Testsatz. So wird sichtbar, ob das Training Qualität oder Kosten tatsächlich verbessert, und das Ergebnis lässt sich bei neuen Daten reproduzierbar wiederholen.
Wie viele Trainingsdaten braucht Fine-Tuning?
Weniger, als viele denken, aber in guter Qualität. Als Richtwerte aus der Praxis, keine Garantie:
- Stil und Format: Für Texte in einem festen Markenstil oder ein bestimmtes Ausgabeformat reichen oft einige hundert sorgfältig ausgewählte Beispiele.
- Klassifikation: Für das Einordnen von Tickets, Dokumenten oder Produkten braucht es je Kategorie ausreichend Beispiele, meist einige hundert bis wenige tausend insgesamt, je nach Zahl der Kategorien.
- Fachsprache und komplexe Aufgaben: Mehrere tausend Beispiele und mehrere Trainingsrunden, begleitet von einer sauberen Evaluation.
Entscheidend ist die Qualität: Widersprüchliche oder fehlerhafte Beispiele schaden mehr, als eine größere Menge nützt. Deshalb beginnt jedes Projekt mit der Aufbereitung und einem Testsatz, der nicht ins Training einfließt.
Beispiel: ein kleines Modell für eine große Menge
Ein typischer Fall ist die Klassifikation in großer Menge, etwa das Einordnen eingehender Tickets oder das Zuordnen von Produkten zu Kategorien. Ein großes Modell per API löst das gut, kostet bei hunderttausenden Vorgängen aber spürbar. Ein kleines, feinabgestimmtes Modell kann dieselbe Aufgabe oft ähnlich gut erledigen, schneller antworten und auf eigener Hardware laufen.
Ob sich das rechnet, prüfen wir vorab: Wir vergleichen Qualität und Kosten pro 1.000 Vorgänge zwischen großem Modell mit guten Prompts und kleinem, trainiertem Modell. Erst wenn der Unterschied das Training rechtfertigt, trainieren wir. Die Grundlagen erklärt das Lexikon unter Fine-Tuning; betrieben wird das Modell auf unserer KI-Infrastruktur.
Ablauf eines Trainingsprojekts
Schritt 1
Baseline
Wie gut lösen aktuelle Modelle die Aufgabe mit Prompting und RAG? Das ist der Maßstab.
Schritt 2
Daten
Beispiele sammeln, bereinigen, anonymisieren und in Trainings- und Testsatz aufteilen.
Schritt 3
Training & Vergleich
Training mit dem passenden Verfahren und Vergleich gegen die Baseline auf dem Testsatz.
Schritt 4
Bereitstellung
Betrieb über den Anbieter oder auf eigener Infrastruktur, mit Monitoring und Plan für Nachtrainings.
Häufige Fragen zum Modelltraining
Brauchen wir ein eigenes KI-Modell?
Meist nicht. Die meisten Anwendungsfälle lassen sich mit vorhandenen Modellen, guten Anweisungen und RAG lösen. Training lohnt sich für stabile Aufgaben in großer Menge oder wenn ein kleineres Modell Kosten sparen soll.
Wie viele Trainingsdaten brauchen wir?
Für viele Aufgaben reichen einige hundert bis wenige tausend gute Beispiele. Qualität und Einheitlichkeit sind wichtiger als die Menge.
Wem gehört das trainierte Modell?
Bei Open-Source-Modellen erhältst du die angepassten Gewichte und kannst sie selbst betreiben, im Rahmen der Lizenz des Basismodells. Beim Fine-Tuning über einen Anbieter bleibt das Modell an dessen Plattform gebunden.
Werden unsere Daten für andere Kunden verwendet?
Nein. Trainingsdaten und Modelle werden ausschließlich für dein Projekt verwendet; die Verarbeitung regeln wir per Auftragsverarbeitung.
Lohnt sich ein eigenes Modell für dich?
Wir vergleichen für deinen Anwendungsfall Prompting, RAG und Training und sagen dir ehrlich, welcher Weg sich rechnet.