'/%3e%3cpath%20id='cross_2'%20data-name='cross%202'%20class='cls-2'%20d='M20.612,30.43h0a5.361,5.361,0,1,0-10.723,0H0A33.709,33.709,0,0,1,30.569,0V9.75a5.361,5.361,0,1,1,0,10.723V30.43Z'%20transform='translate(67.193%200.007)%20rotate(90)'/%3e%3cpath%20id='cross_3'%20data-name='cross%203'%20class='cls-3'%20d='M20.612,30.43h0a5.361,5.361,0,1,0-10.723,0H0A33.709,33.709,0,0,1,30.569,0V9.75a5.361,5.361,0,1,1,0,10.723V30.43Z'%20transform='translate(67.186%2067.041)%20rotate(180)'/%3e%3cpath%20id='cross_4'%20data-name='cross%204'%20class='cls-4'%20d='M20.6,30.5h0a5.361,5.361,0,1,0-10.723,0H0A33.71,33.71,0,0,1,30.56,0V9.818a5.361,5.361,0,1,1,0,10.723V30.5Z'%20transform='translate(0%2067.041)%20rotate(-90)'/%3e%3c/svg%3e)
Einführung in das Fine-Tuning
Das Fine-Tuning-Plugin trainiert auf Basis von LLaMA Factory ein lokales LLM (einschließlich kleiner Sprachmodelle wie sLLM) passend für die gewünschte Domäne. Den gesamten Prozess von der Vorverarbeitung der Rohdaten über Training, Evaluierung und Chat-Test bis zum Exportieren des fertigen Modells erledigen Sie auf einer einzigen Seite.
Arbeitsablauf
Das Fine-Tuning läuft in den folgenden 5 Schritten ab.
| Schritt | Beschreibung |
|---|---|
| Vorverarbeitung | Wandelt Rohdaten (XML, MD, HTML, JSON, TXT) passend zum Trainingszweck (PT/SFT) um und bereinigt sie |
| Training | Führt das Fine-Tuning mit dem angegebenen Datensatz, Modell und der Trainingsmethode (STAGE) aus |
| Evaluierung | Prüft die Ergebnisse abgeschlossener Trainings-Runs und validiert den Datensatz erneut |
| Chat-Test | Lässt Sie direkt mit dem trainierten Modell chatten, um die Ergebnisse zu prüfen |
| Exportieren | Verwaltet Trainings-Runs und verbindet die resultierenden Gewichte als Base Model für das nächste Fine-Tuning |
Hinweise
- Für das Training werden GPU-Ressourcen benötigt. Prüfen Sie vorab die Spezifikation des Servers.
- Ein laufendes Training wird im Hintergrund fortgesetzt, bis Sie es stoppen.