Ir al contenido

Introducción a Fine-tuning

Fine-tuning, basado en LLaMA Factory, entrena un LLM local —incluidos modelos pequeños como sLLM— para el dominio que necesite. Desde una sola pantalla puede preprocesar los datos, entrenar, evaluar, probar el chat y exportar el modelo resultante. La pantalla se muestra actualmente en coreano; las etiquetas de este documento son traducciones.

Preprocesamiento de datos


Flujo de trabajo

Fine-tuning consta de cinco etapas.

EtapaDescripción
PreprocessingConvierte y limpia datos (XML, MD, HTML, JSON, TXT) según el objetivo (PT/SFT)
TrainingEjecuta el entrenamiento indicando el conjunto de datos, el modelo y el método (STAGE)
EvaluationRevisa una ejecución terminada y vuelve a validar el conjunto de datos
Chat TestPermite conversar con el modelo entrenado para comprobarlo
ExportGestiona ejecuciones y conecta pesos correctos como Base Model de la siguiente ronda

Información útil

  • El entrenamiento necesita recursos de GPU. Compruebe antes las especificaciones del servidor.
  • Una vez iniciado, continúa en segundo plano hasta que lo detenga.

Documentos relacionados