跳转到正文

微调简介

微调插件基于 LLaMA Factory,可将本地 LLM(包括 sLLM 等小型语言模型)训练成适合目标领域的模型。从原始数据预处理到训练、评估、聊天测试,再到导出结果模型,全部流程都可以在同一个界面中完成。

训练数据预处理


工作流程

微调按以下 5 个步骤进行。

步骤说明
预处理将原始数据(XML、MD、HTML、JSON、TXT)按训练目的(PT·SFT)进行转换和清洗
训练指定数据集、模型和训练方法(STAGE)后执行微调
评估检查已完成的训练 Run 结果,并重新检查数据集的有效性
聊天测试与训练好的模型直接对话,确认结果
导出管理训练 Run,并将结果权重衔接为下一次微调的 Base Model

注意事项

  • 训练需要 GPU 资源。请提前确认服务器规格。
  • 训练过程中,在停止之前会一直在后台持续进行。

相关文档