Probar el chat

Cargue o conecte un modelo entrenado y compruebe el resultado conversando con él.

Cargar un modelo en el servidor de inferencia

• Model path: ruta del modelo, por ejemplo /@team/.AppData/fine_tuning/runs/model.
• Adapter path (opcional): ruta de pesos de adaptador entrenados por separado, como LoRA.
• Template: se detecta automáticamente de forma predeterminada.

Introduzca la ruta y seleccione Start para iniciar el servidor. Connect cambia entonces a Inference server.

Conectar un servidor Ollama

1. En Connect, seleccione Server Ollama o Local Ollama (my PC).
2. Cargue la lista de modelos con el botón de actualización (↺).
3. Seleccione el modelo que quiere probar, por ejemplo gemma4:12b.

Si selecciona Custom API, introduzca usted mismo la dirección de la API y el nombre del modelo. Seleccione Reset para borrar la conversación.

Comprobar el resultado mediante conversación

Escriba un mensaje y envíelo con Ctrl+Enter o con el botón de envío. Haga preguntas relacionadas con el objetivo del entrenamiento para comprobar la calidad y el formato.

Información útil

• Un modelo que solo haya completado PT puede continuar texto en vez de seguir instrucciones. Para comprobar instrucciones, use uno que también haya completado SFT.
• Si Model path está vacío, no puede seleccionar Start. Indique Model path también cuando use un adaptador.

Documentos relacionados

• Evaluar
• Exportar