채팅 테스트

학습이 완료된 모델을 불러오거나 연결해서, 직접 대화하며 파인튜닝 결과를 확인할 수 있습니다.

추론 서버로 모델 불러오기

학습 결과 모델을 직접 불러와 테스트합니다.

• 모델 경로: 테스트할 모델의 경로를 입력합니다 (예: /@team/.AppData/fine_tuning/runs/model)
• 어댑터 경로 (선택): LoRA 등으로 학습한 어댑터 가중치만 별도로 사용하는 경우 경로를 지정합니다
• 템플릿: 기본적으로 자동 감지됩니다

경로를 입력한 뒤 시작 버튼을 클릭하면 추론 서버가 실행됩니다.

Ollama 서버에 연결

이미 Ollama에 등록된 모델로 바로 테스트할 수도 있습니다. 연결 영역에서 서버(Ollama)와 모델명(예: gemma4:12b)을 입력하고 새로고침 버튼으로 연결 상태를 확인합니다. 설정을 다시 시작하려면 초기화 버튼을 클릭합니다.

대화로 결과 확인

하단 입력창에 메시지를 입력하고 Ctrl+Enter(또는 전송 버튼)로 보내면, 사용자 메시지와 AI 응답이 채팅 형태로 표시됩니다. 학습 의도에 맞는 질문을 던져서 응답 품질과 형식을 확인합니다.

알아두기

• PT(사전학습)만 완료한 모델은 지시를 따르는 대화보다 이어쓰기 형태의 응답을 할 수 있습니다. 지시를 따르는 대화 품질을 보려면 SFT까지 진행한 모델로 테스트하세요.
• 어댑터 경로만 지정하고 모델 경로를 비워두면 정상적으로 로드되지 않을 수 있습니다.

관련 문서

• 평가
• 내보내기