Ik stem je llm fijn af op aangepaste data met lora en qlora

Fine-tuning is de moeite waard wanneer een model in jouw domein moet spreken, jouw formaat moet volgen of jouw terminologie consistent moet gebruiken. Het is niet de moeite waard als je gewoon wilt dat het model dingen opzoekt. Ik vertel je welke je echt nodig hebt voordat je iets uitgeeft.

Wat ik doe:

LoRA en QLoRA fine-tuning van open modellen: Llama, Mistral, Qwen, Gemma, Phi

Volledige fine-tuning en instructie tuning wanneer je data dat rechtvaardigt

OpenAI fine-tuning via hun API

Domeinadaptatie voor medische, juridische, financiële en technische teksten

RAG-systemen wanneer retrieval de betere oplossing is

Training data voorbereiding, meestal de sleutel tot succes of falen van projecten

Stack: Hugging Face Transformers, PEFT, Unsloth, Axolotl, PyTorch, Weights and Biases voor tracking

Je ontvangt de getrainde weights gehost waar jij ze wilt, het training script met volledige documentatie, evaluatieresultaten die je tuned model vergelijken met het basis model zodat je kunt zien wat er veranderd is, een inference script en een gids voor retraining wanneer je data groeit.

Je hebt ongeveer 50 tot 100 voorbeelden nodig voor een lichte OpenAI fine-tune, of 500 of meer voor open modellen. Kwaliteit gaat boven kwantiteit, en ik help je bij het opbouwen van de set.