Ik fine-tune LLMS met behulp van LoRA of QLoRA voor jouw maatwerkgebruik
Over deze dienst
Ik pas open-source LLMs (Llama, Mistral, Phi-3, enz.) aan op jouw eigen dataset met behulp van LoRA/QLoRA parameter-efficiënte methoden die geen volledige hertraining van het model vereisen.
Wat ik doe:
- Formatering en validatie van dataset voor jouw taak (classificatie, generatie, instructievolging)
- LoRA rank/alpha configuratie die past bij de grootte van jouw data
- Training met quantization (bitsandbytes NF4) om de kosten laag te houden
- Evaluatie met een apart gehouden set, met duidelijke voor/na metrics
Ik zal niet te veel beloven over wat fine-tuning kan oplossen als jouw probleem beter wordt aangepakt met prompt engineering of RAG. Ik vertel je dat voordat we beginnen, niet nadat je hebt betaald voor de training.
Stuur je dataset formaat en doeltaak in de vereisten, en ik bevestig de scope voordat ik begin.
Programmeertaal:
Python
•
JavaScript
•
Tensorflow
AI model frameworks en tools:
PyTorch
•
NVIDIA CUDA & cuDNN
•
MLflow
Datatype:
Tekst
•
Afbeeldingen
•
Multimodal
AI engine:
Stable diffusion
•
tensorflow
•
Bert
•
Llama
•
Langchain
Veelgestelde vragen
Automatische vertaling
Moet ik een GPU/compute leveren?
Nee — de training wordt door mij gedaan; jij levert alleen de dataset en taak specificatie.
Wat als mijn dataset klein is?
Bij minder dan ~500 voorbeelden geef ik dit vooraf aan; kleine datasets hebben vaak augmentatie of een andere aanpak nodig, en ik zeg dat in plaats van een zwak model te leveren.
Welke basis modellen support je?
Llama, Mistral, Phi-3, Qwen, en andere open-weight modellen gehost op Hugging Face. Stuur me een bericht als jouw model er niet bij staat.
