Ik stem llm fijn af, train een aangepaste ai-model, en evalueer een dataset
Over deze dienst
Generieke AI-modellen geven generieke antwoorden. Een model dat op jouw data is gefinetuned spreekt jouw domein, volgt jouw formaat en kost een fractie van de constante API-aanroepen. Ik finetune open-source LLMs op jouw aangepaste data met volledige evaluatie, geen giswerk.
Wat ik lever:
- Fijn afstemmen van Llama, Mistral, Qwen, Gemma, Phi, DeepSeek en GPT-modellen
- LoRA en QLoRA fine-tuning voor efficiënte training op jouw taak
- Dataset voorbereiding, schoonmaak, deduplicatie, formaatconversie
- Instruction tuning, classificatie, domeinadaptatie, stijl matching
- Strenge evaluatie: nauwkeurigheid, perplexiteit, hallucinatiepercentage, aangepaste benchmarks
- Vergelijking met het basismodel zodat je de echte verbetering ziet
- Quantisatie (GGUF, GPTQ) voor goedkopere, snellere deployment
- Deployment begeleiding voor vLLM, Ollama, Hugging Face Endpoints
- Experiment tracking met Weights and Biases of MLflow
Stack: Python, PyTorch, Hugging Face Transformers, PEFT, TRL, LoRA, QLoRA, Unsloth, vLLM, Ollama.
Ik vertel je vooraf of finetuning überhaupt de juiste keuze is voor jouw use case of dat prompt engineering of RAG je beter en goedkoper kan helpen. Eerlijke inschatting, geen oververkoop.
Stuur me een bericht met jouw taak en dataset
Mijn portfolio
Andere Data science en ML diensten die ik aanbied
Veelgestelde vragen
Automatische vertaling
Heb ik echt fine-tuning nodig, of is RAG genoeg?
Eerlijk antwoord: veel use cases hebben geen finetuning nodig. Als je wilt dat het model feiten uit jouw documenten kent, is RAG meestal beter en goedkoper. Finetuning is geschikt wanneer je een specifiek outputformaat, een domeintoon, een classificatietaak of lagere inference-kosten op schaal nodig hebt.
Welke modellen kun je fine-tunen?
Open-source modellen: Llama, Mistral, Qwen, Gemma, Phi, DeepSeek en anderen op Hugging Face. Ik kan ook OpenAI modellen (GPT) finetunen via hun API voor finetuning. Ik adviseer het beste basismodel voor jouw taak, budget en deployment-doel.
Hoeveel data heb ik nodig voor fine-tuning?
Het hangt af van de taak. Stijl- of formaatmatching kan met enkele honderden goede voorbeelden. Domeinadaptatie of classificatie vereist meestal 1.000 tot 10.000+ voorbeelden. Kwaliteit is belangrijker dan kwantiteit. Als je niet genoeg data hebt, help ik je met het maken of uitbreiden van een dataset (beschikbaar als extra).
Wordt het gefinetunede model beter dan GPT?
Niet op algemeen intelligentieniveau. Een klein gefinetuned model wint op een specifieke, smalle taak: jouw formaat, jouw domein, lagere kosten, snellere snelheid en volledige dataprivacy omdat het op jouw hardware draait. Ik benchmark altijd het gefinetunede model tegen het basismodel en een krachtig API-model.
Bied je evaluatie, niet alleen training?
Ja, en dat is wat een echte finetuning onderscheidt van giswerk. Standaard en Premium omvatten evaluatie: nauwkeurigheid, perplexiteit, hallucinatiepercentage en een vergelijking met het basismodel.
Wie betaalt de GPU- en rekenkosten?
Rekenkosten (GPU-huur op Colab, RunPod, Vast of cloud) zijn los van mijn servicekosten, meestal tussen $5 en $50 afhankelijk van modelgrootte en dataset. Ik schat dit vooraf zodat je niet voor verrassingen komt te staan. Voor kleine modellen zijn de kosten minimaal. Ik optimaliseer training om rekenkosten laag te houden.
Kan ik het fine-tuned model daarna zelf draaien?
Ja. Jij bezit de modelgewichten en de code. Premium bevat een deployment gids voor vLLM, Ollama of Hugging Face Endpoints, plus quantization (GGUF, GPTQ) zodat het goedkoop draait op bescheiden hardware. Je bent nooit afhankelijk van mij voor inference.
Wat heb je van mij nodig om te beginnen?
Jouw dataset (of een beschrijving zodat ik kan helpen er een te bouwen), de taak die je wilt dat het model uitvoert, en je deployment doel (cloud, lokaal, edge). API documentatie of voorbeelden van het ideale output helpen enorm. Ik verzorg de training, evaluatie en levering.
