Ik stem een open source llm fijn af op jouw aangepaste dataset
AI Engineer, RAG systemen, LLM fine-tuning, LangChain Python
Over deze dienst
Wil je een open-source LLM fijn afstemmen op je eigen data? Ik bouw aangepaste finetuning pipelines die de modelprestaties daadwerkelijk verbeteren.
Onlangs heb ik EdgeAlign voltooid - een volledige SFT naar DPO afstemmingspipeline op Qwen3-0.6B met behulp van LoRA adapters en 4-bit NF4 quantisatie.
Resultaten:
- BLEU score: 3.70 (basislijn) tot 10.22 (+176% verbetering)
- BERTScore: 0.7675 (basislijn) tot 0.8149
- 10 systematische tests uitgevoerd met variaties in LoRA-rang, leersnelheid en DPO beta
- Beide LoRA adapters uitgebracht op HuggingFace
Wat je krijgt:
- Aangepaste finetuning op jouw dataset (SFT en/of DPO)
- LoRA adapters (lichtgewicht, makkelijk te implementeren)
- Evaluatiemetrics (BLEU, BERTScore, verliescurves)
- Schoon, gedocumenteerd Python-code
- HuggingFace Model Card (Premium)
- Geïmplementeerd model op HuggingFace Hub (Premium)
Modellen die ik kan finetunen:
- Qwen (0.6B, 1.8B, 7B)
- LLaMA (1B, 3B, 8B)
- Mistral (7B)
- Phi-3 / Phi-2
- Gemma (2B, 7B)
- Elk open-source model op HuggingFace
Wat ik van jou nodig heb:
- Jouw dataset (JSONL, CSV, of platte tekst)
- Taakomschrijving (volg instructies, samenvatting, classificatie, Q&A, etc.)
- Voorkeur voor basis model (of ik adviseer er een voor jou)
Stuur me een bericht voordat je bestelt om te bespreken
Programmeertaal:
Python
Datatype:
Tekst
•
Tabular Data
AI engine:
GPT
•
Llama
•
Falcon
•
Langchain
•
Overige
Mijn portfolio
Veelgestelde vragen
Automatische vertaling
In welk formaat moet mijn dataset zijn?
Ideaal gezien JSONL met instructie/input/output velden, of CSV. Ik kan je helpen om ruwe data te herformatteren naar de juiste structuur - deel eerst een voorbeeld.
Wat als mijn dataset klein is (minder dan 500 samples)?
Kleine datasets zijn prima voor LoRA finetuning. Stuur me een bericht met je aantal samples en ik adviseer je over de beste aanpak.
Word ik eigenaar van het fine-tuned model?
Ja - je krijgt volledige eigendom van de LoRA adapters en alle code. Het premium pakket omvat deployment op je eigen HuggingFace account.
Kun je GPT-4 of Claude finetunen?
Nee - dat zijn gesloten modellen die niet op deze manier kunnen worden gefinetuned. Ik werk met open-source modellen op HuggingFace (LLaMA, Qwen, Mistral, Gemma, Phi etc.)
Welke evaluatiemetrics bied je aan?
BLEU score, BERTScore, training/validation verliescurves, en vergelijkingen van sample output met baseline. Het premium pakket bevat een volledige ablatiestudie.
