Ik zet een lokale, private ai chatbot op je eigen hardware op

Run je eigen AI, volledig op je eigen machine.

Geen cloud API. Geen maandelijkse abonnementen. Geen data die ooit je computer verlaten.

Ik ben gespecialiseerd in self-hosted LLM-infrastructuur, opgebouwd uit meer dan 13 jaar ervaring in enterprise IT en netwerkbeheer.

Wat ik opzet:

Een lokale taalmodel dat draait op je eigen GPU/CPU (via llama.cpp)

llama-swap geconfigureerd zodat je tussen modellen kunt wisselen (coding assistent, algemeen chatten, etc.) zonder iets te hoeven herstarten

Een schone lokale API-eindpunt voor je eigen apps om verbinding mee te maken

Optioneel: een eenvoudige, mobielvriendelijke web chat interface

Waarom lokaal gaan:

Je gesprekken blijven van jou. Geen kosten per token, geen snelheidslimieten, geen derde partij die je data leest.

Wat ik van jou nodig heb:

Je GPU/CPU specificaties en VRAM, je OS, en waarvoor je het model wilt gebruiken (programmeren, algemeen chatten, schrijven). Ik adviseer je over de juiste modelgrootte die bij je hardware past.

Opmerking: Een dedicated GPU wordt sterk aanbevolen voor goede prestaties. Weet je niet of je machine geschikt is? Stuur me een bericht voordat je bestelt en ik adviseer je.