Ik implementeer Ollama en open webui op jouw VPS voor private AI
DevOps engineer
Niveau 2
Voldoet aan hoge prestatiecriteria en heeft een bewezen staat van dienst in het voldoen aan de verwachtingen van de klant.
Over deze dienst
AI zoals ChatGPT draaien op je eigen server betekent geen API-kosten, geen data die je infrastructuur verlaten en volledige controle. Dit is wat Ollama + Open WebUI je geeft: een private, zelf-gehoste AI-assistent die 24/7 draait op je VPS.
Ik heb deze stack al vaak geïmplementeerd. Je krijgt een werkend systeem, geen tutorial.
Wat ik lever:
- Ollama geïnstalleerd en draaiend op je VPS met Docker
- Open WebUI geïmplementeerd achter Nginx met SSL en jouw eigen domein
- Jouw keuze van model geladen en klaar voor gebruik (Llama 3, Mistral, DeepSeek, Gemma, Phi-3)
- HTTPS beveiligd met automatisch verlengend Let's Encrypt certificaat
- Automatisch herstarten bij serverherstart
- Werkt met Hetzner, DigitalOcean, Vultr, OVHcloud of elke Ubuntu VPS
Waarom je AI zelf hosten?
Geen OpenAI-abonnementskosten. Geen data naar externe servers gestuurd. GDPR-compatibel van nature. Jouw documenten, gesprekken en server, niemand anders ziet ze.
Een Hetzner CX22 van 4 euro per maand draait Llama 3.2 3B comfortabel. Voor grotere modellen (70B+), adviseer ik vooraf de juiste VPS-specificaties.
Stuur me een bericht voordat je bestelt met je VPS-provider en beschikbare RAM, ik bevestig welke modellen goed werken op jouw setup.
Cloudprovider:
DigitalOcean
Expertise:
Installatie
•
Migratie
•
Debuggen
•
Configuratie
•
Prestaties
Cloud computing resource:
Azure Container Instances
•
Cloud SQL
