Ons bureau implementeert zelfgehoste AI met open webui en rag

Heb je een AI-assistent nodig die draait op je eigen infrastructuur, met je eigen documenten?

WZ-IT implementeert self-hosted LLM en RAG stacks voor bedrijven die geen interne data naar een US API kunnen sturen. Open WebUI als interface, LiteLLM als gateway, Qdrant of pgvector voor retrieval, Langfuse voor tracing en kostenbeheer.

Afhankelijk van de scope dekken we:

- Open WebUI met SSO, gebruikersgroepen en modeltoegang per team

- LiteLLM gateway: één API voor lokale en externe modellen, budgetten per team

- vLLM of Ollama inference, afgestemd op je GPU- of CPU-budget

- RAG pipeline: ingestion, chunking, embeddings, Qdrant of pgvector

- permissie-gevoelige retrieval zodat gebruikers alleen documenten zien die ze mogen zien

- Langfuse voor tracing, evaluatie en kosten per team

- implementatie op je GPU-server, Europese cloud of on-premises

Het moeilijkste is niet het chatvenster. Het is ervoor zorgen dat retrieval de permissies respecteert die je al hebt, en dat je de echte maandelijkse kosten weet.

Begin met de consultatie: een uur met beide WZ-IT oprichters, plus een schriftelijke aanbeveling die je in elk geval behoudt. Alles groter wordt geoffreerd als een maatwerkdienst, afgestemd op wat je echt nodig hebt.

Meer van ons werk: wz-it.com