Door categorieën bladeren
Ontdekken
Fiverr Pro
Nederlands
$
USD
Ik implementeer een private ollama chatbot op Linux server
Daniel
Over deze dienst
Automatische vertaling
Wil je een private AI chatbot zonder data naar OpenAI te sturen of maandelijkse kosten?
Ik implementeer een private, high-performance Local LLM chatbot (Ollama) op jouw Linux server, bare-metal of gecontaineriseerd.
Hardware & OS ondersteuning:
Nvidia (CUDA), AMD (ROCm), Apple Silicon (Metal), CPU-only.
Ubuntu, Debian, Fedora, Arch, Alpine, RHEL.
Native Systemd OF Docker / Docker Compose containers.
Wat ik aanbied:
Basispakket:
Ollama installatie (Native of Docker).
1 open-source model (Llama 3, Qwen 2.5, DeepSeek).
CLI & lokale API verificatie.
Standaardpakket (Aanbevolen):
Alles in Basis.
Web UI interface (Open-WebUI) voor gemakkelijk chatten via browser.
24/7 automatische start (Systemd unit of Docker herstartbeleid).
Aangepaste systeemprompt configuratie.
Premium pakket (Productieklaar):
Alles in Standaard.
Nginx Reverse Proxy + gratis HTTPS/SSL setup.
Multi-model implementatie & GPU passthrough.
Veilige API authenticatietokens voor verbinding met externe apps.
Vereisten:
Toegang tot Linux server via SSH.
Voor Premium (SSL): Geldig domein dat naar jouw IP wijst.
Neem contact met me op voordat je bestelt!
Maak kennis met Daniel
Daniel
Python Automation and AI Systems Engineer
- Afkomstig uitDuitsland
- Lid sindsaug 2026
- Gem. reactietijd1 uur
Talen
Duits, Engels, Pools
Software engineer specializing in Python automation, AI deployment,
and Linux server infrastructure.
What I deliver:
• Private AI chatbots on your Linux server (Ollama, no cloud)
• Python scripts, bots, scrapers, and data pipelines
• REST APIs (Flask, FastAPI) and backend development
• Linux, Nginx, Docker, and CI/CD setup
• C# tools, plugins, and build pipelines
Clean, documented code with setup instructions.
Delivered on time. Message me before ordering!
Automatische vertaling
Andere AI-development diensten die ik aanbied
Veelgestelde vragen
Automatische vertaling
Heb ik een GPU nodig op mijn server om Ollama te draaien?
High-core CPUs (AMD EPYC, Mac M-series) draaien 8B modellen prima (5-15 tokens/s). Low-core goedkope VPS CPUs zullen erg langzaam zijn (1-3 tokens/s). Voor directe ChatGPT-achtige snelheid moet je een GPU gebruiken.
Heb ik root (sudo) toegang nodig tot mijn server?
Nee. Ik geef de voorkeur aan user-space installaties voor veiligheid. Ik kan Ollama installeren in ~/.local/bin via systemctl --user. Sudo is alleen nodig als je Nginx op poort 80/443 wilt gebruiken (Premium).
Is dit echt 100% privé?
Ja. Ollama draait volledig op jouw lokale hardware. Geen telemetry, geen cloud API calls, en absoluut geen data wordt ooit verstuurd naar OpenAI, Anthropic of derden.
Kan ik dit integreren in mijn bestaande apps?
Ja. Ollama biedt een OpenAI-compatibele REST API. Richt je bestaande OpenAI apps op http://127.0.0.1:11434/v1 en gebruik lokale modellen zonder de onderliggende code te veranderen.
Werkt dit op Docker?
Ja. Ik implementeer op bare-metal (Systemd) of gecontaineriseerd (Docker). Als je Nvidia GPU's hebt, configureer ik de Nvidia Container Toolkit (--gpus all) voor hardware passthrough.
Wat gebeurt er als mijn server opnieuw opstart of reboot?
Ollama start automatisch op bij het opstarten zonder handmatige ingrepen. Ik configureer achtergrond autostart met Systemd service units of Docker --restart always policies.
Kun je het gedrag of de persona van de AI aanpassen voor mijn bedrijf?
Ja. In de Standaard en Premium pakketten configureer ik aangepaste system prompts en parameters (temperatuur, contextvenster) zodat de AI in de toon van jouw bedrijf spreekt of jouw exacte coding standaarden volgt.
Hoe werken automatische updates & container onderhoud?
Voor Docker setups kan ik Watchtower configureren om je Open-WebUI containers automatisch bij te werken op de achtergrond, of specifieke versie-tags vastzetten als je strikte stabiliteit en geen brekende veranderingen wilt.
Hoe worden service health & logs gemonitord?
Ik zet HTTP healthcheck endpoints (/api/tags) op en configureer systemd/Docker journal logging met automatische logrotatie om te voorkomen dat je server vol raakt door logbloat.
Hoe werken aangepaste system prompts onder de motorkap?
Ik schrijf aangepaste Ollama Modelfiles (FROM qwen2.5-coder, SYSTEM """...""") om jouw exacte bedrijfspersona, systeem instructies, temperatuur en contextlengte direct in de model binary te verankeren.
