Ik zet lokale ai ollama op en implementeer het op je linux server met docker

Sommige informatie is automatisch vertaald.

Servië

Ik spreek Servisch, Engels

Linux, DevOps, Home Automation specialist

Ik ben een IT-professional en Linux-systeembeheerder die gespecialiseerd is in Home Automation en lokale AI-infrastructuur. Ik help klanten bij het bouwen van veilige, private slimme huizen met behulp...
Over deze dienst

Hoi! Ik ben een IT-professional en Linux-specialist. Ik help je je dataprivacy terug te krijgen door je eigen AI-modellen lokaal te hosten. Geen abonnementskosten, geen datalekken.

Wat ik voor je kan doen:

  • Ollama Deployment: Installeer Docker en draai lokale LLMs (Llama 3, Mistral, Gemma, Phi, enz.)
  • Open WebUI Setup: Schone, ChatGPT-achtige browserinterface voor soepele interactie
  • Home Assistant Integratie: Verbind je lokale AI-cluster met Home Assistant voor geavanceerde automatisering
  • Gecapsuleerde & Veilige: Netjes geïmplementeerd op je Ubuntu/Debian/Linux server met Docker

Stuur me een bericht voordat je bestelt zodat we je hardware specificaties (RAM, GPU/CPU) kunnen bespreken en de beste modellen voor jouw setup kunnen kiezen!

Tools:

Docker

Overige

Frameworks:

Ansible

Overige

Cloudprovider:

Amazon Web Services

DigitalOcean

Overige

Programmeertaal:

Python

Overige

Expertise:

Installatie

Configuratie