Ik programmeer een aangepaste lokale ai Discord bot met ollama, comfyui

T
troyescalante
T
troyescalante
Troy Escalante
Sommige informatie is automatisch vertaald.

Over deze dienst

Automatische vertaling

Ben je het zat om enorme maandelijkse API-kosten te betalen aan OpenAI of Midjourney voor gecensureerde AI? 


Ik bouw aangepaste, zelfgehoste Discord bots die volledig draaien op lokale Linux-omgevingen. Door Ollama te gebruiken voor tekstgeneratie en ComfyUI (RealVisXL) voor high-resolution afbeeldingen, lever ik een volledig privé, ongecensureerde AI-orkestrator direct op jouw server.


De meeste ontwikkelaars hebben moeite om deze modellen soepel te laten draaien op lokale hardware. Ik los dit op door het ontwerpen van aangepaste "Traffic Cop" VRAM-beheerlogica. Voordat een afbeelding wordt gegenereerd, wordt Ollama onmiddellijk uit het geheugen geladen, waardoor de GPU wordt vrijgemaakt voor ComfyUI. Dit voorkomt systeemcrashes en maakt het mogelijk om zware modellen op consumentenhardware te laten draaien.


Ik ben ook gespecialiseerd in "Strikte Input, Neutrale Output" veiligheidslogica. Ik bouw agressieve regex-filters om kwaadaardige inputs te blokkeren voordat ze de GPU bereiken, terwijl ik neutrale prompt-boosters gebruik om verbluffende, hoge kwaliteit output te garanderen.


*Wat je krijgt:*

Volledige Python-broncode levering.

Docker-gebaseerde deployment manifesten of lokale systemd service-instellingen.

Geavanceerde VRAM-routing logica.


*Opmerking: Stuur me alsjeblieft een bericht met je exacte server specificaties (CPU, RAM, OS en GPU VRAM) voordat je bestelt, zodat ik dit kan verifiëren

Maak kennis met Troy Escalante

Troy Escalante

Systems Engineer AI Developer

  • Afkomstig uitVerenigde Staten
  • Lid sindsmei 2021
  • Gem. reactietijd1 uur
  • Talen

    Engels
With a formally assessed 142 IQ and nuclear-grade U.S. Navy systems training, I am a Senior Software Engineer specializing in secure edge AI, VRAM optimization, and local LLM integration. I solve complex technical problems in high-pressure environments. I never outsource. I write, test, and document every line of code on dedicated Linux hardware to ensure high-reliability execution. Let's build infrastructure that scales.

Automatische vertaling

Mijn portfolio

Gerelateerde tags