Ik programmeer een aangepaste lokale ai Discord bot met ollama, comfyui


Over deze dienst
Automatische vertaling
Ben je het zat om enorme maandelijkse API-kosten te betalen aan OpenAI of Midjourney voor gecensureerde AI?
Ik bouw aangepaste, zelfgehoste Discord bots die volledig draaien op lokale Linux-omgevingen. Door Ollama te gebruiken voor tekstgeneratie en ComfyUI (RealVisXL) voor high-resolution afbeeldingen, lever ik een volledig privé, ongecensureerde AI-orkestrator direct op jouw server.
De meeste ontwikkelaars hebben moeite om deze modellen soepel te laten draaien op lokale hardware. Ik los dit op door het ontwerpen van aangepaste "Traffic Cop" VRAM-beheerlogica. Voordat een afbeelding wordt gegenereerd, wordt Ollama onmiddellijk uit het geheugen geladen, waardoor de GPU wordt vrijgemaakt voor ComfyUI. Dit voorkomt systeemcrashes en maakt het mogelijk om zware modellen op consumentenhardware te laten draaien.
Ik ben ook gespecialiseerd in "Strikte Input, Neutrale Output" veiligheidslogica. Ik bouw agressieve regex-filters om kwaadaardige inputs te blokkeren voordat ze de GPU bereiken, terwijl ik neutrale prompt-boosters gebruik om verbluffende, hoge kwaliteit output te garanderen.
*Wat je krijgt:*
Volledige Python-broncode levering.
Docker-gebaseerde deployment manifesten of lokale systemd service-instellingen.
Geavanceerde VRAM-routing logica.
*Opmerking: Stuur me alsjeblieft een bericht met je exacte server specificaties (CPU, RAM, OS en GPU VRAM) voordat je bestelt, zodat ik dit kan verifiëren
Maak kennis met Troy Escalante
Systems Engineer AI Developer
- Afkomstig uitVerenigde Staten
- Lid sindsmei 2021
- Gem. reactietijd1 uur
Talen
Engels
Automatische vertaling

