Ik zet jouw ai GPU-server en private llm API op


Over deze dienst
Automatische vertaling
Ik zet een Linux NVIDIA-server op die een private OpenAI-compatibele LLM-API levert op hardware die jij al bezit.
Je krijgt Ubuntu, de NVIDIA-driver, een lokale inference-server en HTTPS ervoor. Het model blijft op jouw machine. Aanvragers gebruiken een token. Ik verkoop geen cloud credits, wallets of handelsystemen.
Beste match: één werkstation of een kleine GPU-host (RTX PRO, RTX 50-serie of een vergelijkbare NVIDIA-kaart). Stuur voor je bestelt de GPU-naam, RAM en schijf.
Basis: een geschreven plan voor die box. Driver, of het model past, netwerk en wat ik niet zal installeren.
Standaard: één host actief. Driver, inference op localhost, reverse proxy met TLS en een client-token, en een kort runbook.
Premium: dezelfde host, plus een schema zodat de API alleen open is in jouw venster, een health check voordat het klaar is, en een overdrachtgesprek.
Na de start van de order heb ik SSH of een remote console nodig. Ik heb geen uitwisselingslogins of wallet-sleutels nodig.
Niet inbegrepen: hardware kopen, colocatie, energiekosten, of de box na overdracht laten draaien. Een verzorgingsperiode is apart.
Maak kennis met Eqan Ahmad
Launching your Trading Strategies to success
- Afkomstig uitPakistan
- Lid sindsaug 2019
- Laatste levering8 maanden
Talen
Urdu, Engels
Automatische vertaling
Mijn portfolio
Veelgestelde vragen
Automatische vertaling
Bouw je een volledig datacenter?
Nee. Deze Gig is één GPU-server, of een kleine host die je al hebt. Een rack met meerdere machines is een maatwerkofferte nadat ik de hardwarelijst heb gezien.
Welke model installeer je?
We spreken het model af voordat het werk begint. Op een 32 GB NVIDIA-kaart past meestal een 27B Qwen GGUF. Ik installeer geen model dat niet past op de GPU.
Welke toegang heb je nodig?
Na de start van de order: SSH of een remote console, het GPU-model en het OS. Ik heb geen wallet-sleutels of uitwisselingslogins nodig.
Wie bezit de server na levering?
Jij. Ik laat een runbook achter. Ik houd geen login totdat jij kiest voor een verzorgingsoptie.
Blijft de API privé?
Ja. De inference-poort blijft op localhost. Kopers bereiken het via HTTPS met een token, of via een VPN die jij al draait.

