Door categorieën bladeren
Ontdekken
Fiverr Pro
Nederlands
$
USD
Ik beoordeel je llm gateway op kosten, authenticatie en quota risico's
Sanghyeok Y
Over deze dienst
Automatische vertaling
Wil je je eigen gateway gebruiken voor LLM-verkeer, of ben je dat van plan? Ik beoordeel het ontwerp en vertel je, schriftelijk, wat je in productie kan schaden.
Ik heb een interne LLM gateway ontworpen en in productie gebruikt, en schreef een handleiding van 32.000 woorden over dit onderwerp.
Waar ik naar kijk:
- Authenticatie: statische provider-sleutels, korte tokens, toewijzing per gebruiker
- Quota en budgetten: limieten per team, waarschuwingsniveaus, wat er gebeurt bij 100%
- Kosten: gebruiksmeting, ontbrekende gebruiksblokken, gecachte tokens, afstemming met de provider-factuur
- Streaming: idle timeouts, onderbrekingen tijdens de stream, retries
- Tools / MCP toegang: wie kan wat aanroepen en hoe het wordt gecontroleerd
Wat je krijgt:
- Een schriftelijk rapport met bevindingen gerangschikt op risico
- Voor elke bevinding: waarom het belangrijk is en de kleinste oplossing
- Premium: een gefaseerde lanceringschecklist afgestemd op jouw systeem
Wat ik van jou nodig heb:
- Een diagram of korte beschrijving van het verzoekpad
- Relevante configuratie of code (geheimen verwijderd)
- Jouw providers, geschatte verkeer en maandbudget
Alleen schriftelijke levering. Neem contact op voordat je bestelt als je niet zeker weet welk pakket het beste past.
Maak kennis met Sanghyeok Y
Sanghyeok Y
DevOps engineer for LLM gateways and Kubernetes
- Afkomstig uitZuid-Korea
- Lid sindsokt 2026
Talen
Koreaans, Engels
DevOps engineer with 9+ years in infrastructure, Kubernetes, GitOps and, lately, AI infrastructure. I have designed and run an in-house LLM gateway in production: auth with short-lived tokens, per-team quotas and budgets, cost metering and reconciliation, and MCP tool access. I wrote The AI Gateway Playbook, a 32,000-word guide on the same topic. I work in writing: you send your design, config or repo, and I send back a clear, prioritized review. Korean native, English for written work.
Automatische vertaling
Veelgestelde vragen
Automatische vertaling
Heb je toegang nodig tot mijn systemen?
Nee. Ik werk op basis van wat je stuurt: diagrammen, configuratiebestanden of codefragmenten zonder geheimen. Ik heb nooit productieve credentials nodig.
Bouw je ook de gateway of los je problemen op?
Deze dienst is een schriftelijke beoordeling. Als je hulp wilt bij het implementeren van de oplossingen, stuur me een bericht en we kunnen het als een aparte maatwerk offerte bespreken.
Hoe werkt deze review?
Hoe het werkt: dit is een AI-ondersteunde geschreven review. Elk bestand dat je stuurt wordt regel voor regel geanalyseerd, en de bevindingen worden uitgewerkt in een prioriteitenrapport dat is afgestemd op jouw setup. Geen telefoontjes. Vragen worden beantwoord in Fiverr chat.
