Ik audit en optimaliseer je llm API-infrastructuur

Productiesystemen met LLM verspillen 30-60% van hun API-uitgaven aan het verkeerde model, de verkeerde routingstrategie of de verkeerde promptstructuur.

Ik ben een Senior ML Engineer die infrastructuur voor LLM bouwt en beheert voor een enterprise SaaS, Kubernetes-native inference, multi-provider routing en RAG-systemen die op grote schaal draaien. Daarnaast help ik kleinere teams hun setups te auditen en te verbeteren voordat ze opschalen, en de kosten ondragelijk worden.

Wat je krijgt:

• Kostenanalyse: waar je API-uitgaven naartoe gaan en waar ze lekken
• Architectuuroverzicht: routing, fallback, caching, observability-gaten
• Prompt-audit: tokengebruik, structuur, outputstabiliteit
• Veiligheidscontrole: authenticatie, rate limiting, PII-afhandeling, prompt-injectie vectors
• Prioritaire aanbevelingen met effort/impact-score

Voor wie dit is:

• Startups die OpenAI/Anthropic in productie gebruiken en de rekeningen zien stijgen
• Teams die hun LLM-functies willen opschalen en de basis goed willen leggen
• Oprichters die een senior blik op hun AI-systeem willen voordat ze investeren of uitrollen

Wat ik van jou nodig heb:

• Alleen-lezen toegang tot je code/repo
• 2-3 voorbeeld prompts of logs
• Een korte kickoff van 15 minuten om doelen te bespreken

Stuur me een bericht vooraf zodat we de scope kunnen bevestigen.