Ik zet inference op voor jouw open-source modellen

R
rickymuchiri
R
rickymuchiri
Erick
5,0
5,0
Sommige informatie is automatisch vertaald.

Over deze dienst

Automatische vertaling

Ik bouw inference voor jouw open-source modellen met engines zoals TensorRT-LLM, vLLM en sGLang. Voor lage latentie-workflows help ik je een lage latency te bereiken via methoden zoals kwantisatie, modelcompositie, batching en streaming. Ik zet ook beveiligingsmaatregelen op voor jouw inference-endpoints met API-sleutels en RAG-ondersteuning om documenten te koppelen aan jouw prompts. Deze dienst is geschikt voor zowel on-premises als cloud, zowel op CPU als GPU's.

Maak kennis met Erick

Erick

Selfhosted solutions

4,9(10)
  • Afkomstig uitKenia
  • Lid sindssep 2022
  • Gem. reactietijd19 uur
  • Laatste levering3 maanden
  • Talen

    Engels, Swahili
I'm Erick, a Software Engineer and System Administrator specializing in self-hosted solutions. I deploy and manage secure server environments to help businesses operate independently from third-party SaaS platforms. My expertise includes Linux server administration, Docker containerization, virtualization with Proxmox, and VPN configuration using Tailscale, Wireguard and OpenVPN. I set up, troubleshoot, and optimize self-hosted services, ensuring efficient and reliable infrastructures tailored to your needs. I also provide Twilio services to help businesses efficiently reach out to customers.

Automatische vertaling

Reviews

1 reviews van deze dienst
5,0

(1)
(0)
(0)
(0)
(0)
Specificering van de beoordeling
  • Communicatieniveau van de freelancer
    5
  • Kwaliteit van de levering
    5
  • Waarde van de levering
    5
Sorteer op
Meest relevant
  • B

    benrudidi82

    CM

    Kameroen

    Lopende samenwerking
    5

    for me it is difficult to find people like that I feel very confident working with him, he is very professional, he understands very quickly, he complies with all my requirements, he does things in a professional manner, despite the fact that I do not speak English, he adapts to the French, to the point...

    US$ 50-US$ 100

    Prijs

    4 dagen

    Looptijd

    Nuttig?
    Ja
    Nee
Reviews

1 reviews van deze dienst
5,0

(1)
(0)
(0)
(0)
(0)
Specificering van de beoordeling
  • Communicatieniveau van de freelancer
    5
  • Kwaliteit van de levering
    5
  • Waarde van de levering
    5
Sorteer op
Meest relevant
  • B

    benrudidi82

    CM

    Kameroen

    Lopende samenwerking
    5

    for me it is difficult to find people like that I feel very confident working with him, he is very professional, he understands very quickly, he complies with all my requirements, he does things in a professional manner, despite the fact that I do not speak English, he adapts to the French, to the point...

    US$ 50-US$ 100

    Prijs

    4 dagen

    Looptijd

    Nuttig?
    Ja
    Nee

Gerelateerde tags