Ik optimise en implementeer jouw PyTorch-model met ONNX en TensorRT
AI, Computer Vision engineer
Over deze dienst
Jouw model werkt goed, maar is te langzaam of te zwaar voor productie? Ik converteer en optimiseer het met ONNX en TensorRT zodat het sneller draait op GPU's en edge-apparaten, en zorg dat de nauwkeurigheid op het juiste niveau blijft.
Ik ben een Computer Vision Engineer met meer dan 3 jaar ervaring in het leveren van production CV-systemen. Ik optimiseer modellen met ONNX/TensorRT voor kiosken en mobiele apparaten en host ze via FastAPI in systemen die draaien in meer dan 60 winkels.
Wat ik kan doen:
- PyTorch-modellen exporteren naar ONNX en controleren of de outputs overeenkomen met het origineel
- TensorRT FP16-engines bouwen en de snelheidswinst meten
- Latency en nauwkeurigheid voor en na vergelijken
- Veelvoorkomende exportproblemen oplossen (onondersteunde ops, dynamische vormen)
- Het geoptimaliseerde model leveren met FastAPI + Docker
Wat je krijgt:
- Geoptimaliseerde modelbestanden + inference-code
- Benchmarkrapport (latency, nauwkeurigheid, gebruikte hardware)
- Duidelijke instructies om het op jouw machine uit te voeren
Stuur me alsjeblieft een bericht voordat je bestelt met jouw modeltype,/frameworkversie en doelhardware (GPU-model of edge-apparaat), zodat ik de scope kan bevestigen.
Expertise:
Classificatie
•
Software development
•
Objectherkenning
Programmeertaal:
Python
Tools:
opencv
•
tensorflow
•
PyTorch
Frameworks:
PyTorch
