Ik zet je gpu-cluster en ai-infrastructuur op, valideer en los problemen op

Je hebt GPUs. Ze moeten zich gedragen als een betrouwbare compute-platform.

Ik bouw en beheer GPU- en HPC-infrastructuur in productie: provisioning, driver- en CUDA-stackvalidatie, planning, high-speed netwerken en monitoring. Ik werk op het infrastructuurniveau. Ik ben geen ML-engineer en doe alsof ik dat niet ben.

WAT IK DOE

GPU-node opstarten: NVIDIA driver, CUDA toolkit en runtime afstemmen, persistence mode, MIG

Gezondheidscontrole: DCGM-diagnostiek, Xid- en ECC-fouttriage, thermische en stroomcontrole

Multi-node GPU-communicatie: nccl-tests all-reduce benchmarking, NCCL-afstemming, netwerkpadvalidatie

Planning: SLURM GPU-partities en GRES, cgroups en binding, of Kubernetes met de NVIDIA device plugin en GPU Operator

Monitoring: Prometheus, DCGM exporter, Grafana dashboards

Automatisering: Ansible-rollen zodat de build herhaalbaar is

VOordat je bestelt

Stuur me een bericht met het aantal nodes, GPU-model, interconnect en wat je ziet. Als het iets is dat ik niet echt kan oplossen, zeg ik dat.

Je krijgt een werkende configuratie, benchmarkoutput die laat zien wat er is veranderd, en geschreven documentatie.