Ik los mediapipe GPU delegate fouten op op arm linux, docker of headless

R
richter1976
R
richter1976
Richter
Sommige informatie is automatisch vertaald.
fix mediapipe GPU delegate errors on arm linux, docker, or headless
Volledig scherm
fix mediapipe GPU delegate errors on arm linux, docker, or headless

Over deze dienst

Automatische vertaling

Werkt MediaPipe GPU delegate niet op jouw ARM apparaat, Docker container of headless server?


Veelvoorkomende fouten die ik oplos:

"Failed creating base context during opening of kernel driver"

"eglGetDisplay() returned EGL_NO_DISPLAY"

"Kernel module may not have been loaded"

GPU delegate valt stilletjes terug op CPU zonder foutmelding

MediaPipe werkt op desktop maar crasht op edge/embedded


Ik heb MediaPipe 0.10.35 gecompileerd vanuit Bazel source met EGL/GBM GPU delegate op ARM Mali GPU die volledig headless draait (geen X11, geen Wayland, geen Xvfb). Resultaat was een 2.3x snelheidsverbetering ten opzichte van CPU.


Wat de meeste verkopers niet weten:

MediaPipe GPU delegate gebruikt EGL, NIET CUDA, zelfs op Jetson

EGL vereist standaard een display server, maar ik heb het aangepast om GBM (Generic Buffer Management) te gebruiken voor echte headless werking

Dit werkt op Mali (RK3576/RK3588), VideoCore (RPi 5) en Adreno GPU's


Live demo (terminal opname): https://asciinema.org/a/Mv4LEGvaroBSs6oJ


Ik verzorg:

ARM aarch64 compilatie vanuit bron (Bazel + CMake)

Docker GPU pass-through voor MediaPipe

Headless EGL/GBM patching

Prestatietests (CPU vs GPU)


Platform: Python 3.10-3.12, Linux ARM64, Docker-compatibel


  • Modelexpertise

    • Aangepaste modellen development

  • Branche

    • Audio en video
    • Gegevensanalyse

  • Programmeertaal

    • C
    • C++
    • Python
    • PyTorch

  • Taal

    • Chinees (vereenvoudigd)
    • Engels
    • Duits

  • Technische expertise

    • Machine learning (onder toezicht, zonder toezicht, versterking)
    • Deep learning (neurale netwerken, GAN's)
    • Computer vision (objectdetectie, beeldherkenning)

Maak kennis met Richter

Richter
4,8(4)
  • Afkomstig uitChina
  • Lid sindsokt 2024
  • Laatste levering1 jaar

  • Talen

    Chinees, Duits, Engels
I build computer vision systems that ship — on NVIDIA CUDA servers and ARM edge. Not demos. Production. 6 projects deployed in 12 months: YOLO detection + tracking on CUDA and NPU (17x speedup), multi-camera RTSP pipelines with FFmpeg hardware decoding, MediaPipe GPU compiled from source for ARM Mali (2.3x faster, headless), PyTorch custom model training, and rPPG contactless vital signs from video. Stack: Python, C++, PyTorch, OpenCV, CUDA, ONNX, YOLO, Docker. GPUs: RTX 4060 Ti, Hailo-8L NPU, Mali-G52. 3600+ lines in a real school. 20K+ lines in a shipping edge AI product.

Automatische vertaling

Mijn portfolio

Gerelateerde tags