Ik ontwikkel edge ai hardware en zet lokale llm in met phi 3 of ollama

Kop: Breng intelligentie naar je hardware met Edge AI

Ben je op zoek naar een slim apparaat dat niet afhankelijk is van dure cloud-API's? Ik specialiseer me in het implementeren van Local LLMs (Phi-3, Llama 3, Mistral) op Edge Hardware zoals de Raspberry Pi 5 en Compute Module 4/5.

Wat ik aanbied:

• On-Device LLM Implementatie: Expertinstelling van Ollama en Phi-3 (3B tot 7B parameters), geoptimaliseerd voor beperkte RAM.
• Voice Interface Integratie: Het bouwen van "Push-to-Talk" systemen met hoge nauwkeurigheid Speech-to-Text (STT) en natuurlijke Text-to-Speech (TTS).
• Geavanceerde AI-logica: Ik kan modellen programmeren om lange inputs samen te vatten, lokaal op te slaan met timestamps en ze te reconstrueren bij voice command.
• Hardware ontwerp: Prototyping met RPi 5, terwijl ik rekening houd met het uiteindelijke CM5/Industrieel product (Power management, Type-C opladen, en Bluetooth).
• WiFi-implementatie: Systemen opzetten die model updates en laden via WiFi mogelijk maken in plaats van SD-kaarten.

Mijn tech stack:

• Hardware: Raspberry Pi 5, CM4/5, ESP32, Mic/Speaker I2S/USB.
• AI-modellen: Phi-3, Ollama, Whisper (STT), Piper/Coqui (TTS).
• Talen: Python, C++, Bash.

Waarom voor mij kiezen?

Ik schrijf niet alleen code; ik begrijp de overgang van een "klungelige" RPi 5 prototype naar een compacte