Ik zet open source llm lokaal in op Apple Silicon Mac M4

F
feichen314
F
feichen314
Feichen
Sommige informatie is automatisch vertaald.
deploy open source llm locally on apple silicon mac m4
Volledig scherm
deploy open source llm locally on apple silicon mac m4

Over deze dienst

Automatische vertaling

Ik implementeer open source LLMs (Llama, Mistral, DeepSeek, Qwen, Phi) lokaal op Apple Silicon Macs met behulp van MLX, llama.cpp en Ollama. Krijg een privé, offline, ongecensureerde AI-assistent met volledige dataprivacy. Ik verzorg modelkeuze, quantisatie, API-instellingen en prompt tuning voor jouw gebruiksgeval.

  • AI engine

    • Mistral AI
    • DeepSeek
    • Meta Llama
    • Hugging Face
    • Ollama

  • Tools en frameworks

    • LangChain
    • LlamaIndex

  • Type AI-oplossing

    • AI-assistent

  • Doel

    • Interne bedrijfsvoering

Maak kennis met Feichen

Feichen

AI ML Engineer, LLM Fine tuning and Private Deployment Specialist

  • Afkomstig uitChina
  • Lid sindsaug 2026
  • Gem. reactietijd1 uur

  • Talen

    Engels, Chinees
AI/ML engineer specializing in LLM fine-tuning (LoRA/QLoRA) and private model deployment. Built a fact/opinion classification model via Qwen3-14B-4bit LoRA, achieving 99.7% accuracy on a 300-sample benchmark. I run a private 4-node Mac Mini M4 cluster - fine-tune and deploy your model locally, keeping your data 100% in your own infrastructure. Services: Custom LLM fine-tuning (LoRA/QLoRA), private/local model deployment & API serving (FastAPI), RAG pipelines, training data preparation & evaluation design. Fast, clear communication, English & Chinese.

Automatische vertaling

Mijn portfolio

Andere AI-development diensten die ik aanbied

Gerelateerde tags