Ik zet een private self-hosted llm op je eigen server met jouw data

Y
yangye1
Y
yangye1
Yang Ye
Sommige informatie is automatisch vertaald.
set up a private self hosted llm on your own server with your data
Volledig scherm
set up a private self hosted llm on your own server with your data

Over deze dienst

Automatische vertaling

Je data mag het bedrijf niet verlaten? Ik zet private AI op je eigen server op: open-source LLMs die draaien op je GPU, met een API die compatibel is met OpenAI zodat je apps het kunnen gebruiken.


Ik draai dit in productie: een AI-platform voor bedrijven op een interne NVIDIA GPU-server, met chat, agents, RAG over documenten en e-mail, en geplande rapporten. Geen data gaat naar de cloud.


Wat ik opzet:

  • Modelkeuze en -grootte afgestemd op jouw hardware (of advies over welke GPU je moet kopen)
  • Inference server (Ollama / vLLM) met een OpenAI-compatibele API
  • Privé webchat voor jouw team, met gebruikers
  • Optioneel: RAG over jouw documenten en verbinding met jouw apps
  • Monitoring, updates en overdrachtsdocumentatie

Werkt op Linux- of Windows-servers, on-premise of in een private cloud.

  • AI engine

    • ChatGPT
    • Claude
    • Mistral AI
    • DeepSeek
    • Meta Llama
    • Hugging Face
    • Ollama

  • Tools en frameworks

    • LangChain
    • LlamaIndex

  • Type AI-oplossing

    • AI-chatbot
    • RAG-systeem
    • AI-assistent
    • Interne AI-tool

  • Doel

    • Klantondersteuning
    • Kennisbeheer
    • Documentverwerking
    • Productiviteit van werknemers
    • Interne bedrijfsvoering

Maak kennis met Yang Ye

Yang Ye

Full Stack and AI Developer, Angular, NodeJS, LLM, RAG, CRM, ERP

4,7(1)
  • Afkomstig uitSpanje
  • Lid sindsapr 2023
  • Laatste levering2 jaar

  • Talen

    Chinees, Spaans, Catalaans, Engels
Full-stack developer and industrial engineer (MEng). I lead the technology of a software company and build custom business software: CRM/ERP platforms, quoting engines, e-invoicing and dashboards with Angular, Node.js and MySQL. I specialise in putting real AI inside business apps: LLM assistants that act on your data, RAG over documents and email, AI document extraction and private self-hosted models on GPU servers. 8+ years of experience. I speak English, Spanish, Catalan and Chinese.

Automatische vertaling

Mijn portfolio

Andere AI-development diensten die ik aanbied

Gerelateerde tags