Ik beoordeel en los de hallucinaties en de retrieve-nauwkeurigheid van jouw rag-chatbot op

M
mahmoudrfaey
M
mahmoudrfaey
Mahmoud Refaey
Sommige informatie is automatisch vertaald.

Over deze dienst

Automatische vertaling

Jouw RAG-chatbot zag er in de demo prima uit. Toen begonnen echte gebruikers echte vragen te stellen, en nu geeft hij verkeerde antwoorden met volle overtuiging.


Meestal is het model niet het probleem. Het ligt aan retrieval, chunking, of tekst die uit OCR gebrekkig is. Ik ontdek welk deel het is, met cijfers in plaats van gissingen.


Dit is het werk waar ik het beste in ben. Bij een banking chatbot op gebonden PDF’s bij GBG zaten we op 79% trouwheid. Nadat we OCR hadden verbeterd en hybride search, reranking en query-herformulering hadden toegevoegd, kwam het op 97%, en de nauwkeurigheid ging van 61% naar 85% (DeepEval, LLM als rechter).


Hoe het werkt:

1. Ik maak een testset van jouw documenten en echte gebruikersvragen

2. Ik beoordeel trouwheid, nauwkeurigheid en retrieval-kwaliteit

3. Ik traceer elke fout naar de oorzaak: parsing, chunking, search, ranking of prompt

4. Jij krijgt een fixplan, of ik voer de aanpassingen door en beoordeel opnieuw


Je krijgt een kort rapport met voor en na cijfers op dezelfde testset. Ik beloof geen specifiek getal, omdat het afhangt van jouw data.


Werkt met LangChain, LlamaIndex of gewone Python-pijplijnen, in elke taal waarin jouw documenten zijn geschreven.


Stuur me een paar voorbeelden van slechte antwoorden. Dat is vaak genoeg om te vertellen waar ik als eerste naar kijk.

Maak kennis met Mahmoud Refaey

Mahmoud Refaey

AI Engineer building RAG systems, LLM agents and Arabic NLP

  • Afkomstig uitEgypte
  • Lid sindsnov 2024
  • Talen

    Arabisch, Engels
I build LLM apps that work on real, messy data: RAG chatbots over your documents, LangGraph agents, and Text-to-SQL tools that let your team query a database in plain language. Much of my work is in Arabic. At GBG I helped take an Arabic banking RAG chatbot from 79% to 97% faithfulness, mostly by fixing OCR on scanned PDFs and improving retrieval. Stack: Python, FastAPI, LangGraph, Azure OpenAI, Qdrant, PostgreSQL, Docker, LoRA fine-tuning. Tell me what you're building and I'll tell you how I'd approach it.

Automatische vertaling

Mijn portfolio