Quand changer d'embedding double le rappel : bge-m3 vs nomic sur un RAG local

Mon, 06 Jul 2026 09:00:00 +0200

Chez Wazo, nous faisons tourner un RAG entièrement local. La souveraineté sur les données n’est pas un argument de marketing : la base mélange de la documentation produit, des documentations techniques mises à disposition de nos partenaires, du code open source et propriétaire, et un volume important de notes privées. Tout cela reste sur nos serveurs. Aucune donnée ne part vers un tiers cloud.

Ce volume impose un travail d’amélioration continue. Le RAG alimente à la fois l’avant-vente et le support, deux usages où une réponse fausse ou trop lente coûte cher. Récemment, un changement d’embedding a fait passer le rappel de notre recherche de 0,45 à 0,95 et divisé la latence par douze.

When Switching Embeddings Doubles Recall: bge-m3 vs nomic on a Local RAG

Mon, 06 Jul 2026 09:00:00 +0200

At Wazo, we run a fully local RAG. Data sovereignty is not a marketing argument: the knowledge base mixes product documentation, technical docs shared with our partners, open-source and proprietary code, and a large volume of private notes. All of it stays on our servers. Nothing goes to a cloud third party.

That volume forces continuous improvement work. The RAG feeds both pre-sales and support — two use cases where a wrong or slow answer is costly. Recently, an embedding change took our search recall from 0.45 to 0.95 and cut latency by twelve. Measured, not guessed.

ChromaDB on Mathias WOLFF

Quand changer d'embedding double le rappel : bge-m3 vs nomic sur un RAG local

When Switching Embeddings Doubles Recall: bge-m3 vs nomic on a Local RAG