Sur un RAG local 100 % privé, remplacer nomic-embed-text par bge-m3 et supprimer la traduction runtime FR→EN a fait passer le rappel de 0,45 à 0,95 et divisé la latence par douze. Mesuré, pas deviné.
RAG
On a 100% private local RAG, replacing nomic-embed-text with bge-m3 and dropping runtime FR→EN translation took recall from 0.45 to 0.95 and cut latency by twelve. Measured, not guessed.
Une base de connaissance Markdown pensée pour durer plusieurs années, avec un agent IA et une recherche vectorielle. Sept choix de conception sont documentés avec leurs coûts.
A Markdown knowledge base built to last several years, with an AI agent and vector search. Seven design choices are documented along with their costs.