L'électron rare
d2fed6087a
- Introduced `mcp-server.js` to expose KXKM personas as MCP tools, supporting chat, persona listing, web search, and status checks. - Implemented `mcp-server-smoke.js` for testing the MCP server functionality, ensuring compatibility with both new and legacy message formats. - Created `setup-voice-clone.sh` for managing voice cloning environment setup, including bootstrapping, sample generation, and smoke testing. - Added `state.json` to track project status and task outputs for various batches. - Generated summary files for deep cycle and overall project status, capturing performance and security findings.
1.9 KiB
1.9 KiB
BGE-M3 Benchmark - 2026-03-17
Etat local confirme
- Le RAG courant utilise encore des embeddings locaux via Ollama dans
apps/api/src/rag.ts, avecnomic-embed-textpar defaut. - Le repo contient deja un bench local
scripts/bench-embeddings.js. - Le health check
scripts/health-embeddings.shsonde Ollama et detecte la presence ou non debge-m3.
Etat machine observe
npm run -s smoke:embeddingspasse.ollama pull bge-m3a ete execute avec succes;bge-m3:latestest maintenant present localement.bash scripts/health-embeddings.sh --strictpasse et confirme la presence debge-m3.- Le benchmark local resout maintenant correctement les noms de modeles tagges
:latestet remonte les erreurs Ollama par modele. - Sur cette machine Apple/Metal,
bge-m3:latestechoue au chargement avec une erreurggml_metal_init/MTLLibraryErrorDomain. - Sur cette meme machine,
nomic-embed-text:latestetqwen3-embedding:0.6bretournent aussi des500Ollama de chargement de modele, donc le benchmark numerique ne peut pas etre compare localement ici.
Commandes utiles
npm run -s smoke:embeddingsbash scripts/health-embeddings.sh --strictnode scripts/bench-embeddings.js --models bge-m3 --json-onlynode scripts/bench-embeddings.js --models qwen3-embedding:0.6b,bge-m3 --json-only
Decision actuelle
- Invalider
bge-m3comme upgrade local sur cette machine macOS/Metal tant que le runner Ollama termine surggml_metal_init. - Conserver la baseline applicative actuelle et ne pas changer
apps/api/src/rag.tssur la base de ce host. - Si on veut requalifier
bge-m3, le refaire sur une cible Linux/CPU ou Linux/CUDA, pas sur ce host Apple/Metal.
Sources officielles
- BGE-M3 model card: https://huggingface.co/BAAI/bge-m3
- FlagEmbedding repository: https://github.com/FlagOpen/FlagEmbedding
- Ollama embedding models overview: https://ollama.com/blog/embedding-models