Assistant de support ancré pour une plateforme SaaS
Ce dont le client avait besoin. Un éditeur de produit voulait un assistant intégré qui réponde depuis sa documentation, ses tickets et ses conversations passées : avec des sources, pas des réponses hallucinées.
Comment nous l'avons livré. Nous avons construit un pipeline de recherche avec ingestion de documents, découpage sémantique et embeddings stockés dans pgvector, puis ajouté une recherche hybride avec reclassement par cross-encoder et un mappage de citations pour que chaque réponse renvoie à sa source. La couche de génération imposait un schéma de prompt strict, des budgets de tokens et de latence, et un repli vers « je ne sais pas » quand la confiance était faible. Nous avons livré un harnais d'évaluation séparé qui vérifie l'ancrage et la qualité des réponses à chaque changement de modèle ou de prompt. Le service a été conteneurisé, déployé avec du tracing et remis avec ses runbooks.