Je vais créer un agent IA ou un chatbot qui répond à partir de vos propres documents

Le problème avec la plupart des chatbots de documents

Ils sont confiants. Posez une question à laquelle les documents ne répondent pas et un système naïf invente une réponse plausible, ce qui est pire que pas de réponse du tout lorsque les documents sont des contrats, des politiques ou des procédures de support.

Ce que je construis à la place

Récupération d'abord, génération ensuite. Vos documents sont découpés en morceaux avec la structure préservée — les titres restent attachés aux paragraphes qu'ils introduisent, les tableaux ne sont pas déchiquetés en fragments insignifiants. Chaque morceau porte sa source, sa page et sa section. La récupération utilise une recherche hybride: des intégrations denses pour le sens, une recherche par mots-clés pour les identifiants exacts que les intégrations manquent, tels que les numéros de pièce, les références de clauses et les noms.

Le modèle est instruit de ne répondre qu'à partir des passages récupérés et de les citer. Si la récupération ne renvoie rien au-dessus d'un seuil de confiance, l'agent le dit et propose d'escalader. Ce comportement est configurable, mais c'est le comportement par défaut car c'est celui qui vous évite des problèmes.

Ce que vous obtenez

• Pipeline d'ingestion pour PDF, DOCX, HTML et texte brut, avec réindexation lorsque les documents changent.
• Un service de récupération avec un ensemble d'évaluation de questions réelles et une précision mesurée, de sorte que la qualité est un nombre plutôt qu'une opinion.
• Une interface: widget de chat, point de terminaison API, ou les deux.
• Journalisation de chaque question, des passages récupérés et de la réponse — afin que les erreurs puissent être tracées.

Ce dont j'ai besoin

Un échantillon des documents, vingt questions réelles que vos utilisateurs posent, et la réponse que vous donneriez à chacune. Ces vingt questions deviennent la suite de tests qui prouve que l'agent fonctionne avant que vous ne vous y fiez.

Déploiement

Fonctionne sur votre infrastructure ou dans le cloud, avec un fournisseur de modèle interchangeable. Si les documents ne peuvent pas quitter votre réseau, je prévois un modèle local à la place.

Délai et communication

Les couches d'ingestion et de récupération fonctionnent généralement avec vos documents en moins d'une semaine, l'ensemble d'évaluation de vingt questions montrant la précision avant que quoi que ce soit ne soit exposé aux utilisateurs. Je rapporte le score plutôt qu'une impression, et chaque modification de la récupération est mesurée par rapport au même ensemble afin que l'amélioration soit visible et que la régression soit détectée. Si les documents sont plus désordonnés que prévu, c'est une constatation que vous obtenez dans les premiers jours, pas à la fin.