我将构建一个AI代理或聊天机器人，它能根据您自己的文档进行回答

大多数文档聊天机器人的问题

它们过于自信。如果文档中没有问题的答案，一个简单的系统会编造一个看似合理的回复，当文档是合同、政策或支持程序时，这比没有答案更糟糕。

我将构建什么

检索优先，生成其次。您的文档会被分块并保留结构——标题与其所介绍的段落保持关联，表格不会被撕裂成无意义的碎片。每个块都带有其来源、页码和章节。检索使用混合搜索：密集嵌入用于语义，关键词搜索用于嵌入可能遗漏的精确标识符，例如部件号、条款引用和名称。

模型被指示只从检索到的段落中回答，并引用它们。如果检索到的内容没有达到置信度阈值，代理会说明并提供升级选项。这种行为是可配置的，但它是默认行为，因为它能让您避免麻烦。

您将获得

• 用于PDF、DOCX、HTML和纯文本的摄取管道，并在文档更改时进行重新索引。
• 一个具有真实问题评估集和测量准确性的检索服务，因此质量是一个数字而不是一种观点。
• 一个界面：聊天小部件、API端点，或两者兼有。
• 记录每个问题、检索到的段落和答案——以便追踪错误。

我需要什么

一份文档样本，二十个您的用户会问的真实问题，以及您对每个问题的回答。这二十个问题将成为测试套件，在您依赖代理之前证明其有效性。

部署

在您的基础设施或云端运行，模型供应商可互换。如果文档不能离开您的网络，我将改为规划本地模型。

周转和沟通

摄取和检索层通常在一周内针对您的文档工作，二十个问题的评估集会显示在任何内容暴露给用户之前准确性如何。我报告的是分数而不是印象，并且每次检索更改都会针对同一组进行测量，因此改进是可见的，并且可以捕获回归。如果文档比预期更混乱，那是在最初几天而不是最后才发现的结果。