Tôi sẽ xây dựng một tác nhân AI hoặc chatbot trả lời từ tài liệu của riêng bạn

Vấn đề với hầu hết các chatbot tài liệu

Chúng tự tin. Hỏi một câu hỏi mà tài liệu không trả lời và một hệ thống ngây thơ sẽ tạo ra một phản hồi hợp lý, điều này tệ hơn là không có câu trả lời nào cả khi tài liệu là hợp đồng, chính sách hoặc quy trình hỗ trợ.

Những gì tôi xây dựng thay thế

Truy xuất trước, tạo sau. Tài liệu của bạn được chia thành các đoạn với cấu trúc được bảo toàn — tiêu đề vẫn gắn liền với các đoạn văn mà chúng giới thiệu, bảng không bị xé thành các mảnh vô nghĩa. Mỗi đoạn mang nguồn, trang và phần của nó. Truy xuất sử dụng tìm kiếm lai: nhúng dày đặc cho ý nghĩa, tìm kiếm từ khóa cho các định danh chính xác mà nhúng bỏ lỡ, chẳng hạn như số bộ phận, tham chiếu điều khoản và tên.

Mô hình được hướng dẫn chỉ trả lời từ các đoạn được truy xuất và trích dẫn chúng. Nếu truy xuất không trả về gì trên ngưỡng tin cậy, tác nhân sẽ nói như vậy và đề nghị leo thang. Hành vi đó có thể cấu hình, nhưng đó là mặc định vì đó là hành vi giúp bạn tránh rắc rối.

Những gì bạn nhận được

• Đường ống nhập liệu cho PDF, DOCX, HTML và văn bản thuần túy, với việc tái lập chỉ mục khi tài liệu thay đổi.
• Một dịch vụ truy xuất với một bộ đánh giá các câu hỏi thực tế và độ chính xác được đo lường, vì vậy chất lượng là một con số chứ không phải một ý kiến.
• Một giao diện: tiện ích trò chuyện, điểm cuối API hoặc cả hai.
• Ghi nhật ký mọi câu hỏi, các đoạn được truy xuất và câu trả lời — để có thể theo dõi các lỗi.

Những gì tôi cần

Một mẫu tài liệu, hai mươi câu hỏi thực tế mà người dùng của bạn hỏi và câu trả lời bạn sẽ đưa ra cho mỗi câu. Hai mươi câu hỏi đó trở thành bộ kiểm tra chứng minh tác nhân hoạt động trước khi bạn tin tưởng vào nó.

Triển khai

Chạy trên cơ sở hạ tầng của bạn hoặc trên đám mây, với nhà cung cấp mô hình có thể thay thế. Nếu tài liệu không thể rời khỏi mạng của bạn, tôi sẽ lên kế hoạch cho một mô hình cục bộ thay thế.

Thời gian hoàn thành và giao tiếp

Các lớp nhập liệu và truy xuất thường hoạt động với tài liệu của bạn trong vòng một tuần, với bộ đánh giá hai mươi câu hỏi cho thấy độ chính xác ở đâu trước khi bất cứ điều gì được hiển thị cho người dùng. Tôi báo cáo điểm số chứ không phải một ấn tượng, và mọi thay đổi đối với truy xuất đều được đo lường với cùng một bộ để cải thiện có thể nhìn thấy và lỗi được phát hiện. Nếu tài liệu lộn xộn hơn mong đợi, đó là một phát hiện bạn nhận được trong những ngày đầu tiên, không phải vào cuối.