Tôi sẽ xây dựng một chatbot RAG trả lời từ tài liệu của bạn và hiển thị nguồn

Câu trả lời của bạn đã có sẵn trong tài liệu của bạn: chính sách đổi trả, hướng dẫn sử dụng sản phẩm, bảng giá, hợp đồng, bài viết trung tâm trợ giúp. Tôi xây dựng một chatbot tìm kiếm các tệp đó trước và chỉ trả lời từ những gì nó tìm thấy, trích dẫn tệp và trang hoặc phần đằng sau mỗi câu trả lời. Khi tài liệu không bao gồm một câu hỏi, nó sẽ nói rõ thay vì đoán.

Starter lập chỉ mục tối đa 50 tệp (PDF văn bản, Word, văn bản thuần túy hoặc trang web công cộng) đằng sau một cuộc trò chuyện web đơn giản, với hướng dẫn để chạy nó trên máy chủ của riêng bạn. Standard xử lý tối đa 300 tệp, thêm tiện ích trò chuyện cho trang web của bạn hoặc bot Telegram và lịch sử trò chuyện, và tôi thiết lập nó trên máy chủ của bạn. Advanced đi vào ứng dụng Postgres hoặc Supabase của riêng bạn với thông tin đăng nhập người dùng và quy tắc truy cập, để mỗi người dùng chỉ thấy các tài liệu mà họ được phép xem, hoặc chạy trên máy chủ của bạn với một mô hình cục bộ, để tệp của bạn không bao giờ đến nhà cung cấp AI.

Mỗi gói kết thúc bằng một bài kiểm tra trên tối đa 20 câu hỏi của bạn. Bạn nhận được một bảng với mỗi câu trả lời, nguồn nó đã sử dụng và liệu nó có đúng không; sau đó tôi thực hiện một vòng sửa lỗi và chạy lại các câu hỏi. Mã nguồn là của bạn, và bot chạy trên khóa OpenAI, Claude hoặc Gemini của riêng bạn, vì vậy bạn thấy mọi yêu cầu trên hóa đơn của nhà cung cấp và không phải trả cho tôi phí hàng tháng.

Chỉ mục tìm kiếm được xây dựng bởi một mô hình nhỏ chạy cùng với bot và được giữ trong PostgreSQL với pgvector, vì vậy tệp của bạn không đến nhà cung cấp AI, và một ứng dụng Postgres hoặc Supabase không cần dịch vụ vector riêng biệt. Công việc gần đây: lớp tìm kiếm vector của một backend Supabase sản xuất cho một bàn giao dịch bầu cử, với tìm kiếm tương tự được lọc và quy tắc truy cập chỉ dành cho nhóm, cộng với tóm tắt LLM hàng giờ được kiểm tra trước khi chúng được lưu trữ.

Trong 14 ngày sau khi giao hàng, tôi sẽ sửa bất kỳ lỗi nào không hoạt động như chúng ta đã thỏa thuận, miễn phí.

Không có cuộc gọi. Phạm vi được thỏa thuận bằng văn bản trước khi tôi bắt đầu, và bạn nhận được một bản cập nhật bằng văn bản vào cuối mỗi ngày làm việc.

Các bước hoàn thành dự án của bạn
1. Câu hỏi và tài liệu - Bạn gửi các tệp và các câu hỏi mà mọi người thực sự hỏi. Tôi xác nhận bằng văn bản những gì chatbot sẽ trả lời, nơi nó sẽ hoạt động và nhà cung cấp nào nó chạy trên.
2. Lập chỉ mục và tìm kiếm - Tôi chia tài liệu thành các đoạn văn, lập chỉ mục chúng bằng một mô hình nhúng nhỏ chạy cùng với bot, và lưu trữ chúng trong PostgreSQL với pgvector, giữ tệp và trang hoặc phần của mỗi đoạn văn.
3. Trả lời kèm nguồn - Chatbot chỉ trả lời từ các đoạn văn nó truy xuất và nói rõ khi tài liệu không bao gồm một câu hỏi.
4. Kiểm tra trên câu hỏi của bạn - Tối đa 20 câu hỏi của bạn được chạy qua nó, và bạn nhận được bảng các câu trả lời, nguồn và kết quả, sau đó một vòng sửa lỗi.
5. Bàn giao - Mã nguồn, một hướng dẫn ngắn gọn để chạy nó và, đối với Standard hoặc Advanced, tiện ích, bot Telegram hoặc tích hợp ứng dụng, được thiết lập trên máy chủ của bạn và được kiểm tra.