Saya akan membangun agen AI atau chatbot yang menjawab dari dokumen Anda sendiri

Masalah dengan sebagian besar chatbot dokumen

Mereka percaya diri. Ajukan pertanyaan yang tidak dijawab oleh dokumen dan sistem yang naif akan menciptakan respons yang masuk akal, yang lebih buruk daripada tidak ada jawaban sama sekali ketika dokumen tersebut adalah kontrak, kebijakan, atau prosedur dukungan.

Apa yang saya bangun sebagai gantinya

Pengambilan pertama, generasi kedua. Dokumen Anda dipecah dengan struktur yang dipertahankan — judul tetap melekat pada paragraf yang mereka perkenalkan, tabel tidak dihancurkan menjadi fragmen yang tidak berarti. Setiap bagian membawa sumber, halaman, dan bagiannya. Pengambilan menggunakan pencarian hibrida: embedding padat untuk makna, pencarian kata kunci untuk pengidentifikasi yang tepat yang terlewat oleh embedding, seperti nomor bagian, referensi klausa, dan nama.

Model diinstruksikan untuk menjawab hanya dari bagian yang diambil, dan untuk mengutipnya. Jika pengambilan tidak mengembalikan apa pun di atas ambang kepercayaan, agen mengatakannya dan menawarkan untuk meningkatkan. Perilaku itu dapat dikonfigurasi, tetapi itu adalah default karena itu adalah perilaku yang membuat Anda tidak mendapat masalah.

Apa yang Anda dapatkan

• Pipeline penyerapan untuk PDF, DOCX, HTML, dan teks biasa, dengan pengindeksan ulang saat dokumen berubah.
• Layanan pengambilan dengan set evaluasi pertanyaan nyata dan akurasi terukur, sehingga kualitas adalah angka daripada opini.
• Antarmuka: widget obrolan, titik akhir API, atau keduanya.
• Pencatatan setiap pertanyaan, bagian yang diambil, dan jawaban — sehingga kesalahan dapat dilacak.

Apa yang saya butuhkan

Contoh dokumen, dua puluh pertanyaan nyata yang diajukan pengguna Anda, dan jawaban yang akan Anda berikan untuk masing-masing pertanyaan. Kedua puluh pertanyaan itu menjadi rangkaian pengujian yang membuktikan agen berfungsi sebelum Anda mengandalkannya.

Penyebaran

Berjalan di infrastruktur Anda atau di cloud, dengan vendor model yang dapat dipertukarkan. Jika dokumen tidak dapat meninggalkan jaringan Anda, saya akan merencanakan model lokal sebagai gantinya.

Waktu penyelesaian dan komunikasi

Lapisan penyerapan dan pengambilan biasanya berfungsi dengan dokumen Anda dalam waktu seminggu, dengan set evaluasi dua puluh pertanyaan menunjukkan di mana akurasi berada sebelum apa pun diekspos ke pengguna. Saya melaporkan skor daripada kesan, dan setiap perubahan pada pengambilan diukur terhadap set yang sama sehingga peningkatan terlihat dan regresi tertangkap. Jika dokumen lebih berantakan dari yang diharapkan, itu adalah temuan yang Anda dapatkan di hari-hari pertama, bukan di akhir.