Saya Akan membina ejen AI atau "chatbot" yang menjawab daripada dokumen anda sendiri

Masalah dengan kebanyakan chatbot dokumen

Mereka yakin. Tanya soalan yang tidak dijawab oleh dokumen dan sistem naif mencipta respons yang munasabah, yang lebih teruk daripada tiada jawapan sama sekali apabila dokumen adalah kontrak, polisi atau prosedur sokongan.

Apa yang saya bina sebaliknya

Pengambilan dahulu, penjanaan kedua. Dokumen anda dipecah dengan struktur yang dipelihara — tajuk kekal melekat pada perenggan yang mereka perkenalkan, jadual tidak dipecah menjadi serpihan yang tidak bermakna. Setiap pecahan membawa sumber, halaman dan bahagiannya. Pengambilan menggunakan carian hibrid: pembenaman padat untuk makna, carian kata kunci untuk pengecam tepat yang terlepas oleh pembenaman, seperti nombor bahagian, rujukan klausa dan nama.

Model diarahkan untuk menjawab hanya daripada petikan yang diambil, dan untuk memetiknya. Jika pengambilan tidak mengembalikan apa-apa di atas ambang keyakinan, ejen menyatakan demikian dan menawarkan untuk meningkatkan. Tingkah laku itu boleh dikonfigurasi, tetapi ia adalah lalai kerana ia adalah tingkah laku yang menjauhkan anda daripada masalah.

Apa yang anda dapat

• Saluran paip pengambilan untuk PDF, DOCX, HTML dan teks biasa, dengan pengindeksan semula apabila dokumen berubah.
• Perkhidmatan pengambilan dengan set penilaian soalan sebenar dan ketepatan yang diukur, jadi kualiti adalah nombor dan bukannya pendapat.
• Antara muka: widget sembang, titik akhir API, atau kedua-duanya.
• Pengelogan setiap soalan, petikan yang diambil, dan jawapan — supaya kesilapan dapat dikesan.

Apa yang saya perlukan

Contoh dokumen, dua puluh soalan sebenar yang ditanya oleh pengguna anda, dan jawapan yang akan anda berikan kepada setiap satu. Dua puluh soalan itu menjadi suite ujian yang membuktikan ejen berfungsi sebelum anda bergantung padanya.

Penggunaan

Berjalan pada infrastruktur anda atau di awan, dengan vendor model boleh ditukar ganti. Jika dokumen tidak boleh meninggalkan rangkaian anda, saya akan merancang untuk model tempatan sebaliknya.

Pusingan dan komunikasi

Lapisan pengambilan dan pengambilan biasanya berfungsi dengan dokumen anda dalam masa seminggu, dengan set penilaian dua puluh soalan menunjukkan di mana ketepatan berada sebelum apa-apa didedahkan kepada pengguna. Saya melaporkan skor dan bukannya tanggapan, dan setiap perubahan pada pengambilan diukur terhadap set yang sama supaya peningkatan dapat dilihat dan regresi dapat dikesan. Jika dokumen lebih kotor daripada yang dijangka, itu adalah penemuan yang anda dapat dalam beberapa hari pertama, bukan pada akhirnya.