Kendi belgelerinizden yanıt veren bir yapay zeka aracısı veya sohbet robotu oluşturacağım

Çoğu belge sohbet robotunun sorunu

Kendilerine güveniyorlar. Belgelerin cevaplamadığı bir soru sorun ve saf bir sistem makul bir yanıt uydurur, bu da belgeler sözleşmeler, politikalar veya destek prosedürleri olduğunda hiç yanıttan daha kötüdür.

Bunun yerine ne inşa ediyorum

Önce erişim, sonra üretim. Belgeleriniz yapıları korunarak parçalanır — başlıklar tanıttıkları paragraflara bağlı kalır, tablolar anlamsız parçalara ayrılmaz. Her parça kaynağını, sayfasını ve bölümünü taşır. Erişim hibrit arama kullanır: anlam için yoğun gömüler, parça numaraları, madde referansları ve isimler gibi gömülerin kaçırdığı tam tanımlayıcılar için anahtar kelime araması.

Model, yalnızca alınan pasajlardan yanıt vermesi ve bunları alıntılaması için talimatlandırılmıştır. Eğer erişim bir güven eşiğinin üzerinde hiçbir şey döndürmezse, aracı bunu belirtir ve yükseltmeyi teklif eder. Bu davranış yapılandırılabilir, ancak varsayılan budur çünkü sizi beladan uzak tutan davranıştır.

Ne alırsınız

• Belgeler değiştiğinde yeniden indeksleme ile PDF, DOCX, HTML ve düz metin için alım hattı.
• Gerçek soruların ve ölçülen doğruluğun bir değerlendirme seti ile bir erişim hizmeti, böylece kalite bir görüşten ziyade bir sayıdır.
• Bir arayüz: sohbet widget'ı, API uç noktası veya her ikisi.
• Her sorunun, alınan pasajların ve cevabın günlüğe kaydedilmesi — böylece hatalar izlenebilir.

Neye ihtiyacım var

Belgelerden bir örnek, kullanıcılarınızın sorduğu yirmi gerçek soru ve her birine vereceğiniz cevap. Bu yirmi soru, siz ona güvenmeden önce aracının çalıştığını kanıtlayan test paketi haline gelir.

Dağıtım

Altyapınızda veya bulutta çalışır, model sağlayıcısı değiştirilebilir. Belgeler ağınızdan ayrılamıyorsa, bunun yerine yerel bir model planlayacağım.

Geri dönüş ve iletişim

Alım ve erişim katmanları genellikle bir hafta içinde belgeleriniz üzerinde çalışır ve yirmi soruluk değerlendirme seti, kullanıcılara herhangi bir şey sunulmadan önce doğruluğun nerede olduğunu gösterir. İzlenim yerine puanı rapor ederim ve erişimdeki her değişiklik aynı sete göre ölçülür, böylece iyileşme görünür ve gerileme yakalanır. Belgeler beklenenden daha dağınıksa, bu, sonunda değil, ilk günlerde elde ettiğiniz bir bulgudur.