Unë do të ndërtoj një agjent AI ose chatbot që përgjigjet nga dokumentet tuaja

Problemi me shumicën e chatbot-ëve të dokumenteve

Ata janë të sigurt. Bëni një pyetje që dokumentet nuk e përgjigjen dhe një sistem naiv shpik një përgjigje të besueshme, gjë që është më keq se asnjë përgjigje fare kur dokumentet janë kontrata, politika ose procedura mbështetëse.

Çfarë ndërtoj unë në vend të kësaj

Rikthimi i pari, gjenerimi i dyti. Dokumentet tuaja ndahen në copa me strukturë të ruajtur — titujt mbeten të bashkangjitur me paragrafët që ata prezantojnë, tabelat nuk copëtohen në fragmente pa kuptim. Çdo copë mbart burimin, faqen dhe seksionin e saj. Rikthimi përdor kërkim hibrid: ngulitje të dendura për kuptimin, kërkim me fjalë kyçe për identifikuesit e saktë që ngulitjet humbasin, si numrat e pjesëve, referencat e klauzolave dhe emrat.

Modeli udhëzohet të përgjigjet vetëm nga pasazhet e rikthyera dhe t'i citojë ato. Nëse rikthimi nuk kthen asgjë mbi një prag besimi, agjenti e thotë këtë dhe ofron të shkallëzojë. Kjo sjellje është e konfigurueshme, por është sjellja e paracaktuar sepse është sjellja që ju mban larg problemeve.

Çfarë merrni

• Tubacion gëlltitjeje për PDF, DOCX, HTML dhe tekst të thjeshtë, me ri-indeksim kur ndryshojnë dokumentet.
• Një shërbim rikthimi me një grup vlerësimi të pyetjeve reale dhe saktësi të matur, kështu që cilësia është një numër dhe jo një opinion.
• Një ndërfaqe: widget bisede, pikë fundore API, ose të dyja.
• Regjistrimi i çdo pyetjeje, pasazheve të rikthyera dhe përgjigjes — kështu që gabimet mund të gjurmohen.

Çfarë më duhet

Një mostër e dokumenteve, njëzet pyetje reale që përdoruesit tuaj bëjnë, dhe përgjigja që do t'i jepnit secilës. Këto njëzet bëhen suita e testimit që vërteton se agjenti funksionon para se të mbështeteni tek ai.

Vendosja

Funksionon në infrastrukturën tuaj ose në cloud, me shitësin e modelit të ndërkëmbyeshëm. Nëse dokumentet nuk mund të largohen nga rrjeti juaj, unë do të planifikoj një model lokal në vend të kësaj.

Koha e kthimit dhe komunikimi

Shtresat e gëlltitjes dhe rikthimit zakonisht funksionojnë kundër dokumenteve tuaja brenda një jave, me grupin e vlerësimit me njëzet pyetje që tregon se ku qëndron saktësia para se çdo gjë të ekspozohet ndaj përdoruesve. Unë raportoj rezultatin në vend të një përshtypjeje, dhe çdo ndryshim në rikthim matet kundër të njëjtit grup, kështu që përmirësimi është i dukshëm dhe regresioni kapet. Nëse dokumentet janë më të çrregullta se sa pritej, ky është një zbulim që e merrni në ditët e para, jo në fund.