Vytvořím AI agenta nebo chatbota, který odpovídá z vašich vlastních dokumentů

Problém většiny chatbotů s dokumenty

Jsou si jistí. Položte otázku, na kterou dokumenty neodpovídají, a naivní systém vymyslí věrohodnou odpověď, což je horší než žádná odpověď, když jsou dokumenty smlouvy, zásady nebo postupy podpory.

Co místo toho stavím

Nejprve vyhledávání, poté generování. Vaše dokumenty jsou rozděleny na části se zachovanou strukturou – nadpisy zůstávají připojeny k odstavcům, které uvádějí, tabulky nejsou roztrhány na nesmyslné fragmenty. Každá část nese svůj zdroj, stránku a sekci. Vyhledávání používá hybridní vyhledávání: husté vnoření pro význam, vyhledávání klíčových slov pro přesné identifikátory, které vnoření opomíjí, jako jsou čísla dílů, odkazy na klauzule a jména.

Model je instruován, aby odpovídal pouze z nalezených pasáží a aby je citoval. Pokud vyhledávání nevrátí nic nad prahovou hodnotou spolehlivosti, agent to oznámí a nabídne eskalaci. Toto chování je konfigurovatelné, ale je to výchozí nastavení, protože je to chování, které vás udrží mimo potíže.

Co získáte

• Ingestní pipeline pro PDF, DOCX, HTML a prostý text, s reindexací při změně dokumentů.
• Vyhledávací služba s evaluační sadou skutečných otázek a měřenou přesností, takže kvalita je číslo, nikoli názor.
• Rozhraní: chatovací widget, API endpoint, nebo obojí.
• Logování každé otázky, nalezených pasáží a odpovědi – aby bylo možné sledovat chyby.

Co potřebuji

Vzorek dokumentů, dvacet skutečných otázek, které vaši uživatelé kladou, a odpověď, kterou byste na každou z nich dali. Těchto dvacet se stane testovací sadou, která prokáže, že agent funguje, než se na něj spolehnete.

Nasazení

Běží na vaší infrastruktuře nebo v cloudu, s vyměnitelným dodavatelem modelu. Pokud dokumenty nemohou opustit vaši síť, naplánuji místo toho lokální model.

Doba realizace a komunikace

Ingestní a vyhledávací vrstvy obvykle fungují s vašimi dokumenty do týdne, přičemž dvacetiotázková evaluační sada ukazuje, jaká je přesnost, než se cokoli vystaví uživatelům. Hlásím skóre spíše než dojem a každá změna vyhledávání je měřena proti stejné sadě, takže zlepšení je viditelné a regrese je zachycena. Pokud jsou dokumenty nepořádnější, než se očekávalo, je to zjištění, které získáte v prvních dnech, nikoli na konci.