Zbuduję agenta AI lub chatbota, który odpowiada na podstawie Twoich dokumentów

Problem z większością chatbotów dokumentowych

Są pewne siebie. Zadaj pytanie, na które dokumenty nie odpowiadają, a naiwny system wymyśla wiarygodną odpowiedź, co jest gorsze niż brak odpowiedzi, gdy dokumenty to umowy, polityki lub procedury wsparcia.

Co buduję zamiast tego

Najpierw wyszukiwanie, potem generowanie. Twoje dokumenty są dzielone na fragmenty z zachowaniem struktury — nagłówki pozostają przypisane do akapitów, które wprowadzają, tabele nie są rozdrabniane na bezsensowne fragmenty. Każdy fragment zawiera swoje źródło, stronę i sekcję. Wyszukiwanie wykorzystuje wyszukiwanie hybrydowe: gęste osadzenia dla znaczenia, wyszukiwanie słów kluczowych dla dokładnych identyfikatorów, które osadzenia pomijają, takich jak numery części, odniesienia do klauzul i nazwy.

Model jest instruowany, aby odpowiadać tylko na podstawie pobranych fragmentów i je cytować. Jeśli wyszukiwanie nie zwróci niczego powyżej progu ufności, agent informuje o tym i oferuje eskalację. To zachowanie jest konfigurowalne, ale jest domyślne, ponieważ to zachowanie chroni Cię przed problemami.

Co otrzymujesz

• Potok pozyskiwania dla plików PDF, DOCX, HTML i zwykłego tekstu, z ponownym indeksowaniem po zmianie dokumentów.
• Usługa wyszukiwania z zestawem ewaluacyjnym rzeczywistych pytań i zmierzoną dokładnością, dzięki czemu jakość jest liczbą, a nie opinią.
• Interfejs: widżet czatu, punkt końcowy API lub oba.
• Logowanie każdego pytania, pobranych fragmentów i odpowiedzi — dzięki czemu błędy można śledzić.

Czego potrzebuję

Próbka dokumentów, dwadzieścia rzeczywistych pytań zadawanych przez Twoich użytkowników oraz odpowiedź, którą byś na każde z nich udzielił. Te dwadzieścia pytań stanie się zestawem testowym, który udowodni, że agent działa, zanim zaczniesz na nim polegać.

Wdrożenie

Działa na Twojej infrastrukturze lub w chmurze, z wymiennym dostawcą modelu. Jeśli dokumenty nie mogą opuścić Twojej sieci, zamiast tego zaplanuję model lokalny.

Czas realizacji i komunikacja

Warstwy pozyskiwania i wyszukiwania zazwyczaj działają na Twoich dokumentach w ciągu tygodnia, a zestaw ewaluacyjny składający się z dwudziestu pytań pokazuje, jaka jest dokładność, zanim cokolwiek zostanie udostępnione użytkownikom. Raportuję wynik, a nie wrażenie, a każda zmiana w wyszukiwaniu jest mierzona na tym samym zestawie, dzięki czemu poprawa jest widoczna, a regresja jest wychwytywana. Jeśli dokumenty są bardziej chaotyczne niż oczekiwano, jest to odkrycie, które otrzymujesz w pierwszych dniach, a nie na końcu.