Я створю агента ШІ або чат-бота, який відповідає на основі ваших власних документів

Проблема більшості чат-ботів для документів

Вони впевнені. Задайте питання, на яке документи не відповідають, і наївна система вигадає правдоподібну відповідь, що гірше, ніж відсутність відповіді взагалі, коли документи є контрактами, політиками або процедурами підтримки.

Що я будую натомість

Спочатку отримання, потім генерація. Ваші документи розбиваються на фрагменти зі збереженням структури — заголовки залишаються прив'язаними до абзаців, які вони вводять, таблиці не розриваються на безглузді фрагменти. Кожен фрагмент містить своє джерело, сторінку та розділ. Отримання використовує гібридний пошук: щільні вбудовування для значення, пошук за ключовими словами для точних ідентифікаторів, які пропускають вбудовування, таких як номери деталей, посилання на пункти та імена.

Моделі доручено відповідати лише на основі отриманих уривків та цитувати їх. Якщо отримання не повертає нічого вище порогу впевненості, агент повідомляє про це та пропонує ескалацію. Ця поведінка є конфігурованою, але вона є стандартною, оскільки це поведінка, яка допомагає уникнути проблем.

Що ви отримуєте

• Конвеєр введення для PDF, DOCX, HTML та простого тексту, з переіндексацією при зміні документів.
• Служба отримання з набором оцінок реальних запитань та виміряною точністю, тому якість є числом, а не думкою.
• Інтерфейс: віджет чату, кінцева точка API або обидва.
• Ведення журналу кожного запитання, отриманих уривків та відповіді — щоб можна було відстежити помилки.

Що мені потрібно

Зразок документів, двадцять реальних запитань, які задають ваші користувачі, та відповідь, яку ви б дали на кожне. Ці двадцять стануть тестовим набором, який доведе, що агент працює, перш ніж ви почнете на нього покладатися.

Розгортання

Працює на вашій інфраструктурі або в хмарі, з можливістю заміни постачальника моделі. Якщо документи не можуть покинути вашу мережу, я натомість запланую локальну модель.

Терміни виконання та комунікація

Шари введення та отримання зазвичай працюють з вашими документами протягом тижня, а набір оцінок з двадцяти запитань показує, яка точність, перш ніж щось буде доступно користувачам. Я повідомляю оцінку, а не враження, і кожна зміна в отриманні вимірюється за тим самим набором, тому покращення видно, а регресія виявляється. Якщо документи виявляються більш заплутаними, ніж очікувалося, це виявлення ви отримуєте в перші дні, а не в кінці.