Θα δημιουργήσω έναν πράκτορα AI ή chatbot που απαντά από τα δικά σας έγγραφα

Το πρόβλημα με τα περισσότερα chatbots εγγράφων

Είναι σίγουροι. Ρωτήστε μια ερώτηση που τα έγγραφα δεν απαντούν και ένα αφελές σύστημα επινοεί μια εύλογη απάντηση, η οποία είναι χειρότερη από καμία απάντηση όταν τα έγγραφα είναι συμβάσεις, πολιτικές ή διαδικασίες υποστήριξης.

Τι χτίζω αντ' αυτού

Πρώτα η ανάκτηση, μετά η δημιουργία. Τα έγγραφά σας τεμαχίζονται με διατηρημένη δομή — οι επικεφαλίδες παραμένουν συνδεδεμένες με τις παραγράφους που εισάγουν, οι πίνακες δεν τεμαχίζονται σε άχρηστα θραύσματα. Κάθε τμήμα φέρει την πηγή, τη σελίδα και την ενότητά του. Η ανάκτηση χρησιμοποιεί υβριδική αναζήτηση: πυκνές ενσωματώσεις για το νόημα, αναζήτηση λέξεων-κλειδιών για τα ακριβή αναγνωριστικά που χάνουν οι ενσωματώσεις, όπως αριθμοί εξαρτημάτων, αναφορές ρητρών και ονόματα.

Το μοντέλο έχει εντολή να απαντά μόνο από τα ανακτημένα αποσπάσματα και να τα παραθέτει. Εάν η ανάκτηση δεν επιστρέψει τίποτα πάνω από ένα όριο εμπιστοσύνης, ο πράκτορας το δηλώνει και προσφέρεται να κλιμακώσει. Αυτή η συμπεριφορά είναι διαμορφώσιμη, αλλά είναι η προεπιλεγμένη επειδή είναι η συμπεριφορά που σας κρατά μακριά από προβλήματα.

Τι παίρνετε

• Pipeline εισαγωγής για PDF, DOCX, HTML και απλό κείμενο, με επανευρετηρίαση όταν αλλάζουν τα έγγραφα.
• Μια υπηρεσία ανάκτησης με ένα σύνολο αξιολόγησης πραγματικών ερωτήσεων και μετρημένη ακρίβεια, έτσι ώστε η ποιότητα να είναι ένας αριθμός και όχι μια γνώμη.
• Μια διεπαφή: widget συνομιλίας, τελικό σημείο API ή και τα δύο.
• Καταγραφή κάθε ερώτησης, των ανακτημένων αποσπασμάτων και της απάντησης — ώστε να μπορούν να εντοπιστούν τα λάθη.

Τι χρειάζομαι

Ένα δείγμα των εγγράφων, είκοσι πραγματικές ερωτήσεις που κάνουν οι χρήστες σας και η απάντηση που θα δίνατε σε κάθε μία. Αυτές οι είκοσι γίνονται η σουίτα δοκιμών που αποδεικνύει ότι ο πράκτορας λειτουργεί πριν βασιστείτε σε αυτόν.

Ανάπτυξη

Λειτουργεί στην υποδομή σας ή στο cloud, με τον προμηθευτή του μοντέλου να είναι εναλλάξιμος. Εάν τα έγγραφα δεν μπορούν να φύγουν από το δίκτυό σας, θα σχεδιάσω ένα τοπικό μοντέλο αντ' αυτού.

Χρόνος παράδοσης και επικοινωνία

Τα επίπεδα εισαγωγής και ανάκτησης συνήθως λειτουργούν με τα έγγραφά σας μέσα σε μια εβδομάδα, με το σύνολο αξιολόγησης είκοσι ερωτήσεων να δείχνει πού βρίσκεται η ακρίβεια πριν εκτεθεί οτιδήποτε στους χρήστες. Αναφέρω τη βαθμολογία αντί για μια εντύπωση, και κάθε αλλαγή στην ανάκτηση μετράται με το ίδιο σύνολο, έτσι ώστε η βελτίωση να είναι ορατή και η υποβάθμιση να εντοπίζεται. Εάν τα έγγραφα είναι πιο ακατάστατα από το αναμενόμενο, αυτό είναι ένα εύρημα που λαμβάνετε τις πρώτες ημέρες, όχι στο τέλος.