Do të ndërtoj një chatbot RAG që përgjigjet nga dokumentet tuaja dhe tregon burimin

Përgjigjet tuaja tashmë ndodhen në dokumentet tuaja: politika kthimi, manuale produkti, lista çmimesh, kontrata, artikuj të qendrës së ndihmës. Unë ndërtoj një chatbot që kërkon fillimisht në ato skedarë dhe përgjigjet vetëm nga ajo që gjen, duke cituar skedarin dhe faqen ose seksionin pas çdo përgjigjeje. Kur dokumentet nuk mbulojnë një pyetje, ai e thotë këtë në vend që të hamendësojë.

Starter indekson deri në 50 skedarë (PDF tekst, Word, tekst i thjeshtë ose faqe publike ueb) pas një bisede të thjeshtë në ueb, me një udhëzues për ta ekzekutuar në hostin tuaj. Standard merr deri në 300 skedarë, shton një widget bisede për faqen tuaj ose një bot Telegram dhe historinë e bisedave, dhe unë e konfiguroj atë në serverin tuaj. Advanced shkon brenda aplikacionit tuaj Postgres ose Supabase me hyrje përdoruesish dhe rregulla aksesi, kështu që çdo përdorues sheh vetëm dokumentet që i lejohet të shohë, ose funksionon në serverin tuaj me një model lokal, kështu që skedarët tuaj nuk shkojnë kurrë te një ofrues AI.

Çdo paketë përfundon me një test deri në 20 nga pyetjet tuaja. Ju merrni një tabelë me çdo përgjigje, burimin që përdori dhe nëse ishte e saktë; më pas bëj një raund rregullimesh dhe i ekzekutoj pyetjet përsëri. Kodi burimor është i juaji, dhe boti funksionon me çelësin tuaj OpenAI, Claude ose Gemini, kështu që ju shihni çdo kërkesë në faturën e ofruesit tuaj dhe nuk më paguani asnjë tarifë mujore.

Indeksi i kërkimit ndërtohet nga një model i vogël që funksionon me botin dhe mbahet në PostgreSQL me pgvector, kështu që skedarët tuaj nuk shkojnë te ofruesi i AI, dhe një aplikacion Postgres ose Supabase nuk ka nevojë për një shërbim vektorial të veçantë. Punë e fundit: shtresa e kërkimit vektorial e një backend-i prodhimi Supabase për një tavolinë tregtare zgjedhore, me një kërkim ngjashmërie të filtruar dhe rregulla aksesi vetëm për ekip, plus përmbledhje orare LLM që kontrollohen para se të ruhen.

Për 14 ditë pas dorëzimit, unë rregulloj çdo gjë që nuk funksionon siç kemi rënë dakord, pa pagesë.

Pa thirrje. Fusha e veprimit është rënë dakord me shkrim para se të filloj, dhe ju merrni një përditësim me shkrim në fund të çdo dite pune.

Hapat për përfundimin e projektit tuaj
1. Pyetje dhe dokumente - Ju dërgoni skedarët dhe pyetjet që njerëzit bëjnë vërtet. Unë konfirmoj me shkrim se çfarë do të përgjigjet chatbot-i, ku do të jetojë dhe në cilin ofrues do të funksionojë.
2. Indeksimi dhe kërkimi - Unë i ndaj dokumentet në pasazhe, i indeksoj ato me një model të vogël ngulitjeje që funksionon me botin, dhe i ruaj në PostgreSQL me pgvector, duke ruajtur skedarin dhe faqen ose seksionin e çdo pasazhi.
3. Përgjigjet me burime - Chatbot-i përgjigjet vetëm nga pasazhet që merr dhe thotë qartë kur dokumentet nuk mbulojnë një pyetje.
4. Testoni pyetjet tuaja - Deri në 20 nga pyetjet tuaja kalojnë nëpër të, dhe ju merrni tabelën e përgjigjeve, burimeve dhe rezultateve, pastaj një raund rregullimesh.
5. Dorëzimi - Kodi burimor, një udhëzues i shkurtër për ekzekutimin e tij dhe, për Standard ose Advanced, widget-i, boti i Telegramit ose integrimi i aplikacionit, i konfiguruar në serverin tuaj dhe i kontrolluar.