Գիտելիքի որոնում, հիշողություն և աղբյուրների վրա հենում իրական գործակալների համար

Ուղիղ պատասխան

Օգտագործեք RAG, երբ պատասխանները պետք է հետևեն approved documents-ին։ Memory-ը օգտագործեք զգուշորեն session կամ user preferences-ի համար - ոչ որպես secrets-ի junk drawer։ Grounding նշանակում է citations, freshness և evals - ոչ ավելի մեծ prompt։

Long prompt vs RAG

Prompts-ը փչանում են և հասնում limits-ի։ RAG-ը retrieve է անում relevant chunks per question updateable sources-ով։

Chunking basics

Chunk արեք coherent policy sections-ով, պահեք metadata (title, date, product), խուսափեք huge blobs-ից, որոնք dilute են անում retrieval-ը։

Citations

Պահանջեք source IDs knowledge tasks-ի պատասխաններում։ «Կարծում եմ»-ը ops պատասխան չէ։

Memory types

Ephemeral session context, durable preferences, և երբեք. raw credentials կամ այլ clients-ի data։

Freshness

Version արեք documents, expire արեք superseded policies, re-index արեք publish-ի վրա։ Stale SOP retrieval-ը silent failure mode է։

Per-client indexes

Agencies-ին և multi-tenant products-ին պետք է isolation by tenant - shared global indexes-ը leak են անում։

Eval retrieval

Չափեք hit rate golden questions-ի վրա, ոչ միայն chat style scores։

Ինչպես է Dali-ն տեղավորվում

Dali-ն նախագծում է grounded knowledge paths pilots-ում. knowledge assistant։