RAG, memory და grounding production AI აგენტებისთვის
როდის სჭირდება აგენტებს RAG, როგორ chunk-ოთ და cite-ოთ sources, რა შეინახოთ memory-ში და როგორ შეინარჩუნოთ policies fresh.
Dali
Dali არის AI agent systems სტუდია. დავითი - engineering/product, ლიანა - operations/workflow fit. Production აგენტები არსებულ tools-ში.
David Hakobyan · Dali
პირდაპირი პასუხი
გამოიყენეთ RAG, როცა პასუხები approved documents-ს უნდა მიჰყვეს. გამოიყენეთ memory ზომიერად session ან user preferences-ისთვის - არა როგორც junk drawer of secrets. Grounding ნიშნავს citations, freshness და evals - არა უფრო დიდ prompt-ს.
Long prompt vs RAG
Prompts იშლება და ხვდება limits-ში. RAG იღებს relevant chunks-ს თითო კითხვაზე updateable sources-ით.
Chunking basics
Chunk-ეთ coherent policy sections-ით, შეინახეთ metadata (title, date, product), აარიდეთ huge blobs, რომლებიც dilute-ავენ retrieval-ს.
Citations
მოითხოვეთ source IDs knowledge tasks-ის პასუხებში. “ვფიქრობ” არ არის ops პასუხი.
Memory types
Ephemeral session context, durable preferences, და არასოდეს: raw credentials ან სხვა clients-ის data.
Freshness
Version documents, expire superseded policies, re-index on publish. Stale SOP retrieval silent failure mode-ია.
Per-client indexes
Agencies-სა და multi-tenant products-ს სჭირდება isolation tenant-ით - shared global indexes leak-ავენ.
Eval retrieval
გაზომეთ hit rate golden questions-ზე, არა მხოლოდ chat style scores.
როგორ ჯდება Dali
Dali აპროექტებს grounded knowledge paths-ს pilots-ში: knowledge assistant.
FAQ
არა. ზოგი path pure tool workflows-ია. გამოიყენეთ search, როცა language Q&A over docs არის სამუშაო.