AI აგენტის ინციდენტები და პასუხისმგებლობა: საბაზისო ნაბიჯები
რა გააკეთოთ, როცა აგენტი არასწორად მოქმედებს: შეზღუდვა, წვდომის გაუქმება, შეტყობინება, გამოსწორება და ხელშეკრულებაში პასუხისმგებლობის განაწილება.
Dali
Dali არის AI agent systems სტუდია. დავითი - engineering/product, ლიანა - operations/workflow fit. Production აგენტები არსებულ tools-ში.
David Hakobyan · Dali
პირდაპირი პასუხი
როცა აგენტი fail-დება: გააჩერეთ აგენტი, revoke credentials თუ საჭიროა, შეინახეთ traces, გაასწორეთ customer impact, შემდეგ patch prompts/tools. Contracts-მა უნდა თქვას, ვინ არის პასუხისმგებელი business decisions-ზე vs software defects-ზე.
Contain
Kill switch, disable write tools, pause queues.
Investigate
გამოიღეთ correlation ids, tool args, approvals - ამიტომ observability მნიშვნელოვანია.
Customer fix
Human outreach, refunds, corrections - real owner-ით.
Prevent
Eval case incident-იდან, tighter gates, better idempotency.
Liability
Policies და human approval არ ქრება იმიტომ, რომ model-მა text შემოგთავაზათ. გაასწორეთ vendor SOW იმასთან, ვინც outcomes-ს ფლობს.
SLA
განსაზღვრეთ response times agent-impacted queues-ისთვის სხვა production systems-ის მსგავსად.
როგორ ჯდება Dali
Dali pilots განსაზღვრავს stop-switches-სა და handoff owners-ს: გადაწყვეტები.
FAQ
მიჰყევით law-სა და brand policy-ს; honesty ხშირად ამცირებს damage-ს errors-ისას.