AI գործակալի միջադեպեր և պատասխանատվություն. հիմնական քայլեր
Ինչ անել, երբ գործակալը սխալ է գործում. սահմանափակել, չեղարկել մուտքը, ծանուցել, ուղղել և ինչպես պայմանագրում բաշխել պատասխանատվությունը։
Dali
Dali-ն AI agent systems ստուդիա է։ Դավիթը՝ engineering/product, Լիանան՝ operations/workflow fit։ Production գործակալներ առկա tools-ում։
David Hakobyan · Dali
Ուղիղ պատասխան
Երբ agent-ը fail է լինում. stop արեք agent-ը, revoke արեք credentials եթե պետք է, preserve արեք traces, fix արեք customer impact, հետո patch արեք prompts/tools։ Contracts-ը պետք է ասեն, թե ով է responsible business decisions-ի vs software defects-ի համար։
Contain
Kill switch, disable write tools, pause queues։
Investigate
Pull արեք correlation ids, tool args, approvals - սա է, թե ինչու observability-ն կարևոր է։
Customer fix
Human outreach, refunds, corrections - real owner-ով։
Prevent
Eval case incident-ից, tighter gates, better idempotency։
Liability
Policies-ը և human approval-ը չեն անհետանում, որովհետև model-ը suggest է արել text։ Align արեք vendor SOW-ը այն բանի հետ, թե ով է տիրապետում outcomes-ին։
SLA
Սահմանեք response times agent-impacted queues-ի համար ինչպես այլ production systems-ում։
Ինչպես է Dali-ն տեղավորվում
Dali pilots-ը սահմանում են stop-switches և handoff owners. solutions։
FAQ
Հետևեք law-ին և brand policy-ին. honesty-ն հաճախ նվազեցնում է damage-ը, երբ errors են լինում։