Համատեքստի ճարտարագիտություն AI գործակալների համար. կատարման միջավայրի կյանքի ցիկլի ուղեցույց

AI գործակալների համատեքստի ճարտարագիտությունը այն աշխատանքն է, որով յուրաքանչյուր քայլում որոշում եք, թե որ թոքեններն են մտնում մոդելի պատուհան, ով է դրանց պատասխանատուն, երբ են դրանք ավարտում իրենց ուժը, և ինչպես եք ապացուցում, որ այդ հավաքածուն դեռ ճիշտ է ուղղորդում գործակալին։ Սա «ավելի երկար համակարգային հուշում գրելը» չէ։ Եթե հուշումը վերաբերվում եք որպես ամբողջ համակարգի, արտադրական գործակալները շեղվում են, քանի որ գործիքների ծավալուն արդյունքները, հնացած կանոնները և զրույցի պատմությունը դուրս են մղում իսկապես կարևոր փաստերը։

Anthropic-ը այս մոտեցումը նկարագրում է որպես եզրահանգման ընթացքում թոքենների լավագույն հավաքածուի խնամք իրական ճարտարապետական սահմանափակումների պայմաններում ([Effective context engineering for AI agents](https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents))։ Այս էջը այդ շրջանակը դարձնում է գործնական կյանքի ցիկլ, որը կարելի է շահագործել հրահանգներ, որոնմամբ բեռնված գիտելիք, գործիքների արդյունքներ, զրույցի պատմություն, հիշողություն, սեղմում և գնահատում։

Սա նախագծման ուղեցույց է արտադրական համակարգերի համար, ոչ թե վաճառողների համեմատական պայքար։ Գործիքների, դարպասների և պատասխանատվության ավելի լայն արտադրական չափանիշի համար սկսեք ինչ է արտադրական AI գործակալը հոդվածից։

Համատեքստի ճարտարագիտություն և հուշումների ճարտարագիտություն

Հուշումների ճարտարագիտությունը կենտրոնանում է այն բանի վրա, թե ինչպես եք գրում և կառուցում հրահանգները, որպեսզի մոդելը առաջադրանքը լավ կատարի։ Համատեքստի ճարտարագիտությունը կառավարում է ամբողջ աշխատանքային վիճակը, որը հայտնվում է պատուհանում` համակարգային հրահանգներ, գործիքների սահմանումներ, որոնմամբ բեռնված փաստաթղթեր, հաղորդագրությունների պատմություն, գործիքների արդյունքներ և այն ամենը, ինչ դիտավորյալ վերադարձվում է հիշողությունից (Anthropic)։

Խորհուրդ. հրահանգների տեքստը տարբերակավորեք ինչպես արտադրանքի կոդը, բայց բոլոր մնացած թոքենային դասերի համար նախագծեք առանձին կյանքի ցիկլ։ Թե ինչպես եք թողարկում հուշումների և սխեմաների փոփոխությունները, քննարկվում է հուշումների տարբերակավորում և գործակալների աստիճանական թողարկումներ էջում։ Թե ինչպես եք բաժանում կորպուսները մասերի և թարմ պահում հղումները, քննարկվում է RAG, հիշողություն և հիմքավորում էջում։ Այս էջը լուծում է գործարկման պահին հավաքման խնդիրը` ինչ կա պատուհանի ներսում հենց հիմա, և ինչու։

Ինչու է պատուհանը սակավ ռեսուրս

Ավելի մեծ համատեքստի պատուհանները չեն վերացնում խնամքով ընտրելու անհրաժեշտությունը։ Anthropic-ը համատեքստը դիտարկում է որպես սահմանափակ ռեսուրս նվազող օգտակարությամբ յուրաքանչյուր լրացուցիչ թոքեն պայքարում է ուշադրության համար, և ավելի երկար պատուհանները դեռ կարող են նվազեցնել կարևորի նկատմամբ ճշգրտությունը ([Anthropic](https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents))։ Chroma-ի context-rot հետազոտությունն էլ նույն ուղղվածությունն է ցույց տալիս վերահսկվող առաջադրանքներում մուտքային տվյալների երկարացման հետ հաճախ վատանում է արդյունքը, նույնիսկ երբ բուն խնդիրը մնում է պարզ (Chroma)։

Մի հորինեք մեկ «անվտանգ թոքենների քանակ» բոլոր մոդելների համար։ Խորհուրդ. սկզբում նախագծեք փոքր, բարձր ազդանշան ունեցող աշխատանքային հավաքածու, հետո ավելացրեք վերբերման, հիշողության և սեղմման վերահսկիչներ, և միայն դրանից հետո ապավինեք ավելի մեծ կոշտ սահմանին։

Նախագծվող համատեքստի կյանքի ցիկլը

Արտադրական գործակալը մեկ անփոփոխ մեծ բլոկ չի բեռնում։ Այն համատեքստը հավաքում է նորից ու նորից, քանի դեռ պտտվում է գործիքների շուրջ։

Օգտագործեք յոթ գիծ։

1. Հրահանգներ - համակարգային հուշում, քաղաքականություն, ելքային պայմանագրեր, գործիքների ուղեցույց։
2. Որոնմամբ բեռնված գիտելիք - փաստաթղթեր, տողեր կամ հատվածներ ընթացիկ նպատակի համար։
3. Գործիքների արդյունքներ - տվյալային բեռներ CRM-ից, որոնումից, ֆայլերից, API-ներից։
4. Զրույցի պատմություն - օգտատիրոջ և օգնականի այն քայլերը, որոնք դեռ ակտիվ պատուհանի ներսում են։
5. Հիշողություն - նշումներ կամ վիճակ, որոնք պահվում են պատուհանից դուրս և դիտավորյալ վերաբեռնվում են։
6. Սեղմում - կորուստ ունեցող ամփոփումներ կամ մաքրումներ, որոնք ազատում են բյուջեն` պահելով շարունակականությունը։
7. Գնահատում - ապացույցների շերտ, որը պահում եք, որպեսզի իմանաք, որ հավաքումը փոփոխություններից հետո դեռ աշխատում է։

Anthropic-ի երկար ընթացքի գործիքակազմը կենտրոնանում է սեղմման, կառուցվածքային նշումներ գրելու և ենթագործակալների մեկուսացման վրա, երբ մեկ պատուհանը բավարար չէ (Anthropic)։ Claude հարթակի փաստաթղթերն ու գործնական ուղեցույցները ամբողջ պատմության սեղմում, գործիքների արդյունքների մաքրում և հիշողություն մեխանիզմները ներկայացնում են որպես տարբեր վերահսկիչներ` աճի տարբեր տեսակների համար (Compaction docs; Context engineering cookbook)։

Կյանքի ցիկլի հակիրճ բառապաշարը սա է` գրիր, ընտրիր, սեղմիր և մեկուսացրու։ Գրեք կայուն նշումներ ակտիվ պատուհանից դուրս, ընտրեք միայն համապատասխան վերբերումը և գործիքային արդյունքները, սեղմեք պատմությունը, երբ ճնշումն աճում է, և մեկուսացրեք հետազոտությունը այլ օժանդակ կատարողի մեջ, երբ այն կծանրաբեռնի հիմնական գործարկումը։

Գիծ առ գիծ

Հրահանգներ

Գործարկման սկզբում բեռնեք նվազագույն և պարզ հրահանգների հավաքածու։ Anthropic-ը խորհուրդ է տալիս «ճիշտ բարձրություն»` բավական հստակ վարքը ղեկավարելու համար, բայց նաև բավական ճկուն, որպեսզի ամեն ինչ չվերածվի փխրուն if-else կեղծ կոդի (Anthropic)։ Կայուն կանոնները տեղադրեք այստեղ։ Մի տեղադրեք ամբողջ գիտելիքի բազան համակարգային հուշման մեջ։

Պատասխանատու. արտադրանքի ինժեներական թիմը` գործառնական թիմի հետ միասին բիզնես կանոնների մասով։ Ավարտի ժամկետ. միայն այն ժամանակ, երբ թողարկվում է նոր տարբերակ։ Թողարկեք վերանայմամբ և սահմանափակ փորձնական թողարկմամբ, ոչ թե կենդանի միջավայրում անմիջական խմբագրումներով (հուշումների տարբերակավորում)։

Որոնմամբ բեռնված գիտելիք

Նախընտրեք ճիշտ պահին վերբերումը պահեք նույնացուցիչներ ուղիներ, նույնացուցիչներ, հարցումներ, և բեռնեք միայն այն, ինչ տվյալ քայլին պետք է (Anthropic)։ Սա տարբերվում է այն մոտեցումից, երբ առաջին թոքենից առաջ նախապես լցնում եք յուրաքանչյուր հնարավոր առնչվող փաստաթուղթ։

Պատասխանատու. գիտելիքի կամ տիրույթային ճշմարտության պատասխանատուն կորպուսի ճշմարտության համար, իսկ կատարման միջավայրը վերբերման քաղաքականության համար։ Ավարտի ժամկետ. քայլի ավարտից հետո հեռացրեք հատվածները, եթե վերջնական պատասխանի համար հղումը պարտադիր չէ պահել։ Մասերի բաժանումը, հիմքավորումն ու թարմության մեխանիկան ներկայացված են RAG, հիշողություն և հիմքավորում էջում։

Գործիքների արդյունքներ

Գործիքների արդյունքները հաճախ աճի ամենամեծ և ամենաաղմկոտ աղբյուրն են։ Anthropic-ի գործիքներ գրելու ուղեցույցը ուղիղ է` վերադարձրեք բարձր ազդանշան ունեցող դաշտերը, կտրեք ցածր մակարդակի աղմուկը և տրամադրեք հակիրճ ու մանրամասն պատասխանների տարբեր ձևեր, երբ գործակալներին երկու ռեժիմն էլ պետք են (Writing effective tools)։ Խորհուրդ. նախագծեք գործիքները այնպես, որ լռելյայն պատասխանը լինի փոքր և նորից բերելի, իսկ ամբողջական արտածումները մնան միայն բացահայտ մանրամասն ռեժիմի հետևում։

Երկար ընթացքների դեպքում գործիքների արդյունքների մաքրումը կարող է հեռացնել հին, նորից բերվող տվյալային բեռները` միաժամանակ պահելով այն փաստը, որ կանչը կատարվել է (Cookbook)։ Գործիքների թույլտվության և գրառումների անվտանգության կանոններն առանձին թեմա են, որի համար տեսեք անվտանգ գործիքային կանչեր էջը։

Զրույցի պատմություն

Պատմությունը կենդանի արձանագրությունն է` օգտատիրոջ նպատակներ, պարզաբանումներ, օգնականի պլաններ և նախկին որոշումներ, որոնք դեռ պետք են ամբողջականության համար։ Այն աճում է յուրաքանչյուր քայլով։ Այն չի փոխարինում ոչ կայուն հիշողությանը, ոչ էլ հաստատված կանոնների տեքստին։

Պատասխանատու. գործակալի կատարման միջավայրը և արտադրանքի նախագծման թիմը` պահման փորձառության համար։ Վիդջեթային աշխատաշրջանները, որոնք փակվելուց հետո վերամեկնարկվում են, պահանջում են հստակ արտադրանքի կանոններ (աշխատաշրջանային համատեքստ AI զրույցի վիդջեթներում)։

Հիշողություն (կառուցվածքային նշումներ պատուհանից դուրս)

Հիշողությունը արտաքին վիճակ է, որը գործակալը գրում և հետո կարդում է` ընթացքի նշումներ, բաց որոշումներ, հսկիչ կետեր, օգտատիրոջ նախասիրություններ, որոնք պետք է դիմանան վերամեկնարկին (Anthropic; Cookbook)։ Սա գաղտնիքների կամ այլ հաճախորդների տվյալների պահոց չէ։

Պատասխանատու. հարթակը պահեստավորման մեկուսացման համար, արտադրանքի թիմը այն որոշելու համար, թե ինչ կարելի է պահել։ Ավարտի ժամկետ. առաջադրանքի նշումները ավարտվում են առաջադրանքի հետ, իսկ նախասիրությունները հետևում են նախապես հայտարարված պահպանման քաղաքականությանը։

Սեղմում

Սեղմումը ամփոփում է ավելի հին համատեքստը և պատուհանի վրա ճնշման պահին աշխատանքը շարունակում այդ ամփոփումից (Anthropic)։ Claude Messages API-ում սերվերի կողմից կատարվող սեղմումը ներկայումս բետա կարգավիճակով համատեքստի կառավարման խմբագրում է (compact_20260112)։ Փաստաթղթավորված լռելյայն արժեքները օգտագործում են 150,000 մուտքային թոքենի գործարկման շեմ, իսկ նվազագույն շեմը 50,000 է (Compaction docs)։ Այս թվերը հարթակի լռելյայն արժեքներ են, ոչ թե համընդհանուր արտադրական օրենք յուրաքանչյուր մոդելի կամ տեխնիկական շերտի համար։

Եթե տրամադրում եք ամփոփման սեփական հրահանգներ, Claude-ի փաստաթղթերը նշում են, որ դրանք ամբողջությամբ փոխարինում են լռելյայն հուշումը, այլ ոչ թե միաձուլվում են դրա հետ (Compaction docs)։ Խորհուրդ. գրեք սեղմման հրահանգներ, որոնք պահպանում են բաց որոշումները, գործիքային կանչերի համար կարևոր նույնացուցիչները և չլուծված ռիսկերը, ապա ստուգեք, թե դրանք պահպանվո՞ւմ են սեղմումից հետո։

Գնահատում

Գնահատումն այն գիծն է, որը կյանքի ցիկլը պահում է ազնիվ։ Ձեզ պետք են փորձարկման դեպքեր, որոնք ձախողվում են, երբ սխալ թոքեններն են մտնում պատուհան, ճիշտ թոքենները շատ շուտ են ավարտվում, կամ սեղմումը գցում է որոշում, որն ավելի ուշ քայլերին անհրաժեշտ է։ Կառուցեք այդ ստուգման համակարգը հսկիչ դեպքերի հավաքածուով և արդյունքների գնահատիչներով (գնահատում գործարկումից առաջ)։ Դիտելիությունը ցույց է տալիս, թե գործարկումը իրականում ինչ է տեսել, բայց այն չի փոխարինում կյանքի ցիկլի նախագծմանը (գործակալի դիտելիություն)։

Համատեքստի գծերի որոշումների աղյուսակ

Այս աղյուսակը գործառնական պայմանագիր է։ Մինչև գործակալը արտադրական պատրաստ հայտարարելն իրական մարդկանց անուններով լրացրեք պատասխանատուների սյունակը։

Թույլ կյանքի ցիկլի ձախողման ձևերը

Համատեքստի ձախողումները հաճախ նմանվում են «մոդելը վատացավ» տպավորությանը, մինչդեռ իրական խնդիրը հավաքման մեջ է։

1. Հրահանգների ուռճացում - յուրաքանչյուր եզրային դեպք կոշտ կոդավորված է համակարգային հուշման մեջ, և այդ պատճառով թարմացումները դառնում են փխրուն։
2. Քաղաքականության լցոնում - ամբողջ ձեռնարկները ապրում են հուշման ներսում, մինչ վերբերումը չի օգտագործվում։
3. Հնացած վերբերում - Հիպոթետիկ օրինակ. աջակցության գործակալը դեռ պահում է երեկվա վերադարձի կանոնակարգի հատվածը այն բանից հետո, երբ ֆինանսական թիմը հրապարակել է նոր կանոն, և արդյունքում խոստանում է սխալ բան։
4. Գործիքային արդյունքների աղբանոց - Հիպոթետիկ օրինակ. գործառնական գործակալը յուրաքանչյուր քայլում ամբողջ CRM արտահանումն է լցնում պատուհան, մինչև վաղ փուլերի փաստերը փչանան ավելի ուշ աղմուկի տակ։
5. Պատմությունը որպես կեղծ հիշողություն - զրույցի արձանագրությունը վերաբերվում է որպես կայուն ճշմարտություն, իսկ հետո վիդջեթի կամ օժանդակ կատարողի վերամեկնարկը ջնջում է այն։
6. Սեղմման ամնեզիա - ամփոփումը կորցնում է բաց հաստատումը կամ տոմսի նույնացուցիչը, և ավելի ուշ գործիքները աշխատում են թերի վիճակի վրա։
7. Հիշողություն առանց մեկուսացման - նշումները պահում են այլ հաճախորդի տվյալներ կամ չմաքրված գաղտնիքներ։
8. Հավաքման գնահատման բացակայություն - գնահատվում է միայն վերջնական շարադրանքը, և աղտոտված համատեքստը աննկատ մտնում է արտադրություն։

Այս օրինակները տեղավորվում են արտադրական գործակալի ձախողման ձևեր ավելի լայն քարտեզի մեջ։ Երբ հետազոտությունն ինքն է հեղեղում գլխավոր գործակալին, մեկուսացրեք որոնումը ենթագործակալների մեջ և վերադարձրեք կարճ ամփոփումներ (Anthropic; տոպոլոգիայի փոխզիջումների մասին տես բազմագործակալ և մեկ գործակալ)։

Նվազագույն ստուգաթերթ մեկ արտադրական ուղու համար

Օգտագործեք սա որպես առաջին գործառնական անցում, ոչ թե հասունության ցուցադրական գնահատական։

1. Անվանեք աշխատընթացը և այն անշրջելի գործողությունները, որոնց համար դարպասներ են պետք։
2. Գրեք կարճ հրահանգային փաթեթ ճիշտ բարձրության վրա և տարբերակավորեք այն։
3. Թվարկեք գործիքները և պարտադրեք բարձր ազդանշան ունեցող լռելյայն պատասխաններ։
4. Սահմանեք վերբերման նույնացուցիչներն ու ժամկետները գիտելիքի հատվածների համար։
5. Որոշեք, թե ինչն է աշխատաշրջանի պատմություն, և ինչը` կայուն հիշողություն։
6. Ընտրեք սեղմման և կամ գործիքների արդյունքների մաքրման գործարկման շեմերը երկար գործարկումների համար։
7. Ավելացրեք գնահատման դեպքեր, որոնք կկոտրվեն, եթե սխալ գիծը դատարկ, հնացած կամ չափից դուրս լի է։
8. Հաստատեք, որ միջադեպերի դեպքում կարող եք վերակառուցել, թե ինչ է մոդելը տեսել (դիտելիություն)։

Խորհուրդ. այս ստուգաթերթով նախ թողարկեք մեկ աշխատընթաց, և միայն հետո ավելացրեք ավելի շատ գործակալներ կամ գործիքներ։

ՀՏՀ

Համատեքստի ճարտարագիտությունը միայն ծրագրավորող գործակալների համա՞ր է

Ոչ։ Ցանկացած բազմաքայլ գործակալ, որը կանչում է գործիքներ և տևում է ավելի երկար, քան կարճ զրույցը, ունի համատեքստի կյանքի ցիկլ։ Աջակցության, գործառնական, նախնական վաճառքի ընդունման և հետազոտական գործակալները բախվում են նույն ճնշման կետերին, պարզապես տարբեր գործիքներով։

Anthropic-ի բնիկ սեղմման մեխանիզմը պե՞տք է, որպեսզի կիրառեք համատեքստի ճարտարագիտությունը

Ոչ։ Սեղմումը, մաքրումը և հիշողությունը նախագծային օրինաչափություններ են։ Վաճառողի API-ները կարող են իրականացնել դրանք ձեր փոխարեն, բայց հատուկ կազմված համակարգողը նույնպես կարող է ամփոփել, մաքրել գործիքային տվյալային բեռները և պահել նշումներ, քանի դեռ պատասխանատվությունն ու գնահատումները հստակ են։

Սա ինչո՞վ է տարբերվում RAG-ից

RAG-ը պատասխանում է, թե ինչպես պահել և վերադարձնել փաստաթղթերը հիմքավորման համար։ Համատեքստի ճարտարագիտությունը որոշում է, թե երբ այդ փաստաթղթերը, և դրանց կողքին մնացած ամեն ինչ, զբաղեցնում են սակավ պատուհանը, որքան երկար են մնում, և ինչն է փոխարինում դրանք ճնշման պահին։ Օգտագործեք երկուսն էլ, և մի միավորեք դրանք մեկ դատարկ բառակապակցության տակ։

Նախագծեք կյանքի ցիկլը Dali-ի հետ

Եթե արդեն ունեք փորձնական գործակալ, բերեք մեկ արտադրական աշխատընթաց և մեզ հետ քարտեզագրեք նրա համատեքստի գծերը` ինչ է մտնում, երբ, ով է պատասխանատուն, ինչն է ավարտվում, և որ գնահատումներն են որսում հավաքման ձախողումները։ Սա ավելի օգտակար է, քան պարզապես հերթական հուշման վերաշարադրումը։

Տեսեք լուծումներ էջը կամ սկսեք կայքի գլխավոր էջից` արտադրական պատրաստվածության զրույցի համար։ Dali-ն նախագծում է գործակալային համակարգեր իրական գործիքների, դարպասների և գործառնական պայմանագրերի շուրջ, ներառյալ համատեքստի կյանքի ցիկլը, որը մոդելը պահում է կառավարելի նույնիսկ ցուցադրությունից հետո։