← Վերադառնալ Հոդվածներին

ՀՈԴՎԱԾ 11 · 11 ՐՈՊԵ ԸՆԹԵՐՑՈՒՄ

Հեղինակ՝ Melika Mohsenipour · Ինժեներ, Seawolf Intelligent Computing

AI գործակալներն արտադրությունում. երբ է աշխատում agentic AI-ը, և երբ է աշխատանքային հոսքն ավելի լավ

«Agentic AI»-ն այսօր ծրագրային ապահովման ոլորտում ամենաշատ որոնվող տերմիններից է, և գրեթե յուրաքանչյուր մատակարար պնդում է, որ գործակալներ է կառուցում: Ավելի հազվադեպ է քննարկվում, թե գործակալային նախագծերից քանիսն այդպես էլ դուրս չեն գալիս ցուցադրական փուլից: Այս ուղեցույցը նայում է, թե իրականում ինչ է AI գործակալը, երբ է այն ճիշտ գործիքը, որտեղ են գործակալները կոտրվում արտադրությունում, և ինչ է պետք արտադրության պատրաստ գործակալին՝ նախքան իրական համակարգերին դիպչելը:

Ցուցադրության և արտադրության միջև եղած բացը իրական է: Gartner-ը կանխատեսում է, որ agentic AI նախագծերի ավելի քան 40%-ը կչեղարկվի մինչև 2027-ի վերջ՝ նշելով աճող ծախսերը, անհասկանալի բիզնես արժեքը և ռիսկերի թույլ վերահսկողությունը: Նույն վերլուծությունը գնահատել է, որ «agentic» արտադրանք գովազդող հազարավոր մատակարարներից միայն մոտ 130-ն են առաջարկում իրական գործակալային հնարավորություններ: Մնացածին Gartner-ն անվանում է «agent washing». չաթբոտներ, RPA սկրիպտներ և օգնականներ, որոնց պարզապես գործակալ անունն են տվել: Սա չի նշանակում, որ գործակալները չեն աշխատում: Սա նշանակում է, որ գործակալ կառուցելու որոշումն արժանի է ավելի մանրակրկիտ ուսումնասիրության, քան սովորաբար ստանում է:

Ինչ է իրականում նշանակում «agentic»

AI գործակալը համակարգ է, որտեղ լեզվական մոդելն է որոշում, թե ինչ անել հաջորդը: Այն ստանում է նպատակ, ընտրում է կանչելու գործիքը (որոնել տվյալների բազայում, կանչել API, կարդալ փաստաթուղթ, ուղարկել հաղորդագրություն), նայում է արդյունքին և որոշում հաջորդ քայլը՝ կրկնելով, մինչև դատի, որ առաջադրանքն ավարտված է: Որոշիչ հատկանիշը խելքը չէ: Դա վերահսկողությունն է. ճանապարհն ընտրում է մոդելը, ոչ թե ձեր կոդը:

Սա տարբերվում է այսօր արտադրությունում գործող AI հնարավորությունների մեծ մասից: Աջակցության համակարգը, որը դասակարգում է մուտքային տոմսերը և պատասխանի նախագիծ է կազմում մարդու վերանայման համար, օգտագործում է AI, բայց հաջորդականությունը որոշում է ձեր կոդը: Մոդելը լրացնում է երկու կոնկրետ քայլ: Anthropic-ի գործակալներ կառուցելու մասին լայնորեն մեջբերվող ուղեցույցը հենց այս սահմանն է գծում. աշխատանքային հոսքերը համակարգում են մոդելներն ու գործիքները նախապես սահմանված կոդային ուղիներով, իսկ գործակալները թույլ են տալիս մոդելին ինքնուրույն ղեկավարել իր գործընթացը և գործիքների օգտագործումը:

Այս տարբերությունը կարևոր է, որովհետև այն որոշում է գրեթե ամեն ինչ հետագայում. որքան կանխատեսելի է համակարգը, ինչպես եք այն փորձարկում, որքան արժե դրա աշխատանքը, և որքան վնաս կարող է այն հասցնել, երբ սխալվում է:

Գործակա՞լ, աշխատանքային հո՞սք, թե՞ մոդելի մեկ կանչ

Ամենաօգտակար հարցը «պե՞տք է արդյոք գործակալ կառուցենք» չէ, այլ «ո՞րն է ամենապարզ նախագիծը, որը հուսալիորեն լուծում է այս խնդիրը»: Գործնականում կա երեք մակարդակ, և բիզնես խնդիրների մեծ մասը լուծվում է առաջին կամ երկրորդ մակարդակում:

Պարզ կանոն. եթե կարող եք գծել բլոկ-սխեման, կառուցեք աշխատանքային հոսք: Դիմեք գործակալին միայն այն դեպքում, երբ ճիշտ հաջորդ քայլն իսկապես կախված է նրանից, թե ինչ բացահայտեց նախորդ քայլը, և հնարավոր ուղիների թիվը չափազանց մեծ է ձեռքով կոդավորելու համար: Նույնիսկ այդ դեպքում գործակալը պետք է լինի համակարգի հնարավոր ամենափոքր մասը՝ փաթաթված սովորական, դետերմինիստիկ կոդով:

Սա նույն սկզբունքն է, որ մենք կիրառում ենք ցանկացած AI նախագծում, և որն ավելի մանրամասն քննարկված է մեր ուղեցույցում այն մասին, թե երբ է ձեր բիզնեսին հատուկ AI անհրաժեշտ. սահմանեք, թե ինչ է նշանակում «աշխատում է», նախքան տեխնիկա ընտրելը:

Որտեղ են AI գործակալները կոտրվում արտադրությունում

Գործակալները, որոնք տպավորիչ են թվում ցուցադրությունում, հաճախ ձախողվում են կանխատեսելի ձևերով, երբ հանդիպում են իրական տվյալների, իրական օգտատերերի և իրական համակարգերի:

1. Սխալները կուտակվում են քայլերի ընթացքում

Գործակալի յուրաքանչյուր քայլ սխալվելու ևս մեկ հնարավորություն է: Ենթադրենք՝ յուրաքանչյուր առանձին քայլ (ճիշտ գործիքի ընտրություն, ճիշտ արգումենտների փոխանցում, արդյունքի մեկնաբանում) հաջողվում է դեպքերի 95%-ում, ինչը լավ է հնչում: Ութ քայլանոց առաջադրանքում բոլոր քայլերի հաջողության հավանականությունը 0.95⁸ է, կամ մոտ 66%: Երեք առաջադրանքից մեկը ինչ-որ տեղ սխալ է ընթանում: Ավելի երկար առաջադրանքներն արագ վատանում են, և վաղ սխալը կարող է աննկատ ուղղորդել բոլոր հետագա քայլերը սխալ ուղղությամբ:

2. Գործիքների կանչերը ձախողվում են սովորական ձևերով

Գործակալների ձախողումների մեծ մասը դրամատիկ չէ: Մոդելը կանչում է ճիշտ API-ն սխալ ձևաչափով ամսաթվով, սխալ է կարդում էջավորված պատասխանը, կրկնում է վճարման կանչ, որն արդեն հաջողվել էր, կամ սխալի հաղորդագրությունը ընդունում է որպես տվյալ: Սրանք նույն ինտեգրման խնդիրներն են, որ ունի ցանկացած ծրագրաշար, միայն թե կանչողն այժմ ոչ դետերմինիստիկ է: Լավ նախագծված API-ները՝ խիստ վավերացմամբ, հստակ սխալներով և իդեմպոտենտ գործողություններով, ավելի կարևոր են դառնում, երբ client-ը մոդել է: Մեր API-first մշակում SaaS-ի համար հոդվածը բացատրում է ինչու:

3. Ծախսերն աճում են յուրաքանչյուր ցիկլի հետ

Մոդելի մեկ կանչն ունի կանխատեսելի արժեք: Գործակալի արժեքը կախված է նրանից, թե քանի քայլ է այն որոշում անել, և շփոթված գործակալը կարող է երկար պտտվել, նախքան հրաժարվելը: Առանց քայլերի սահմանաչափերի և մեկ ավարտված առաջադրանքի արժեքի հետևման՝ ամսական հաշիվները դժվար կանխատեսելի են դառնում, ինչը չեղարկված նախագծերի համար Gartner-ի նշած հիմնական պատճառներից է:

4. Չափազանց շատ հասանելիություն, չափազանց քիչ վերահսկողություն

Գործակալը, որը կարող է կարդալ ձեր CRM-ը, վերադարձնել գումարներ և նամակներ ուղարկել հաճախորդներին, փաստացի նոր աշխատակից է՝ լայն իրավունքներով և առանց հետևանքների մասին դատողության: Prompt injection-ը, երբ փաստաթղթում կամ նամակում թաքցված վնասակար հրահանգները գրավում են գործակալի վերահսկողությունը, այդ հասանելիությունը վերածում է անվտանգության խնդրի: Ռիսկը մեծանում է նրանով, թե ինչ է թույլատրված անել գործակալին, ոչ թե նրանով, թե որքան խելացի է մոդելը:

5. Ոչ ոք չի կարող ասել՝ արդյոք այն աշխատում է

Ամենատարածված ձախողումը ամենաքիչ տեխնիկականն է. թիմը չունի հաջողության համաձայնեցված սահմանում և այն չափելու միջոց: Առանց գնահատման հավաքածուի՝ prompt-ի կամ մոդելի յուրաքանչյուր փոփոխություն գուշակություն է, և նախագիծը շեղվում է, մինչև որևէ մեկը կորցնում է վստահությունը և դադարեցնում այն:

Ինչ է պետք արտադրության պատրաստ գործակալին

Այս խնդիրներից ոչ մեկը գործակալներից ամբողջությամբ խուսափելու պատճառ չէ: Դրանք պահանջներ են: Արտադրության պատրաստ գործակալը սովորաբար ունի հետևյալ բոլորը՝ թողարկումից առաջ, ոչ թե առաջին միջադեպից հետո:

• Գնահատման հավաքածու: Իրատեսական առաջադրանքների հավաքածու՝ հայտնի ճիշտ արդյունքներով, ներառյալ եզրային դեպքեր և առաջադրանքներ, որոնք գործակալը պետք է մերժի: Այն գործարկվում է յուրաքանչյուր փոփոխությունից հետո, որպեսզի իմանաք՝ նոր prompt-ը կամ մոդելը բարելավե՞լ է, թե՞ վատացրել իրավիճակը:
• Նեղ, հստակ սահմանված գործիքներ: Տվեք գործակալին փոքր թվով կոնկրետ գործիքներ («ստուգել պատվերի կարգավիճակը»), ոչ թե լայն գործիքներ («գործարկել ցանկացած SQL հարցում»): Յուրաքանչյուր գործիք պետք է վավերացնի իր մուտքերը և վերադարձնի հստակ սխալներ:
• Նվազագույն անհրաժեշտ իրավունքներ: Գործակալը ստանում է իր սեփական ինքնությունը և միայն այն իրավունքները, որոնք պահանջում է առաջադրանքը: Կարդալու և գրելու հասանելիությունը առանձին որոշումներ են:
• Մարդկային հաստատում կարևոր գործողությունների համար: Ցանկացած թանկ, անշրջելի կամ հաճախորդին ուղղված գործողություն սկսվում է մարդկային հաստատման քայլով: Հանեք այն միայն այն գործողությունների տեսակների համար, որտեղ գործակալն ունի չափված արդյունքներ:
• Խիստ սահմանաչափեր: Մեկ առաջադրանքի առավելագույն քայլեր, մեկ առաջադրանքի առավելագույն արժեք և ժամանակի սահմանաչափեր՝ սահմանված պահուստային տարբերակով, երբ սահմանը հասնում է. փոխանցել մարդուն, վերադարձնել մասնակի արդյունք կամ մաքուր կանգ առնել:
• Ամբողջական հետագծում: Մոդելի յուրաքանչյուր կանչ, գործիքի կանչ, մուտք և ելք գրանցվում է, որպեսզի երբ ինչ-որ բան սխալ ընթանա, կարողանաք տեսնել, թե կոնկրետ որ քայլն է ձախողվել և ինչու:
• Ձախողման ձևերի պլան: Գրավոր պատասխան «ի՞նչ է տեղի ունենում, երբ գործակալը սխալվում է կամ վստահ չէ» հարցին: Դա ներառում է, թե ինչպես է այն ազդարարում ցածր վստահության մասին, և ով է ստանձնում վերահսկողությունը:
• Աստիճանական թողարկում: Սկսեք shadow ռեժիմից (գործակալն առաջարկում է, մարդիկ գործում են), ապա անցեք իրական երթևեկության փոքր մասի, և ընդլայնեք միայն այն դեպքում, երբ չափանիշները պահպանվում են:

Եթե այս ցանկը նման է շատ ինժեներական աշխատանքի՝ փոքր քանակությամբ AI-ի շուրջ, դա ճշգրիտ է: Արտադրական համակարգերում մոդելը սովորաբար կոդի ամենափոքր մասն է: Դրա շուրջ եղած կառուցվածքն է, որ այն դարձնում է հուսալի:

Go/No-Go ստուգացանկ՝ նախքան կառուցելը

Նախքան գործակալի համար բյուջե հատկացնելը, արժե ազնվորեն պատասխանել այս հարցերին: Եթե մի քանի պատասխաններ «ոչ» են կամ «չգիտենք», աշխատանքային հոսքը կամ ավելի նեղ նախատիպը հավանաբար ավելի լավ առաջին քայլ է: Մեր AI MVP կառուցելու ուղեցույցը բացատրում է, թե ինչպես սկսել ավելի փոքրից:

• Կարո՞ղ եք նկարագրել նպատակը մեկ նախադասությամբ և ստուգել, երբ այն իրականացված է: Եթե չեք կարող ստուգել արդյունքը, չեք կարող գնահատել գործակալին:
• Փորձե՞լ եք քայլերը գրի առնել: Եթե կարող եք, աշխատանքային հոսքը հավանաբար ավելի էժան և հուսալի կլինի:
• Ունե՞ք առաջադրանքի 50 կամ ավելի իրական օրինակ՝ ճիշտ արդյունքներով: Դա գնահատման հավաքածուի մեկնարկային կետն է:
• Արդյո՞ք գործակալին անհրաժեշտ համակարգերն ունեն API-ներ՝ պատշաճ իրավունքներով: Էկրանից տվյալներ քաշող կամ ընդհանուր ադմին հավատարմագրերով աշխատող գործակալը ռիսկ է, ոչ թե կարճ ճանապարհ:
• Որքա՞ն արժե սխալ գործողությունը: Եթե բարձր է, պլանավորեք մարդկային հաստատում առաջին օրվանից:
• Արդյո՞ք մեկ առաջադրանքի արժեքը մեծ է մեկ առաջադրանքի ծախսից: Գնահատեք այն իրատեսական քայլերի քանակով, ոչ թե լավագույն դեպքով: Ծախսերի գործոնները քննարկված են մեր հատուկ AI մշակման արժեքի ուղեցույցում:
• Ո՞վ է տիրապետում գործակալին թողարկումից հետո: Գործակալներին անհրաժեշտ է մոնիտորինգ և գնահատման թարմացումներ, երբ տվյալները, գործիքներն ու մոդելները փոխվում են:

Ինչպես ենք մենք մոտենում գործակալային նախագծերին

Մենք կառուցում ենք AI համակարգեր, որոնք աշխատում են արտադրությունում, ներառյալ գործակալների վրա հիմնվածները, և ազնիվ կլինենք մի օրինաչափության մասին, որ հաճախ ենք տեսնում. «AI գործակալի» բազմաթիվ հարցումներ լավագույնս լուծվում են լավ նախագծված աշխատանքային հոսքով՝ ներսում մոդելի մեկ կամ երկու կանչով: Երբ դա այդպես է, մենք դա ասում ենք, որովհետև ավելի պարզ համակարգն ավելի արագ է կառուցվում, ավելի էժան է աշխատում և ավելի հեշտ է վստահել դրան:

Երբ գործակալն է ճիշտ գործիքը, մենք սահմանում ենք հստակ go/no-go չափանիշներ մինչև կառուցման մեկնարկը, գնահատման հավաքածուն կառուցում ենք գործակալի հետ զուգահեռ, և թողարկում ենք սահմանաչափերով, հետագծմամբ և փաստաթղթավորված ձախողման ձևերի պլանով: Սա նույն մոտեցումն է, որ նկարագրված է մեր ծառայությունների էջում, կիրառված համակարգերի նկատմամբ, որտեղ մոդելն ավելի շատ վերահսկողություն ունի:

Եզրակացություն

AI գործակալներն իրական հնարավորություն են, ոչ միայն մարքեթինգային պիտակ, բայց դրանք AI կիրառելու ամենաբարդ ձևն են, ոչ թե լռելյայն ձևը: Հաջողված նախագծերը սովորաբար ունեն մի քանի ընդհանուր գիծ. հստակ ստուգելի նպատակ, ամենապարզ աշխատող ճարտարապետություն, նեղ գործիքներ՝ խիստ իրավունքներով, գնահատման հավաքածու առաջին օրվանից, և մարդկային վերահսկողություն, որը թուլացվում է աստիճանաբար՝ ապացույցների հիման վրա:

Չեղարկված նախագծերը սովորաբար բաց են թողել այդ քայլերից մեկը, ամենից հաճախ՝ սկսելով «մեզ գործակալ է պետք»-ից, փոխանակ «մեզ պետք է լուծել այս խնդիրը»-ի:

Եթե կշռադատում եք գործակալ կոնկրետ գործընթացի համար և ցանկանում եք երկրորդ կարծիք՝ արդյոք դա իսկապես անհրաժեշտ է, կապվեք մեզ հետ: Վերևի ստուգացանկը լավ մեկնարկային կետ է ցանկացած դեպքում:

Հաճախ տրվող հարցեր

Ո՞րն է տարբերությունը AI գործակալի և AI աշխատանքային հոսքի միջև

Աշխատանքային հոսքում ձեր կոդն է որոշում քայլերի հաջորդականությունը, իսկ մոդելը լրացնում է կոնկրետ մասեր, օրինակ՝ հարցման դասակարգում կամ պատասխանի նախագծի կազմում: Գործակալի դեպքում մոդելն է որոշում, թե որ քայլն անել հաջորդը, որ գործիքը կանչել, և երբ է առաջադրանքն ավարտված: Աշխատանքային հոսքերն ավելի կանխատեսելի են և ավելի հեշտ են փորձարկվում. գործակալներն ավելի ճկուն են, բայց ավելի դժվար վերահսկելի:

Ինչո՞ւ են agentic AI նախագծերից շատերը ձախողվում

Հիմնականում պատճառներով, որոնք քիչ կապ ունեն մոդելի խելքի հետ. առաջադրանքին գործակալ պետք չէր, ոչ ոք չէր սահմանել, թե ինչ է նշանակում հաջողություն, գործակալը թողարկումից առաջ գնահատելու միջոց չկար, ծախսերն աճեցին սպասվածից արագ, կամ գործակալն ուներ իրական համակարգերի ավելի լայն հասանելիություն, քան որևէ մեկին հարմար էր: Gartner-ը կանխատեսում է, որ agentic AI նախագծերի ավելի քան 40%-ը կչեղարկվի մինչև 2027-ի վերջ՝ նման պատճառներով:

Արդյո՞ք AI գործակալներին մարդկային վերահսկողություն է պետք

Ցանկացած գործողության համար, որը թանկ է, անշրջելի կամ ուղղված է հաճախորդին՝ այո, առնվազն սկզբում: Տարածված մոտեցում է՝ թույլ տալ գործակալին պատրաստել գործողությունը և պահանջել մարդկային հաստատում մինչև կատարումը, ապա հաստատման քայլը հանել միայն այն գործողությունների տեսակների համար, որտեղ գործակալն ունի ապացուցված արդյունքներ:

Ինչպե՞ս փորձարկել AI գործակալը նախքան արտադրություն թողարկելը

Կազմեք գնահատման հավաքածու՝ իրատեսական առաջադրանքներով և հայտնի ճիշտ արդյունքներով, ներառյալ եզրային դեպքեր և առաջադրանքներ, որոնք գործակալը պետք է մերժի: Գործարկեք գործակալն այդ հավաքածուի վրա prompt-ների, գործիքների կամ մոդելների յուրաքանչյուր փոփոխությունից հետո և հետևեք առաջադրանքների հաջողության տոկոսին, մեկ առաջադրանքի արժեքին և անվտանգ չլինող կամ անսպասելի գործողությունների հաճախականությանը: Ապա թողարկեք աստիճանաբար՝ սկսելով shadow ռեժիմից կամ իրական երթևեկության փոքր մասից:

Որքա՞ն արժե AI գործակալի աշխատանքը

Դա մեծապես կախված է նրանից, թե քանի քայլ է գործակալն անում մեկ առաջադրանքի համար, քանի որ յուրաքանչյուր քայլ մոդելի ևս մեկ կանչ է: Գործակալը, որը մեկ առաջադրանքի վրա տասը անգամ է պտտվում, արժե մոտավորապես տասն անգամ ավելի, քան մեկ կանչը: Ահա թե ինչու չափելու թիվը մեկ ավարտված առաջադրանքի արժեքն է, ոչ թե մեկ կանչի արժեքը, և ինչու քայլերի սահմանաչափը արտադրության հիմնական պահանջ է: