Համատեքստի պատուհան
Համատեքստի պատուհանը տեքստի առավելագույն քանակն է՝ չափված թոքեններով, որը մոդելը կարող է միանգամից դիտարկել՝ ներառելով համակարգային հուշումը, մինչ այժմ եղած զրույցը, գործիքների արդյունքները և այն պատասխանը, որ գեներացնում է։
Այն ամենը, ինչ մոդելը «տեսնում է» տվյալ քայլում, պետք է տեղավորվի համատեքստի պատուհանում։ Գործակալի դեպքում այն արագ է լցվում. համակարգային հուշումը, յուրաքանչյուր օգտատիրոջ հաղորդագրություն և յուրաքանչյուր գործիքի արդյունք կուտակվում են քայլ առ քայլ։ Երբ պատուհանը սպառվում է, ամենահին կամ ամենաքիչ համապատասխան բովանդակությունը պետք է դեն նետվի կամ ամփոփվի, այլապես մոդելը պարզապես չի կարող այն ընդունել։ Պատուհանի կառավարումը՝ ինչ պահել, սեղմել կամ ըստ պահանջի բերել, գործակալներ կառուցելու կենտրոնական ինժեներական խնդիրներից է։
Հիմնական կետերը
- Չափվում է թոքեններով (անգլերենում մոտավորապես բառի ¾-ը). այն սահմանափակում է մուտքն ու ելքը միասին։
- Գործակալում այն սպառվում է համակարգային հուշման, ընթացիկ զրույցի և գործիքների արդյունքների կողմից։
- Երբ այն լցվում է, համատեքստը պետք է սեղմվի, ամփոփվի կամ ըստ պահանջի բերվի՝ տես որոնմամբ հարստացված գեներացումը (RAG)։
- Ավելի մեծ պատուհանն օգնում է, բայց անվճար չէ. ավելի շատ թոքեն նշանակում է ավելի բարձր արժեք, ուշացում և մոդելի ուշադրությունը կորցնելու ռիսկ։
Սովորիր՝ կառուցելով
Way of the Agent-ը սովորեցնում է ԱԲ գործակալների ինժեներիան մակարդակ առ մակարդակ՝ այսպիսի հասկացություններ, ապա գործնական փորձ, XP և ԱԲ Տարեգրություններ։
Սկսիր անվճար →