Հալյուցինացիա
Հալյուցինացիան այն է, երբ մոդելը վստահորեն նշում է ինչ-որ կեղծ կամ հորինված բան՝ հնարելով փաստեր, աղբյուրներ կամ մանրամասներ, որոնք երբեք չեն եղել իր մուտքում կամ ճիշտ չեն եղել այդ ձևով։
Լեզվական մոդելները գեներացնում են ամենահավանական շարունակությունը, ոչ թե ստուգված ճշմարտությունը, ուստի կարող են արտադրել սահուն, վստահ, բայց պարզապես սխալ տեքստ՝ հորինված մեջբերում, գոյություն չունեցող API, հավանական, բայց կեղծ փաստ։ Գործակալների համար դա վտանգավոր է, քանի որ հալյուցինացված գործիքի արգումենտը կամ պնդումը կարող է տարածվել ողջ ընթացքով։ Հիմնական պաշտպանություններն են՝ պատասխանները խարսխել բերված աղբյուրների վրա (RAG), խնդրել մոդելին մեջբերել, ստուգել գործիքների ելքերը և առաջադրանքները ձևավորել այնպես, որ մոդելը կարողանա ասել «չգիտեմ»։
Հիմնական կետերը
- Մոդելն արտադրում է սահուն, վստահ տեքստ, որը փաստացիորեն սխալ է կամ հորինված։
- Դա տեղի է ունենում, քանի որ մոդելները կանխատեսում են հավանական տեքստ, ոչ թե ստուգված ճշմարտություն։
- Գործակալում հալյուցինացված արժեքը կարող է տարածվել ողջ ընթացքով։
- Մեղմեք խարսխմամբ/RAG-ով, մեջբերումներով, ելքի ստուգմամբ և «չգիտեմ» ասելու հնարավորությամբ։
Սովորիր՝ կառուցելով
Way of the Agent-ը սովորեցնում է ԱԲ գործակալների ինժեներիան մակարդակ առ մակարդակ՝ այսպիսի հասկացություններ, ապա գործնական փորձ, XP և ԱԲ Տարեգրություններ։
Սկսիր անվճար →