Концепты инженерии ИИ-агентов
Короткие, по существу, объяснения ключевых идей построения ИИ-агентов.
- Agent architectureЦикл использования инструментовЦикл использования инструментов — это базовый цикл работы ИИ-агента: модель выбирает действие, инструмент его выполняет, результат возвращается модели, и она принимает следующее решение — так до тех пор, пока задача не будет выполнена.
- PromptingСистемный промптСистемный промпт — это постоянная инструкция, которую ИИ-модель получает до начала диалога: он задаёт роль модели, правила, тон, а также инструменты и ограничения, которым она должна следовать.
- Model fundamentalsКонтекстное окноКонтекстное окно — это максимальный объём текста (измеряемый в токенах), который модель может учитывать за один раз: сюда входят системный промпт, весь диалог, результаты инструментов и генерируемый ответ.
- Knowledge & memoryГенерация с дополненной выборкой (RAG)Генерация с дополненной выборкой (RAG) — это подход, при котором релевантные документы извлекаются из внешнего хранилища в момент запроса и вставляются в промпт, чтобы модель отвечала на основе этого свежего, конкретного материала, а не только по памяти.
- Agent architectureВызов функцийВызов функций (также «вызов инструментов») — это механизм, с помощью которого модель запрашивает конкретную заранее описанную функцию со структурированными аргументами вместо ответа прозой; именно этот мост позволяет агенту реально что-то делать.
- SafetyИнъекция промптаИнъекция промпта — это атака, при которой вредоносные инструкции, спрятанные в содержимом, которое читает модель (веб-странице, файле, результате инструмента), пытаются переопределить настоящие инструкции агента и заставить его действовать против пользователя.
- Agent architectureПаттерн ReActReAct (Reason + Act) — это паттерн агента, при котором модель чередует явные рассуждения с действиями инструментов: обдумывает, что делать, действует, наблюдает результат, а затем снова обдумывает.
- Tooling & interoperabilityModel Context Protocol (MCP)Model Context Protocol (MCP) — это открытый стандарт для подключения ИИ-агентов к внешним инструментам и данным через единый интерфейс, так что любой совместимый клиент может использовать любой совместимый сервер.
- Knowledge & memoryПамять агентаПамять агента — это то, как агент сохраняет информацию за пределами одного контекстного окна: от краткосрочного рабочего состояния внутри задачи до долгосрочных хранилищ, в которых он может искать и повторно использовать данные между сессиями.
- EvaluationОценки (evals) для ИИ-агентовОценки (evals) — это систематические тесты, измеряющие, насколько хорошо ИИ-агент выполняет задачу; это набор тестов для недетерминированных систем, используемый, чтобы ловить регрессии и сравнивать изменения.
- Model fundamentalsГаллюцинацияГаллюцинация — это когда модель уверенно утверждает нечто ложное или выдуманное: изобретает факты, источники или детали, которых не было в её вводе и которые не были истинными в такой форме.
- Knowledge & memoryЭмбеддингиЭмбеддинг — это числовой вектор, представляющий смысл фрагмента текста или изображения и расположенный так, что близкие по смыслу объекты оказываются рядом; это и есть механизм, стоящий за семантическим поиском и выборкой.