Концепты инженерии ИИ-агентов
Короткие, по существу, объяснения ключевых идей построения ИИ-агентов.
- Agent architecture Цикл использования инструментов Цикл использования инструментов — это базовый цикл работы ИИ-агента: модель выбирает действие, инструмент его выполняет, результат возвращается модели, и она принимает следующее решение — так до тех пор, пока задача не будет выполнена.
- Prompting Системный промпт Системный промпт — это постоянная инструкция, которую ИИ-модель получает до начала диалога: он задаёт роль модели, правила, тон, а также инструменты и ограничения, которым она должна следовать.
- Model fundamentals Контекстное окно Контекстное окно — это максимальный объём текста (измеряемый в токенах), который модель может учитывать за один раз: сюда входят системный промпт, весь диалог, результаты инструментов и генерируемый ответ.
- Knowledge & memory Генерация с дополненной выборкой (RAG) Генерация с дополненной выборкой (RAG) — это подход, при котором релевантные документы извлекаются из внешнего хранилища в момент запроса и вставляются в промпт, чтобы модель отвечала на основе этого свежего, конкретного материала, а не только по памяти.
- Agent architecture Вызов функций Вызов функций (также «вызов инструментов») — это механизм, с помощью которого модель запрашивает конкретную заранее описанную функцию со структурированными аргументами вместо ответа прозой; именно этот мост позволяет агенту реально что-то делать.
- Safety Инъекция промпта Инъекция промпта — это атака, при которой вредоносные инструкции, спрятанные в содержимом, которое читает модель (веб-странице, файле, результате инструмента), пытаются переопределить настоящие инструкции агента и заставить его действовать против пользователя.
- Agent architecture Паттерн ReAct ReAct (Reason + Act) — это паттерн агента, при котором модель чередует явные рассуждения с действиями инструментов: обдумывает, что делать, действует, наблюдает результат, а затем снова обдумывает.
- Tooling & interoperability Model Context Protocol (MCP) Model Context Protocol (MCP) — это открытый стандарт для подключения ИИ-агентов к внешним инструментам и данным через единый интерфейс, так что любой совместимый клиент может использовать любой совместимый сервер.
- Knowledge & memory Память агента Память агента — это то, как агент сохраняет информацию за пределами одного контекстного окна: от краткосрочного рабочего состояния внутри задачи до долгосрочных хранилищ, в которых он может искать и повторно использовать данные между сессиями.
- Evaluation Оценки (evals) для ИИ-агентов Оценки (evals) — это систематические тесты, измеряющие, насколько хорошо ИИ-агент выполняет задачу; это набор тестов для недетерминированных систем, используемый, чтобы ловить регрессии и сравнивать изменения.
- Model fundamentals Галлюцинация Галлюцинация — это когда модель уверенно утверждает нечто ложное или выдуманное: изобретает факты, источники или детали, которых не было в её вводе и которые не были истинными в такой форме.
- Knowledge & memory Эмбеддинги Эмбеддинг — это числовой вектор, представляющий смысл фрагмента текста или изображения и расположенный так, что близкие по смыслу объекты оказываются рядом; это и есть механизм, стоящий за семантическим поиском и выборкой.