Эмбеддинги
Эмбеддинг — это числовой вектор, представляющий смысл фрагмента текста или изображения и расположенный так, что близкие по смыслу объекты оказываются рядом; это и есть механизм, стоящий за семантическим поиском и выборкой.
Модель эмбеддингов превращает текст в список чисел — вектор, — размещённый так, что семантически близкие тексты находятся рядом друг с другом в этом пространстве. Это позволяет системе находить релевантный материал по смыслу, а не по точным ключевым словам: закодировать запрос, закодировать документы и вернуть ближайшие векторы. Эмбеддинги — движок, лежащий в основе генерации с дополненной выборкой (RAG) и долгосрочной памяти агента, и качество модели эмбеддингов во многом задаёт потолок качества выборки.
Ключевые тезисы
- Текст или изображение превращается в вектор, где близкие по смыслу объекты расположены рядом.
- Обеспечивает семантический поиск — сопоставление по смыслу, а не по точным ключевым словам.
- На них держатся генерация с дополненной выборкой (RAG) и долгосрочная память.
- Качество эмбеддингов во многом ограничивает, насколько хорошей может быть выборка.
Освой на практике
Way of the Agent обучает инженерии ИИ-агентов уровень за уровнем — сначала такие концепты, потом практика, XP и Хроники ИИ.
Начать бесплатно →