Knowledge & memory

Embeddings

Ein Embedding ist ein numerischer Vektor, der die Bedeutung eines Text- oder Bildstücks darstellt und so positioniert ist, dass ähnliche Bedeutungen nah beieinander liegen — der Mechanismus hinter semantischer Suche und Retrieval.

Ein Embedding-Modell verwandelt Text in eine Liste von Zahlen — einen Vektor — der so platziert wird, dass semantisch ähnliche Texte in diesem Raum nahe beieinander liegen. Das erlaubt einem System, relevantes Material nach Bedeutung statt nach exakten Schlüsselwörtern zu finden: die Anfrage einbetten, die Dokumente einbetten und die nächstgelegenen Vektoren zurückgeben. Embeddings sind der Motor unter Retrieval-Augmented Generation und dem Langzeitgedächtnis von Agenten, und die Qualität des Embedding-Modells setzt weitgehend die Obergrenze für die Retrieval-Qualität.

Kernpunkte

  • Text oder ein Bild wird zu einem Vektor, in dem ähnliche Bedeutungen nah beieinander liegen.
  • Ermöglicht semantische Suche — das Matchen nach Bedeutung, nicht nach exakten Schlüsselwörtern.
  • Sie treiben Retrieval-Augmented Generation und das Langzeitgedächtnis an.
  • Die Embedding-Qualität deckelt weitgehend, wie gut das Retrieval sein kann.

Lern es durch Bauen

Way of the Agent bringt dir AI-Agent-Engineering Level für Level bei — Konzepte wie dieses, dann Praxis, XP und die AI Chronicles.

Kostenlos starten →