Zum Inhalt

Embeddings

KARLI-gehostete Embedding-Modelle werden über die Standard-Komponente Embedding Model genutzt: Komponente auf die Canvas ziehen, als Provider KARLI wählen und ein Modell aus dem Dropdown picken. Es gibt keine eigenständige KARLI-Embeddings-Komponente.

Verfügbare Modelle

Modell Hinweise
embed_e5_query Query-Embedding-Endpoint der E5-Familie.
embed_e5_passage Passage-Embedding-Endpoint der E5-Familie.
embed_q15_query Query-Embedding-Endpoint von Q15.
embed_q15_passage Passage-Embedding-Endpoint von Q15.

Alle Modelle liefern 1024-dimensionale dichte Vektoren. Die _query- und _passage-Varianten bilden asymmetrische Paare — das passende _query-Modell für die Suchanfrage und das entsprechende _passage-Modell für die zu indexierenden Dokumente verwenden.

Einsatz in Flows

Die Embedding-Model-Komponente mit jeder Komponente verbinden, die Embeddings benötigt — typischerweise ein Vektor-Store, eine Retrieval-Komponente oder ein Similarity-Search-Node.

flowchart LR
    Documents["Dokumente"] --> EM["Embedding Model
(KARLI)"] EM --> VS["Vektor-Store"]

Einzeltext- und Batch-Embedding-Requests gehen an dedizierte Endpoints (/embed_* und /batch_embed_*) unter der konfigurierten Basis-URL.

Tip

Bei der Modellwahl die Sprache der Dokumente berücksichtigen. Manche Modelle schneiden auf mehrsprachigen Inhalten besser ab als andere.