Zum Inhalt

Embeddings

KARLI-gehostete Embedding-Modelle werden über die Standard-Komponente Embedding Model genutzt: Komponente auf die Canvas ziehen, als Provider KARLI wählen und ein Modell aus dem Dropdown picken. Es gibt keine eigenständige KARLI-Embeddings-Komponente.

Verfügbare Modelle

Modell Hinweise
embed_e5_query Query-Embedding-Endpoint der E5-Familie.
embed_q15_query Query-Embedding-Endpoint von Q15.

Beide Modelle liefern 1024-dimensionale Vektoren.

Einsatz in Flows

Die Embedding-Model-Komponente mit jeder Komponente verbinden, die Embeddings benötigt — typischerweise ein Vektor-Store, eine Retrieval-Komponente oder ein Similarity-Search-Node.

flowchart LR
    Documents["Dokumente"] --> EM["Embedding Model
(KARLI)"] EM --> VS["Vektor-Store"]

Einzeltext- und Batch-Embedding-Requests gehen an dedizierte Endpoints (/embed_* und /batch_embed_*) unter der konfigurierten Basis-URL.

Tip

Bei der Modellwahl die Sprache der Dokumente berücksichtigen. Manche Modelle schneiden auf mehrsprachigen Inhalten besser ab als andere.