Embeddings¶
KARLI-gehostete Embedding-Modelle werden über die Standard-Komponente Embedding Model genutzt: Komponente auf die Canvas ziehen, als Provider KARLI wählen und ein Modell aus dem Dropdown picken. Es gibt keine eigenständige KARLI-Embeddings-Komponente.
Verfügbare Modelle¶
| Modell | Hinweise |
|---|---|
embed_e5_query |
Query-Embedding-Endpoint der E5-Familie. |
embed_e5_passage |
Passage-Embedding-Endpoint der E5-Familie. |
embed_q15_query |
Query-Embedding-Endpoint von Q15. |
embed_q15_passage |
Passage-Embedding-Endpoint von Q15. |
Alle Modelle liefern 1024-dimensionale dichte Vektoren. Die _query- und _passage-Varianten bilden asymmetrische Paare — das passende _query-Modell für die Suchanfrage und das entsprechende _passage-Modell für die zu indexierenden Dokumente verwenden.
Einsatz in Flows¶
Die Embedding-Model-Komponente mit jeder Komponente verbinden, die Embeddings benötigt — typischerweise ein Vektor-Store, eine Retrieval-Komponente oder ein Similarity-Search-Node.
flowchart LR
Documents["Dokumente"] --> EM["Embedding Model
(KARLI)"]
EM --> VS["Vektor-Store"]
Einzeltext- und Batch-Embedding-Requests gehen an dedizierte Endpoints (/embed_* und /batch_embed_*) unter der konfigurierten Basis-URL.
Tip
Bei der Modellwahl die Sprache der Dokumente berücksichtigen. Manche Modelle schneiden auf mehrsprachigen Inhalten besser ab als andere.