Embeddings¶
KARLI-gehostete Embedding-Modelle werden über die Standard-Komponente Embedding Model genutzt: Komponente auf die Canvas ziehen, als Provider KARLI wählen und ein Modell aus dem Dropdown picken. Es gibt keine eigenständige KARLI-Embeddings-Komponente.
Verfügbare Modelle¶
| Modell | Hinweise |
|---|---|
embed_e5_query |
Query-Embedding-Endpoint der E5-Familie. |
embed_q15_query |
Query-Embedding-Endpoint von Q15. |
Beide Modelle liefern 1024-dimensionale Vektoren.
Einsatz in Flows¶
Die Embedding-Model-Komponente mit jeder Komponente verbinden, die Embeddings benötigt — typischerweise ein Vektor-Store, eine Retrieval-Komponente oder ein Similarity-Search-Node.
flowchart LR
Documents["Dokumente"] --> EM["Embedding Model
(KARLI)"]
EM --> VS["Vektor-Store"]
Einzeltext- und Batch-Embedding-Requests gehen an dedizierte Endpoints (/embed_* und /batch_embed_*) unter der konfigurierten Basis-URL.
Tip
Bei der Modellwahl die Sprache der Dokumente berücksichtigen. Manche Modelle schneiden auf mehrsprachigen Inhalten besser ab als andere.