Embedding-Modelle 2026: was performt, was kostet was

Einordnung

Abschnitt 01

Die Embedding-Modell-Landschaft 2026

Vier Top-Optionen für deutsche RAG-Anwendungen: (1) lokales Embedding-Modell (137M Parameter, 768d Embeddings, MIT-Lizenz, lokal hostbar). (2) größeres Embedding-Modell (335M, 1024d, MIT, lokal). (3) Cloud-Embedding (US-Anbieter, groß) (Cloud-only, 3072d, $0.13/1M Tokens). (4) Cloud-Embedding (mehrsprachig) (1024d, Cloud-only, $0.10/1M Tokens). Plus EU-Alternativen: ein Cloud-Embedding mit EU-Hosting. Bei DripBack nutzen wir ein kompaktes lokales Embedding-Modell als Standard für lokale Setups, Cloud-Embeddings als Option für nicht-sensible Daten.

Abschnitt 02

MTEB-Benchmark für Deutsch

Massive Text Embedding Benchmark (MTEB) ist der etablierte Standard zur Bewertung von Embedding-Modellen. Deutsche Subset-Ergebnisse: Das lokale Embedding-Modell 0.62. größeres Embedding-Modell 0.69 (besser auf Englisch dominanten Daten). Cloud-Embedding (US-Anbieter, groß) 0.72. Cloud-Embedding B (multilingual) 0.71. Die absoluten Zahlen sind nicht super weit auseinander, aber: in der praktischen Anwendung können 5-10 Prozentpunkte Score-Unterschied messbare RAG-Qualitäts-Unterschiede bedeuten.

Abschnitt 03

Lizenz-Bedingungen klar

Das lokale Embedding-Modell: MIT-Lizenz, kommerzielle Nutzung explizit erlaubt, kein Restriction. größeres Embedding-Modell: MIT-Lizenz ähnlich permissiv. Cloud-Embedding: kommerzielle Nutzung via API mit Standard-Terms. Mehrsprachiges Cloud-Embedding: ähnliches Pricing-Modell. Wichtig für KMU-Setups: lokale Modelle haben einmalige Hardware-Investition, aber keine laufenden API-Kosten. Cloud-Modelle haben null Setup-Kosten, aber laufende Token-Gebühren.

Abschnitt 04

Performance pro Datengröße

Für unterschiedliche Datenmengen ergeben sich unterschiedliche Cost-Performance-Profile. Bei 100.000 Dokumenten (typisch ~50 GB Text): lokale Modelle mit Einmal-Indexierung sind klar günstiger. Initial-Indexierung kostet nur Strom, danach kostenlos. Beim Cloud-Embedding: $13 für initiale Indexierung (100M Tokens), dann pro Query rund $0.0001. Bei 100 Queries/Tag = $0.30/Mo. Bei 10.000 Queries/Tag (Größeres SaaS-Setup) = $30/Mo Cloud-Kosten, plus Re-Indexierung bei Daten-Updates. Für KMU mit 100.000-300.000 Dokumenten ist Cloud akzeptabel; darüber wird lokal wirtschaftlicher.

Abschnitt 05

Dimension-Auswahl: 768 vs 1024 vs 3072

Hohe Dimensionen geben mehr Information, aber kosten mehr Speicher und Suche-Latenz. Für KMU-Setups: 768d (lokales Modell) reicht in 90% der Fälle. 1024d (größere lokale und Cloud-Modelle) für anspruchsvollere Domain-Anwendungen wie Anwalts-Research. 3072d (großes Cloud-Embedding) für hoch-spezialisierte Bereiche wie Pharma-Patente. In unseren Tests: Sprung von 768d zu 1024d bringt rund 4-7 Prozentpunkte Recall-Verbesserung. Sprung 1024d zu 3072d nur noch 2-3 Prozentpunkte, bei 3x Storage-Verbrauch und Such-Latenz.

Abschnitt 06

DE-Spezialisierung

Das lokale Embedding-Modell wurde mit mehrsprachigem Training entwickelt, deutsche Texte sind gut repräsentiert. Auf juristischen oder medizinischen Domain-Texten (mit fachspezifischen Begriffen) sind alle Modelle ähnlich schwach — Out-of-Domain. Für hochspezialisierte Anwendungen kann domain-adaptiertes Fine-Tuning helfen: zusätzliche 500-2000 domain-spezifische Texte werden zum Embedding-Modell hinzugefügt. Aufwand: 3-5 Tage Beratung + GPU-Zeit (rund 6-12 Stunden auf RTX 5080). Performance-Verbesserung: typisch 8-15 Prozentpunkte auf domain-spezifischen Tasks.

Abschnitt 07

Latenz-Profile

Einsatz-Latenz pro Embedding-Generation: Lokales Embedding-Modell: 8-12 ms pro Text-Chunk (auf RTX 5080). Größeres Embedding-Modell lokal: 15-20 ms. Cloud-API A: 80-150 ms inklusive Netzwerk. Cloud-API B: 60-120 ms. Bei Batch-Einsatz (RAG-Initial-Indexierung): das lokale Modell schafft 800-1.200 Chunks pro Sekunde. Cloud-API etwa 200-400 Chunks pro Sekunde (limitiert durch Rate-Limits). Für 100.000 Dokumente á 5 Chunks: lokale Indexierung dauert 8-15 Minuten, Cloud-API 30-60 Minuten.

Abschnitt 08

Hardware-Anforderungen lokal

Das lokale Embedding-Modell läuft auf GPU mit nur 0.9 GB VRAM, sogar auf Consumer-GPU wie RTX 3060 12GB. Optimaler Setup: RTX 4070 Ti SUPER 16 GB oder besser, dann kann das Embedding-Modell parallel zu 7B-Modell laufen. Bei größeren Setups mit dem größeren Embedding-Modell: 1.8 GB VRAM, weiterhin auf Consumer-GPU machbar. CPU-Inferenz möglich, aber dramatisch langsamer (10-15x). Nicht produktions-tauglich für Live-Suche, aber für initiale Bulk-Indexierung akzeptabel.

Abschnitt 09

Cloud-Pricing-Realität

Cloud-Embedding (US-Anbieter, groß): $0.13 pro 1M Input-Tokens. Bei einem 50-MA-KMU mit RAG-Setup für 50.000 Dokumente: initiale Indexierung kostet einmalig rund $6-8. Daily Re-Indexierung bei neuen Dokumenten: rund $0.30/Tag = $9/Mo. Query-Embeddings: bei 1000 Queries/Tag rund $0.30/Tag = $9/Mo. Gesamt-Cloud-Kosten Embedding-Layer: rund $20-30/Mo für mittleres KMU-Setup. Für DSGVO-konforme Setups kann diese Cloud-Nutzung mit Pseudonymisierung tragbar sein.

Abschnitt 10

Empfehlung für KMU-Standard-Setup

Standard-Empfehlung: starten mit lokales Embedding-Modell lokal. Vorteile: kostenfrei, EU-DSGVO-konform, schnell, ausreichende Qualität für 90% der Anwendungsfälle. Bei nachweisbarem RAG-Qualitäts-Problem (Recall unter 75%): Test mit dem größeren Embedding-Modell oder einem Cloud-Embedding. Bei §203-/BRAO-Anforderungen: lokal bleiben, niemals zu Cloud. Bei multi-lingual-Setups (DE+EN+FR): ein mehrsprachiges Cloud-Embedding ist die beste Cloud-Option, lokal das kleinere Modell auch akzeptabel.