Wer heute einen KI-Wissensagenten baut, hört fast immer dieselbe Empfehlung: Dokumente in einen Vektorindex laden, Retrieval-Augmented Generation (RAG) aufsetzen, fertig. Was in Architektur-Diagrammen elegant aussieht, hat eine Eigenschaft, die in Offerten selten auftaucht: Der Index kostet Geld, jeden Monat, auch wenn niemand eine Frage stellt.
Dieser Artikel rechnet mit echten, im August 2026 verifizierten Azure-Listenpreisen nach, was ein eigener RAG-Index tatsächlich kostet — und zeigt, wann Sie ihn gar nicht brauchen. Denn für SharePoint- und Microsoft-365-Inhalte existiert bereits ein von Microsoft betriebener Index, der im Lizenzpreis enthalten ist.
Hinweis zur Aktualität: Alle Preise sind Listenpreise (Region West Europe, Stand August 2026) von den offiziellen Microsoft-Preisseiten. Azure AI Search wird von Microsoft inzwischen unter dem Dach von Foundry IQ positioniert — der «Context-Engineering-Plattform» der Microsoft-Intelligence-Schicht. Die Abrechnungslogik ist dieselbe geblieben. CHF-Beträge sind gerundete Umrechnungen (Annahme: 1 USD ≈ 0.80 CHF); massgeblich ist die USD-Abrechnung Ihrer Azure-Subscription.
Der Kostenzähler läuft ab Tag 1 — pro Anfrage und pro Monat
Ein RAG-System hat zwei Sorten von Kosten: variable Kosten pro Anfrage (Embedding, Ranking, LLM-Antwort) und Fixkosten pro Monat (der Suchdienst selbst). Die Fixkosten werden am häufigsten unterschätzt — sie laufen 24/7, unabhängig von der Nutzung.
Die Animation zeigt, an welchen Stationen einer einzigen Anfrage überall ein Kostenzähler hängt:
Die aktuellen Listenpreise für den Suchdienst (pro Search Unit und Monat):
| Tier | Preis / Monat | Speicher pro Partition | Typischer Einsatz |
|---|---|---|---|
| Free | $0 | 50 MB | Nur Experimente |
| Basic | $73.73 | 15 GB | Kleine Piloten |
| Standard S1 | $245.28 | 160 GB | Produktion KMU |
| Standard S2 | $981.12 | 512 GB | Grössere Datenmengen |
| Standard S3 | $1'962.24 | 1 TB | Enterprise |
Eine Search Unit (SU) ist das Produkt aus Partitionen (Speicher) und Replicas (Verfügbarkeit). Und hier liegt die erste versteckte Kostenfalle: Wer Hochverfügbarkeit will, braucht mindestens 2 Replicas für Lese-, 3 für Schreib-Hochverfügbarkeit. Aus einem S1 für $245 werden so schnell $490–$735 pro Monat — für denselben Datenbestand.
Dazu kommen die variablen Posten:
- Semantic Ranker: die ersten 1'000 Anfragen pro Monat sind kostenlos, danach $1 pro 1'000 Anfragen
- Agentic Retrieval (die 2026 eingeführte, tokenbasierte Abfrageplanung): die ersten 50 Mio. Tokens pro Monat kostenlos, danach $0.022 pro 1 Mio. Tokens (Reasoning-Aufwand «minimal/low») bzw. $0.10 pro 1 Mio. Tokens («medium»)
- Embeddings (Azure OpenAI): text-embedding-3-small $0.022 pro 1 Mio. Tokens, text-embedding-3-large $0.143 pro 1 Mio. Tokens
- LLM-Antworten (Azure OpenAI, GPT-5): $1.25 pro 1 Mio. Input-Tokens, $10 pro 1 Mio. Output-Tokens
Einzeln wirkt jeder Posten harmlos. Die Summe — plus Personalaufwand für Pipeline-Wartung — ist es nicht.
Rechenbeispiel 1: KMU mit 50 Mitarbeitenden, 10'000 Dokumente
Ein typisches Schweizer KMU: interner Wissensagent, 10'000 Dokumente (Verträge, Handbücher, Projektablagen), rund 2'000 Anfragen pro Monat.
| Posten | Rechnung | Kosten / Monat |
|---|---|---|
| Azure AI Search S1 (1 SU, ohne HA) | Fixpreis | $245 |
| Staging-/Test-Index (Basic) | Fixpreis | $74 |
| Embeddings initial (einmalig) | 10'000 Dok. × ~3'000 Tokens = 30 Mio. Tokens × $0.022/1M | ~$0.70 einmalig |
| Embedding-Updates (10 % Änderungsrate) | 3 Mio. Tokens × $0.022/1M | < $1 |
| Semantic Ranker | 2'000 Anfragen (1'000 frei) | $1 |
| LLM-Antworten (GPT-5) | 2'000 × (3'000 In + 500 Out Tokens) = 6M In + 1M Out | ~$18 |
| Total Infrastruktur | ~$339 ≈ CHF 270 |
Drei Beobachtungen:
- 1Die Embeddings sind nicht der Kostentreiber. Sie kosten Rappen. Der Mythos «Vektorisierung ist teuer» stimmt bei Textdokumenten nicht.
- 293 % der Kosten sind Fixkosten ($319 von $339) — sie fallen auch an, wenn im August niemand eine Frage stellt.
- 3Hochverfügbarkeit verdoppelt den Fixblock: Mit 2 Replicas steigt das Total auf ~$584 ≈ CHF 470 pro Monat — über CHF 5'600 im Jahr, ohne eine Zeile Anwendungscode.
Nicht in der Tabelle: der Aufbau (typisch 20–60 Personentage für Chunking-Strategie, Berechtigungs-Mapping, Evaluierung) und die laufende Pflege der Indexierungs-Pipeline (~0.5–1 Personentag pro Monat).
Rechenbeispiel 2: Unternehmen mit 500 Mitarbeitenden, 200'000 Dokumente
Bei 200'000 Dokumenten inklusive Vektoren landet man realistisch bei 150–250 GB Indexvolumen — mit Wachstumsreserve heisst das: S1 mit 2 Partitionen. Mit 2 Replicas für Verfügbarkeit ergibt das 4 Search Units.
| Posten | Rechnung | Kosten / Monat |
|---|---|---|
| Azure AI Search S1 (2 Partitionen × 2 Replicas = 4 SU) | 4 × $245.28 | $981 |
| Staging-Index (S1, 1 SU) | Fixpreis | $245 |
| Dokumenten-Aufbereitung initial (OCR/Cracking, ~1 Mio. Seiten) | ~$1.50 pro 1'000 Seiten | ~$1'500 einmalig |
| Embedding-Updates (10 % Änderungsrate, large-Modell) | 60 Mio. Tokens × $0.143/1M | ~$9 |
| Semantic Ranker | 20'000 Anfragen | ~$19 |
| LLM-Antworten (GPT-5) | 20'000 × (3'000 In + 500 Out) = 60M In + 10M Out | ~$175 |
| Total Infrastruktur | ~$1'429 ≈ CHF 1'145 |
Dazu kommen die klassischen versteckten Posten, die in kaum einer Offerte stehen:
- Re-Indexing bei Schema-Änderungen: Ändern Sie die Chunking-Strategie oder das Embedding-Modell, wird der komplette Bestand neu verarbeitet — die $1'500 Aufbereitung fällt erneut an.
- Vergessene Dev-/Test-Indexe: Jeder zusätzliche S1-Dienst kostet $245 pro Monat — auch der, den das Projektteam nach dem Piloten nie abgestellt hat.
- Monitoring und Evaluierung: Wer Antwortqualität misst (und das sollte man), bezahlt die Evaluierungs-Anfragen ebenfalls.
- Personalkosten: 1–2 Personentage pro Monat für Pipeline-Betrieb sind bei dieser Grösse konservativ — bei CHF 1'200/Tag nochmals CHF 1'200–2'400 monatlich, oft mehr als die gesamte Azure-Rechnung.
Aufs Jahr gerechnet: CHF 14'000–17'000 Infrastruktur plus CHF 15'000–30'000 Betriebsaufwand — für den Index allein, bevor irgendein Business-Nutzen entsteht.
Der Trend verschärft sich: Microsoft stellt auf Verbrauchsabrechnung um
Am 7. August 2026 berichtete TechInformed, dass Microsoft Teile seines KI-Portfolios über reine Sitzlizenzen hinaus auf verbrauchsbasierte Abrechnung umstellt — Nutzerlizenzen werden mit nutzungsabhängigen Gebühren kombiniert. Im Dynamics-365-Umfeld stieg der Credit-Verbrauch innert eines Quartals um das Vierfache. Für Azure AI Search ist zudem ab Ende 2026 eine Serverless-Abrechnung angekündigt.
Was das für RAG-Projekte bedeutet: Die Kostenstruktur wird volatiler. Wer heute keine Kostentransparenz pro Anfrage hat, wird sie unter verbrauchsbasierter Abrechnung erst recht nicht haben. Ein monatliches Kosten-Dashboard pro Wissensagent gehört ab sofort zur Grundausstattung jedes RAG-Projekts.
Die wichtigste Erkenntnis: SharePoint braucht keinen eigenen RAG-Index
Hier liegt der grösste Hebel — und der am häufigsten übersehene: Für Inhalte, die bereits in Microsoft 365 liegen, müssen Sie keinen eigenen Index bauen. Microsoft betreibt ihn schon.
Konkret:
- Copilot Studio bindet SharePoint, OneDrive und Dataverse als Wissensquellen nativ an — ohne Azure AI Search, ohne Embedding-Pipeline, ohne Re-Indexing. Berechtigungen werden automatisch respektiert: Der Agent zeigt nur, was die fragende Person sehen darf. Abgerechnet wird über Copilot Credits: $200 pro Monat für ein Kapazitätspaket mit 25'000 Credits oder nutzungsbasiert (Pay-as-you-go) ohne Fixkosten.
- Microsoft 365 Copilot nutzt den Semantic Index — Microsoft indexiert die Tenant-Inhalte bereits als Teil des Dienstes. Es fallen keine separaten Infrastrukturkosten für Indexierung an; bezahlt wird die Nutzerlizenz (Microsoft 365 Copilot als Business-Add-on: Listenpreis $21 pro Nutzer und Monat bei Jahresbindung).
- Microsoft Graph Connectors erweitern denselben nativen Index um externe Quellen (Confluence, ServiceNow, Fileshares) — auch hier ohne eigenen Azure-AI-Search-Dienst.
Der direkte Vergleich für den häufigsten Fall — ein interner Wissensagent über SharePoint-Inhalte, 50 Nutzende:
| Ansatz | Infrastruktur / Monat | Aufbau | Pflege | Berechtigungen |
|---|---|---|---|---|
| Eigener RAG-Index (Azure AI Search S1 + Staging + LLM) | ~CHF 270–470 | 20–60 Personentage | laufend (Pipeline) | selbst zu implementieren |
| Copilot Studio, SharePoint nativ | ab CHF 160 (25'000 Credits) | 1–5 Personentage | minimal | automatisch |
| Microsoft 365 Copilot (50 Lizenzen) | ~CHF 840 (Lizenzen, gesamte Suite) | 0 (im Produkt) | keine | automatisch |
Die Lizenzvariante wirkt auf den ersten Blick teurer — enthält aber Copilot in Word, Excel, Outlook, Teams für alle 50 Personen. Der eigene RAG-Index dagegen liefert genau eine Funktion und trägt den gesamten Betriebsaufwand mit sich.
Die Entscheidungsregel ist einfach:
- Liegen die Daten in SharePoint, OneDrive, Teams, Exchange oder Dataverse → native Grounding (Copilot Studio / M365 Copilot). Kein eigener Index.
- Liegen die Daten in ERP-Systemen, Fachanwendungen, externen Datenbanken oder Public-Web-Quellen, die Graph Connectors nicht abdecken → dann, und nur dann, lohnt sich ein eigener RAG-Index mit Azure AI Search.
- Mischfall: Copilot Studio kann beides kombinieren — native SharePoint-Quellen plus einen (kleinen!) Azure-AI-Search-Index nur für die Nicht-M365-Daten. So bleibt der teure Index auf das Minimum beschränkt.
Sieben Hebel, um RAG-Kosten zu senken
Wenn ein eigener Index gerechtfertigt ist, lässt sich der Betrag fast immer deutlich drücken:
1. Tier konsequent nach Bedarf wählen. Der Sprung von S1 zu S2 vervierfacht die Fixkosten ($245 → $981). S2 «auf Vorrat» ist der teuerste Einzelfehler; Partitionen lassen sich bei S1 nachträglich hinzufügen.
2. Replicas an den tatsächlichen Verfügbarkeitsbedarf koppeln. Ein interner Wissensagent braucht selten 99.9 % Schreibverfügbarkeit. 1 Replica statt 3 spart bei S1 $490 pro Monat.
3. Inkrementell indexieren statt Full-Rebuild. Indexer mit Change-Detection verarbeiten nur geänderte Dokumente. Das vermeidet wiederkehrende Aufbereitungskosten (im Beispiel oben: $1'500 pro Volllauf).
4. Embedding-Modell nach Aufgabe wählen. text-embedding-3-small kostet ein Sechstel von large ($0.022 vs. $0.143 pro 1 Mio. Tokens) und reicht für viele interne Suchszenarien nachweislich aus. Erst messen, dann upgraden.
5. Antworten cachen. In internen Wissensagenten entfallen typischerweise 20–40 % der Anfragen auf wiederkehrende Fragen. Ein Antwort-Cache spart LLM- und Ranker-Kosten an der teuersten Stelle.
6. Dev-/Staging-Indexe aufräumen. Jeder vergessene Basic-Dienst kostet $74, jeder S1 $245 pro Monat. Ein monatlicher Ressourcen-Review gehört in jede Azure-Governance.
7. Freikontingente bewusst nutzen. 1'000 Semantic-Ranker-Anfragen und 50 Mio. Agentic-Retrieval-Tokens pro Monat sind kostenlos — für Piloten und kleine Agenten reicht das oft komplett.
Fazit: Erst die Datenquelle prüfen, dann die Architektur wählen
Die versteckten Kosten von RAG in Azure sind real: Ein produktiver eigener Index kostet ein KMU realistisch CHF 3'000–6'000 pro Jahr, ein mittleres Unternehmen CHF 14'000–17'000 — plus Aufbau und Betrieb, der die Infrastrukturkosten oft übersteigt. Nichts davon ist versteckt, wenn man die Preisliste liest. Aber genau das passiert in vielen Projekten zu spät.
Die gute Nachricht: Der grösste Kostenblock ist oft komplett vermeidbar. Wer seine Wissensbasis in Microsoft 365 hat, bekommt Indexierung, Berechtigungen und Aktualität von Microsoft mitgeliefert — im Lizenzpreis inbegriffen. Der eigene RAG-Index ist das richtige Werkzeug für die Daten, die ausserhalb dieser Welt liegen. Nicht mehr, nicht weniger.
Wie CNEXT unterstützt
Wir rechnen mit Ihnen, bevor Sie bauen:
- RAG-Kosten-Assessment: Wir modellieren Ihre Szenarien mit aktuellen Listenpreisen — Sie sehen vor dem Projektstart, was der Betrieb kostet.
- Architektur-Entscheid: Native Grounding, eigener Index oder Mischform — begründet anhand Ihrer Datenquellen, nicht anhand von Architektur-Moden.
- Kostenoptimierung bestehender RAG-Systeme: Tier-Review, Caching, Indexierungs-Strategie — typisch sind 30–60 % Einsparung ohne Qualitätsverlust.
Bevor Sie einen Index bauen, der nichts kosten müsste: Kontakt aufnehmen →
Quellen (alle abgerufen im August 2026): Azure AI Search / Foundry IQ Preise · Microsoft Learn: SKU-Wahl · Azure OpenAI Preise · Microsoft 365 Copilot Preise · Copilot Studio Preise · TechInformed: Microsoft adds metered AI billing (7.8.2026)
Weiterführende Artikel:
- Was kostet ein Copilot Studio Agent wirklich? Credits, Baselines und Kostenhebel
- Was kostet Microsoft 365 Copilot wirklich? Lizenzen, Baselines und Kostenhebel
- Was kostet ein Azure AI Foundry Agent wirklich? Komponenten, Baselines und Kostenhebel
- Company Brain aufbauen: Copilot Studio, Azure AI Foundry oder Replit?
- KI Company Brain: Architektur, Komponenten und Datenquellen
- Agentic AI Services