RAG (Retrieval-Augmented Generation) verbindet LLMs mit Ihrem Unternehmens-Wissen. Azure AI Foundry bietet alle Werkzeuge dafür.
Was ist RAG?
RAG erweitert LLMs um externe Daten:
- 1Frage des Benutzers
- 2Suche in Wissensbasis
- 3Context für LLM erstellen
- 4Antwort mit aktuellem Wissen
Vorteile:
- Aktuelle Informationen
- Quellenangaben möglich
- Weniger Halluzinationen
- Domänen-spezifisches Wissen
Architektur in Azure
Komponenten
Dokumente → Azure AI Search (Index) → User-Frage → Vector Search → Relevante Chunks → LLM (Azure OpenAI) → Antwort
Azure AI Search
Leistungsfähige Suche:
- Vector Search für Semantik
- Hybrid Search (Vektor + Keyword)
- Facetten und Filter
Embedding-Modelle
Texte in Vektoren umwandeln:
- text-embedding-ada-002
- text-embedding-3-small/large
- Multilingual-Modelle
Implementierungs-Schritte
1. Daten-Vorbereitung
Dokumente aufbereiten:
Chunking-Strategie:
- Feste Grösse (z.B. 500 Tokens)
- Semantische Chunks
- Überlappung für Kontext
Metadaten:
- Quelle
- Datum
- Kategorie
- Berechtigungen
2. Index erstellen
In Azure AI Search konfigurieren Sie Felder für ID, Content, Vector und Source mit entsprechenden Suchprofilen.
3. Embeddings generieren
Für jeden Chunk werden Embeddings mit Modellen wie text-embedding-3-small erstellt.
4. Retrieval-Logik
Bei Benutzer-Anfragen wird die Frage eingebettet und im Index mit Vector-Queries gesucht.
5. Prompt Assembly
Der Context wird mit gefundenen Chunks und dem System Prompt für das LLM zusammengestellt.
Best Practices
Qualität verbessern
- Reranking – Ergebnisse nachsortieren
- Query Expansion – Synonyme hinzufügen
- Feedback-Loop – Aus Bewertungen lernen
Skalierung
- Inkrementelle Updates
- Batch-Verarbeitung
- Caching häufiger Anfragen
Kosten optimieren
- Kleinere Modelle für Embedding
- Effizientes Chunking
- Token-Budgets setzen
SharePoint-Integration
Besonders relevant für M365-Kunden:
- 1Graph Connector für SharePoint
- 2Automatische Synchronisation
- 3Berechtigungen berücksichtigen
- 4Metadaten nutzen
CNEXT-Expertise
Wir bieten:
- RAG-Architektur-Design
- Daten-Pipeline-Entwicklung
- SharePoint-Integration
- Performance-Optimierung
Fazit
RAG macht LLMs zu echten Unternehmens-Assistenten. Azure AI Foundry liefert die Plattform – CNEXT die Expertise.