Jedes Unternehmen weiss mehr, als seine Mitarbeitenden an einem normalen Arbeitstag abrufen können. Richtlinien, Entscheidungshistorien, Prozessanleitungen, Projektgedächtnis — sie liegen irgendwo in SharePoint, in PDFs, in E-Mail-Threads oder im Kopf einer Person kurz vor der Pensionierung.

Ein KI Company Brain macht dieses Wissen zugänglich: Er beantwortet Fragen, nennt Quellen und entlastet Fachexperten von immer gleichen Anfragen. Aber was steckt technisch dahinter? Dieser Artikel beschreibt die fünf Architekturschichten eines Company Brain und erklärt, welche Datenquellen ihn speisen — mit konkreten Schweizer Beispielen und datenschutzrechtlichen Hinweisen.

→ Noch unentschlossen, welche Plattform passt? Lesen Sie zuerst: Copilot Studio, Azure AI Foundry oder Replit?

Was ein Company Brain ist — und was nicht

Ein Company Brain ist kein Allwissender. Er ist ein RAG-basierter Agent (Retrieval-Augmented Generation): Er durchsucht definierte Wissensquellen, ruft die relevantesten Textpassagen ab und formuliert eine Antwort mit Quellenangabe.

Er unterscheidet sich vom einfachen Chatbot durch vier Merkmale:

• Gedächtnis: Er kennt organisationsspezifisches Wissen, nicht nur Allgemeinwissen des Basismodells
• Retrieval: Er sucht aktiv in strukturierten und unstrukturierten Datenquellen
• Autorität: Antworten basieren auf internen Dokumenten, nicht auf Internetinhalten
• Scope: Er antwortet nur zu dem, was er indexiert hat — und sagt es, wenn er es nicht weiss

Die fünf Architekturschichten

Ein Company Brain besteht aus fünf aufeinander aufbauenden Schichten. Jede hat eine klare Aufgabe — und eine klare Fehlerquelle.

Schicht 1: Wissensspeicher (Knowledge Store)

Der Wissensspeicher ist die Grundlage. Er enthält alle Dokumente, Datenbanken und strukturierten Inhalte, aus denen der Agent Antworten ableiten darf.

Typische Quellen:

• SharePoint-Dokumentenbibliotheken und -Seiten
• OneDrive-Dateien (Word, Excel, PDF, PowerPoint)
• OneNote-Notizbücher
• Externe Datenbanken (SQL Server, Dataverse)
• Dateisysteme und interne File Shares

Wichtig: Die Qualität des Wissensspeichers bestimmt die Antwortqualität des gesamten Systems. Veraltete, widersprüchliche oder schlecht strukturierte Dokumente produzieren unzuverlässige Antworten — unabhängig davon, wie leistungsfähig das Sprachmodell ist.

Schicht 2: Indexierungs- und Embedding-Schicht

Dokumente im Wissensspeicher können Sprachmodelle nicht direkt lesen. Sie müssen zuerst in Chunks aufgeteilt und in Vektoren umgewandelt (eingebettet) werden, die semantische Ähnlichkeit messbar machen.

Wie es funktioniert:

1. 1Ein Dokument wird in Abschnitte zerlegt (z. B. je 512 Tokens)
2. 2Jeder Abschnitt wird durch ein Embedding-Modell in einen Vektor umgewandelt
3. 3Die Vektoren werden in einer Vektordatenbank gespeichert
4. 4Bei einer Anfrage wird die Frage ebenfalls eingebettet und die ähnlichsten Vektoren werden abgerufen

Microsoft-Stack: Azure AI Search mit integrierten Embeddings (text-embedding-3-large) Alternativen: Qdrant, Weaviate, Pinecone, pgvector (PostgreSQL-Erweiterung)

Typische Fehlerquelle: Zu grosse oder zu kleine Chunks führen zu Kontextverlust oder irrelevantem Retrieval. Für Schweizer Unternehmen mit mehrsprachigen Dokumenten (DE/FR/EN) empfehlen sich sprachspezifische Embedding-Modelle oder Hybrid-Search mit BM25.

Schicht 3: Reasoning-Schicht (LLM)

Das grosse Sprachmodell (LLM) liest die vom Retrieval zurückgegebenen Textpassagen und formuliert eine kohärente, quellenbasierte Antwort in der Sprache der Nutzerin.

Typische Modelle im Schweizer Unternehmenskontext:

• Azure OpenAI GPT-4o — leistungsstark, Datenresidenz Schweiz möglich
• Meta Llama 3.1 über Azure AI Foundry — für maximale Datensouveränität
• Ollama (lokal) — für On-Premises-Szenarien ohne Cloud-Anbindung

Das Modell selbst enthält kein Unternehmenswissen — es verarbeitet nur, was Schicht 2 ihm liefert. Ein schwaches Retrieval produziert schlechte Antworten, auch bei einem starken Modell.

Schicht 4: Orchestrierung

Die Orchestrierungsschicht verbindet Nutzerabsicht, Retrieval und Antwortgenerierung. Sie ist das «Gehirn des Gehirns»: Sie interpretiert die Frage, wählt die richtigen Datenquellen und Tools, steuert Multi-Step-Reasoning und formatiert die Antwort.

Microsoft-Stack:

• Copilot Studio — visueller Low-Code-Orchestrator, ideal wenn Wissen in M365 liegt
• Semantic Kernel — .NET/Python-Framework für komplexe Agenten-Pipelines
• Azure AI Foundry — vollständige Multi-Agent-Orchestrierung mit eigenen Evaluierungs-Tools

Alternativen: LangChain, LlamaIndex, Autogen (Microsoft Research)

Die Orchestrierung ist auch die Schicht, in der Berechtigungslogik greift: Wenn ein Nutzer keinen Zugriff auf ein SharePoint-Dokument hat, darf der Agent keine Information daraus liefern.

Schicht 5: Interface (Nutzerschnittstelle)

Der Company Brain ist nur so nützlich wie sein Interface zugänglich ist. Je nach Zielgruppe und Unternehmenskultur eignen sich unterschiedliche Oberflächen:

Die Datenquellen: Was den Company Brain speist

Interne unstrukturierte Daten

Das grösste und wertvollste Wissensreservoir liegt oft in unstrukturierten Dokumenten:

• SharePoint und OneDrive: Handbücher, Stellenbeschreibungen, Prozessdokumente, Präsentationen, Sitzungsprotokolle
• E-Mail-Archive (Exchange): Kundenkorrespondenz, Entscheidungsthreads, Vertragsverhandlungen
• Microsoft Teams: Kanal-Nachrichten, Meeting-Transkripte, geteilte Dateien
• OneNote: Projektnotizen, Brainstormings, persönliche Wissensdatenbanken
• PDFs und Scans: Altverträge, eingescannte Formulare, externe Berichte

Praxis-Hinweis: Nicht alles, was im SharePoint liegt, soll der Agent finden können. Eine durchdachte Indexierungsstrategie definiert, welche Bibliotheken und Sites einbezogen werden — und welche ausgeschlossen bleiben (z. B. HR-Verträge, Lohndaten).

Interne strukturierte Daten

Strukturierte Daten kommen aus Geschäftsapplikationen und bieten präzise, aktuelle Informationen:

• ERP-Systeme: SAP, Abacus, Microsoft Dynamics — Produkte, Lagerbestände, Lieferkonditionen
• CRM: Dynamics 365, Salesforce — Kundenhistorien, offene Angebote, Kontakte
• HR-System: Ferienregelung, Organigramm, Stellenbeschreibungen (über Graph-API oder direkte Datenbankanbindung)
• Ticketsysteme: ServiceNow, Jira — bekannte Fehler, Lösungswege, FAQ-Muster
• Dataverse: Power Platform-Datenschicht für Low-Code-Szenarien

Für strukturierte Daten eignet sich oft Function Calling: Statt Dokumente einzubetten, ruft der Agent bei Bedarf eine definierte API-Funktion auf («Zeig mir den aktuellen Lagerbestand von Produkt X»).

Prozess- und Aktivitätsdaten

• Power Automate Logs: Welche Flows laufen, welche schlagen fehl, welche Auslöser gibt es?
• Meeting-Transkripte: Teams Premium transkribiert automatisch, die Inhalte lassen sich indexieren
• Projekt-Metadaten: Microsoft Project, Planner, DevOps Boards — wer arbeitet woran, was ist offen?

Externe Datenquellen

Ein Company Brain kann auch extern zugelassene Quellen einbeziehen:

• Web-Grounding via Bing (Copilot Studio-Feature): aktuelle Nachrichten, Produktinformationen, öffentliche Dokumentationen
• Regulatorik: FINMA-Rundschreiben (PDF-Feeds), OR-Text (Bundesrecht), DSG-Weisungen, ISO-Normen
• Branchenquellen: Swissmem, economiesuisse, BAG-Weisungen (im Gesundheitswesen)
• Partner-Dokumentation: öffentliche API-Docs, Herstellerhandbücher, Zertifizierungsunterlagen

Wichtig bei externen Quellen: Webinhalte ändern sich. Jede externe Quelle braucht eine definierte Freshness-Policy — wie oft wird re-indexiert, und was passiert bei einem 404?

Schweizer Datenschutz: Was Sie beim Aufbau beachten müssen

Das revidierte Datenschutzgesetz (nDSG/revDSG) hat seit September 2023 direkte Auswirkungen auf KI-Systeme, die Personendaten verarbeiten:

Relevante Punkte für Company-Brain-Projekte:

1. 1Personendaten im Indexierungsscope: E-Mail-Archive und HR-Dokumente enthalten Personendaten. Diese dürfen nur mit klarer Rechtsgrundlage (Gesetz, Einwilligung, berechtigtes Interesse) verarbeitet werden. In der Praxis empfehlen wir, HR- und personalgebundene Daten aus dem Indexierungsscope auszuschliessen oder in einer separaten, stark zugangsbeschränkten Wissensbasis zu führen.

1. 1Datenresidenz: Alle drei grossen Plattformen (Copilot Studio, Azure AI Foundry, Azure OpenAI) bieten Schweizer Rechenzentren (Switzerland North, Zürich). Stellen Sie sicher, dass Ihr Azure-Tenant auf Switzerland North konfiguriert ist — der Default ist oft West Europe.

1. 1Zugriffsprotokollierung: Welcher Nutzer hat welche Frage gestellt, welche Dokumente wurden abgerufen? Protokolldaten sind für Audits wichtig und müssen selbst DSG-konform aufbewahrt werden.

1. 1Berechtigungsererbung: In Copilot Studio und Azure AI Search kann die SharePoint-Berechtigungslogik direkt übernommen werden — was ein Nutzer nicht öffnen darf, findet der Agent auch nicht. Bei eigenen RAG-Implementierungen muss diese Logik manuell implementiert werden.

Häufige Fehler beim Aufbau

1. Mit der KI-Schicht beginnen, bevor die Wissensbasis bereinigt ist Schmutzige Daten (veraltete Dokumente, doppelte Versionen, fehlende Metadaten) produzieren unzuverlässige Antworten. Zuerst aufräumen, dann indexieren.

2. Fehlende Zugriffssteuerung auf indexierte Inhalte Wenn der Agent Inhalte aus Quellen abruft, auf die ein Nutzer eigentlich keinen Zugriff haben sollte, entsteht ein ernsthaftes Datenschutzproblem — besonders bei HR- oder Finanzinhalten.

3. Einsprachige Indexierung in mehrsprachigen Unternehmen Viele Schweizer Unternehmen haben Dokumente in DE, FR und EN. Wer nur die deutsche Wissensbasis indexiert, schneidet Westschweizer Mitarbeitende aus. Mehrsprachige Embeddings oder Spracherkennung im Retrieval sind keine Luxus, sondern Pflicht.

4. Freshness vernachlässigen Dokumente werden aktualisiert, Seiten gelöscht, externe Links veralten. Ohne automatisches Re-Indexing beantwortet der Agent Fragen auf Basis von Stand 2023 — auch wenn es 2026 ist.

5. Kein Feedback-Loop Ohne Mechanismus für Nutzerfeedback («Antwort war nicht hilfreich») können Qualitätsprobleme nicht systematisch erkannt und behoben werden.

Wie CNEXT vorgeht

Wir beginnen jeden Company-Brain-Aufbau mit einer Wissensquellenanalyse: Wo liegt das Wissen? Wie ist es strukturiert? Welche Berechtigungslogik gilt? Wie aktuell sind die Inhalte?

Erst danach empfehlen wir eine Architektur — meistens eine Kombination aus Copilot Studio (für M365-natives Wissen) und Azure AI Search (für präzises Retrieval). Für komplexere Szenarien mit strukturierten Daten oder Multi-Agent-Orchestrierung setzen wir Azure AI Foundry ein.

Ein Company Brain ist kein Einmalprojekt. Er muss mit dem Wissen der Organisation mitwachsen und regelmässig re-evaluiert werden.

Haben Sie Fragen zu Ihrer Wissensbasis oder Architektur? Kontakt aufnehmen →

Weiterführende Artikel:

• Die versteckten Kosten von RAG in Azure: Was ein eigener Suchindex wirklich kostet
• Was kostet ein Copilot Studio Agent wirklich? Credits, Baselines und Kostenhebel
• Company Brain aufbauen: Copilot Studio, Azure AI Foundry oder Replit?
• Azure AI Foundry: Die Plattform für Agentic AI
• Copilot Agent SDK: Tools und Functions
• Agentic AI Services