Wegweiser Microsoft AI/SI · Kapitel 2

    Welches KI-Modell bei Microsoft welche Arbeit übernimmt.

    GPT, Claude, Grok und offene Modelle liegen im Katalog von Microsoft Foundry, unter Copilot wählt ein Router. Welches Modell die Aufgabe bekommt, zeigt Ihr Testsatz.

    Stand: Oktober 2026 · Redaktion: Marcel Haas

    • Microsoft Foundry
    • Azure OpenAI
    • Model Router
    • Claude
    • Grok
    • Ollama

    Modell-Datenblätter

    Ein Datenblatt pro Modellfamilie.

    Zu jeder Familie: wer sie anbietet, wo sie verfügbar ist, wo sie rechnet, womit wir zuerst testen, und der Stand mit der Seite des Anbieters, wo es sie gibt.

    • OpenAI, in Foundry als Azure OpenAI

      GPT-6-Familie

      Wo es verfügbar ist
      Microsoft Foundry, unter Copilot über den Router, direkt über die OpenAI-API
      Wo es rechnet
      Je Version Standard, Data Zone Standard oder Global Standard; die Schweizer Region trägt mit Stand September 2026 GPT-4.1, GPT-4o und die Embedding-Modelle
      Womit wir zuerst testen
      Büroarbeit, Programmierung und Computer Use mit Astra und Sol; Zuordnung, Extraktion und Kurztexte in grosser Menge mit Luna
    • Anthropic, in Foundry als Partnermodell

      Claude-5-Familie

      Stand 21. September 2026

      Wo es verfügbar ist
      Microsoft Foundry über den Azure Marketplace, unter Copilot und in Copilot Studio nach Freigabe, direkt bei Anthropic
      Wo es rechnet
      Global Standard, gehostet auf Azure oder bei Anthropic; eine Datenzone für einige Modelle nur in den USA, keine regionale Bereitstellung
      Womit wir zuerst testen
      Lange Verträge und Berichte, Analysen mit Fundstellen, Entwicklungsarbeit mit Claude Code; Haiku für kleine, schnelle Schritte
    • SpaceXAI, in Foundry als Foundry Models sold by Azure

      Grok

      Stand 5. Oktober 2026

      Wo es verfügbar ist
      Microsoft Foundry mit Anmeldung über Entra ID oder API-Schlüssel, direkt beim Anbieter
      Wo es rechnet
      Global Standard mit globaler Verarbeitung; eine Datenzone nur in den USA, keine regionale Bereitstellung
      Womit wir zuerst testen
      Recherche mit aktuellen Quellen und Marktbeobachtung, wenn Aktualität wichtiger ist als Fundstellentreue; Ergebnisse werden gegen Ihre Quellen geprüft
    • Mistral AI, Meta, Microsoft, DeepSeek; unter der Lizenz des jeweiligen Herstellers

      Offene Modelle: Mistral, Llama, Phi, DeepSeek

      Wo es verfügbar ist
      Microsoft Foundry, lokal oder auf GPU-Maschinen in Azure über Ollama
      Wo es rechnet
      In Foundry je Modell und Bereitstellungsart; mit Ollama auf Ihrer Hardware, ohne externe Anfragen
      Womit wir zuerst testen
      Klassifikation, Zusammenfassung und Übersetzung in grosser Menge, wenn Kosten und Kontrolle zählen; Phi für kleine Aufgaben am Rand

    Die Familien, mit denen wir zuerst testen; den Ausschlag gibt Ihr Testsatz. Eine Karte ohne Stand nennt das Modell so, wie der Katalog es führt, bis die Seite des Anbieters im Verzeichnis steht.

    01

    Ein Modell liest den Kontext und gibt Antwort, Werkzeugaufruf oder Struktur zurück.

    Ein Sachbearbeiter hängt ein Sitzungsprotokoll an und verlangt die Beschlüsse mit Zuständigkeit und Frist. Das Modell sieht dafür alles, was im Kontextfenster liegt: die Anweisung, das Protokoll, die Beschreibung der Werkzeuge und das Schema der gewünschten Ausgabe, gezählt in Tokens, und schreibt daraus eine Antwort, einen Werkzeugaufruf oder eine Ausgabe in genau der vorgegebenen Form. Ein Reasoning-Modell überlegt vorher in Schritten und braucht dafür mehr Tokens und Zeit; ein kleines Modell antwortet schnell und günstig, solange die Aufgabe eng bleibt. Kontext, Nachdenken, Werkzeugaufrufe und strukturierte Ausgabe entscheiden, ob ein Modell eine Aufgabe trägt, und alle vier lassen sich an Ihren Fällen messen.

    02

    Der Katalog in Foundry führt die Familien, mit denen wir zuerst testen.

    Im Modellkatalog von Microsoft Foundry legen Sie jedes Modell als Bereitstellung in Ihrem Abonnement an: die GPT-6-Familie als Azure OpenAI, mit Astra und Sol für Büroarbeit, Programmierung und Computer Use und Luna für Zuordnung, Extraktion und Kurztexte in grosser Menge; die Claude-5-Familie von Anthropic als Partnermodell über den Azure Marketplace, für lange Verträge, Berichte und Analysen mit Fundstellen; Grok von SpaceXAI für Recherche mit aktuellen Quellen; und die offenen Modelle Mistral, Llama, Phi und DeepSeek für Klassifikation, Zusammenfassung und Übersetzung, wenn Kosten und Kontrolle zählen. Dieselben offenen Modelle laufen mit Ollama auf Ihrer eigenen Hardware. Azure Policy begrenzt, welche Modelle in einem Abonnement überhaupt bereitgestellt werden dürfen, und weil alle Familien im selben Katalog stehen, bleibt ein späterer Wechsel offen.

    03

    Unter Copilot wählt ein Router, in Foundry wählen Sie oder der Model Router.

    Wer in Word oder Teams mit Copilot arbeitet, wählt kein Modell: Im Modus Auto entscheidet Copilot pro Auftrag, ob ein schnelles Modell genügt oder eines für tieferes Nachdenken nötig ist, und die Person kann selbst umschalten. Modelle von Anthropic stehen daneben als Unterauftragsverarbeiter bereit, in EU, EFTA und Vereinigtem Königreich erst nach Freigabe. In Copilot Studio legen Sie das Hauptmodell eines Agenten fest, seit Juni 2026 auch Claude Sonnet 5 oder GPT-5.5 Chat. In Foundry entscheidet entweder Ihre Anwendung pro Aufruf, oder der Model Router als eigene Bereitstellung schickt einfache Anfragen an kleine und schwierige an grosse Modelle, innerhalb der Auswahl, die Sie freigeben. Der Router spart Tokens, wo viele einfache Anfragen eintreffen, und er braucht denselben Testsatz wie ein festes Modell, weil die Antwort pro Anfrage von einem anderen Modell kommen kann.

    04

    Die Bereitstellungsart legt fest, wo ein Modell rechnet.

    Ein Modell im Katalog ist noch kein Ort. Erst die Bereitstellung in Ihrem Abonnement bestimmt ihn: Standard rechnet in der gewählten Azure-Geografie, Data Zone Standard innerhalb der Datenzone, Global Standard in jeder Azure-Region mit freier Kapazität; dazu kommen reservierte Kapazität für gleichmässige Last und der Stapelbetrieb für Aufträge ohne Eile. Für Switzerland North gilt mit Stand September 2026, dass GPT-4.1, GPT-4o und die Embedding-Modelle als regionale Bereitstellung laufen; neuere GPT-Modelle verarbeiten in der EU-Datenzone oder global, Claude und Grok global oder in der US-Datenzone. Deshalb trägt das Datenblatt jeder Bereitstellung Modell, Version, Bereitstellungsart und Region, und das Kapitel Datengrenzen sagt, welche Datenklasse auf welche Zeile darf.

    05

    Der Testsatz entscheidet, und Abkündigungen gehören in den Plan.

    Zwei Kandidaten bearbeiten denselben Satz echter Fälle Ihres Fachbereichs: richtige, unvollständige und unerlaubte Anfragen, Dokumente mit versteckten Anweisungen, Ausfälle. Wir vergleichen Antwortqualität, Treue zur Fundstelle, Tempo, den Prüfaufwand für Menschen und die Kosten pro Fall, und der Vorschlag hält fest, warum ein Modell gewonnen hat; Foundry misst Groundedness und Tool Call Accuracy vor jeder neuen Version und laufend im Betrieb, und nach jeder Änderung an Modell, Anweisungen oder Quellen läuft der Testsatz erneut. Ein Modell bleibt nicht für immer: Microsoft kündigt Modellversionen in Azure OpenAI mit Datum ab, und Prompt flow in Foundry wird eingestellt. Jedes Datenblatt trägt deshalb das Datum, an dem die Version abgelöst wird, und der Testsatz ist das Werkzeug, mit dem der Nachfolger ohne Überraschung übernimmt.

    Was Sie entscheiden.

    Welches Modell für den ersten Fall?

    Optionen

    1. 1Das Modell, das der Fachbereich aus dem Alltag kennt
    2. 2Das stärkste Modell im Katalog
    3. 3Zwei Kandidaten am Testsatz, Entscheid nach Ergebnis und Ort

    Unsere Empfehlung: Zwei Kandidaten am Testsatz. Für Zuordnung, Extraktion und Zusammenfassung tritt ein kleines Modell gegen ein mittleres an, und oft genügt das kleine, regional bereitgestellt; für lange Verträge, Analysen mit Fundstellen und Programmierung tritt ein grosses GPT-Modell gegen Claude an. Gewonnen hat, wer am Testsatz besser abschneidet und an dem Ort rechnen darf, den die Datenklasse verlangt.

    Wovon wir abraten: Das Modell nach Rangliste oder Schlagzeile wählen. Die Benchmarks eines Anbieters messen fremde Aufgaben, Ihr Testsatz misst Ihre.

    Model Router oder feste Bereitstellung?

    Optionen

    1. 1Eine feste Bereitstellung pro Anwendung
    2. 2Der Model Router mit einer freigegebenen Modellauswahl
    3. 3Beides: fest für Antworten mit Folgen, der Router für die Masse

    Unsere Empfehlung: Fest, wo eine Antwort Folgen hat oder der Ort feststehen muss: Dann ist nachvollziehbar, welches Modell geantwortet hat, und die Region ist gesetzt. Der Router, wo viele einfache Anfragen eintreffen und der Tokenverbrauch zählt, mit einer Auswahl, die nur Modelle am erlaubten Ort enthält, und mit demselben Testsatz wie ein festes Modell.

    Wovon wir abraten: Den Router einschalten, um die Modellwahl zu vertagen. Er wählt pro Anfrage, und ohne Testsatz weiss niemand, ob die kleinen Modelle in der Auswahl der Aufgabe gewachsen sind.

    Ein Modell oder mehrere pro Anwendung?

    Optionen

    1. 1Ein Modell für alle Schritte
    2. 2Ein Hauptmodell und ein kleines Modell für Vor- und Nacharbeit
    3. 3Dazu ein zweites Modell als Prüfer

    Unsere Empfehlung: Ein Hauptmodell für die Aufgabe und ein kleines für Zuordnung, Extraktion und Vorsortierung, weil die Masse der Aufrufe dort anfällt. Ein zweites Modell als Prüfer lohnt sich, wo eine falsche Antwort teuer ist: Es prüft Fundstellen und Vollständigkeit, bevor eine Person entscheidet. Mehrere Modellfamilien sind zugleich die Antwort auf das Insider-Risiko eines einzelnen Modells.

    Wovon wir abraten: Mehrere Modelle, weil der Katalog sie hat. Jedes zusätzliche Modell braucht ein Datenblatt, einen Ort und einen Platz im Testsatz.

    Wann wechseln wir das Modell?

    Optionen

    1. 1Wenn der Anbieter eine Version abkündigt
    2. 2Wenn ein neues Modell am Testsatz besser abschneidet
    3. 3Zu einem festen Termin pro Quartal

    Unsere Empfehlung: Wenn der Testsatz es zeigt oder das Ablaufdatum es verlangt, und nie unbemerkt. Jedes Datenblatt trägt das Datum der Ablösung; ein Quartal vorher tritt der Nachfolger am Testsatz an, und der Wechsel geht als neue Version durch Evaluation und Freigabe wie jede andere Änderung an Anweisungen oder Quellen.

    Wovon wir abraten: Auf die neueste Version umstellen, weil sie da ist. Eine neue Version antwortet anders, und was sich an Anweisungen und Quellen bewährt hat, muss erneut gemessen werden.

    Stand und Quellen.

    Stand: Oktober 2026

    • Stand 21. September 2026

      Claude läuft in Foundry, global oder in der US-Datenzone.

      Claude-Modelle sind Partnermodelle über den Azure Marketplace, wahlweise auf Azure oder auf der Infrastruktur von Anthropic gehostet. Alle Versionen laufen als Global-Standard-Bereitstellung; eine Datenzone gibt es für einige Modelle nur in den USA. Die Anmeldung erfolgt über Entra ID oder einen API-Schlüssel, bei den Mythos-Modellen nur über Entra ID.

      Quelle: Microsoft Learn: Deploy and use Claude models in Microsoft Foundry
    • Stand 5. Oktober 2026

      Grok 4.7 ist in Microsoft Foundry allgemein verfügbar.

      Microsoft verkauft die Grok-Modelle als Foundry Models sold by Azure. Grok 4.7 nimmt Text und Bild entgegen, ruft Werkzeuge auf und unterstützt die Responses API; die Anmeldung erfolgt über Entra ID oder einen API-Schlüssel. Optionen der Live-Suche gelten für Bereitstellungen in Azure nicht.

      Quelle: Microsoft Learn: Deploy and use Grok models in Microsoft Foundry
    • Seit Juni 2026

      Neue Entwicklungsumgebung, neue Hauptmodelle.

      Die neue Erstellungsumgebung mit dem GitHub-Copilot-Harness ist als produktionsreife Vorschau verfügbar: Microsoft IQ für Mails, Kalender, Dateien und Teams-Nachrichten, wiederverwendbare Skills und ein Gedächtnis pro Person. Claude Sonnet 5 und GPT-5.5 Chat sind als Hauptmodell allgemein verfügbar.

      Quelle: Microsoft Learn: What's new in Copilot Studio

    Häufige Fragen.

    Laufen in Foundry dieselben GPT-Modelle wie bei OpenAI?

    Ja, als Azure OpenAI: dieselben Modellfamilien, bereitgestellt in Ihrem Azure-Abonnement, angemeldet mit Entra ID, abgerechnet auf der Azure-Rechnung und protokolliert in Purview. Welche Version in welcher Region und mit welcher Bereitstellungsart verfügbar ist, steht pro Modell im Katalog, und das Datenblatt der Bereitstellung hält es fest.

    Was macht der Model Router genau?

    Er ist selbst eine Bereitstellung in Foundry. Jede Anfrage prüft er und leitet sie an eines der Modelle weiter, die Sie in seiner Auswahl freigegeben haben: einfache an kleine, schwierige an grosse. Im Trace sehen Sie, welches Modell geantwortet hat, und Azure Policy begrenzt, welche Modelle in die Auswahl dürfen. Für Aufgaben, bei denen der Ort feststehen muss, enthält die Auswahl nur Modelle mit der passenden Bereitstellungsart.

    Können Mitarbeitende in Copilot ein Modell auswählen?

    Im Modus Auto wählt Copilot pro Auftrag, und die Person kann auf ein schnelles Modell oder auf tieferes Nachdenken umschalten. Ob Modelle von Anthropic dazugehören, entscheidet Ihre IT: In EU, EFTA und Vereinigtem Königreich sind sie standardmässig für niemanden freigegeben und von der EU-Datengrenze ausgenommen. Für einen Agenten in Copilot Studio legt die Person, die ihn baut, das Hauptmodell fest.

    Woran erkennen wir, dass ein Modell die Aufgabe trägt?

    Am Testsatz: echte Fälle Ihres Fachbereichs mit der erwarteten Antwort, darunter unvollständige und unerlaubte Anfragen. Wir messen Antwortqualität, Treue zur Fundstelle, Werkzeugaufrufe, Tempo, Prüfaufwand und Kosten pro Fall, und erst ein Modell, das dort nicht schlechter abschneidet als der Vorgänger, geht in die neue Version. Foundry misst dieselben Grössen laufend im Betrieb.

    Was passiert, wenn Microsoft ein Modell abkündigt?

    Die Version erhält ein Ablaufdatum, das im Datenblatt steht. Vorher tritt der Nachfolger am Testsatz an, Anweisungen und Quellen werden nachgezogen, wo die Antworten abweichen, und der Wechsel geht als neue Version durch Evaluation und Freigabe. Bereitstellungen, die niemand nachzieht, laufen am Ablaufdatum aus; deshalb pflegt eine Person pro Anwendung das Datenblatt.

    Wann lohnt sich ein offenes Modell auf eigener Hardware?

    Wenn Text die Umgebung nicht verlassen darf, wenn viele kleine Aufrufe anfallen, die ein kleines Modell trägt, oder wenn ein Team mit Beispieldaten testen will, bevor es ein Abonnement anlegt. Mit Ollama läuft dasselbe Modell lokal oder auf einer GPU-Maschine in Ihrem Azure-Abonnement, mit OpenAI-kompatiblen Endpunkten. Qualität, Speicherbedarf und Betrieb prüfen wir am Testsatz wie bei jedem anderen Modell, die Modelllizenz pro Einsatz.

    Nächstes Kapitel · Kapitel 3

    Woraus ein KI-Agent bei Microsoft besteht und wo er läuft.

    Woraus besteht ein Agent bei Microsoft, und wie läuft er sicher?