Azure AI Foundry: Die Plattform für Agentic AI Entwicklung

    Zurück zum Blog
    Agentic AIEmpfohlen

    Azure AI Foundry: Die Plattform für Agentic AI Entwicklung

    Azure AI Foundry ist Microsofts zentrale Plattform für die Entwicklung intelligenter KI-Agenten. Von der Modellauswahl über das Grounding bis zur Produktion

    3. März 202610 min Lesezeit
    Marcel Haas

    Marcel Haas

    Solution Architect, CEO

    marcel.haas@cnext.ch
    20+ JahreErfahrung·6×Microsoft Applied Skills·SharePoint & Microsoft Copilot
    6x Microsoft Applied Skills
    CNEXT AI Agent

    Kurzantwort

    Azure AI Foundry ist Microsofts zentrale Plattform für die Entwicklung intelligenter KI-Agenten. Von der Modellauswahl über das Grounding bis zur Produktion

    Die Entwicklung von KI-Agenten war noch nie so zugänglich wie heute. Mit Azure AI Foundry stellt Microsoft eine umfassende Plattform bereit, die den gesamten Lebenszyklus der Agentic AI Entwicklung abdeckt – vom ersten Experiment bis zur produktionsreifen Lösung.

    ▶ Video ansehen: Azure AI Foundry – Einführung (YouTube)

    Was ist Azure AI Foundry?

    Azure AI Foundry ist Microsofts zentrale Entwicklungsplattform für KI-Lösungen. Sie vereint Modellauswahl, Agent-Entwicklung, Testing, Evaluation und Deployment in einer einzigen, integrierten Umgebung. Das Ziel: Entwickler und Unternehmen sollen agentic AI-Lösungen schnell, sicher und effizient bauen können.

    Die Plattform bietet:

    • Zugang zu über 1'800 Modellen aus dem Model Catalog (OpenAI, Meta, Mistral, u.v.m.)
    • Integrierte Entwicklungstools mit dem Azure AI Foundry SDK
    • Agent-Orchestrierung für komplexe Multi-Agent-Szenarien
    • Evaluations- und Monitoring-Tools für Qualitätssicherung
    • Enterprise-Grade Security mit Azure-Compliance und Datenschutz

    Der Entwicklungsworkflow

    1. Modellauswahl und Benchmarking

    Azure AI Foundry beginnt mit dem Model Catalog – einer kuratierten Bibliothek von KI-Modellen für verschiedene Anwendungsfälle. Entwickler können Modelle anhand von Benchmarks vergleichen, filtern und direkt testen.

    ModellkategorieBeispieleEinsatzgebiet
    Large Language ModelsGPT-4o, GPT-4.1, o3Textgenerierung, Reasoning, Code
    Small Language ModelsPhi-4, Phi-4-miniEdge-Szenarien, geringere Kosten
    Open SourceLlama 3, Mistral, DeepSeekFlexibilität, Self-Hosting
    Embedding Modelstext-embedding-3Semantic Search, RAG
    MultimodalGPT-4o, GeminiBild- und Textverarbeitung

    Das integrierte Benchmarking ermöglicht es, Modelle auf spezifischen Aufgaben zu vergleichen und das optimale Preis-Leistungs-Verhältnis zu finden.

    2. Grounding mit eigenen Daten

    Ein KI-Agent ist nur so gut wie sein Zugang zu relevantem Wissen. Azure AI Foundry bietet mehrere Grounding-Optionen:

    • Azure AI Search für enterprise-weite Dokumentensuche (RAG)
    • Bing Search für aktuelle Webinformationen
    • SharePoint und OneDrive Integration für Unternehmensdaten
    • Custom Data Sources über Konnektoren und APIs

    Das Grounding stellt sicher, dass Agenten mit Unternehmenswissen arbeiten und nicht auf veraltetes Trainingswissen angewiesen sind.

    3. Agent-Entwicklung mit dem SDK

    Das Azure AI Foundry SDK bietet ein einheitliches Programmiermodell für die Agent-Entwicklung:

    from azure.ai.projects import AIProjectClient
    from azure.ai.agents import Agent
    
    client = AIProjectClient(
        credential=DefaultAzureCredential(),
        project="my-ai-project"
    )
    
    agent = client.agents.create(
        model="gpt-4o",
        name="support-agent",
        instructions="Du bist ein hilfreicher Support-Agent...",
        tools=[file_search, code_interpreter]
    )

    Das SDK unterstützt:

    • Tool-Integration (File Search, Code Interpreter, Custom Functions)
    • Multi-Agent-Orchestrierung mit definierten Rollen und Handoffs
    • Streaming für Echtzeitinteraktionen
    • Tracing für vollständige Nachverfolgbarkeit

    4. Testing und Evaluation

    Azure AI Foundry integriert umfassende Evaluations-Tools:

    • Automated Evaluation mit vordefinierten Metriken (Groundedness, Relevance, Coherence)
    • Safety Evaluations für Content-Sicherheit und Bias-Erkennung
    • Custom Evaluators für domänenspezifische Qualitätskriterien
    • A/B-Testing verschiedener Modelle und Prompts

    5. Deployment und Monitoring

    Die Plattform unterstützt verschiedene Deployment-Optionen:

    Deployment-TypBeschreibungIdeal für
    Serverless APIPay-per-Token, kein Infrastruktur-ManagementExperimentierung, variable Last
    Managed ComputeDedizierte Ressourcen, garantierte PerformanceProduktion, stabile Last
    Global DeploymentMulti-Region, automatisches RoutingEnterprise, globale Verfügbarkeit

    Nach dem Deployment bietet Azure AI Foundry:

    • Tracing Dashboard für Request-Analyse
    • Performance Monitoring mit Latenz- und Token-Metriken
    • Cost Management mit detaillierten Verbrauchsübersichten
    • Alerting bei Anomalien oder Qualitätsabfall

    Agentic AI Patterns in Azure AI Foundry

    Multi-Agent-Architekturen

    Azure AI Foundry unterstützt komplexe Multi-Agent-Szenarien nativ. Agenten können:

    • Spezialisierte Rollen übernehmen (Recherche, Analyse, Schreiben)
    • Aufgaben delegieren an andere Agenten via Handoffs
    • Gemeinsame Kontexte teilen über Thread-basierte Kommunikation
    • Automatisch eskalieren bei Unsicherheit an menschliche Experten

    RAG (Retrieval-Augmented Generation)

    Das RAG-Pattern ist eines der wichtigsten für Unternehmens-KI:

    1. 1Indexierung: Dokumente werden in Azure AI Search indexiert
    2. 2Retrieval: Relevante Abschnitte werden bei Anfragen abgerufen
    3. 3Augmentation: Der Kontext wird dem LLM als Grundlage übergeben
    4. 4Generation: Das Modell generiert eine fundierte Antwort

    Code Interpreter

    Agenten können den integrierten Code Interpreter nutzen, um:

    • Datenanalysen durchzuführen
    • Visualisierungen zu erstellen
    • Berechnungen zu verifizieren
    • Dateien zu verarbeiten und zu transformieren

    Warum Azure AI Foundry für Schweizer Unternehmen?

    Für Unternehmen in der Schweiz bietet Azure AI Foundry besondere Vorteile:

    • Schweizer Rechenzentren: Daten verbleiben in der Schweiz (Azure Region Switzerland North/West)
    • Compliance: Erfüllung von DSG, DSGVO und branchenspezifischen Anforderungen
    • Enterprise-Integration: Nahtlose Verbindung mit bestehender Microsoft 365 Infrastruktur
    • Datenschutz: Keine Nutzung von Kundendaten zum Training von Modellen
    • Support: Lokaler Microsoft-Partner-Support durch CNEXT

    CNEXT als Ihr Azure AI Partner

    Als Swiss Microsoft Partner begleiten wir Sie bei der Nutzung von Azure AI Foundry:

    • Discovery Workshop: Identifikation der besten Use Cases für Agentic AI
    • Proof of Concept: Schnelle Entwicklung eines ersten Prototypen
    • Architektur-Beratung: Design skalierbarer Multi-Agent-Systeme
    • Implementierung: Entwicklung und Deployment produktionsreifer Lösungen
    • Training: Befähigung Ihres Teams im Umgang mit Azure AI Foundry
    Interaktives Tool

    Agentic AI Readiness Check

    Wie bereit ist Ihr Unternehmen für Agentic AI? Unser kostenloser Readiness Check analysiert Ihre Organisation in 6 Schlüsselbereichen — mit personalisiertem Score und konkreten Handlungsempfehlungen.

    Strategie & Vision
    Datenqualität
    Sicherheit & Compliance
    Menschen & Organisation
    Prozesse & Automatisierung
    KI-Governance
    Jetzt Check starten24 Fragen · 5 Minuten · Kostenlos

    Fazit

    Azure AI Foundry demokratisiert die Entwicklung von Agentic AI. Mit der richtigen Plattform, dem richtigen Partner und einer klaren Strategie können Schweizer Unternehmen jetzt die nächste Generation intelligenter Automatisierung aufbauen.

    Die Kombination aus Microsofts Modell-Ökosystem, Enterprise-Grade-Sicherheit und dem integrierten Entwicklungsworkflow macht Azure AI Foundry zur idealen Plattform für Unternehmen, die Agentic AI strategisch einsetzen wollen.

    KI-Desktop-Agenten im Vergleich

    Vergleich der führenden KI-Desktop-Agenten: Copilot, Claude, OpenAI und mehr

    Agentic AI Readiness Check

    Prüfen Sie die Bereitschaft Ihres Unternehmens für Agentic AI

    Agentic AI Topic Hub

    Alle Artikel und Ressourcen rund um Agentic AI

    Azure AIAgentic AIMicrosoft 365Schweiz
    Teilen:

    Dieser Artikel wurde mit Unterstützung von KI erstellt und von unserem Team geprüft. Wir setzen KI-Tools ein, um hochwertige Inhalte effizient zu produzieren — die fachliche Verantwortung liegt immer bei unseren Experten.

    Marcel Haas

    Marcel Haas

    Solution Architect, CEO

    6x Microsoft Applied Skills

    Haben Sie Fragen zu diesem Thema?

    Unsere Experten beraten Sie gerne – kostenlos und unverbindlich.