In dieser Spezialfolge sprechen Chris und Matthias mit Joris Kahle, Microsoft Data & AI Spezialist und Co-Host der Cloud Junkies, über den tiefen Wandel von Microsoft AI Services hin zu Azure AI Foundry und was das für die Praxis bedeutet.

Wir starten mit PTUs (Provisioned Throughput Units) und der Frage: Wie stelle ich sicher, dass meine Modelle zuverlässig laufen, ohne die Kosten zu sprengen? Joris teilt konkrete Beispiele, darunter der berühmt-berüchtigte Fall eines Partners, der nur 20 Prompts testete und am nächsten Tag über 7.500 € reservierte GPU-Kosten hatte.

Ein weiterer Schwerpunkt sind Token-Limits und Regionen: Warum GPT-4o in einigen Regionen mehr Tokens pro Minute verarbeiten kann als in anderen und warum Unternehmen bei hohen Anforderungen oft auf Microsoft-Account-Manager und interne Freigaben angewiesen sind.

Das Herzstück der Folge ist jedoch der Real-Time-Use-Case: Ein Sprachbot auf Basis von GPT-4o, der Kundendialoge übernimmt, auch wenn niemand im Büro ist. Nicht als Hotline-Bot, sondern als echter Assistent, der Daten aus ERP, Azure Blob Storage und Azure Search kombiniert. Ein Einsatz, der zeigt, wie KI heute echten Mehrwert schafft.

Neben diesen Beispielen geht es um:

- Die Evolution von Cognitive Services zu Azure AI Foundry

- Warum die Qualität der Daten über Erfolg entscheidet

- Wie Unternehmen RAG-Modelle (Retrieval Augmented Generation) sinnvoll einsetzen

- Welche Rolle Microsoft Fabric im Zusammenspiel mit AI spielt

- KI-Ethik, DSGVO und technische Grenzen – gerade bei Voice

Diese Folge ist perfekt für alle, die AI in Azure ganz praktisch verstehen wollen - ohne Marketing-Sprech, sondern mit echten Geschichten, Praxiserfahrung und klaren technischen Einordnungen.

📩 Melde dich für unseren Substack-Newsletter an, um exklusive Inhalte zur Folge zu erhalten:https://podcastcloudoptimizer.substack.com/

💬 Folge uns auf LinkedIn und diskutiere mit uns:Christian: https://www.linkedin.com/in/christian-forjahnMatthias: https://www.linkedin.com/in/matthias-braun-cloud-architect

⭐ Hat dir die Folge gefallen? Dann hinterlasse eine Bewertung und teile den Podcast mit deinem Netzwerk.

Bis zur nächsten Episode!Chris und Matthias

PS: Danke an Svenja für das großartige Intro und Outro!

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit podcastcloudoptimizer.substack.com