Session Abstract

Prompt injection is inmiddels LLM01 op de OWASP Top 10 voor LLM-apps: het is geen “promptje slimmer schrijven”, het is een serieus security-probleem. In deze sessie ga je zien hoe je je copilots, chatbots en agents promptproof maakt met een Microsoft-first aanpak. Wat je kunt verwachten (concreet): • 3 live aanvallen: 1. jailbreak + system-prompt leakage, 2. data-exfil poging (“geef secrets/configs”), 3. indirect prompt injection verstopt in een document/webpagina (de RAG-killer). • Daarna bouwen we defense-in-depth met twee lagen: o AI Gateway Prompt Shield (Entra / SSE): netwerk-level bescherming die prompt injection real-time kan blokkeren zonder per-app refactor. o Azure AI Content Safety – Prompt Shields: detectie van user-prompt attacks én document attacks vóórdat je model antwoordt (incl. technieken om trusted vs untrusted input te onderscheiden). • Tot slot krijg je een take-home checklist: logging/auditability, minimale tool-permissies, veilige output-handling, en een mini red-team script om je eigen prompts te testen tegen OWASP LLM01.

Niels Groeneveld

Niels is an experienced platform engineer who collaborates with various customers to implement and optimize platform ways of working. With a strong focus on creating efficient, scalable, and robust platforms, he assists organizations in transforming and enhancing their technological infrastructure. Niels is known for his expertise in building sustainable IDP that streamline business processes and foster innovation. Passionate about technology, Niels enjoys sharing his knowledge about Azure and cloud-native tooling.