Zurück

Die Warnlampe leuchtet: Live-Angriff auf einen KI-gesteuerten Leitstand

Auf der Bühne steht ein Leitstand: Sensoren, Aktoren, eine Warnlampe. Gesteuert wird er über einen KI-Agenten, der Anlagenwerte lesen und Stellbefehle ausführen darf – aufgebaut so, wie solche Assistenzsysteme derzeit tatsächlich in Unternehmen entstehen. Wir versuchen live, über den Chat einen kritischen Anlagenzustand herbeizuführen.

Vorkenntnisse

Grundkenntnisse über LLMs und deren Funktionsweise sowie Vertrautheit mit allgemeinen Security-Konzepten sind hilfreich, aber nicht erforderlich.

Lernziele

Warum modellseitige Guardrails kritische Freigaben nicht absichern können – und wie sich kritische Aktionen über deterministische Autorisierung außerhalb des Agenten schützen lassen.

Speaker

Patrick Kempf arbeitet bei INOSOFT an KI-gestützten Anwendungen für regulierte Umgebungen und beschäftigt sich seit über vier Jahren mit LLMs, Agentenarchitekturen, RAG und Tool-Use. Sein Schwerpunkt liegt dort, wo autonome Systeme auf Prozesse mit Freigabepflicht treffen: Autorisierung, Rollentrennung und Nachvollziehbarkeit in der GxP-regulierten Pharma-IT. Als Speaker verbindet er die Entwicklersicht auf Agentenarchitekturen mit den Anforderungen regulierter Branchen.

Timo Becker arbeitet bei INOSOFT an KI-gestützten Anwendungen für regulierte Umgebungen und beschäftigt sich seit über vier Jahren mit LLMs, Agentenarchitekturen, RAG und Tool-Use. Sein Schwerpunkt liegt dort, wo autonome Systeme auf Prozesse mit Freigabepflicht treffen: Autorisierung, Rollentrennung und Nachvollziehbarkeit in der GxP-regulierten Pharma-IT. Als Speaker verbindet er die Entwicklersicht auf Agentenarchitekturen mit den Anforderungen regulierter Branchen.