Produktivitätswunder oder Büchse der Pandora? Software Security in Zeiten von AI

Künstliche Intelligenz schickt sich an, zum festen Bestandteil von Softwareentwicklung zu werden. Doch mit der zunehmenden Integration von KI-Tools und -Komponenten verschieben sich die Anforderungen an die IT-Sicherheit. Dieser Vortrag beleuchtet das komplexe Spannungsfeld zwischen KI, Security und moderner Softwareentwicklung.

Im Fokus stehen die drei wesentlichen Dimensionen, die den Entwicklungsalltag und die Sicherheitsstrategien von Organisationen heute prägen:

• Security for AI – Sichere KI-Systeme entwickeln:
  Welche neuen Schwachstellen – von Prompt Injection bis hin zu Data Poisoning – müssen bei der Implementierung von KI-Komponenten berücksichtigt werden?
  
• Security when using AI – KI als Tool sicher benutzen:
  Wie gewährleisten wir die Sicherheit und Integrität von Quellcode, der unter Mitwirkung von KI entsteht? Inwieweit kann KI die Sicherheitsaktivitäten im Entwicklungsprozess unterstützen?
  
• Security against AI – Die veränderte Bedrohungslage:
  Wie nutzen Angreifer KI, um Schwachstellen effizienter zu finden, und welche Auswirkungen hat dies auf bestehende Threat Models und Sicherheitsrichtlinien?

Der Vortrag gibt einen Überblick über die Facetten des Themenkomplexes und leitet so den Konferenztag ein.

Lernziele

• Die Teilnehmenden lernen das Spannungsfeld AI, Softwareentwicklung und Security mit seinen unterschiedlichen Facetten kennen.
  
• Sie erfahren, was hinter “Security for AI”, “Security when using AI” und “Security against AI” steckt.
  
• Sie bekommen gezeigt, welche Bedeutung Secure Software Development in Zeiten von AI hat und welche Entwicklungen in der Zukunft zu erwarten sind.