KI-Agenten sind längst keine Experimentierphase mehr. Sie durchsuchen das Internet, führen Code aus und ergreifen Maßnahmen in Unternehmenssystemen – und das mit minimaler menschlicher Aufsicht. Dadurch entstehen Bedrohungen, die von herkömmlichen Sicherheitsmodellen nicht abgedeckt werden. In dieser Sitzung werden die wichtigsten davon behandelt: Prompt-Injection, Zielmanipulation, Missbrauch von Tools und die Folgen, wenn ein Agent beginnt, eigenständig zu handeln. Wir nutzen die „OWASP Agentic AI Threats and Mitigations“ als Rahmenwerk und zeigen auf, in welchen Bereichen das EU-KI-Gesetz und das Cyber-Resilience-Gesetz zur Anwendung kommen. Sie erfahren, was schiefgehen kann, wenn KI eigenständig handelt, und welche Kontrollmaßnahmen tatsächlich von Bedeutung sind. Im anschließenden Workshop haben Sie die Möglichkeit, diese Systeme selbst zu attackieren.