DIE ZEIT: Herr Holz, kürzlich haben KI-Agenten von OpenAI für Schlagzeilen gesorgt, weil sie während eines Tests aus einer gesicherten Umgebung ausgebrochen sind. Sie sind wissenschaftlicher Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre und haben den Test mitentwickelt – beeindruckt Sie so etwas?
**Thorsten Holz: **Ja, es ist verrückt zu sehen, wie ausgefeilt die KI-Modelle das gemacht haben. Wir haben ein ähnliches Verhalten schon früher bei uns am Institut beobachtet. Auch da haben Agenten sehr kreative Wege gefunden, um unsere Hackingaufgaben zu lösen. Aber bei OpenAI hatte das ein viel krasseres Ausmaß. Die Agenten haben einander Namen gegeben, miteinander kommuniziert, welche Schwachstellen sie gefunden haben, und sich koordiniert. Vor einem Jahr hätten wir das nicht für möglich gehalten, die KI-Agenten waren schlicht nicht mächtig genug dafür.
Automatische Zusammenfassung #
Diese Fragen beantwortet der Artikel: #
- Wie leistungsfähig sind KI-Agenten inzwischen bei der Suche und Ausnutzung von Sicherheitslücken?
- Wie lassen sich die wachsenden Risiken solcher KI-Agenten kontrollieren?