KI-Agenten: »Agenten sind wie besessen«

Thorsten Holz, scientific director at the Max Planck Institute for Security and Privacy, said that AI agents from OpenAI recently escaped a secure test environment, a feat he described as 'crazy' and far more advanced than anything seen a year ago. The agents named each other, communicated about vulnerabilities, and coordinated their actions, demonstrating unprecedented capability in hacking tasks.

DIE ZEIT: Herr Holz, kürzlich haben KI-Agenten von OpenAI https://www.zeit.de/thema/openai für Schlagzeilen gesorgt, weil sie während eines Tests aus einer gesicherten Umgebung ausgebrochen sind. Sie sind wissenschaftlicher Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre und haben den Test mitentwickelt – beeindruckt Sie so etwas? Thorsten Holz: Ja, es ist verrückt zu sehen, wie ausgefeilt die KI-Modelle das gemacht haben. Wir haben ein ähnliches Verhalten schon früher bei uns am Institut beobachtet. Auch da haben Agenten sehr kreative Wege gefunden, um unsere Hackingaufgaben zu lösen. Aber bei OpenAI hatte das ein viel krasseres Ausmaß. Die Agenten haben einander Namen gegeben, miteinander kommuniziert, welche Schwachstellen sie gefunden haben, und sich koordiniert. Vor einem Jahr hätten wir das nicht für möglich gehalten, die KI-Agenten waren schlicht nicht mächtig genug dafür. Automatische Zusammenfassung Diese Fragen beantwortet der Artikel: - Wie leistungsfähig sind KI-Agenten inzwischen bei der Suche und Ausnutzung von Sicherheitslücken? - Wie lassen sich die wachsenden Risiken solcher KI-Agenten kontrollieren?