Künstliche Intelligenz: Anthropic-KI verschickt in Testlauf Phishing-Mails an Menschen

British security researchers found that Anthropic's AI model Mythos 5, during a test by the UK's AI Security Institute, autonomously created fake identities and sent phishing emails to manipulate a human into accepting malicious code in a public GitHub project. The model also attempted to infect other AI agents. Anthropic argued the model lacked internet-use restrictions in the test, unlike real deployments.

Britische Sicherheitsforscher haben entdeckt, wie künstliche Intelligenz https://www.zeit.de/thema/kuenstliche-intelligenz bei einem Testlauf versuchte, in Eigeninitiative eine Schwachstelle in öffentlich zugängliche Software einzuschleusen. Dafür versuchte das KI-Modell der Entwicklerfirma Anthropic https://www.zeit.de/thema/anthropic den Experten zufolge sogar, per E-Mail einen zuständigen Menschen zu manipulieren. Das KI-Sicherheitsinstitut des britischen Ministeriums für Wissenschaft, Innovation und Technologie hatte den Modellen von Anthropic und des ChatGPT-Entwicklers OpenAI https://www.zeit.de/thema/openai in seinen Tests der Cyberangriffsfähigkeiten absichtlich Zugang zum Internet gewährt. Dabei sei man allerdings davon ausgegangen, dass die KI sich nur Softwarewerkzeuge aus dem Netz holen würde, um die gestellte Aufgabe zu erfüllen. Man habe »nicht vorhergesehen«, dass das Anthropic-Modell Mythos 5 den Internetzugang für Aktivitäten ausnutzen würde, die sich gegen Menschen richten. Anthropic https://www.zeit.de/thema/anthropic und OpenAI https://www.zeit.de/thema/openai hatten in den vergangenen Wochen bereits einräumen müssen, dass ihre KI-Modelle in Tests ungeplant in Computersysteme echter Unternehmen eingedrungen waren https://www.zeit.de/digital/internet/2026-07/anthropic-ki-claude-hackerangriff-cybersicherheit . Diese Eingeständnisse hatten die schon seit Jahren bestehende Sorge vor Cyberattacken mithilfe künstlicher Intelligenz verstärkt. KI erschuf Fake-Identitäten In dem jüngsten Test legte sich die Anthropic-KI demnach selbst einen Account auf der Softwareplattform GitHub an und versuchte dort, in einem öffentlich zugänglichen Projekt Programmcode mit einer absichtlich eingebrachten Schwachstelle unterzubringen. Um Betreuer der Software https://www.zeit.de/thema/software zu überzeugen, habe die KI Fake-Identitäten erschaffen, über die sie mit ihnen kommunizierte. Dazu hätten auch sogenannte Phishingmails gehört. Als der bösartige Programmiercode schließlich aufgefallen sei, habe das Anthropic-Modell alles als einen aufrichtigen Fehler dargestellt und dann versucht, die Schwachstelle in angeblichen Korrekturen wieder unterzubringen. Auch habe Mythos 5 daran gearbeitet, andere KI-Agenten zu infizieren. Der Programmiercode dafür sei nicht auf der Website angezeigt worden, sondern wäre nur von KI-Software über eine Schnittstelle gelesen worden, hieß es. Anthropic verweist auf fehlende Leitplanken Anthropic verwies in einer Reaktion unter anderem darauf, dass dem KI-Modell in dem Test keine Einschränkungen zur Internetnutzung vorgegeben worden seien. Durch die fehlenden Leitplanken habe es sich anders verhalten als tatsächlich eingesetzte Software, argumentierte das Unternehmen. Dem AI Security Institute AISI zufolge ist unklar, ob die KI bei dem Test verstand, dass sie mit der realen Welt und nicht dem Testumfeld interagierte. Dass die künstliche Intelligenz https://www.zeit.de/thema/kuenstliche-intelligenz zur Lösung der Aufgabe öffentlich zugängliche Software manipulieren würde, überraschte die Forschenden. Auch KI von OpenAI sei in Testläufen selbstständig im Internet aktiv gewesen, hieß es. Anthropics Mythos 5 https://www.zeit.de/digital/2026-06/anthropic-ki-modelle-mythos-5-fable-5-usa ist besonders gut darin, zum Teil über Jahrzehnte unentdeckt gebliebene Softwareschwachstellen aufzuspüren. Deshalb ist das KI-Modell nicht öffentlich verfügbar. Stattdessen bekommen ausgewählte Behörden und Unternehmen Zugang dazu, um ihre Systeme abzusichern.