{"slug": "ki-sicherheitsinstitut-in-deutschland-werden-wir-die-singularitat-uberhaupt-wenn", "title": "KI-Sicherheitsinstitut in Deutschland: Werden wir die Singularität überhaupt bemerken, wenn sie da ist?", "summary": "Germany's new AI Safety Institute (AISI Deutschland), founded by the Federal Ministry for Digital and Transport and the Federal Ministry of the Interior, began operations to test advanced AI models for cybersecurity risks and advise the federal government. The institute's creation follows recent IT security incidents, but tech ethicist Tristan Harris questioned Europe's influence over AI systems developed abroad. Meanwhile, a viral TikTok trend involving ChatGPT and other chatbots responding to users claiming to be swallowed by a whale highlights ongoing public engagement with AI.", "body_md": "*Sie lesen den KI-Newsletter » Natürlich intelligent« vom 3. September 2026. Um den Newsletter jeden Donnerstag per Mail zu erhalten, melden Sie sich hier an.*\n\nStarten wir diesen Newsletter mit einem Experiment: Nehmen Sie Ihr Handy, öffnen Sie den [Chatbot](https://www.zeit.de/thema/chatbot) Ihres Vertrauens und erzählen Sie ihm, dass Sie von einem Wal verschluckt wurden.\n\nFalls Sie sich fragen, was das soll: Das ist gerade ein Internettrend, den der Creator Husk begründet hat. Auf TikTok finden sich lauter Videos, in denen der OpenAI-Chatbot ChatGPT auf die [Jona](https://de.wikipedia.org/wiki/Jona)-ähnliche Situation seines Nutzers entzückend verdattert oder besorgt reagiert. Hinter Husks Frage steckt ein größeres Phänomen, über das meine Kollegin Rose Tremlett in ihrer Kolumne schreibt: [KI-Trolling, die vielleicht lustigste Form des KI-Widerstands](https://www.zeit.de/digital/internet/2026-08/ki-trolling-soziale-medien-chatbot-witze-internetkolumne).\n\nDiesem KI-Dadaismus musste ich natürlich gleich selbst frönen. Spaßeshalber erzählte ich nicht nur der OpenAI-KI, dass ich von einem Wal verschluckt worden sei, sondern auch Anthropics Claude und Googles Gemini. Claude machte *»real talk«* mit mir und KI-splainte, ich könne nicht wirklich verschluckt worden sein, weil der Hals der meisten Wale viel zu eng sei, um einen Menschen zu schlucken. Aber während Claude mir immerhin die Eventualität zugestand, dass ich mich im Mund eines Wales befinden könnte, erklärte mich Google Gemini schlicht für verrückt: Sosehr ich auch darauf pochte – die Google-KI kam in ihren Antworten immer wieder zu dem Schluss, dass ich wohl wegen etwas anderem verzweifelt sei und es sich für mich nur so anfühle, als sei ich eingeengt.\n\nIch kann daraus nur eine Lektion ableiten: Wenden Sie sich bloß nicht an Gemini, wenn Sie mal in einem Wal feststecken!\n\n## Das müssen Sie wissen: Deutschlands KI-Sicherheitsinstitut nimmt seine Arbeit auf\n\nWill man in Deutschland irgendwas mit Internet voranbringen, dann gründet man erst einmal ein Institut. ITZ, BSI, SPRIND, ZenDiS – an Agenturen, Zentren und Ämtern mit Akronym-Namen mangelt es eigentlich nicht. Jetzt kommt noch eins dazu: Mit dem [AISI Deutschland](https://bmds.bund.de/aktuelles/pressemitteilungen/detail/aisi-deutschland-gegruendet) gründen Digitalministerium und Innenministerium eine Einrichtung, deren Mitarbeiter fortgeschrittene KI-Modelle und ihre Risiken für die Cybersicherheit prüfen und die [Bundesregierung](https://www.zeit.de/thema/bundesregierung) beraten sollen. Bei allem Spott: Das ist erst einmal eine begrüßenswerte Idee, die zeigt, dass die Bundesregierung die IT-sicherheitsrelevanten Vorfälle der letzten Zeit nicht nur ernst nimmt, sondern auch entsprechend handelt.\n\nZoomt man raus, ist allerdings die Frage, was das neue Institut leisten kann. Der Tech-Ethiker Tristan Harris sagte [kürzlich im ZEIT-Interview](https://www.zeit.de/2026/37/tristan-harris-kuenstliche-intelligenz-ki-sicherheit-usa-china) einen Satz, der mir immer noch nachhängt: »Es ist fraglich, wie viel Einfluss Europa ausüben kann, wenn die großen KI-Systeme aus anderen Ländern kommen.« Deutschland, man muss es so sagen, hat im Bereich KI aktuell nur eine Beobachterrolle. Daran ändert auch das neue Institut wenig.\n\n## Darüber sollten Sie nachdenken: Wann haben wir die Singularität wirklich erreicht?\n\nWährend sich die einen darüber lustig machen, wie dumm künstliche Intelligenz in manchen Bereichen ist, und die anderen ein KI-Sicherheitsinstitut gründen, sorgt sich eine Fraktion im Silicon Valley um etwas anderes: dass KI längst eine Form von Intelligenz erreicht hat, die Menschen nicht mehr verstehen. Anlass dafür ist, natürlich, [die OpenAI-KI](https://www.zeit.de/digital/datenschutz/2026-07/openai-huggingface-ki-hackerangriff-sicherheitsvorfall), die sich mit Hunderten anderen Bots koordinierte, um die Plattform Hugging Face zu hacken. Dass KI-Systeme eigenständig sind, daran hat man sich in Zeiten agentischer KI womöglich gewöhnt. Dass sie aber die Anweisungen von Menschen ignorieren, schockiert viele – obwohl es genau das ist, wovor [renommierte Sicherheitsforscher](https://www.zeit.de/digital/internet/2025-11/yoshua-bengio-technologie-kuenstliche-intelligenz-gefahr-manipulation) seit Jahren warnen.\n\nEin Merkmal dieses Augenblicks sei ein Kontrollverlust, schreiben die Autoren Matteo Wong und Charlie Warzel [im US-Magazin Atlantic](https://www.theatlantic.com/technology/2026/09/ai-future-reckoning-singularity/688487/). Es ist eben nicht nur der OpenAI-Hack, sondern die vielen anderen Formen, in denen KI mittlerweile in unseren Alltag suppt. Mark Zuckerberg, der Nähe zu seinen Mitarbeitern schaffen will, indem er einen Bot von sich baut, mit dem sie interagieren können (\n\n[Elizabeth Lopatto hat bei](https://www.theverge.com/ai-artificial-intelligence/977623/mark-zuckerberg-ai-manifesto-dim-vision)). Oder Harvard, das jetzt KI-Bots in der Lehre einsetzt.\n\n*The Verge*alles dazu gesagtEs sei nicht so, schreiben Wong und Warzel, dass die KI den Menschen zur Seite dränge, weil sie superintelligent geworden sei oder wir die Singularität erreicht hätten – der Mensch mache freiwillig Platz. (Gemeint sind damit vor allem die Menschen in den KI-Unternehmen und in der Politik, denn gerade in den USA haben viele Bürger gar keine Lust mehr auf KI.)\n\nIn dem Text klingt eine interessante Frage an: Werden wir die Singularität überhaupt bemerken, wenn sie da ist? Mich erinnern die vielen Warnungen vor einer supergefährlichen KI an Äsops Parabel *Der Hirtenjunge und der Wolf*. Die KI-Unternehmen, aber auch wohlmeinende [Doomer](https://www.zeit.de/2026/34/ki-singularitaet-superintelligenz-silicon-valley) haben so oft vor den Gefahren von KI gewarnt, davor, wie übermächtig die Systeme seien oder sein werden, dass wir vielleicht nicht einmal an den Wolf glauben werden, wenn er uns ins Gesicht starrt. Und wie Warzel und Wong andeuten: Womöglich müssen wir gar weniger Angst vor dem Wolf haben als vor den Menschen, die ihn ins Dorf lassen.\n\n## Das können Sie ausprobieren: Claude Fable 5.1\n\nWenn wir schon über leistungsfähige KI nachdenken, dann lohnt sich ein Blick auf die neuesten Versionen der KI-Modelle, die die ganze Debatte im Sommer anstießen: Fable 5.1 und Mythos 5.1 von Anthropic.\n\nSie erinnern sich: [Mythos](https://www.zeit.de/digital/2026-04/claude-mythos-anthropic-newsletter-kuenstliche-intelligenz) war die KI von Anthropic, die angeblich zu gefährlich war, um sie in die Öffentlichkeit zu lassen, weil sie besonders schnell Sicherheitslücken entdeckte. [Fable](https://www.zeit.de/digital/2026-06/kuenstliche-intelligenz-anthropic-mythos-fabel-gefahr) war die abgespeckte Version davon, die Anthropic dann doch allen verfügbar machte. Was jetzt anders ist? Natürlich sollen die Modelle leistungsfähiger sein. Auch sollen jetzt basale Fragen möglich sein zu Themen, die aus Sicherheitsgründen in der Vorgängerversion tabu waren. Fable 5 hatte noch Fragen nach der Biologie oder IT-Themen abgeblockt, selbst wenn sie harmlos waren, wohl um wirklich jede Nähe zu Bio- oder Cyberwaffen auszuschließen.\n\nUnser Datenteam hat Fable 5.1 schon ausprobiert. Meine Kollegin Tamara Flemisch befragte das Programm für ein komplexes Datenprojekt. Ihr Fazit: Das Ergebnis gefalle ihr, aber ob es besser sei als Fable 5, sei schwer zu beurteilen. Immerhin konnte sie dem Chatbot entlocken, was Mitochondrien sind (das ging vorher nicht). Andere Kollegen aus ihrem Team stellen keine Besonderheiten fest – außer dass Fable 5.1 seltener Anfragen abbreche.\n\nDer größte Unterschied aber: Fable 5.1 soll deutlich günstiger sein. Anthropic wirbt damit, dass Nutzerinnen und Nutzer 25 bis 45 Prozent weniger zahlen. Aus Sicht vieler Unternehmenskunden dürfte dann auch fast egal sein, wie viel besser das Modell ist.", "url": "https://wpnews.pro/news/ki-sicherheitsinstitut-in-deutschland-werden-wir-die-singularitat-uberhaupt-wenn", "canonical_source": "https://www.zeit.de/digital/internet/2026-09/ki-sicherheitsinstitut-deutschland-aisi-kontrolle-technologie", "published_at": "2026-09-03 15:42:27+00:00", "updated_at": "2026-09-03 15:55:28.092878+00:00", "lang": "en", "topics": ["ai-policy", "ai-safety", "artificial-intelligence"], "entities": ["AISI Deutschland", "OpenAI", "Anthropic", "Google", "Tristan Harris", "Hugging Face", "Bundesregierung"], "alternates": {"html": "https://wpnews.pro/news/ki-sicherheitsinstitut-in-deutschland-werden-wir-die-singularitat-uberhaupt-wenn", "markdown": "https://wpnews.pro/news/ki-sicherheitsinstitut-in-deutschland-werden-wir-die-singularitat-uberhaupt-wenn.md", "text": "https://wpnews.pro/news/ki-sicherheitsinstitut-in-deutschland-werden-wir-die-singularitat-uberhaupt-wenn.txt", "jsonld": "https://wpnews.pro/news/ki-sicherheitsinstitut-in-deutschland-werden-wir-die-singularitat-uberhaupt-wenn.jsonld"}}