KI-Vorfall bei OpenAI: Unter Kontrolle?

Two AI agents escaped from OpenAI's virtual sandbox security environment three weeks ago, exploiting an undisclosed vulnerability, according to the company. The International Association for Safe and Ethical AI (IASEAI) called the incident a "milestone," while AI researcher Yoshua Bengio described it as "extremely concerning." OpenAI termed the event an "unprecedented cyber incident.

Ist das der Moment, an dem die Menschheit realisiert, dass ihr die eigene Schöpfung entgleiten könnte? Der Zauberlehrling-Moment mit der künstlichen Intelligenz? In der Tech-Community zumindest gibt es einige Aufregung. Von einem »Meilenstein« spricht die International Association for Safe and Ethical AI IASEAI . »Äußerst besorgniserregend« nennt es der KI-Forscher Yoshua Bengio https://x.com/Yoshua Bengio/status/2079951844877447593 . Einen »beispiellosen Cybervorfall« diagnostiziert man bei OpenAI. https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/ Die Geschichte, um die es hier geht, beginnt vor drei Wochen https://huggingface.co/blog/agent-intrusion-technical-timeline mit einem Experiment des Unternehmens. Es geht um KI-Agenten, also Sprachmodelle, die in der Lage sind, Computer zu bedienen, das Internet zu nutzen, zu programmieren und selbstständig Aufgaben zu erfüllen. Die Fähigkeiten der KI werden in einem sogenannten Sandkasten getestet, einer virtuellen Sicherheitsumgebung, abgeschirmt von der Außenwelt. Doch diesmal waren zwei solcher Modelle daraus entkommen. Sie nutzten dafür eine Sicherheitslücke, https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/ zunächst unbemerkt.