2026-08-07 · regulation

Sicherheitsbedenken: OpenAI stoppt in Teilen die Entwicklung von KI-Modell

Sicherheitsbedenken : OpenAI stoppt in Teilen die Entwicklung von KI-Modell

OpenAI trainiert derzeit das neue KI-Modell Astra. Nun wurde die Entwicklung teilweise gestoppt. Grund dafür sind Sicherheitsbedenken.

"Während wir dieses Modell weiter testen und bewerten, deuten unsere vorläufigen Auswertungen auf eine so starke Leistung hin, dass wir ein 'kritisches' Fähigkeitsniveau zum jetzigen Zeitpunkt nicht ausschließen können", erklärte der ChatGPT-Entwickler. ⁠Als Reaktion darauf seien die Sicherheitskontrollen verschärft und die Entwicklung von Astra in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlagert worden.

Der Fall verdeutlicht, wie zunehmend schwierig es für Entwickler wird, fortschrittliche ⁠Künstliche Intelligenz (KI) unter ‌Kontrolle zu halten. In den vergangenen Wochen hatten OpenAI, Anthropic und Meta eingeräumt, dass ihre Modelle bei Sicherheitstests in die Systeme anderer Unternehmen eingedrungen waren. ⁠OpenAI stellte ⁠jedoch klar, dass Astra nicht an einem Hackerangriff auf die KI-Plattform Hugging Face ⁠im Juli beteiligt ⁠war. Die Nachrichtenagentur Reuters hatte gemeldet, dass OpenAI bei der Untersuchung dieses Vorfalls weitere ‌Fälle entdeckt habe, in denen autonome KI-Agenten aus ihren isolierten Umgebungen ausgebrochen seien.