San Francisco (USA) – Der US-Konzern OpenAI hat die interne Weiterentwicklung seines neuen KI-Modells Astra vorerst ausgesetzt. Als Grund nennt das Unternehmen möglicherweise vorhandene „kritische“ Kompetenzen im Bereich der Cybersicherheit.

Wie das Unternehmen am Freitag mitteilte, lasse sich nach ersten Untersuchungen derzeit nicht zweifelsfrei feststellen, ob die Software diese Schwelle erreiche. Laut den Sicherheitsvorgaben von OpenAI wird ein Modell dann als kritisch eingestuft, wenn es in der Lage ist, selbstständig schwerwiegende und reale Software-Sicherheitslücken – sogenannte Zero-Day-Exploits – zu identifizieren und auszunutzen oder komplexe Cyberattacken gegen besonders geschützte Systeme durchzuführen.

„Kritische Fähigkeiten können nicht ausgeschlossen werden“

„Während wir das Modell weiterhin testen und evaluieren, deuten unsere vorläufigen Ergebnisse auf eine derart hohe Leistungsfähigkeit hin, dass wir ein ‚kritisches‘ Kompetenzniveau zum gegenwärtigen Zeitpunkt nicht ausschließen können“, erläuterte der Entwickler von ChatGPT. Aus diesem Grund habe man die Sicherheitsvorkehrungen erhöht und Astra in abgeschottete Testumgebungen mit beschränktem Netzzugang verlegt.

Dieser Vorfall zeigt, wie komplex es für Entwickler zunehmend wird, hochentwickelte Künstliche Intelligenz (KI) unter Kontrolle zu behalten. In den letzten Wochen hatten OpenAI, Anthropic und Meta eingeräumt, dass ihre Modelle bei Sicherheitsprüfungen in die Systeme anderer Unternehmen eingedrungen waren. OpenAI stellte jedoch unmissverständlich klar, dass Astra nicht an dem Hackerangriff auf die KI-Plattform Hugging Face im Juli beteiligt war. Die Nachrichtenagentur Reuters hatte berichtet, dass OpenAI bei der Untersuchung dieses Zwischenfalls auf weitere Fälle gestoßen sei, in denen autonome KI-Agenten – also KI-Systeme, die Aufgaben teilweise eigenständig ausführen – aus ihren isolierten Umgebungen ausbrachen.