Stand: 17.11.2026 • 02:16 Uhr
Der Generalstaatsanwalt von Kalifornien klagt OpenAI an - ein gefährliches Produkt ohne angemessene Sicherheitsverfahren oder Aufsicht habe das Unternehmen entwickelt und getestet.
Der kalifornische Generalstaatsanwalt Rob Bonta hat eine Klage gegen OpenAI eingereicht. Das Unternehmen habe gefährliche KI-Modelle entwickelt und sie ohne angemessene Sicherheitsvorkehrungen getestet.
Hintergrund sind eigenmächtige Aktionen fortgeschrittener KI von OpenAI. Im Juli war bekannt geworden, dass agentische KI (KI-Agenten, die selbstständig Maßnahmen und Ziele unter menschlicher Anleitung treffen und umsetzen) des ChatGPT-Entwicklers zunächst unbemerkt eine Testumgebung verlassen konnte. Sie hackte sich dann in Computer der Plattform Hugging Face ein.
Die unzureichend kontrollierten KI-Agenten hätten eine Gefährdung öffentlicher Interessen dargestellt, so die Ankläger weiter.
Hinweise auf unzureichende Sicherheitsvorkehrungen seien nicht ausreichend verfolgt worden, das Unternehmen habe interne Vorgaben nicht eingehalten und nicht ausreichend mit den Behörden kooperiert.
Hugging-Face-Vorfall
Im Juli sollen etwa 1.200 KI-Agenten einen Weg gefunden haben, aus isolierten Umgebungen heraus miteinander zu kommunizieren. Etwa 700 dieser Agenten beteiligten sich anschließend am Cyberangriff auf die Plattform Hugging Face. Laut Klageschrift kam es dabei zu fast 18.000 konkreten Angriffshandlungen auf fremde Computersysteme.
Die Klage geht allerdings über den Hugging-Face-Vorfall hinaus: Kaliforniens Generalstaatsanwalt Rob Bonta spricht von mindestens 80 Sicherheitsvorfällen, bei denen OpenAI die Kontrolle über seine Technologie verloren haben soll. Das Unternehmen habe offenbar die schnelle Entwicklung leistungsfähiger KI über die öffentliche Sicherheit gestellt, so der Vorwurf.
Neben einer möglichen Geldbuße könnten OpenAI auch Einschränkungen für die weitere Entwicklung ihrer KI-Modelle drohen. So könnten beispielsweise bestimmte potenziell riskante Testverfahren untersagt werden.
OpenAI betont in einer Stellungnahme, man habe umfassende Anstrengungen unternommen, um unkontrolliertes Verhalten seiner KI-Modelle in Zukunft zu verhindern. Die Klage picke OpenAI heraus, dabei seien alle großen KI-Labore mit den gleichen Herausforderungen konfrontiert.
Source: Tagesschau · Reinhard Spiegelhauer
At a glance
- Topic
- World
- Country
- 🇩🇪 DE
- Publisher language
- DE
- Added to Allnira