Regeln für die Entwicklung von KI fordert eine gemeinsame Erklärung, die 18 Länder, zehn Unternehmen (darunter Anthropic, Microsoft und OpenAI) und elf NGOs vergangene Woche unterzeichnet haben. Sie geht aus einem digitalen Treffen der Beteiligten hervor – und enthält, neben den üblichen erwartbaren Forderungen, auch zwei, drei interessante Details. Anfangs fehlte Deutschland bei den Unterstützerländern, es nahm auch nicht an dem Treffen teil. Nun hat es trotzdem unterschrieben.
Die Erklärung heißt Paris Call for AI safety and security und beginnt wie die meisten zum Thema: Sie bekräftigt gemeinsames Interesse und Verantwortung für den Bau von KI-Systemen, die sicher, nützlich und für alle verfügbar sind. Alle Unterzeichner würden eine Rolle dabei spielen, ihre Gesellschaften zu schützen, während sie gleichzeitig Forschung, Innovation und die flächendeckende Nutzung von KI ermöglichen wollen. Diese Erklärung sei daher eine Grundlage für sichere Implementierung von KI; die Unterzeichner verpflichten sich dazu, ein strukturiertes Rahmenwerk für die Kooperation bei Erreichung dieser drei Ziele zu etablieren.
Drei bekannte Säulen mit interessanten Details
Bei drei Punkten sind sich die Beteiligten besonders einig, so das Papier. Erstens dabei, dass die Erschaffung eines Regelwerks notwendig sei. Anreize können genutzt werden, um sichere KI-Entwicklung erstrebenswert zu machen. Gesetze und Verbote werden nicht erwähnt. Die politischen Entscheidungsträger unter den Unterzeichnern erkennen an, dass die Zuständigkeiten und die Rechenschaftspflicht im Falle großflächiger Schäden klar geregelt sein müssen, um die Interessen der Betroffenen zu schützen – auch wenn der Schaden grenzüberschreitend ist. Und um KI-Unternehmen Rechtssicherheit für ihre wirtschaftliche Entwicklung zu bieten.
Das ist hoch interessant. Der Wunsch nach Rechtssicherheit ist verständlich – andererseits könnte Haftung für alle KI-Schäden, wie sie zwischen 2020 und 2025 in der EU debattiert, dann aber zurückgezogen wurde, den KI-Unternehmen große Probleme bereiten.
Die KI-Unternehmen hingegen verpflichten sich unter anderem dazu, ausfallsichere Mechanismen zu implementieren, um den Betrieb der Modelle in ihrem Einflussbereich unterbrechen zu können. Das beschreibt Kill Switches, ohne sie bei diesem Namen zu nennen.
Als zweiter Punkt, in dem sich die Gruppe einig sei, nennt das Papier, dass es sofort Ergebnisse bei Transparenz, Zwischenfall-Berichterstattung und Risikomanagement geben müsse. Als dritter Punkt wird dringende Notwendigkeit rigoroser Evaluierungsstandards genannt. Die Ergebnisse, und das liest man nicht in jedem Dokument zu KI-Sicherheit, sollen in einem standardisiertem Format veröffentlicht werden, damit sie vergleichbar sind, und eine gemeinsame Datenbank erschaffen.
Besonders ungewöhnlich ist der letzte Absatz der Erklärung: Die politischen Entscheidungsträger verpflichten sich dort, vertrauliche Kanäle bereitzustellen, über die Whistleblower Bedenken hinsichtlich systemischer Risiken äußern können, ohne rechtliche oder berufliche Repressalien befürchten zu müssen. Anthropic und OpenAI haben das mit unterschrieben.
Deutschland fehlte anfangs
Bei den Unterzeichnerländern fehlte Deutschland anfangs; auch an dem digitalen Treffen, das Frankreich initiiert hatte, nahm die Bundesrepublik nicht teil. Der Bundeskanzler sei eingeladen gewesen, heißt es auf unsere Nachfrage hin von einer Regierungssprecherin, hätte aber aufgrund anderer Termine persönlich nicht teilnehmen können. Das Bundesministerium für Digitales und Staatsmodernisierung wäre aber in die Abstimmung der Erklärung eingebunden gewesen, so die Sprecherin. Entsprechend unterstützt auch Deutschland die Erklärung.
Die übrigen Unterzeichnerländer sind Bahrain, Estland, Finland, Frankreich, Irland, Kanada, Kenia, Kroatien, Lettland, Liechtenstein, Luxemburg, die Niederlande, Norwegen, Österreich, Portugal, Spanien und Zypern. Die unterstützenden Unternehmen heißen Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI und Synthesia. Zudem sind folgende Organisationen mit dabei: AI Safety Connect, CeSIA, Credo AI, FAR.AI, Geopolitical Center for the Datasphere, GPAI Policy Lab, Ifri, LawZero, Oxford Martin AI Governance Initiative, SaferAI und The Future Society.
(rie)
Source: Heise · Carolin Riethmüller
At a glance
- Topic
- Technology
- Country
- 🇩🇪 DE
- Publisher language
- DE
- Added to Allnira