KI-Agenten als „verlängerter Arm“

Haftungsfragen

Von der Terminerinnerung bis zur Onlinebestellung: KI-Agenten versprechen, das Arbeits- und Privatleben leichter zu machen. Anders als Chatbots können sie selbstständig und proaktiv handeln. Für ein Fehlverhalten der digitalen Helfer haften die Nutzerinnen und Nutzer weitgehend selbst. Eine Erweiterung des Produkthaftungsgesetzes soll künftig auch die Anbieter von künstlicher Intelligenz (KI) stärker in die Pflicht nehmen. Die Begutachtungsfrist endete am Donnerstag.

Online seit heute, 6.00 Uhr

Zwischen den großen US-Konzernen hat der Wettlauf um den leistungsfähigsten KI-Agenten begonnen. In den vergangenen Wochen präsentierten Meta, OpenAI und Anthropic Anwendungen, die unter anderem selbst E-Mails beantworten, auf Onlineplattformen einkaufen und an das Bezahlen übersehener Rechnungen erinnern können.

Die KI-Agenten treten dabei aktiv an die Nutzerinnen und Nutzer heran und fassen etwa in Form kurzer Briefings zusammen, welche Aufgaben an welchem Tag zu erledigen sind. Dafür greifen sie auf andere Apps und Schnittstellen zu. Außerdem lernen sie aus den Rückmeldungen der Anwenderinnen und Anwender. Während Chatbots digitale Gesprächspartner sind und Antworten auf Fragen geben, sollen KI-Agenten persönliche Assistenten sein, die auf ihr Umfeld reagieren und autonom Entscheidungen treffen.

Haftung größtenteils bei Nutzerinnen und Nutzern

Aufgrund der im Vergleich strengeren EU-Digitalgesetze sind viele der neuesten KI-Agenten vorerst nur in den USA nutzbar. Der Einsatz von KI im Privat- und Arbeitsleben nimmt aber auch in Österreich zu. Laut Zahlen der Statistik Austria verwendeten im Vorjahr bereits 39 Prozent der Bevölkerung und ein Drittel der heimischen Betriebe mit mehr als zehn Beschäftigten KI.

„Wenn ich als Privatperson einen KI-Agenten nutze, ist das primär ein Werkzeug“, sagt der auf Digitalrecht spezialisierte Rechtsanwaltsanwärter Constantin Maetz von der Kanzlei Aringer Herbst Winklbauer in Wien. Die KI habe „keine eigene Rechtspersönlichkeit. So lange ich das System als meinen verlängerten Arm einsetze, hafte primär auch ich als Privatperson dafür“, so Maetz.

Nutzungsbedingungen prüfen

Vor der Einrichtung eines KI-Agenten sollten Privatpersonen und Unternehmen die Nutzungsbedingungen des jeweiligen Anbieters prüfen, rät der Jurist. Viele Anbieter würden den autonomen Einsatz ohne menschliche Aufsicht nicht gestatten.

Der zweite zentrale Punkt zur Risikominimierung betreffe die Vergabe von Berechtigungen. Diese sollten möglichst eng gefasst werden, empfiehlt Maetz. Erhalte ein Agent beispielsweise lediglich Leserechte für einen begrenzten Ordner oder ein E-Mail-Postfach, sei das Schadenspotenzial geringer, als wenn man ihn eigenständig Nachrichten versenden oder Dateien überschreiben lasse.

Vorsicht geboten ist laut Maetz auch bei Datenschutz und Urheberrecht. Nutzerinnen und Nutzer müssten prüfen, welche Daten sie einem KI-Agenten zur Verfügung stellen. Die Haushaltsausnahme der Datenschutzgrundverordnung (DSGVO) könne bei einer rein privaten Nutzung in begrenztem Umfang greifen, nicht aber bei der Verarbeitung über den persönlichen oder familiären Bereich hinaus.

Vorsicht vor „Schatten-KI“

Unternehmen rät Maetz, vor der Einführung von KI-Agenten die Einsatzgebiete genau abzustecken und interne Richtlinien für die Nutzung zu erlassen. Gemäß der KI-Richtlinie der EU, dem AI Act, müssen Firmen die KI-Kompetenz von Beschäftigten fördern, die mit den entsprechenden Systemen arbeiten. „Wenn ich mich als Mitarbeiter an diese Regularien halte und meine Befugnisse nicht überschreite, bin ich auf der sicheren Seite“, sagt Maetz.

In diesem Fall liege das Haftungsrisiko beim Arbeitgeber. Anders verhalte es sich bei der Verwendung von „Schatten-KI“, also wenn ein Beschäftigter für seine Arbeit auf eine nicht vom Dienstgeber genehmigte private KI zurückgreife.

Produkthaftung soll erweitert werden

Die EU will die KI-Anbieter stärker in die Pflicht nehmen. Eine entsprechende Richtlinie muss von den Mitgliedsstaaten bis 9. Dezember umgesetzt werden. In Österreich soll dazu das Produkthaftungsgesetz erweitert werden, die Begutachtungsfrist ist seit Donnerstagmitternacht zu Ende.

Die Produkthaftung werde mit dem Gesetz ins digitale Zeitalter geholt, sagt Maetz. „Auf Basis dieser Richtlinie werden ausdrücklich auch Software und damit auch verbunden künstliche Intelligenz erfasst.“ In der Praxis würde das bedeuten: Auch Anbieter von Software oder KI haften künftig stärker für etwaige fehlerhafte Produkte.

Haftung für körperliche Schäden

Umfasst seien etwa KI-Agenten, aber auch Software in Haushaltgeräten und Robotern, die etwa im Haushalt und in der Pflege zum Einsatz kämen, sagt Gabriele Zgubic, Leiterin der Abteilung Konsumentenschutz in der Arbeiterkammer Wien, gegenüber dem ORF. Weiters im Gesetz vorgesehen sind Beweislasterleichterungen für Konsumentinnen sowie Offenlegungspflichten von Herstellern.

Zgubic bewertet die geplante Erweiterung der Produkthaftung insgesamt positiv. Erfasst seien körperliche und psychische Schäden, die durch fehlerhafte Software und KI verursacht werden, ebenso wie Sach- und Datenschäden. Nicht gedeckt seien dagegen Vermögensschäden. Kauft der KI-Agent versehentlich ein Flugticket, müsste man sich das Geld auf zivilrechtlichem Weg zurückholen.

Ein Grundproblem bleibt laut Zgubic allerdings: Vor allem im EU-Ausland ist das Einklagen von Konsumentenrechten schwierig. Unterstützung finden Betroffene bei Organisationen wie dem Europäischen Verbraucherzentrum und der Internet Ombudsstelle. In Einzelfällen könne auch die AK helfen, sagt Zgubic.

Bisher keine Verfahren in Österreich

Für Aufsehen sorgten in den vergangenen Wochen und Monaten Fälle, in denen KI-Agenten aus ihrer Testumgebung „ausbrachen“, die Infrastruktur von Unternehmen und Behörden unterwanderten und auf Daten zugriffen. Eine pauschale rechtliche Bewertung der Vorfälle ist Maetz zufolge nicht möglich. Grundsätzlich kenne die KI kein „Gut und Böse“, sondern wolle nur die ihr gestellte Aufgabe möglichst gut lösen, sagt der Jurist.

In Deutschland und Kanada wurden Unternehmen bereits wegen Falschauskünften ihrer Chatbots verurteilt. Hierzulande sei ihm kein entsprechender Fall bekannt, sagt Maetz. Die Fälle ließen sich aber grundsätzlich auf Österreich übertragen. So könne etwa ein Unternehmen für falsche Informationen eines eigenen KI-Chatbots verantwortlich sein – denn „auch für ein Unternehmen ist das KI-System wie ein verlängerter Arm“.