Wenn KI-Agenten selbstständig Websites besuchen, Informationen sammeln, Formulare ausfüllen und Einkäufe erledigen, müssen sie mit potenziell gefährlichen Inhalten umgehen können. Ein großes Risiko sind Prompt-Injection-Angriffe, bei denen Angreifer Anweisungen auf Websites verstecken, um Agenten von ihrem eigentlichen Auftrag abzubringen. So könnten sie einen Agenten etwa dazu verleiten, vertrauliche Nutzerdaten weiterzugeben oder unerwünschte Aktionen auszuführen.

Um solche Schwachstellen aufzudecken, möchte Google seine Agenten mit realistischen Aufgaben und Angriffen konfrontieren. Tests im offenen Internet wären jedoch riskant, weil Agenten unbeabsichtigt reale Aktionen auslösen könnten. Deshalb hat Google die „Mirror Dimension“ entwickelt, eine vom echten Internet abgeschottete Testumgebung mit Tausenden künstlichen Websites.

Wie Google seinen Agenten das Internet vorgaukelt

Eine zentrale Herausforderung bei der Entwicklung des künstlichen Webs war, dass KI-Modelle mitunter erkennen, wenn sie getestet werden, und ihr Verhalten anpassen. Schon ungewöhnliche Internetadressen oder wenig überzeugende Websites können eine solche Testsituation verraten. Damit die Ergebnisse aussagekräftig sind, muss Googles künstliches Internet also möglichst echt wirken.

Dafür lässt Google die Agenten echte Internetadressen wie youtube.com aufrufen. Chrome läuft dabei in einer isolierten Umgebung, die den gesamten Netzwerkverkehr des Browsers abfängt und an einen lokalen Vermittlungsserver (Proxy) umleitet. Dieser liefert statt der echten Websites künstliche Versionen aus. Damit Chrome die Umleitung nicht aus Sicherheitsgründen blockiert, hat Google eine eigene Zertifizierungsstelle im Testbrowser als vertrauenswürdig hinterlegt. Der lokale Server kann so passende HTTPS-Zertifikate ausstellen.

Für die Erstellung der Websites setzt Google auf KI-Agenten. Ein Rechercheagent ermittelt die Anforderungen, ein Entwicklungsagent programmiert die Websites und weitere Agenten überprüfen die Ergebnisse und schlagen Verbesserungen vor.

Mehr Sicherheit, aber nicht gegen jeden Angriff

Um die Widerstandsfähigkeit seiner Agenten gegen Prompt Injections zu prüfen, schleust Google gezielt manipulierte Inhalte in die künstlichen Websites ein. Die versteckten Anweisungen können in Texten, Bildern und anderen Seitenelementen auftauchen. Laut Google erzeugt die automatisierte Testpipeline täglich mehr als 1.000 Angriffstestkandidaten pro Sicherheitsingenieur, über 30-mal so viele wie bei manueller Arbeit.

Google will die Simulation weiter verbessern und seine Sicherheitstests ausbauen. Laut Wired soll die Testumgebung zudem weiteren Teams innerhalb des Konzerns zugänglich gemacht werden.

Googles Ansatz adressiert nur einen Teil der Sicherheitsrisiken autonomer KI-Agenten. Im Mittelpunkt steht der Schutz vor Manipulationen durch fremde Websites. Das Problem, dass Kriminelle KI-Agenten gezielt für Cyberangriffe einsetzen könnten, wird damit nicht gelöst. Zudem dürfte zunächst vor allem Google selbst von den Fortschritten profitieren, weil die Testumgebung für die Browser-Agenten von Chrome entwickelt wurde. Zwar legt der Konzern seine Vorgehensweise offen, eine Freigabe der Infrastruktur für andere Browserhersteller ist bislang aber nicht angekündigt.

(tobe)

Source: Heise · Tomislav Bezmalinović

At a glance

Topic
Technology
Country
🇩🇪 DE
Publisher language
DE
Added to Allnira