Pangram Image ist da: KI-Bilder und -Videos aufspüren

Pangram Labs führt mit Pangram Image 1.0 und Image Flash 1.0 zwei Modelle ein, die KI-generierte Bilder und Videos erkennen sollen. Das Hauptmodell soll KI-Inhalte auch dann aufspüren können, wenn es sich um nachträglich komprimierte Aufnahmen, kleine Bildformate unter 512 Pixel oder partielle Bildmanipulationen handelt. Die kleinere Variante Flash 1.0 prüft Videos Einzelbild für Einzelbild. Beide Modelle lassen sich über die erweiterte API nutzen. Pangram Image 1.0 steht außerdem in der Chrome-Erweiterung bereit.

Das im Jahr 2023 von ehemaligen Entwicklern von Google und Tesla sowie Absolventen der Universität Stanford gegründete US-Unternehmen konzentriert sich auf die Erkennung maschinell erstellter Inhalte. Zunächst konnten Nutzer ausschließlich Textdokumente überprüfen, im Juli 2026 erschien aber eine erste Vorschau für Bilder. Hintergrund sind unter anderem gesetzliche Vorgaben wie die seit August 2026 schrittweise geltenden Transparenzpflichten der europäischen KI-Verordnung.

Heatmaps zeigen KI-Anteile im Bild

Mit der offiziellen Vorstellung von Pangram Image 1.0 beendet der Anbieter jetzt die Vorschauphase seiner Bilderkennung. Neu hinzugekommen sind sogenannte Heatmaps. Sie sollen markieren, wo ein Bild KI-Anteile enthält. Fügt jemand zum Beispiel in ein echtes Foto per KI ein Objekt ein, färbt die Heatmap genau diese Fläche ein. Außerdem sinkt die Mindestauflösung von 512 × 512 Pixel auf 256 × 256 Pixel. Unter 512 Pixel Kantenlänge weist das Ergebnis aber auf eine geringere Zuverlässigkeit des Tests hin.

Um Image 1.0 mit anderen KI-Bilddetektoren zu vergleichen, erzeugte Pangram zu 100 echten Fotos synthetische Gegenstücke. Zwölf aktuelle Frontier-Bildgeneratoren wurden mit Prompts gefüttert, die das Original möglichst genau beschreiben, und lieferten 1200 Bilder. Die ähnlichen Motive sollen verhindern, dass der Detektor im Test bestimmte Bildinhalte pauschal als KI-generiert einstuft. Entscheidend sollen stattdessen Merkmale der KI-Erzeugung im jeweiligen Bild sein. Auf diesem Datensatz erreichte Pangram Image 1.0 nach eigenen Angaben eine Genauigkeit von 99,96 Prozent. Auch in akademischen Benchmarks wie Synthbuster und Community Forensics schnitt das Modell laut Pangram gut ab. Gegen Kompression, Weichzeichner und Rauschen sei das Modell robust, da es gezielt auf solche Veränderungen trainiert worden sei.

Videos Bild für Bild geprüft

Für Videos sieht Pangram das kleinere und schnellere Modell Image Flash 1.0 vor. Die Notwendigkeit eines solchen Verfahrens begründet der Hersteller mit der wissenschaftlichen Untersuchung DF26. Laut dieser erkennen Menschen echte und KI-erzeugte Videos sprechender Personen kaum besser als per Zufall, und auch bisherige Detektoren schnitten nur wenig besser ab. Flash 1.0 analysiert hochgeladene Videos nun Einzelbild für Einzelbild. Dadurch soll sich eingrenzen lassen, welche Abschnitte KI-Material enthalten. Auf DF26 erreicht das Modell nach Angaben der Entwickler 98,7 Prozent und liegt damit 29 Prozentpunkte vor dem nächstbesten Detektor.

Zum Vergleich mit anderen Anbietern erstellte Pangram nach eigenen Angaben einen eigenen Testsatz. Als Basis dienten 129 echte Videos aus sozialen Netzwerken. Ein Vision Language Model (VLM) beschrieb jeweils die Handlung, 14 Frontier-Videogeneratoren erhielten diese Beschreibung samt erstem echtem Einzelbild und erzeugten daraus je ein Video. Jeder Generator erzeugte 100 Videos auf Grundlage ausgewählter Vorlagen aus den 129 Originalvideos. Zusammen mit den Originalen umfasst der Datensatz 1529 Videos. Im Ergebnis schnitt Flash 1.0 gegen mehrere große Erkennungsdienste laut Pangram besser ab. Unabhängig überprüft sind die Werte allerdings nicht.

(fo)