Que sait-on de l’image des objets pillés, modifiée par l’IA et publiée par la police du Val-d’Oise ?

Après un week-end de mobilisations les 17 et 18 octobre, marqué par les pillages de commerces, la police nationale du Val-d’Oise a annoncé avoir interpellé 12 receleurs dans ce département d’Île-de-France, sur son compte officiel X, le 20 octobre. Les policiers affirment avoir effectué des “saisies de grandes valeurs, de marques #LouisVuitton” ou encore des “produits de luxe encore munis d’antivols”. 

Pour appuyer ces propos, une photo accompagne la publication. Entre des baskets Stone Island, d’une valeur de 395 euros, des casquettes de la même marque valant une centaine d’euros à l’unité et une manette de PS5 édition limitée, qui se trouve en ligne à 145 euros, le montant du butin est élevé. 

Une photo éditée par l’intelligence artificielle

Mais rapidement, les soupçons des internautes sur l'authenticité de l’image, devenue virale, affluent dans les commentaires. Ils pointent certains éléments de la photo, altérés, qui montreraient une possible intervention de l’intelligence artificielle. Sur la manette, le logo Playstation ne ressemble pas exactement au vrai. À sa droite, l’étiquette sur le jeu ne correspond pas à l’inscription “Bandai Namco”, comme sur l’original. 

La rédaction des Observateurs a vérifié cette image avec SynthID, l’outil de détection développé par Google. Plusieurs générateurs d’IA, comme ceux de Google ou d’OpenAI, intègrent désormais, dans les pixels des images et des vidéos générées, un tatouage numérique invisible à l’œil nu, que cet outil permet de repérer. Ici, des traces de modification ou de génération par un outil d’OpenAi (voir leur détecteur), éditeur de ChatGPT, ont été détectées dans le visuel (pour plus d’explications, lire notre article sur le sujet). 

Un marquage de l’intelligence artificielle ne signifie pas que l’image est entièrement fausse, mais qu’il y a eu au moins une intervention dans la confection du contenu. Contacté par la rédaction des Observateurs, le service d’information et de communication de la police nationale (SICOP) a affirmé avoir utilisé l’IA pour “améliorer la qualité de la photo”. En parallèle, le compte officiel de la police nationale sur X a publié un démenti contenant la photographie originale, non retouchée, où l’on retrouve les mêmes objets que sur l’image modifiée. 

Une falsification de preuve ? 

Des internautes n’ont pas tardé à dénoncer une “falsification de preuve” ou encore un “délit”.  Certains dénoncent également l’illégalité de ce type de pratique.

Contacté par la rédaction des Observateurs, l’avocat Baptiste Nicaud, spécialisé en droit pénal et droit de la communication, la publication de cette photo modifiée par l’IA sur X ne serait pas interdite par la loi en France. En effet, selon l’article 27 de la loi du 29 juillet 1881 sur la liberté de la presse, le délit de diffusion de fausses nouvelles punit la publication ou la diffusion de fausses informations faites de mauvaise foi et ayant troublé la paix publique. “Or ici, il ne me semble pas que cela soit le cas”, précise-t-il.  

Pour ce qui est de la falsification de la preuve, "il faudrait que cette photo fasse partie du dossier d’instruction de l’enquête pour que cela soit considéré comme un délit", poursuit l’avocat. "La seule chose qui peut être reprochée dans ce cas c'est le manque de transparence, en n’ayant pas signalé que la photo avait été modifiée par l’intelligence artificielle."