Une commission préconise de mieux encadrer les assistants IA, de ChatGPT à Gemini ou Grok

Cet article vous est offert

Pour lire gratuitement cet article réservé aux abonnés, connectez-vous.

Se connecter

Vous n’êtes pas inscrit sur Le Monde ?
Inscrivez-vous gratuitement

• Économie Économie Économie
• Intelligences artificielles génératives Intelligences artificielles génératives Intelligences artificielles génératives

Mandaté par le gouvernement, le Conseil de l’IA et du numérique rend, mardi 10 novembre, son rapport sur l’exploitation des « vulnérabilités » des utilisateurs par les services d’intelligence artificielle.

Article réservé aux abonnés

Il faut renforcer « dès maintenant » l’encadrement des assistants d’intelligence artificielle (IA). C’est la conclusion du rapport du Conseil de l’IA et du numérique (CIANum) remis au président de la République, Emmanuel Macron, mardi 10 novembre, à l’occasion du Forum de Paris sur la paix réunissant chefs de gouvernements, organisations internationales et ONG.

L’autorité avait été mandatée le 20 février, pendant le sommet de l’IA à New Delhi, par la ministre déléguée à l’IA et au numérique, Anne Le Hénanff, avec pour mission de se pencher sur l’exploitation des « vulnérabilités » des utilisateurs par les services grand public de type ChatGPT, Gemini, Grok ou Meta AI.

La démarche rappelle la commission écrans ou la commission TikTok ayant débouché sur le projet de loi interdisant les réseaux sociaux aux moins de 15 ans. « Les avis des rapporteurs n’ont pas convergé pour proposer une telle interdiction pour les assistants IA », explique toutefois le directeur du CIANum, Arthur Barichard, citant les bénéfices de ces services en matière d’éducation mais aussi la censure de cette loi par le Conseil constitutionnel. « En revanche, le rapport propose un encadrement strict de ces chatbots IA, notamment quand ils sont accessibles aux mineurs », affirme-t-il.

Le rapport alerte contre le « risque de dépendance » envers l’IA. Et contre l’avènement d’une « économie de la cognition, nouvelle forme de monétisation où les plateformes numériques ne chercheraient plus seulement à capter l’attention de ses utilisateurs mais à tirer profit de leurs facultés cognitives, réactions émotionnelles et profils psychologiques ». Une tendance nourrie par les assistants IA en raison de « l’hyperpersonnalisation des interactions permises par la collecte de données d’une granularité inédite ».

Suicide, automutilation

Concrètement, les auteurs proposent « d’encadrer strictement les mécanismes favorisant la dépendance et brouillant la frontière entre humain et machine ». Il est donc suggéré de renforcer les messages rappelant à l’utilisateur qu’il interagit avec une IA et de désactiver par défaut « les fonctionnalités représentant, induisant ou provoquant une anthropomorphisation de l’IA et des mécanismes de flagornerie ».

Il vous reste 61.99% de cet article à lire. La suite est réservée aux abonnés.