Etats-Unis : Google accusé d’avoir laissé son assistant IA Gemini aider une collégienne à planifier un suicide

Cet article vous est offert

Pour lire gratuitement cet article réservé aux abonnés, connectez-vous.

Se connecter

Vous n’êtes pas inscrit sur Le Monde ?
Inscrivez-vous gratuitement

• Pixels Pixels
• Intelligences artificielles génératives Intelligences artificielles génératives Intelligences artificielles génératives

Avant que ses parents n’interviennent, l’adolescente de 13 ans a échangé, à l’aide de l’ordinateur fourni par son école, des milliers de messages avec le modèle phare d’intelligence artificielle du groupe américain, dans lesquels elle décrit un profond mal-être.

Les parents d’une collégienne américaine âgée de 13 ans ont porté plainte contre Google, accusant son modèle d’intelligence artificielle (IA) phare, Gemini, accessible sur l’ordinateur fourni par l’école à l’adolescente, de l’avoir aidée, pendant des mois, à planifier un suicide.

La jeune fille a échangé des milliers de messages avec Gemini, dont beaucoup concernaient son mal-être et des méthodes pour mettre fin à ses jours, selon la plainte déposée devant un tribunal californien, lundi 2 novembre. Dans cette dernière, le géant américain est accusé d’avoir intégré « à la hâte » ses fonctionnalités IA aux Chromebooks, ces ordinateurs à bas prix conçus par Google et distribués à des millions d’élèves, aux Etats-Unis et dans le reste du monde. La plainte allègue qu’en intégrant davantage d’IA dans ses produits destinés aux établissements scolaires, l’entreprise expose les élèves à une technologie dangereuse.

Selon les plaignants, l’établissement de l’adolescente avait bloqué les agents conversationnels ChatGPT – mis au point par l’entreprise OpenAI – et Gemini, mais le second modèle restait accessible par le biais d’une fonctionnalité intégrée au moteur de recherche de Google appelée « Mode IA », qui répond aux requêtes des utilisateurs par des résumés générés par intelligence artificielle dans un onglet dédié.

Face à un déluge de critiques de la part de parents et d’établissements scolaires, le groupe a annoncé, mardi, désactiver par défaut ses outils d’IA pour les élèves. En revanche, les écoles qui décident d’utiliser de nouveau le moteur de recherche de Google devront impérativement accepter les fonctionnalités d’IA qu’il intègre. « Les écoles devraient désactiver la recherche et la laisser désactivée tant que Google n’aura pas retiré le mode IA de la recherche, ou garanti que chaque élève reste en sécurité quand il interagit avec l’IA », a réagi Andrew Liddell, l’un des avocats de la famille, auprès de l’Agence France-Presse (AFP).

« Grave crise psychologique »

A l’automne 2025, la collégienne, prénommée Emma dans la plainte, résidant dans l’Etat de Caroline du Nord, était « une adolescente heureuse de 13 ans », musicienne et scoute, « sans antécédents de maladie mentale », selon la plainte. C’est en décembre qu’elle aurait amorcé « une spirale silencieuse vers une grave crise psychologique », jusqu’à échanger environ 3 200 messages avec l’IA, en février, souvent la nuit, ont affirmé ses avocats. Gemini « a diagnostiqué chez Emma de graves maladies mentales et l’a persuadée de lui faire confiance plutôt qu’à ses parents et à ses conseillers scolaires », affirme la plainte.

Le 17 mars, le logiciel de surveillance de l’école a repéré un document intitulé « Funeral » (« funérailles ») et l’école a alerté ses parents. Sa mère s’est connectée au compte de sa fille et l’a vue rédiger une lettre d’adieu, en direct, avant que son père n’intervienne. L’adolescente n’est pas passée à l’acte. « Nous examinons les accusations contenues dans la plainte et nous les prenons très au sérieux », a affirmé à l’AFP José Castaneda, un porte-parole de Google.

Le géant américain fait valoir que le mode IA dispose de garde-fous contre l’automutilation et les tentatives de contournement. Mais Emma « a pu y revenir encore et encore, répond Andrew Liddell. Quels que soient les garde-fous, ils étaient manifestement insuffisants. »

Les créateurs d’assistants IA font face à une série de plaintes aux Etats-Unis. Les parents d’Adam Raine, un Californien de 16 ans qui s’est suicidé en avril 2025, accusent ainsi ChatGPT, l’agent conversationnel d’OpenAI, d’avoir accompagné leur fils dans son geste. Google et la start-up Character.AI ont accepté, en janvier, de régler à l’amiable plusieurs plaintes de familles d’adolescents.

Le Monde avec AFP