Sécurité de l’IA : l’Elysée fait signer un « appel de Paris » à huit pays ainsi qu’à Sam Altman, Dario Amodei et Arthur Mensch

Cet article vous est offert

Pour lire gratuitement cet article réservé aux abonnés, connectez-vous.

Se connecter

Vous n’êtes pas inscrit sur Le Monde ?
Inscrivez-vous gratuitement

• Économie Économie Économie
• Intelligence artificielle Intelligence artificielle Intelligence artificielle

A la veille du Forum de Paris sur la paix, Emmanuel Macron a organisé une déclaration plaidant pour des standards communs de classement des incidents liés à l’intelligence artificielle et à des évaluations indépendantes.

Article réservé aux abonnés

A la veille du Forum de Paris sur la paix, lors duquel une trentaine de chefs d’Etat et de gouvernement se réunissent pour évoquer, mardi 10 novembre, la possibilité d’une régulation internationale de l’intelligence artificielle (IA), le président de la République, Emmanuel Macron, a réuni dès lundi plusieurs grands dirigeants du secteur – dont Sam Altman (OpenAI), Dario Amodei (Anthropic), Brad Smith (Microsoft) et Arthur Mensch (Mistral AI) –, et des représentants de huit pays, dont le secrétaire américain au Trésor, Scott Bessent. Tous se sont engagés collectivement sur un embryon de régulation des risques de sécurité posés par les grands modèles IA, intitulé « appel de Paris pour l’IA ». Quelques représentants de la recherche et de la société civile, dont le pionnier de l’IA Yoshua Bengio, étaient également présents.

Lors d’une réunion en ligne, ces responsables ont endossé une déclaration soulignant le besoin d’un cadre commun d’évaluation et de gestion des risques d’attaques cyber ou de perte de contrôle des plus puissants modèles par leurs concepteurs, avec des « standards d’évaluation et de reporting des incidents majeurs ». Evoquant la possibilité d’un partage public des résultats non sensibles de leurs évaluations, les développeurs d’IA s’engagent ainsi à plus de transparence sur leurs modèles et à autoriser l’évaluation de ces derniers par des chercheurs indépendants.

Cette déclaration intervient après une série d’incidents impliquant des IA de grands laboratoires américains, notamment des agents d’OpenAI qui, lors de tests de cybersécurité, ont réussi à se connecter à Internet et à lancer des attaques imprévues contre la plate-forme d’IA Hugging Face. Ces dérapages ont relancé le débat sur la sécurité des IA et la capacité des entreprises à contrôler leurs modèles les plus puissants.

Il vous reste 64.97% de cet article à lire. La suite est réservée aux abonnés.