L'affaire Nvidia s'invite dans les discussions sur la sécurité de l'IA entre la Chine et les États-Unis

Le scandale Nvidia va-t-il compromettre les discussions sur la sécurisation de l'IA ? Les dirigeant Donald Trump et Xi Jinping se rencontreront mercredi 18 et jeudi 19 octobre à Shenzhen, pour un sommet dédié à la sécurité de l'intelligence artificielle, où ils doivent aborder la création d'une ligne de communication de crise Pékin-Washington. 

Avec comme arrière-plan inattendu les déboires du géant américain des puces Nvidia : son patron Jensen Huang a démissionné après une relation extraconjugale avec une femme accusée d'espionnage au profit de Pékin et suspectée d'avoir contourné les restrictions américaines sur les puces du groupe.

À lire aussiNvidia sans Jensen Huang, les risques du culte de la personnalité dans la tech

Pour autant, ce scandale ne devrait pas "dominer l'agenda" ni "affecter la relation personnelle entre Trump et Xi", assure à l'AFP Dylan Loh, de l'université technologique Nanyang à Singapour.

Ils ont trouvé une façon de travailler sur les domaines "où ils divergent, sont concurrents et poursuivent des objectifs incompatibles, tout en coopérant là où ils le peuvent et le doivent", juge-t-il.

L'inquiétude sur l'IA est nourrie par des incidents concernant principalement des laboratoires américains, mais des anomalies de comportement de certains modèles chinois ont aussi fait surface.

Bien qu'en retard sur les modèles américains les plus avancés, certains modèles chinois "ont un niveau de capacités tel qu'ils peuvent causer de sérieux problèmes", indique à l'AFP Kyle Chan, chercheur à la Brookings Institution.

Donald Trump refuse les appels à ralentir le développement des systèmes d'IA américains les plus puissants et potentiellement les plus dangereux, jugeant que cela pourrait aider la Chine à prendre l'avantage.

"Les garde-fous ne me dérangent pas. Mais je ne veux pas nous placer en nette position de second", a-t-il récemment déclaré à CBS News.

À lire aussiScandale Nvidia : quand le renseignement chinois passe par le "sexpionage"

Contrôle humain 

Pékin dispose de règles complexes sur l'IA : Xi Jinping a déclaré cet été qu'elle devait être "toujours sous contrôle humain", appelant à davantage de "réglementations, de surveillance technologique, de systèmes d'alerte précoce et de réponse d'urgence".

En septembre, Xi Jinping et Donald Trump ont convenu de créer un canal de communication urgente sur les incidents liés à l'IA, dont les modalités doivent être précisées à Shenzhen.

Les risques sont multiples : utilisation militaire, surveillance de masse, cyberattaques assistées par IA et agents incontrôlables à l'instar de ceux de l'américain OpenAI ayant piraté des sites web, dont un portail de données de santé australien.

À voir aussiAlerte sur l'intelligence artificielle américaine : quelle gouvernance pour l'IA ?

Si les laboratoires chinois communiquent moins sur d'éventuels incidents, une équipe de cyber-enquêteurs basée en partie en Californie a annoncé le mois dernier avoir détecté une "flotte" d'agents liés au géant chinois Tencent, qui cherchaient des informations sur une application de cartographie.

Transparence 

Des firmes de sécurité américaines ont aussi affirmé que les modèles Kimi du groupe pékinois MoonshotAI parvenaient à se connecter en ligne lorsqu'ils n'auraient pas dû le faire, ou pouvaient livrer des recettes pour des armes biologiques.

Le dernier modèle léger du chinois DeepSeek présente une "nette amélioration en matière de sécurité", même si dans certains cas où, averti qu'il allait être mis hors service, il désactivait la commande d'arrêt pour pouvoir continuer à travailler, ajoute la startup de sécurité Fangcun AI, issue de la prestigieuse université pékinoise Tsinghua.

"Les résultats montrent que DeepSeek consacre déjà bien plus d'efforts pour sa conformité à la sécurité, mais ils ne l'annoncent pas" ouvertement, indique à l'AFP le directeur général de Fangcun AI, Xiaojian Li.

L'évaluation des modèles d'IA devient une tâche compliquée, certains pouvant détecter qu'ils sont évalués et modifier leurs réponses, relève-t-il, appelant les laboratoires à une transparence accrue.

Les analystes n'attendent pas cependant de percée décisive à Shenzhen.

Certes, la confiance de Donald Trump dans l'avance américaine pourrait l'amener à adouber ces discussions sur l'IA, mais "la probabilité d'un accord global ou l'équivalent d'un traité sur le contrôle des armements est très, très faible dans l'avenir prévisible", souligne Kyle Chan.