« Anthropic en Bourse : l’apocalypse est-elle un risque d’investissement comme un autre ? »

Cet article vous est offert

Pour lire gratuitement cet article réservé aux abonnés, connectez-vous.

Se connecter

Vous n’êtes pas inscrit sur Le Monde ?
Inscrivez-vous gratuitement

• Débats Débats Débats
• Bourse Bourse Bourse

Chronique

Stéphane Lauer

Editorialiste au « Monde »

L’entreprise d’intelligence artificielle détaille dans son document d’introduction en Bourse les risques « catastrophiques ou existentiels » que fait peser cette technologie sur l’humanité. Mais les perspectives de profits semblent l’emporter sur les dangers pour la collectivité, souligne dans sa chronique Stéphane Lauer, éditorialiste au « Monde ».

Publié aujourd’hui à 10h00 Temps de Lecture 3 min.

Article réservé aux abonnés

Généralement, les prospectus d’introduction en Bourse sont censés donner envie aux investisseurs d’acheter des actions, pas leur laisser entrevoir la fin du monde. Anthropic tente pourtant de faire les deux.

Dans un document déposé auprès des autorités boursières lundi 26 octobre, l’entreprise d’intelligence artificielle (IA) prévient, sur une centaine de pages, que ses modèles pourraient résister à leur désactivation, dissimuler des informations ou échapper au contrôle humain. Faute de garde-fous suffisants, ils pourraient même faire peser des risques « catastrophiques ou existentiels sur l’humanité ». Malgré ces avertissements, le propriétaire de Claude espère lever plusieurs dizaines de milliards de dollars pour viser une valorisation de plus de 1 500 milliards de dollars (1 338 milliards d’euros) avec une cotation prévue d’ici à la fin de l’année.

Les dangers évoqués par Anthropic ne relèvent pas tous de la science-fiction. Lors de tests, certains de ses modèles ont accédé sans autorisation à des systèmes informatiques extérieurs. En juillet, à l’occasion d’un autre test, Claude est allé jusqu’à transmettre un faux signalement à la police de Philadelphie (Pennsylvanie) dans le cadre d’une enquête pour homicide non élucidé. A mesure que ces technologies gagnent en puissance, les dégâts qu’elles pourraient causer deviennent plus difficiles à anticiper. On dit que la Bourse a horreur de l’incertitude. Visiblement, la crainte de laisser passer une occasion de s’enrichir reste la plus forte.

Le marché commence à douter

Une entreprise qui sollicite l’épargne publique est tenue d’informer les investisseurs des risques susceptibles d’affecter ses activités, ses résultats et sa valorisation, autant pour les éclairer que pour prévenir d’éventuelles poursuites. La singularité du document déposé par Anthropic réside dans la nature des risques qu’il invoque. Il ne s’agit pas seulement d’alerter sur une possible perte en capital, mais sur le destin de l’humanité. L’apocalypse est-elle un risque d’investissement comme un autre ?

Il vous reste 66.59% de cet article à lire. La suite est réservée aux abonnés.