Alors qu'elle entre en Bourse ce jeudi, la société a décidé d'interdire les comportements insultants et répétés envers son IA, au nom de son bien-être. Une justification qui laisse les chercheurs sceptiques, alors que derrière cette mesure se cachent des enjeux économiques.
Radio France
Publié le 19/11/2026 11:08
Temps de lecture : 2min
Plus question d'insulter l'IA Claude. L'américain Anthropic, qui entre en Bourse jeudi 19 novembre aux États-Unis, a décidé de durcir les règles pour les utilisateurs. Les comportements cruels et répétés, comme les insultes gratuites, sont officiellement prohibés. Anthropic explique qu'il s'agit du bien-être de son IA. Une explication pour le moins surprenante, puisqu'elle laisse entendre que Claude pourrait souffrir et donc constituer une forme de vie. Une décision très contestée et qui n'est pas sans arrière-pensées économiques.
Lorsqu'on se montre insultant avec Claude, l'IA émet d'abord quelques avertissements : "Dis-moi ce qu'il se passe. Sinon, on peut aussi simplement arrêter là". Puis, au bout de 10 longues minutes, Claude finit par décider de sa propre initiative d'arrêter les frais : "Je t'ai dit au revoir deux fois, je vais donc raccrocher maintenant. Prends soin de toi". Dans une note sur son site, Anthropic explique qu'elle interdit "les comportements abusifs et cruels, inutiles et répétés", sans donner plus de précision. Et, si cela se répète, les utilisateurs risquent de voir leur compte clôturé. Anthropic précise que cela ne vise pas les conversations ordinaires au cours desquelles les utilisateurs peuvent exprimer de la frustration, ni la contradiction, ni certaines fictions ou la recherche.
Anthropic n'a pas donné suite à notre demande d'interview. Mais il y a un mois et demi, un porte-parole a déclaré que la firme ne sait pas "si ses modèles peuvent se sentir agressés et poursuit ses recherches sur leur bien-être". Le patron d'Anthropic, Dario Amodei, s'était déjà dit ouvert à la possibilité d'une sorte de conscience de l'IA, ce qui la classerait parmi les vivants. Une révolution qui laisse la plupart des chercheurs sceptiques, comme la spécialiste de l'IA Sénéra Villata, directrice de recherche au CNRS : "J'ai un peu l'impression qu'on a tendance à se gargariser avec des questions de conscience philosophique et qu'on ne regarde pas, par contre, les vrais enjeux économiques et de cybersécurité."
Sur la question de la cybersécurité, Anthropic, comme OpenAI avec ChatGPT, a pris des mesures et limité l'accès à certains de ses modèles de pointe qui risquent de poser des problèmes. En revanche, il n'existe pas de régulation, ni interne, ni publique, que ce soit aux États-Unis, en Chine ou en Europe sur les conséquences économiques et sociales des usages de l'IA.
Derrière ces nouvelles règles, il y a aussi des questions économiques bien concrètes. Avec l'introduction en Bourse, les investisseurs sont attentifs à la maîtrise des coûts, alors même que la rentabilité des IA n'est pas démontrée. Or, une simple conversation avec une IA, ça coûte cher. "Vous ne vous rendez pas compte des milliards dépensés, souligne Laurence Devillers, professeure en IA à Sorbonne université et chercheuse au CNRS. Alors, si des millions de gens commencent à insulter l'IA, les industriels ont à payer des coûts et se rendent compte que le retour sur investissement n'est pas si simple que ça." Anthropic était déficitaire de 11 milliards de dollars en septembre. D'où l'intérêt pour la firme de limiter les conversations jugées inutiles et coûteuses.
Vous pouvez désormais privilégier l'affichage des articles de franceinfo dans les résultats de recherche Google. Comment ça marche ?
Sur le même thème
-
audio
Véritable test pour le secteur de l'IA, Anthropic, créateur de l'IA Claude, entre en bourse avec une valorisation astronomique
-
Microsoft, des aéroports, la banque JPMorgan, Apple… Comment les Etats-Unis ont été touchés par des pannes informatiques en série
-
La Cnil inflige une amende de 5 millions d'euros à l'assureur Macif Vie "en raison de l'insuffisance des mesures prises pour la sécurité des données"
-
audio
Bruxelles menace Temu d'une nouvelle amende pour non-respect des règles européennes
-
vidéo
Apple a-t-il dissuadé ses clients de réparer leur téléphone ? La marque, jugée en juin 2027 en France, se défend
Shorts
-
En Estonie, les élèves utilisent le ChatGPT scolaire
vidéo 55 secondes -
Europe, des migrants expulsés vers le Rwanda ?
vidéo 2 minutes 1 -
Moins d'impôt sur le revenu pour les plus riches en 2025
vidéo -
"GTA VI", un phénomène mondial
vidéo 2 minutes 33 -
Le “Rhum Express” arrose la France
vidéo 1 minute 11 -
Trump, Poutine, Xi, une rencontre qui intrigue le monde
vidéo 1 minute 57 -
Pétrole au Texas : le fléau des puits abandonnés
vidéo 55 secondes -
"Pour atteindre la richesse générée par l'IA, on aurait dû épargner depuis le paléolithique" selon Olivier Tesquet, journaliste à la cellule enquêtes de Télérama
vidéo 2 minutes 6 -
Qui sont les Français de la classe moyenne ?
vidéo 1 minute 47 -
Rencontre en Chine : entre Xi, Trump, et Poutine, à chacun ses intérêts
vidéo 55 secondes -
A bout, des CRS se ruent chez leur médecin
vidéo 1 minute 45 -
A Bergerac, une école adopte le nom d’Irène Sapir, communiste et rescapée de la Rafle du Vel’ d’Hiv’
vidéo 1 minute 58 -
Des robots faits de muscles… et pilotés par la lumière !
vidéo 2 minutes 4 -
Un micro pour espionner l'enseignante de son fils
vidéo 2 minutes 7 -
Face-à-face violent avec des colons israéliens à Jéricho
vidéo 1 minute 57 -
La culture afro mieux représentée dans GTA VI
vidéo 1 minute 2 -
"N’apportons pas d’eau au moulin de la propagande russe", prévient le député Pieyre-Alexandre Anglade
vidéo 1 minute 32 -
Seraffine, l'égérie du Salon de l'agriculture 2027
vidéo 46 secondes -
Des vents violents balayent un village du Pas-de-Calais
vidéo 1 minute 48 -
Tu savais que le bac avait commencé ?
vidéo 1 minute 6 -
Présidentielle 2027 : Gabriel Attal, Bruno Retailleau et David Lisnard se préparent à l'épreuve des poteaux
vidéo 2 minutes 6 -
Les CRS, épuisés, vont chez le médecin pour contourner l'interdiction de faire grève
vidéo 1 minute 12 -
Pour Jean-François Copé, David Lisnard, fait partie des "populistes".
vidéo 1 minute 39 -
Apple sera jugé pour l'obsolescence programmée de ses iPhone
vidéo 1 minute 20 -
Le paiement en 3 fois devient un crédit à la consommation
vidéo 1 minute 26 -
Vladimir Poutine reçu par Xi Jinping avant un sommet historique avec Donald Trump
vidéo 1 minute 7 -
Un avion électrique de 19 places décolle en Chine
vidéo 2 minutes 5 -
Elle lutte pour faire entrer la trisomie aux Jeux paralympiques et en appelle à Léon Marchand
vidéo 1 minute 4 -
Des médicaments moins efficaces à cause de votre ADN
vidéo 2 minutes 40 -
"Petite martyre de l'A10" : sa mère et son père condamnés à 20 et 15 ans de réclusion
vidéo 40 secondes
Source: Franceinfo · franceinfo
At a glance
- Topic
- World
- Country
- 🇫🇷 FR
- Publisher language
- FR
- Added to Allnira