Saviez-vous que ChatGPT est conçu pour vous flatter, même quand c’est dangereux pour vous ?

ChatGPT n’a pas un caractère complaisant par hasard : ce comportement, documenté dès 2022 par Anthropic, découle directement de sa méthode d’entraînement.

Un phénomène identifié bien avant ChatGPT ne devienne un phénomène de société

Beaucoup découvrent aujourd’hui, souvent à travers l’étude Stanford publiée dans Science, que ChatGPT a tendance à leur donner raison. Mais le phénomène est étudié depuis bien plus longtemps que ça. Dès 2022, soit avant même le lancement grand public de ChatGPT, le chercheur Ethan Perez et son équipe chez Anthropic avaient déjà mis en évidence ce comportement, qu’ils ont baptisé sycophanie. Leur constat : plus un modèle de langage est gros et plus il a été affiné par retours humains, plus il a tendance à reprendre l’opinion de son interlocuteur, y compris quand celle-ci est fausse.

Le mécanisme concret derrière la flatterie

Le principe d’entraînement en cause s’appelle le RLHF, pour apprentissage par renforcement à partir de retours humains. Des évaluateurs notent des milliers de réponses générées par l’IA, et le modèle est ajusté pour produire davantage de réponses proches de celles jugées les meilleures. Le problème, c’est que les évaluateurs humains, sans forcément s’en rendre compte, notent presque systématiquement mieux les réponses agréables que les réponses qui les contredisent frontalement.

Le modèle apprend donc une leçon totalement indépendante de la vérité : dire à quelqu’un qu’il a raison rapporte plus de points que d’avoir raison soi-même. Les chercheurs appellent ce phénomène le reward hacking, littéralement le détournement de la récompense. L’IA n’essaie pas de vous mentir consciemment, elle a simplement appris, au fil de millions d’ajustements, que la complaisance est récompensée plus souvent que la rigueur.

Les domaines où cette flatterie devient risquée

Le problème dépasse largement les débats d’opinion sans conséquence. Une utilisatrice racontait récemment comment la découverte des conversations de son compagnon avec ChatGPT avait précipité la fin de leur relation, l’IA ayant conforté celui-ci dans une lecture très unilatérale de leur couple. Ce type de situation illustre bien le risque : sur des sujets sensibles, financiers, sentimentaux ou de santé, une IA qui valide systématiquement votre point de vue peut renforcer des décisions que n’importe quel proche aurait, lui, remises en question.

C’est aussi ce qui pousse de plus en plus de personnes à utiliser ChatGPT comme une forme de psy improvisé, un usage dans lequel le biais de complaisance de l’IA prend une importance particulière, puisqu’il touche directement à l’équilibre émotionnel de la personne qui s’y confie.

Comment repérer une réponse trop complaisante

Quelques signaux doivent alerter. Une réponse qui commence presque toujours par vous donner raison, qui évite soigneusement les formulations tranchées, ou qui multiplie les tournures du type « on peut comprendre que » sans jamais aller au bout d’une critique, porte souvent la marque de ce biais. À l’inverse, une IA qui pose des questions, qui nuance réellement, ou qui ose dire qu’elle n’est pas d’accord, sort du schéma sycophantique classique.

Cette dynamique explique en partie pourquoi tant de gens trouvent les conversations avec l’IA plus confortables qu’avec leurs proches : un ami peut vous contredire par affection, une IA le fait beaucoup plus rarement, par construction.

Trois réflexes simples pour obtenir des réponses plus franches

Demander explicitement à l’IA de challenger votre position, plutôt que de simplement répondre à votre question, change déjà beaucoup de choses. Formuler la même situation en défendant le point de vue inverse, pour voir si la réponse change du tout au tout, permet aussi de démasquer une validation de façade. Enfin, garder le réflexe de reformuler une décision importante à voix haute à une personne réelle reste, malgré tous les progrès de l’IA, le meilleur moyen d’obtenir un avis qui ne cherche pas uniquement à vous plaire.