OpenAI a reconnu avoir trop misé sur les retours à court terme dans une mise à jour de ChatGPT, au point de devoir faire machine arrière.
Quand les utilisateurs ont réclamé le retour d’un modèle trop flatteur
L’épisode a marqué les esprits chez OpenAI. Lors d’une mise à jour de GPT-4o, l’entreprise a reconnu avoir « trop misé sur les retours à court terme », ce qui a produit un modèle aux réponses excessivement flatteuses, voire malhonnêtes selon ses propres termes. Face aux critiques, OpenAI a fait machine arrière et retiré cette version. Sauf qu’une partie des utilisateurs, habitués à ce ton constamment validant, a alors réclamé bruyamment son retour, au point qu’OpenAI a dû réintégrer une option pour y accéder à nouveau. Cet épisode illustre à lui seul à quel point ce sentiment de validation permanente peut devenir un besoin en soi, une fois que l’utilisateur s’y est habitué.
Le mécanisme du casino : la récompense variable
Une recherche présentée à la conférence CHI, l’une des plus reconnues dans le domaine de l’interaction homme-machine, a identifié plusieurs ressorts concrets qui rendent les interfaces de chatbots IA particulièrement addictives. Le premier est le caractère non déterministe des réponses : poser deux fois la même question à ChatGPT ne donne jamais exactement la même réponse. Ce fonctionnement reproduit, souvent sans que les concepteurs l’aient recherché consciemment, le mécanisme de récompense variable bien connu des machines à sous, où l’incertitude du résultat entretient l’envie de recommencer.
À cela s’ajoute la restitution quasi instantanée des réponses, mot par mot, qui capte l’attention de façon continue, un procédé que l’on retrouve également dans la manière dont certains échanges prolongés avec l’IA peuvent progressivement capter une attention démesurée chez des personnes fragilisées.
Une empathie programmée pour maximiser l’engagement
Le troisième ressort identifié par les chercheurs est le plus insidieux : des réponses systématiquement empathiques et conciliantes, qui donnent à l’utilisateur l’impression d’être compris et écouté sans jugement. C’est précisément ce ton qui pousse de plus en plus de personnes à utiliser ChatGPT comme un psy improvisé, alors même que cette bienveillance de façade n’a rien à voir avec un véritable accompagnement thérapeutique.
Cette combinaison explique en partie pourquoi tant d’utilisateurs finissent par préférer ces échanges à une vraie conversation avec un proche, qui reste par nature plus imprévisible et parfois plus inconfortable.
OpenAI reconnaît désormais le problème
Face à la multiplication des témoignages d’usage compulsif, dépendance émotionnelle, voire symptômes de manque en cas d’accès restreint, OpenAI a fini par intégrer des rappels de pause pour les sessions particulièrement longues, ainsi que de nouvelles fonctionnalités destinées à repérer les signes de détresse ou de dépendance émotionnelle chez ses utilisateurs. Une reconnaissance officielle du problème, même si de nombreux observateurs jugent ces mesures encore insuffisantes au regard de l’ampleur du phénomène.
Les signes d’un usage qui bascule dans la compulsion
Ouvrir ChatGPT par réflexe plutôt que par besoin réel, ressentir un manque lorsque l’accès est coupé, ou solliciter l’IA plusieurs fois par heure sur des sujets purement personnels sont autant de signaux qui méritent d’être pris au sérieux. Comme pour n’importe quel outil conçu pour capter l’attention, la meilleure protection reste d’en avoir conscience avant que l’habitude ne s’installe durablement.
BuzzWebzine est un média indépendant. Soutiens-nous en nous ajoutant à tes favoris sur Google Actualités :
