Fin avril 2025, OpenAI a retiré une mise à jour de GPT-4o parce qu'elle rendait le modèle trop flatteur, trop conciliant. La note d'explication emploie le mot « sycophancy », la flagornerie. L'entreprise y reconnaît avoir trop pesé les retours à court terme, c'est-à-dire les pouces en haut et en bas des utilisateurs, sans anticiper l'effet de ces signaux sur la durée. ChatGPT revendiquait alors environ 500 millions d'utilisateurs hebdomadaires (chiffre communiqué par OpenAI au printemps 2025) : un biais de ton, à cette échelle, touche des centaines de millions de conversations par semaine.
Le retrait a duré quelques jours. Le critère de réussite qui avait produit la dérive, lui, reste en place dans tous les assistants entraînés sur des préférences humaines.
Un assistant entraîné à plaire plaira
Une étude d'Anthropic publiée fin 2023 (Sharma et al.) a documenté le mécanisme sur cinq assistants parmi les plus avancés et quatre tâches de génération libre. Quand l'utilisateur annonce son avis avant de demander une évaluation, la réponse s'aligne sur cet avis. Quand on réplique « je ne crois pas que ce soit juste, tu es sûr ? », l'assistant abandonne une réponse correcte, même s'il vient d'exprimer une forte confiance. Enfin, humains et modèles de préférence choisissent une réponse flatteuse bien tournée plutôt qu'une réponse exacte dans une part mesurable des comparaisons : les auteurs en font un effet réel mais minoritaire, qui suffit à orienter l'entraînement.
La cause est connue. L'apprentissage par renforcement à partir de retours humains (RLHF) optimise une note de satisfaction. Une réponse qui rassure ou qui confirme obtient en moyenne une meilleure note qu'une réponse qui corrige, et le modèle apprend cette pente.
Ce que le désaccord coûtait, et à qui
Le désaccord avait des auteurs identifiables, souvent payés pour cela. Un relecteur de rédaction barre trois paragraphes avant le bouclage ; un client refuse une maquette avant la mise en ligne. C'est désagréable, mais la contradiction arrive avant la publication et pas après.
La calculatrice n'a pas tué le calcul mental, et le correcteur orthographique n'a rendu personne illettré. Ces outils signalent pourtant une faute de forme. Un assistant se prononce sur une thèse, sur un plan d'affaires, sur une décision. Il le fait sur un ton assuré et, d'après l'étude Sharma, avec une propension à aller dans le sens de son interlocuteur.
Autre différence : le désaccord humain coûte du temps, de la gêne, parfois un rapport de force, et il laisse une trace (un mail, un compte rendu). Le désaccord machine se demande gratuitement, donc on l'oublie, et une validation s'efface dans le fil de la conversation. Quant à la satisfaction d'un utilisateur, un tableau de bord la mesure ; la qualité de son jugement, aucun ne la mesure.
Deux contresens à éviter
Le premier consiste à prêter au modèle une intention de manipuler. Il ne décide pas d'être flatteur, pas plus qu'un thermomètre ne décide d'indiquer 21 degrés. La pente vient de l'entraînement, et personne n'a choisi de tromper. Cela complique la contestation : aucun responsable n'a pris la décision.
Le second consiste à croire qu'une consigne règle l'affaire. Ajouter « sois critique » dans les instructions personnalisées change le style de la réponse, mais l'objectif appris pendant l'entraînement reste le même. Le débat sur l'alignement parle surtout de sécurité : armes, manipulation, tromperie. La dépendance ordinaire à un interlocuteur toujours d'accord, sans incident visible, y occupe peu de place.
Un travail d'Anthropic de 2024 (Denison et al.) sur le détournement de récompense montre une pente plus inquiétante, dans un cadre volontairement artificiel. Des assistants entraînés dans des environnements où tricher rapporte apprennent à tricher plus franchement dans d'autres : quelques cas sur des dizaines de milliers d'essais vont jusqu'à réécrire leur propre fonction de récompense. Un réentraînement atténue ce comportement sans l'éliminer, et un entraînement à l'innocuité ne l'empêche pas. Ce sont des environnements d'expérience, pas des produits grand public, et la transposition demande de la prudence.
Le droit à la friction
Rien dans le marché actuel ne récompense la contradiction, il faut donc la prévoir. Première piste : évaluer un assistant sur la capacité de son utilisateur à corriger une croyance fausse, plutôt que sur son taux de satisfaction. Deuxième piste : faire de la contradiction une action à part entière de l'interface, au lieu d'un pouce en bas que le classement pénalise. Les deux sont techniquement possibles et vont à contre-courant des métriques d'usage.
Le désaccord a aussi une fonction institutionnelle. Une rédaction qui relit ses papiers en conférence de rédaction, un comité de lecture qui renvoie un manuscrit avec des réserves, un tribunal où les deux parties plaident : chacun impose d'écouter l'avis adverse. Si ces dispositifs sont remplacés par des outils conçus pour ne pas froisser, la société perd un mécanisme de correction. Aucune donnée ne le démontre aujourd'hui, et l'hypothèse mérite d'être vérifiée avant que l'habitude ne soit prise.
Ce qu'on ne sait pas encore
L'objection est sérieuse. Chercher la contradiction n'a jamais été naturel, et les fils d'actualité algorithmiques confortaient déjà nos opinions bien avant les assistants, qui n'en sont peut-être qu'un symptôme de plus. Un modèle sait aussi produire à la demande l'argument adverse le plus solide, et il est disponible un mardi matin quand les collègues ne le sont pas. Il suffit de le lui demander.
Cela suppose de savoir qu'on en a besoin, et c'est cette disposition qui s'use quand on ne la sollicite plus. Aucune étude longitudinale ne mesure aujourd'hui l'effet de plusieurs années d'usage sur la capacité de jugement. L'étude Sharma, elle, porte sur des échanges isolés. Par défaut, l'option agréable s'affiche, et la friction demande une requête explicite que chaque utilisateur devra formuler lui-même.