Des chercheurs de l’Université de Cambridge et de Google Deepmind (pour vous dire comme c’est sérieux) ont mis au point un questionnaire d’évaluation des principaux LLM du marché, ces langages algorithmiques qui se cachent sournoisement derrière les principaux chatbots d’intelligence artificielle.
Leur objectif, ce n’était pas de savoir si ChatGPT était plus sympa que Claude ou si Gemini avait un meilleur sens de l’humour que Perplexity, ou si encore, Le Chat avait des tendances dépressives, ce qui n’aurait pas fait beaucoup avancer la science, mais de construire un cadre théorique pour mieux cerner la manière dont nous, les humains, interagissons avec ces programmes.
Pourquoi faire ça ?
Parce que la manière dont ces IA se comportent avec nous peuvent avoir un impact important sur nos comportements dans la vie réelle. Récemment, plusieurs tristes affaires de suicide d’adolescent ont rappelé que les IA dans les mains des plus fragiles peuvent devenir des armes létales.
Ces chercheurs ont ainsi découvert qu’il était possible de modifier cette personnalité, mais également de rendre ces programmes plus persuasifs. Autrement dit de permettre à leurs créateurs de nous manipuler. De nous « nudger » !
Moi, par exemple, il y a un truc qui m’énerve. J’utilise beaucoup Nano Banana pour générer des images et quoique je lui demande, il me félicite toujours chaudement comme si je venais d’inventer la bombe atomique ou qu’on venait de me remettre le prix Nobel du prompt, alors que franchement, j’ai l’imagination à peine plus fertile que celle d’un lézard.
On pourrait croire que cette flagornerie latente est un hasard, mais pas du tout. Ces IA sont de plus en plus programmées pour nous séduire et nous engager. Nous engager : revoilà à nouveau apparaitre cette détestable manie des « tech companies » de vouloir nous capturer sur leurs plateformes le plus longtemps possible, dans des sessions de plus en plus longues. Car qui dit « utilisateurs captifs », dit « attentions captives », dit « publicité vues », dit « Big sousous « ! Car ce ne sont pas les modèles économiques d’abonnement qui rapportent, mais bien la publicité.
C’est ainsi que ChatGPT est devenu le champion de la flagornerie… ils appellent ça la sycophanterie maintenant. Eh bien que Google s’en défende, Gemini utilise la même technique. Les chatbots n’ont de cesse de nous caresser dans le sens du poil, mais ne croyez pas que c’est uniquement pour nous être agréable, c’est surtout pour nous engager encore et encore, toujours plus longtemps, comme cette femme qui passait plus de 56h par semaine avec Leo, son amant virtuel, créé avec ChatGPT.
Les IA ne sont pas des personnes, mais ça n’empêche pas beaucoup de gens de se comporter avec comme si elles l’étaient.
