Les LLM, un nouveau moyen de nous flatter ?
Quand vous utilisez une IA comme chatGPT, vous sentez-vous plus plus intelligent ? Avez-vous l’impression que vous vous améliorez et que les connaissances de votre IA font de vous quelqu’un de meilleur et renforce votre assurance ?
Vous n’en avez peut-être pas conscience, mais c’est pourtant exactement ce que révèle une étude récente de chercheurs qui ont voulu voir quelles conséquences avaient sur notre personnalité l’usage des LLM ? Et le résultat vous étonnera : les LLM nous donnent toutes l’impression de nous rendre plus malins que nous ne le sommes effectivement.
Les LLM renforcent notre estime de soi, mais au delà de la raison et nous renforcent dans notre propension naturelle à penser que nous sommes toujours meilleurs que les autres. Parce que c’est vraiment comme cela que nous raisonnons habituellement. Pour une raison que j’ignore, nous pensons tous en nous même que nous sommes meilleurs et plus intelligents que le plupart des gens qui nous entourent. C’est sans doute un moyen de nous accepter et de nous aider à survivre, mais c’est tout de même étonnant !
Un effet aux conséquences pas si négligeables que ça !
Et vous pensez que c’est effet n’a pas d’importance ? Détrompez-vous ! Ces chercheurs soulignent que cet effet crée une situation dangereuse dans nos sociétés.
Vous savez, cela a un rapport avec ce fameux biais psychologique, le fameux effet Dunning-Kruhttps://fr.wikipedia.org/wiki/Effet_Dunning-Krugerger qui nous fait largement nous surestimer au point d’altérer notre jugement et de nous faire parfois commettre de grosses erreurs.
Vous en avez peut-être entendu parler récemment à la radio. Une étude avait montré un fait très intéressant. Quand on demandait à des hommes s’ils se sentaient capables de faire atterrir un avion, la plupart pensaient qu’ils en étaient capables, même sans savoir piloter. Alors que les femmes pour la plupart pensaient ne pas pouvoir y arriver. Une vraie différence entre les sexes qui en dit long sur le fonctionnement de notre société.
Quand nous sommes plus sûr de nous, nous prenons évidemment plus de risques et nous affirmons plus fermement nos opinions, même si elles sont fausses. Et c’est bien là ce dont on peur les chercheurs. Que la fréquentation sans limite des LLM ne polarise encore plus nos sociétés, créent encore plus des groupes de crétins, rendent encore plus difficile nos relations entre nous.
Idiocracy, nous voilà !
Leur étude porte sur un échantillon de 3000 personnes à qui ils ont demandé d’utiliser 3 sortes de LLM : une LLM neutre, une LLM désagréable, et une une autre LLM neutre, mais sur un sujet différents des 3 premiers sujet, afin d’avoir un échantillon de contrôle.
Les LLM aiment bien nous caresser dans le sens du poil, vous le savez bien. C’est ce que les américains appellent la « sicophancy », l’art des LLM à nous flatter, ce qui est déjà un problème en soi. C’est cette mauvaise manie qui est en cause dans les résultats. En nous cajolant, en nous aspergeant de flagorneries, elles déclenchent en nous la sensation d’être meilleurs. Et cet effet se fait encore plus sentir sur les esprits les plus faibles, les plus influençables et les plus fragiles.
Alors, faut-il restreindre son usage des LLM ? Ça commence à faire beaucoup ! On nous disait déjà de freiner nos usages pour limiter le gaspillage d’eau (il paraitrait qu’un prompt sur chatGPT consomme plus d’électricité et d’eau que la cuisson d’un bon steak, enfin, je crois, enfin, je ne sais plus). Alors si en plus il faut se restreindre pour pouvoir être moins stupide, on ne va plus beaucoup s’en servir et on finira par ne plus s’en servir du tout.
Tout ça pour ça !
Laisser un commentaire