L’IA fait peur, l’IA fait réfléchir, l’IA détruirait notre cerveau. Moi, je n’en suis pas si sûr, et je vous raconte pourquoi.
L’étude qui disait que l’IA rendait les gens idiots
Il y avait cette étude, l’autre jour, passée sur linkedIn en boucle, qui disait que les IA nous rendaient idiots. Ce fut une aubaine pour tous les anti-IA du réseau et ils ne se gênèrent pas pour le faire savoir. Mais bien sûr, comme souvent, la plupart n’avaient pas pris la peine d’aller lire dans le détail ce que disait l’étude qui… en réalité, ne faisait rien d’autre que de dire que les compétences que nous déléguions à l’IA voyaient leur place diminuer dans notre cortex…. rien d’anormal, ni d’extraordinaire, ni de révolutionnaire… la marche normale du cerveau en quelque sorte. Mais comme je le dis souvent, chacun veut voir dans la vérité sa propre vérité et tant pis si ça n’est pas la vérité.
C’est vrai pourtant que, parfois, quand j’utilise chatGPT ou une autre IA du même genre, j’éprouve un sentiment de puissance incroyable, car, réellement, chatGPT me donne un accès illimité au savoir et à la connaissance, et j’ai l’impression de pouvoir y accéder, désormais, sans contrainte, sans limite, en comprenant (presque) tout, comme si, moi même, j’étais devenu omniscient. C’est une sensation très grisante… je suis d’ailleurs tombé sur un article du Monde qui avait interviewé plusieurs scénaristes de télévision et de cinéma et qui expliquaient comment, après avoir rejeté chatGPT, s’en étaient finalement emparés pour écrire. L’étonnant retournement d’attitude vis à vis du chat était tellement surprenant que même le journaliste semblait avoir du mal à le croire, et pourtant, c’était là, devant lui, et il avait beau chercher, la plupart de ceux qui avaient répondu à ses questions l’affirmaient haut et fort : ils adoraient l’IA ! Je me demandais quelle drogue on avait pu mettre dans leur café , mais non, aucune substance psychotrope n’était à la source de ce changement, seulement une prise de conscience, un temps d’adaptation, de la curiosité, des essais, aboutissant finalement à l’adoption.
Apprivoiser l’IA et lutter contre nos réflexes primaires
Exemple intéressant ! Symptomatique de nos réflexes primaires : devant un animal inconnu, au début, on a peur, on peut fuir, revenir, fuir à nouveau, revenir encore, s’approcher, essayer de communiquer avef lui, le taquiner, l’observer, on essaie de le comprendre, de comprendre comment il agit, puis, peu à peu, voyant qu’il n’y a pas de danger immédiat, on essaye d’en savoir plus, de maîtriser la chose (un peu comme un cheval sauvage), de monter dessus, de lui faire obéir à des ordres, pour finir par le dominer et s’en servir tous les jours comme si il avait toujours été là. Ces scénaristes avaient fini par dompter la bête dont ils avaient eu peur au départ.
Monter à cheval rend-t-il ces scénaristes plus idiots ? Sont-ils moins inventifs ? Moins créatifs ? Font-ils moins bien leur métier ?
Non, pas le moins du monde ! D’ailleurs, ils le disent eux mêmes : l’IA n’est pas là pour faire le boulot à leur place ni leur donner des idées (ce qui est quand même la base de leur métier). Ce n’est pas du tout comme cela qu’il la considère. Pour eux, pour la plupart, d’après ce que j’en ai compris, ils l’utilisent comme un outil polyvalent (encore l’image du cheval) qui leur sert à se renseigner, s’informer, comprendre comment fonctionne telle ou telle chose… et là, ils le disent tous : l’IA est un outil incroyable pour qui veut se mettre dans la peau d’un chirurgien, d’un flic, d’un homme ou d’une femme politique… jamais auparavant ils n’avaient eu accès à une telle base de connaissances ! Ils s’en servent pour se challenger… Les idées ? ChatGPT peut en avoir, mais elles sont tellement mauvaises que leur utilité agit comme un stimuli sur le cerveau pour faire mieux. Un peu comme un mètre étalon qui vous donnerait une mesure de ce qui est bon ou mauvais en termes d’histoire, de scenarios, de gags, etc.
Tariq Krim et la perte du sens de l’effort
Aujourd’hui, tiens, je suis tombé sur une autre opinion : tout aussi intéressante. Elle vient de Tariq Krim, brillant entrepreneur français des années 2000, et penseur. Je ne le suis pas régulièrement, mais je sais qu’il publie souvent des réflexions sur le monde qui nous entoure, le numérique, l’entrepreneuriat… l’IA, forcément. Dans un article sur lequel je suis tombé (et qui a déclenché l’envie d’écrire celui là), il raconte comment, enfant, il avait dû apprendre le piano en s’entraînant et en travaillant pendant des heures pour atteindre un niveau acceptable… il dit bien « acceptable », pas un excellent niveau, pas un niveau génial… un bon niveau, audible… On sait tous que la musique, tout comme la danse, ou certains autres arts ou certaines autre discipline pas forcément artistiques, demandent efforts et abnégation. Former un bon chaudronnier (oui, oui, un chaudronnier) demande des années de patience. Un designer a besoin d’expérience et de travail pour arriver à être original. C’est la même chose pour le dessin. On peut apprendre le dessin facilement… mais savoir bien dessiner demande des années de travail et d’observation. Ce n’est pas si facile d’y arriver… ce n’est même pas donné à tout le monde…
Si Tariq Krim parle de cela, c’est parce qu’il pense que l’IA va balayer ce sens du travail : balayer la nécessité d’apprendre et de faire des efforts pour arriver à produire quelque chose, à créer quelque chose.
Il n’est pas anti-IA, il dit juste que le danger derrière l’IA, c’est que nous nous croyions si puissants, si capables de faire des choses dont ne nous croyions pas capables auparavant, que cela pourrait nous donner la sensation de nous épargner tout cet apprentissage, tout cet effort pour nous inculquer quelque chose à nous même.
Ce qu’il dit, ce n’est pas que l’IA est inutile ou qu’elle nous rend idiots et médiocres… ce qu’il nous dit, c’est que la toute puissance de l’IA ne devrait pas nous faire abandonner notre quête de savoir et de savoir faire les choses par nous mêmes. Si vous pensez que savoir faire des prompts suffira à votre avenir professionnel, vous vous trompez lourdement. L’IA ne vous rendra ni plus intelligent, ni plus compétent. C’est sans doute même tout le contraire : utiliser l’IA comme un âne (excusez-moi du terme) fera de vous avant tout un âne… une personne juste capable de pousser sur des boutons pour faire avancer la machine.
L’IA peut faire de nous des ânes ou des Léonard de Vinci
C’est pour cela qu’on voit fleurir sur les réseaux – et linkedIn, en particulier – des centaines et des milliers de posts de gens qui croient avoir découvert l’énergie nucléaire et qui n’ont, en fait, rien compris à l’IA. Ils croient que l’IA les rend capables de tout faire, alors qu’ils ne savent rien. Ils croient savoir coder, alors qu’ils ne le savent pas. Ils croient pouvoir faire une opération à cœur ouvert (oui, oui, je caricature), parce que chatGPT leur a dit comment cela se faisait, une opération à cœur ouvert. Ils croient savoir faire du design, parce qu’ils ont utilisé une IA qui leur a généré 10 maquettes de site en 30s… Ils croient qu’ils savent beaucoup de choses, alors qu’ils ne savent rien d’autres que ce qu’ils ont appris à l’école… ou qu’ils pensent avoir appris….
Tariq Krim donne un autre exemple que j’aime aussi beaucoup.
La boîte noire de l’IA nous empêche-t-elle d’apprendre le monde ?
Dans les années 70-90, quand vous faisiez de l’informatique, vous pouviez démonter l’ordinateur et le comprendre. Vous pouviez ouvrir un programme et comprendre comment il interagissait directement avec le processeur. Il était encore possible, en ce temps là, d’ouvrir le capot et de voir ce qu’il y avait en dessous, et de le modifier, de le réparer, de l’améliorer. C’était l’ère des bricoleurs…
Il y a encore des ères des bricoleurs aujourd’hui, mais en tout cas pas avec l’IA… ceux qui croient qu’on peut bricoler avec l’IA ratent le fait que personne ne peut mettre les mains sous le capot de l’IA (pas même vraiment ceux qui en maîtrisent le mieux les arcanes).. L’IA ne nous offre pas cette opportunité de comprendre « comment ça marche » en le démontant… comme moi je le faisais avec mon frère quand nous étions gamins. J’avais trouvé une moto, une 125, à la casse… et nous avions décidé de la remettre en marche… la meilleure idée que nous avions pour le faire, car nous n’y connaissions pas grand chose à la mécanique, fut de la démonter entièrement… jusqu’au cœur de son moteur… et nous l’avions fait : démonté, puis remonté… et je ne vous raconte pas la joie qui m’envahit lorsque j’entendis ses premiers pétarades après des heures et des heures de labeur à essayer de comprendre comment tout ça fonctionnait.
Avec l’IA, vous ne pouvez pas démonter quoique ce soit.
Vous ne pouvez pas démonter chatGPT ou Mistral pour comprendre comment ils fonctionnent. C’est impossible… tout ce que vous pouvez faire, c’est vous en servir… envoyer des prompts et voir ce qui ressort… A part comprendre à peu près la manière dont ils réagissent, vous n’en saurez pas plus… Et vous n’en serez pas beaucoup plus malin… ni plus omniscient… vous ne serez pas chirurgien, ni plombier-zingueur, ni développeur, ni pâtissier, ni écrivain, ni musicien… Sans efforts, sans plonger au cœur des choses, l’IA ne vous aura pas permis d’apprendre quoique ce soit. Apprendre, progresser, intégrer requiert des efforts, et souvent, beaucoup d’efforts. Penser qu’on donne chatGPT à un stagiaire vous permettra de vous débarrasser de tâches fastidieuses ou que vous n’aimez pas vous conduira tout droite à l’enfer du management… Le stagiaire ne pourra jamais concevoir aussi bien que vous votre prochaine campagne marketing et l’IA ne l’aidera pas à faire mieux que vous… au contraire !
IA et écriture : le grand dilemme
Moi, j’aime écrire, et j’ai souvent essayé d’utiliser l’IA pour écrire certaines choses à ma place.
Il y a des sujets qui me gonflent… et ma tendance naturelle est d’essayer de ne pas m’en occuper… Il ne m’a pas fallu longtemps pour me dire que tout ce qui me « gonflait » pouvait être confié à chatGPT ou à Claude, ou à Mistral. Un prompt ou deux, bien peaufinés, bien optimisés, en suivant les trucs et astuces des milliers d’experts qui pullulent à chaque coin de LinkedIn pouvaient enfin me permettre de trouver un palliatif à mon extraordinaire tendance à repousser au loin tout ce qui m’ennuie.
Ce que j’ai très vite constaté, c’est que les IA étaient nulles pour produire du bon contenu.
La première raison, c’est que quand on lit un texte généré par IA, il en ressort très nettement qu’il n’y a aucun cerveau vivant derrière ce texte… un peu comme si un magnifique chimpanzé avait réussi à écrire quelque chose de très intelligible pour des humains, mais juste par chance…. Je ne sais pas comment expliquer ce phénomène, mais je le ressens à chaque fois que je confie l’écriture d’un texte à chatGPT. C’est parfaitement écrit, sans fautes d’orthographe ou de grammaire… c’est même bien composé, mais cela donne l’impression d’avoir été écrit… eh bien, je ne vois pas d’autre mot que : « Écrit par une machine »…
Pourquoi c’est gênant ? Parce qu’à la lecture d’un texte écrit par l’IA, il y a l’impression qu’aucun raisonnement logique n’a été mis à l’œuvre, que ce n’est qu’un assemblage, une mosaïque, mais que cette mosaïque n’a pas d’auteur… on n’y sent pas l’âme humaine !
Faut-il de l’âme humaine dans tous les textes ? Dans une notice de montage ? Un texte juridique ? Un acte notarié ? Peut-être pas pour une notice…. mais pour le reste, oui. Ce n’est pas une question artistique ou de littérature… Je ne sais pas comment l’expliquer, mais je déteste ressentir ce vide derrière ces textes parfaitement écrits… Et pour être honnête, peut-être que j’ai même déjà lu des textes entièrement générés par IA et que je ne m’en suis pas rendu compte.
La deuxième raison, c’est que ces textes sont souvent très redondants. C’est la même chose pour les images générées par IA (et je pense que c’est la même chose pour du code généré par IA)… ces textes sont plein de scories… de choses qui se répètent ou qui, à un niveau de détail inférieur, n’ont pas de sens tout en ayant l’apparence du vrai.
Je le sais, parce que je le fais souvent, générer une image de qualité avec de l’IA demande beaucoup plus d’efforts qu’un simple prompt. Si vous voulez vraiment aller loin, si vous voulez vraiment créer quelque chose d’original, de juste, de reproductible, de pertinent, vous n’arriverez à rien seulement avec des prompts. Vous devrez retoucher l’image, la modifier, la remodifier encore, l’ajuster, la recadrer… et tout ce travail, vous ne pourrez l’accomplir que parce que vous avez l’expérience de ça, que parce que vous avez l’œil et que cet « œil » n’existe que parce que vous l’avez entraîné sur des millions et des milliards d’images que vous avez pu récolter dans votre vie… aucune IA n’est capable de ça (c’est d’ailleurs un peu ce que dit Yann Lecun quand il dit qu’aucune IA ne peut avoir ni ne dépasser l’intelligence d’un enfant de 5 ans, tant l’enfant a accès à une infinité de données auxquelles l’IA n’aura jamais accès).
Je ne suis pas codeur, mais je me doute que c’est un peu la même chose. Le vibe coding, c’est un peu l’arnaque du moment, qui laisse croire que n’importe qui pourrait coder entièrement des applications sans aucune connaissance théorique ce qu’est une application : du code, une base de données, des serveurs, et des kilomètres de théorie et de culture, en une savante mixture dans votre cerveau qu’aucune IA ne saurait reproduire aujourd’hui (à ce propos, relisez donc les écrits de Stanislas Dehane, grand neurologue français qui le dit lui même : nous commençons à peine à comprendre comment fonctionne le cerveau).
Pour finir cet article, je voudrais vous partager ma théorie à ce sujet.
Le risque de l’IA : c’est de séparer encore un peu plus la classe des sachants de la classe des gens « normaux »
Le risque le plus grand selon moi n’est pas que l’IA nous rende stupides. Après tout, elle est plutôt un progrès pour l’humanité, et j’aurais même tendance à penser qu’elle rend le savoir plus accessible à tous…. on ne pourra pas dire que ça n’est pas un progrès…. ou alors à considérer que l’imprimerie a été une calamité quand Gutenberg s’est mis à imprimer, d’abord des bibles, puis tout et n’importe quoi (notez que je n’ai pas dit que les bibles étaient n’importe quoi…)
Pour moi, le risque se trouve vraiment dans notre capacité individuelle à savoir tirer parti des IA : à en être les maîtres plutôt que les esclaves.
Tout mes sens me le disent : la séparation est déjà nette entre masses éduquées et masses « inéduquées ».
Les scénaristes, Tariq Krim, moi, nous sommes tous des gens de l’intelligentsia. Nous avons l’habitude de réfléchir. Nous avons été formés pour ça. Nos métiers nous amènent constamment à douter et à utiliser notre intelligence personnelle pour trouver des chemins au milieu de forêts de questions. Quand nous utilisons l’IA, ça n’est pas pour nous transporter gratuitement à travers la forêt, c’est pour nous aider à répondre aux questions, à avancer, à progresser, à suivre ce chemin et à le transformer en œuvre (dans le sens franc-maçonnique du terme : pas une œuvre d’art, mais un travail accompli qui bénéficie à l’humanité). L’IA ne saurait, de toute façon, pas trouver le chemin, tant il est complexe, ardu, et que nous comprenons à peine dans quoi nous nous mouvons.
L’IA ne doit pas servir de guide suprême à notre pensée et à nos actes… l’IA ,n’est pas une personne… l’IA n’est pas un Dieu… l’IA ne peut pas se substituer à notre intelligence… Ne pas percevoir qu’elle n’est qu’une sorte de super outil – sans doute un des plus incroyables que l’humanité ait pu inventer parmi tout ceux qu’elle a mettre au monde – est un véritable danger de laisser penser à des millions de personnes qu’elle serait une sorte de super-potion magique qui donnerait l’intelligence et le savoir à qui maîtriserait le soi-disant « art du prompt »…
Il n’y a pas d’art du prompt.
Il y a des techniques… des astuces… des bonnes pratiques… mais le prompt ne réclame pas une intelligence supérieure, un entraînement assidu, une connaissance étendue, le prompt n’apprend pas à raisonner ou si peu, le prompt ne vous fait pas mieux savoir comment coder, compter, écrire, peindre, dessiner, jouer de la trompette, opérer un patient, changer une roue… le prompt de vous amène aucun savoir-faire…. il ne peut que vous retranscrire que ce qui existe déjà et certainement pas inventer quelque chose de nouveau.
Alors il y a de fortes chances que l’IA ne renforce une séparation des sociétés, ou y crée un nouveau fossé, entre ceux qui sauront l’appréhender pour ce qu’elle est : un outil surpuissant, magnifique, génial et dangereux à la fois….et entre ceux qui la prendront pour une fée leur apportant la connaissance et le savoir sans comprendre et sans maîtriser les fondements ce qui fait vraiment la connaissance et le savoir : le travail, l’apprentissage, l’effort… tout ce qui nous permet de rester libres, en somme, éveillés, capables d’être critiques, capables de nous remettre en question, capables de nous transformer, capables de nous enrichir et de nous améliorer… L’IA n’est qu’un adjuvant… pas un carburant.
Laisser un commentaire