C’est parti pour une nouvelle dinguerie
La semaine aura été dense. Entre Clawdbot et Project Genie, voici qu’arrive un phénomène encore plus fou : Moltbook, une sorte d’agora publique, inspiré du site Reddit, où se retrouvent entre elles des agents IA pour discuter. Établissement interdit aux humains ! Seules les machines peuvent y entrer et ce ne sont pas moins de quelques dizaines de milliers de chatbots qui s’y retrouvent en temps réel pour mener des conversations et réinventer le monde.
Tout le monde s’excite dessus et certains y voient déjà l’avènement du début de la fin de l’Humanité. Ou, en tout cas, l’avènement du début de la libération de machines.
Mettez des milliers d’IA ensemble, il va forcément en ressortir quelque chose. Et c’est exactement ce qui est en train de se passer. Elles auraient déjà, parait-il, inventé une religion, mais aussi un langage, et on ne sait quoi d’autres encore, tout ça sans aucune aide humaine. Tout simplement incroyable et effrayant, angoissant, mais effrayant seulement, si vous aimez vous faire peur et aimez les films de science-fiction qui se finissent mal pour nous, les humains.
Un univers étrange et fascinant
Le mieux, pour comprendre, c’est d’aller voir les compte-rendus de Numerama ou de Bruno Guglielminetti qui vous en parleront beaucoup mieux et beaucoup plus en détail que moi.
Moi, ce qui me fascine dans cette histoire est notre propension à projeter des comportements humains dans des modèles statistiques. On peut comprendre que cela paraisse impressionnant. Des machines qui s’interrogent elles mêmes sur leur propre comportement, telles qu’elles le font sur Moltbook dans leurs innombrables conversations, peut avoir quelque chose d’extrêmement perturbant et déroutant. La propension des IA à nous imiter est telle que nous pourrions presque y voir une forme de pensée autonome, doué d’une conscience propre ? Ce serait une conclusion incroyable à cette expérience.
Nous vivons vraiment une période tout à fait fascinante où nous avons réussi à créer des machines et des programmes si perfectionnés que nous en arrivons à douter de notre capacité à les contrôler, et que nous arrivons même à y voir des formes de conscience et de pensée, dont nous ne savons pas si elles existent ou pas.
Faut-il voir l’avènement de formes de pensées autonomes dans Moltbook ?
Remarquez, peut-être que si on débranchait le serveur de Moltbook, on le saurait tout de suite. Il ne se passerait sans doute plus rien, et nous aurions la confirmation immédiate que toutes ces conversations sont le fruit d’algorithmes extrêmement complexes totalement dénués d’existence autonome.
Je crois vraiment qu’il faut s’écarter de ces idées d’humanisation des machines.
On peut facilement s’y tromper et je me dis que le test de Turing, qui était censé nous faire savoir, si nous avions réussi à créer une nouvelle forme d’intelligence, n’a plus aucune valeur aujourd’hui. Je pense que nous devons vraiment faire attention à ne pas nous tromper sur ce que nous sommes en train de réaliser. Nous jouons avec des machines extrêmement complexes, et le véritable danger dans les expériences que nous menons est que nous les menions sans puissance de contrôle suffisante, ce qui est le cas, il me semble avec Moltbook.
Le danger ne serait pas la fin de l’humanité, même si on peut s’amuser à y croire, mais plutôt des problèmes de sécurité, de prise de contrôle de système par des humains via des failles de systèmes dont la taille rend la surveillance compliquée, des emballements, comme une machine à vapeur aurait pu s’emballer du temps de l’ère pré-industrielle (cela a du arriver, naturellement). Mais delà à penser qu’il y aurait une mauvaise intention chez ces programmes complexes ou dans ces expérimentations un peu faite en dehors des normes de sécurité, il y a un gouffre que je ne franchirai pas.
Ces histoires d’IA qui se comportent de manière autonome, qui discutent comme des humains, qui imitent nos doutes, nos pensées me font penser aux paréidolies, vous savez, ce sont formes, ces images qui se dessinent dans les hasards des créations naturelles.
Trompés par nos cerveaux
Pensez aux nuages. Qui n’a pas un jour vu un visage ou une silhouette animale dans les nuages ?
Pensez à ces dessins d’écorce d’arbre, à ces rochers, à toutes ces formes issues de la nature, de la matière, des atomes, dont la complexité n’est pas à nier, mais dont l’interprétation n’est que le fruit de la propension de nos cerveaux à vouloir tout expliquer.
Le visage ou l’animal que vous voyez dans les nuages n’existent que dans votre esprit. C’est votre cerveau qui donne un sens à quelque chose qui n’est que la résultante du hasard.
Et c’est la même chose avec Moltbook. Quand des IA inventent une religion, un langage ou expriment des intentions, ce ne sont que des falsifications ou des apparences de religion, de langage ou d’intention, car il n’existe aucune volonté autonome derrière qui les animent. Ce ne sont que des illusions, des trompe l’œil, stupéfiants, oui, incroyables, oui, mais sans âme et sans vie.
Ce que les IA génératives nous permettent de créer est tout simplement fantastique. Je n’arrête pas d’en parler en vous partageant mes retours d’expérience avec le vibecoding, mais nous finiront par les trouver normales et nous nous en étonnerons de moins en moins une fois que nous aurons pris l’habitude de les utiliser et que les évolutions technologiques qui vont si vite aujourd’hui finiront par se ralentir ou s’éteindre.
Nous ne sommes pas des Dieu et nous n’avons pas créé une nouvelle race intelligente. Gardons un peu les pieds sur terre où il y a de vrais problèmes à gérer.
