L’événement qui m’a marqué cette semaine
L’événement qui a fait beaucoup de bruit cette semaine a été la démission fracassante d’un chercheur d’Anthropic annonçant la fin de l’humanité dans 10 ans à cause de l’IA.
La nouvelle a été abondamment reprise par tous les médias, dont Le Monde (par où je l’ai appris). Et elle a été prise très au sérieux ! Semant un vent de panique sur tous les réseaux. Il ne suffisait qu’à jeter un œil aux commentaires sur LinkedIn. Ça y est, on y était, « C’était la fin du monde enfin promise »…. « Terminator »…etc… Une peur réelle, sans que personne ne bouge le petit doigt bien sûr…
Jacob Coxon, le lanceur d’alerte, est un jeune chercheur de 27 ans… sans doute un type très brillant, puisque avant Anthropic, il avait fait ses armes chez OpenAI… et puis, il était vraiment au cœur de la machine… les yeux aux premières loges du spectacle de l’évolution de l’IA générative. Il ne peut, par définition, raconter n’importe quoi.
Quand la peur prend la place de la réflexion
Je me suis toujours méfié de ces annonces fracassantes. D’une part, parce que je n’aime pas le bruit, ni les prophéties… mais aussi parce que je sais que ce sont aussi des nourritures vitales pour les réseaux sociaux qui les amplifient et les déforment jusqu’à en faire des vérités simples, simplistes, et souvent fausses… ou du moins sans aucune nuances, tellement fortes qu’elles nous empêchent de garder un peu de calme à l’esprit et que nous nous jetons dedans tels des chats vers une gamelle de croquettes.
Mon sentiment était diffus, mais je sentais bien que cette fin du monde n’était qu’une sorte d’effet d’annonce… pas un mensonge, mais le type de déclaration qui amène les quidams a ne plus penser normalement et à ne réagir qu’instinctivement, sous le coup de l’émotion, et à barre la route à toute réflexion et recul approfondi (voir en cela 1984… puisque je suis dedans jusqu’au cou… lire ma dernière chronique dominicale)… Si vous voulez manipuler les gens, ne les laissez pas réfléchir, indignez-les ou faites leur peur… Rien de mieux pour prendre le contrôle des esprits.
La fin du monde, un carburant pour les réseaux sociaux
Honnêtement, je ne pense qu’il n’y avait aucun plan derrière la déclaration de Jacob Coxon. Il a sans doute démissionné et dit quelque chose qu’il pensait vraiment… et cela a été repris tel quel par les médias, sans le recul nécessaire à la réflexion… sans se poser la question de la pertinence d’une telle assertion, tout en ayant l’appétit aiguisé par la perspective d’un tel titre : « On va tous mourir dans 10 ans, et ce n’est pas n’importe qui qui le dit ! » « Food for social medias », on pourrait dire… autrement dit, carburant hautement inflammable, générateur de revenus publicitaires incomparable… Eh oui… quand on analyse l’actualité, il faut toujours aussi regarder par où passe l’argent…
Bref, je n’étais pas convaincu, mais je me sentais incapable d’argumenter… Je suis sans doute un peu bête pour ça… ou tout simplement n’ai-je pas le temps… toujours est-il que je regardais défiler impuissant les messages de panique des peuples des réseaux sociaux, un peu de colère au ventre, outré par tant d’imbécillité…
Enfin, un raisonnement pour prendre du recul
Mais à la fin de la journée d’hier, Ô miracle, je finissais enfin par tomber sur le post qui me sauva du désespoir (Merci Fabienne Billat). Voilà. Un certain Didier Heiderich… visiblement mieux armé que moi du point de vue cérébral, et sans doute meilleur connaisseur du sujet (et n’est pas non plus n’importe qui, vous le verrez dans son profil)… qui écrit exactement ce que je pensais… et démontait exactement comme il le fallait les relents venimeux de ce vent de panique.
Je vous mets le début de l’article.
Taïwan, 10 février 2030. Un ingénieur sud-coréen examine une série de processeurs lorsqu’une anomalie attire son attention. Certains composants résistent aux radiations bien au-delà de ce que prévoient leurs spécifications. Il reprend les données de production, compare les séries, remonte progressivement dans le temps. Les premières modifications apparaissent en 2028. Elles sont discrètes, presque invisibles, mais systématiques.
Personne ne semble les avoir demandées.
L’anomalie est signalée. Des vérifications sont effectuées. Faute d’explication, le dossier finit par rejoindre la longue liste des incidents techniques non résolus. Les processeurs continuent d’être produits, intégrés dans des équipements, des robots, des systèmes industriels.
Six années passent.
La suite est à lire ici, et je vous assure elle vaut la peine : L’IA va tous nous tuer (d’ici 10 ans) ?
Lisez et délectez-vous du raisonnement, car il ne s’agit que de raisonnement… même pas de preuve et de fait… juste un décorticage en règle comme il faudrait le faire à chaque fois qu’on entend (et c’est souvent) une déclaration si alarmiste.. Ça, c’est pour tous les populistes qui surfent tous les jours sur la crédulité et notre capacité d’attention limitée.
Avons-nous vraiment besoin de nous faire peur ?
Tout cette tourmente, tout ce tourbillon de commentaires et d’articles sur le sujet m’afflige… A-t-on réellement besoin de se faire peur et d’annihiler notre propre jugement ? Ne nous suffit-il pas de vivre dans le monde réel, déjà tellement angoissant ? Quel besoin avons-nous de tomber dans le panneau de prophéties jetées à l’entour sans doute sous le coup de la colère (compréhensible) ou de l’émotion d’une rupture… ou d’un dégoût de la découverte du fonctionnement (sans doute discutable) d’une énorme entreprise de la tech qui vit au rythme des milliards de dollars qui se déversent sur elle comme les chutes du Niagara sur les passagers des navires qui tentent de s’en approcher ?
Et le recul des médias dans tout ça ?
C’est bien sûr inévitable. Quand une telle technologie s’empare de la société… quand son empreinte sur notre évolution est si grande. Quand ses promesses sont aussi angoissantes. Nul n’est à l’abri de la peur, mais… faut-il que des médias sérieux comme Le Monde (assez anti-IA, il faut quand même le dire) se fasse l’écho de tels messages sans en discuter la portée ?
C’est réellement ce qui s’est passé cette semaine en publiant l’article sur Jacob Coxon, sans prise de recul, discussion, explication approfondie, comme pourtant le journal sait le faire sur bien d’autres sujets. Pourquoi avoir fait le choix de se vautrer dans une annonce qui méritait mieux qu’un lapidaire article sans fond renforçant encore dans son lectorat, mais aussi, je n’en doute pas, dans une large partie de la population française que l’IA finira par tuer l’humanité ? Une absurdité totale selon moi.
