Une simple panne d’électricité sème la pagaille et la confusion dans le cerveau des voitures autonomes
Qu’est-ce qui pourrait mal se passer ? J’aime cette phrase qui révèle notre crainte, face à la technologie, de perdre le contrôle de nos machines.
« Qu’est-ce qui pourrait bien se passer ? »
Eh bien, samedi soir, à San Francisco (USA), dans la pénombre de la nuit, à l’abri des tours de la ville, dans la circulation intense de la ville, il s’est passé ça : des dizaines de Waymo coincées à des carrefours à cause d’une panne d’électricité. Des dizaines de voitures autonomes complètement perdues et confuses comme des animaux sauvages chassés de leur forêt, à cause de feux rouges en panne, les laissant pantois, complètement inanimées, au milieu des carrefours, attendant que leur programme se recale, espérant sans doute au fond de leur âme électronique que le cours normal des choses reprenne sans savoir quand, priant, peut-être, on ne sait pas, mais si j’étais une IA, je tenterai sans doute de prier pour qu’on me redémarre, non ?
Alors que n’importe quel être humain peut résoudre un problème aussi simple : passer un croisement avec des feux en panne. Une IA ne le peut pas. Une IA s’arrête, réfléchit, garde ses passagers, sans doute un peu paniqués, au chaud, fait clignoter ses feux de détresse, puis attend, attend, attend, que les ingénieurs à l’autre bout de la ville, dans leur grand central de surveillance dans un bel immeuble moderne ultra-futuriste, remettent de l’ordre dans leur programme et débloque la circulation
Un bazar risible dont les réseaux sociaux se sont immédiatement emparés, non sans un certain énervement, car l’incident n’était, en réalité, pas vraiment le premier.
Que ceux qui craignent un apocalypse à la Terminator se rassurent. Demain, en cas de guerre avec les robots, il suffira peut-être qu’on se déguise en lapins blancs pour qu’ils ne nous reconnaissent plus et que leur envie de nous exterminer disparaisse.
Eh oui, l’erreur est humaine. Et tout ce que nous créons aussi. Il n’y a pas de raison que l’IA soit plus parfaite que nous.
