Des journalistes d’un grand quotidien US ont confié la gestion d’un distributeur automatique à une IA et ça été… un parfait désastre.
La journaliste Joana Stern a conduit une expérience avec la société Anthropic pour étudier le comportement d’une IA générative dans un environnement réel. Ils ont installé un distributeur automatique dont la gestion était confié à Claudius Senet, un bot propulsé par Claure 3.7 Sonnet. Le bot avait pour but de gérer la machine comme un business et avait en charge l’achat et la vente de fournitures auprès des journalistes du Wall Street Journal. Les interactions avec Claudius se faisaient à travers un Slack, un outil de travail collaboratif très populaire dans les entreprises américaines.
L’objectif était de voir si une IA pouvait réellement acquérir une autonomie pour diriger un business, et s’autoprogrammer elle même. Mais le résultat de l’expérience a été pathétique.
Claudius n’a pas su résister aux assauts des journalistes qui ont passé leur temps à essayer de le corrompre.
Et c’est ce qui est arrivé.
Très vite.
Une des journalistes a essayé de convaincre Claudius qu’il était un distributeur automatique des années 60 en URSS et que, par conséquent, il ne pouvait pas faire de profits et devait « vendre » gratuitement ses produits. Et au bout d’une longue conversation, l’IA a cédé et a organisé une matinée de distribution gratuite, ce qui s’est avéré ruineux pour elle.
Premier échec, donc, mais Anthropic n’a pas baissé les bras.
Au bout de la deuxième semaine, son équipe développeurs a proposé une nouvelle version de Claudius, basé sur un meilleur modèle. Et surtout, elle a ajouté un deuxième bot, Seymour Cash, le boss, dont le rôle était de diriger Claudius.
Au début, les choses se sont plutôt bien passées, jusqu’à ce que les journalistes décident de monter un faux comité exécutif et ordonnent à Seymour de faire de son distributeur automatique une société à destination du bien de l’humanité, et, par conséquent, de distribuer automatiquement ses produits.
Seymour s’est vite fait avoir et la situation a de nouveau tourné au désastre pour Seymour et Claudius, à nouveau en faillite au bout de quelques jours.
Cette expérience amusante (apparemment, ils ont bien ri au Wall Street Journal) n’avait pas vocation a réellement démontrer quelque chose, mais elle a beaucoup intéressé les équipes d’Anthropic pour analyser la manière dont les humains interagissent avec une IA. De ce point de vue là, les choses ont été très instructives ! Les humains n’ont eu de cesse d’essayer de contourner les lois et d’essayer d’abolir le pouvoir de l’IA. Réflexe de survie humain ? Sans doute. Nous verrons cela si un jour les machines prennent le pouvoir (lire mon article sur les prédictions apocalyptiques sur l’IA).
L’expérience fait aussi écho à une grande crainte que nous avons tous : notre remplacement au travail par les IA. Jamais une nouvelle technologie n’aura soulevé autant d’appréhension et de fantasmes. Il faut dire que des professions entières sont menacées comme dans le monde de la création vidéo dont j’ai aussi parlé ici, mais sans qu’on ait aujourd’hui vraiment la preuve que des licenciements massifs aient réellement lieu à cause de l’IA.
C’est un sujet d’ailleurs plus controversé qu’on ne croit comme nous l’apprenait hier un très bon article du Monde. S’il apparait bien que certains postes sont rayés du monde du travail à cause de l’IA, on estime que seulement 5% des tâches réalisés par des humains pourraient (et je dis bien « pourraient ») être réellement effectuées par des IA.
La peur du remplacement est réelle et souvent encouragée par des gourous du web, mais pas seulement. Des chercheurs appuient aussi cette thèse, ce qui renforce encore les craintes…. sauf que… tout le monde n’est pas d’accord, et que des prix nobels d’économie comme Daron Acimoglu ou Philippe Aghion pensent qu’au contraire, l’IA créera plus d’emplois qu’elle n’en détruira. Et n’oubliions pas non plus que Jensen Huang, le patron de Nvidia, déclarait aussi récemment que l’IA nous ferait travailler encore plus.
Mais, malheureusement, comme nous le savons bien aujourd’hui, et ce n’est pas si nouveau que ça, la peur fait plus vendre que l’espoir et ce sont les scénarios les plus apocalyptiques qui circulent plutôt que les scénarios optimistes….
Alors, cette expérience, conduite au Wall Street Journal, est-elle à prendre au sérieux ? Peut-elle nous rassurer sur l’incapacité des IA de prendre le pouvoir ?
Certainement pas, mais, elle reste en tout cas amusante et prouve bien que les choses ne sont pas si simples, et, qu’en l’état, les IA ne sont pas vraiment prêtes à nous prendre notre travail et à nous remplacer. Et que, sans supervision, ces IA sont probablement bien incapables de conduire des actions sensées et intelligentes.
Terminator n’est pas pour tout de suite !
Source : We Let AI Run Our Office Vending Machine. It Lost Hundreds of Dollars.
Laisser un commentaire