Donner une morale à l’IA
J’ai découvert au hasard des réseau sociaux qu’il existait chez Anthropic, la maison mère de Claude Code qui connaît un succès délirant en ce moment, une sorte de philosophe en chef, chargée d’éduquer les algorithmes. C’est amusant, parce que ça m’a fait penser à mon article sur les nouveaux métiers de l’IA, que j’avais un peu écrit pour blaguer, et qui, finalement, pourrait s’avérer plus proche de la réalité que ce que j’imaginais.
Les startups de la tech sont-elles morales, justement ?
Cette philosophe s’appelle Amanda Askell. Passée par Open AI, son rôle consiste à éduquer l’IA d’Anthropic, à la rendre plus morale et plus éthique. Et j’avoue que ça m’a interloqué. Je ne pensais pas que ça pouvait être une préoccupation réelle des startups de l’IA, tellement obsédées par la courses à la réussite et à la taille. Quand je regarde leurs agissements, j’ai l’impression que quand elles s’occupent d’éthique, c’est pour se donner une bonne image plus que pour agir vraiment moralement. Entre Elon Musk, dont l’algorithme dénude les femmes, et Sam Altman, qui piétine le droit à l’image, on peut se demander si Anthropic est vraiment plus sérieuse que ses comparses ou si ce rôle n’est qu’une mascarade pour se donner bonne conscience.
Si j’ai bien compris, ce qu’Amanda Askell doit essayer de faire, c’est de rendre l’IA d’Anthropic plus juste, moins biaisée, plus respectueuse des droits, etc. Plus morale, mais qu’est-ce que cela veut dire exactement plus morale ?
Une femme seule perdue au milieu d’hommes ?
Même si je comprends l’ambition d’Anthropic (on a souvent reproché aux IA leurs biais et leurs dérives), j’ai un peu du mal à croire qu’une personne seule, au milieu d’un océan de développeurs, puisse infléchir « la morale » d’une IA. Pour moi, une IA, c’est un empilement d’algorithmes dont les résultats sont ce qu’en font ses utilisateurs. Qu’elle soit entâchée de biais n’est que la résultante des données avec laquelle elle a été bâtie, ces biais n’étant eux mêmes qu’un reflet de la société ou des données qui sont disponibles à travers le monde, et, qu’on le veuille ou non, d’opinions différentes, divergences, et fausses, qui ne nous plaisent pas forcément. Ce que régurgite une IA, c’est ce qu’elle trouve sur le Web, et ça n’est pas toujours joli.
Limiter les biais d’une IA : est-ce seulement possible ?
Je comprends qu’on puisse tenter de l’ajuster pour en limiter les biais et les erreurs les plus flagrantes, mais la transformer en personne morale me parait une mauvaise idée. Comme s’il pouvait y avoir une morale unique, comme si la morale était une chose universellement partagée, avec les mêmes règles… comme si la morale était une chose fixe, figée, gravée quelque part, intangible, déterminée, de plus, par une personne…
A-t-on le droit d’empêcher les gens d’avoir de mauvaises pensées ?
Je n’ai jamais aimé qu’on me dise quoi penser et je n’ai jamais aimé me trouver limité parce qu’une IA juge immorale ce que je peux faire avec elle. L’histoire m’est déjà arrivée souvent avec chatGPT qui refuse de me générer des images qu’elle juge offensante (alors qu’elles ne le sont pas du tout dans mon esprit). C’est comme si on vous disait : « Ici, vous pouvez faire ce que vous voulez, sauf dans les limites qu’on vous accorde, et selon une éthique que nous avons nous même déterminé. » Pour moi, ce n’est pas le rôle d’une IA de déterminer à ma place ce qui est éthique ou ce qui ne l’est pas, ou de m’empêcher de produire des résultats qui ne seraient pas jugé moraux ou éthique, selon des règles que je ne connais pas ou n’approuve pas.
Pour une IA libérale
Je vais choquer, mais je crois en la liberté absolue de penser et d’agir dans les limites de la loi, et je ne supporte pas que des outils me dictent ce que je dois penser. En ce sens, même si il est critiquable pour de nombreuses raisons, je penche beaucoup plus pour une approche libérale, comme celle d’Elon Musk, qui laisse les utilisateurs à leur responsabilité. « Dénudez les femmes, si vous voulez, mais assumez-en les conséquences. » (notez bien que j’ai dit du bien d’Elon Musk, pour une fois, mais vous ne m’y reprendrez pas souvent).
Ça ne change rien à ce que j’avais écrit ici. Dénuder des femmes, si ça vous amuse, pourquoi pas ? Mais si c’est pour les humilier en les partageant sur les réseaux sociaux ou pour assouvir vos pulsions avec vos amis… alors non. Mais ce n’est pas une question d’outil, c’est une question d’éducation.
Un outil doit-il réellement avoir une éthique ou une morale ?
Donner une morale ou une éthique à un outil me parait une chose dangereuse, parce que c’est, en réalité, donner un contrôle à celui qui détient l’outil. C’est lui donner un pouvoir sur vos propres opinions, mais surtout, bien pire, sur vos pensées personnelles. On n’a jamais vu une feuille blanche ou un style vous empêcher de penser. Pourquoi une IA le devrait ?
Faire confiance aux humains, d’abord
Je sais que le débat est vaste et que je n’ai pas les armes et connaissances intellectuelles pour le soutenir, mais dans un monde où les IA prennent tant d’importance dans nos vies et où elles ont tendances à façonner nos vies, même s’il est important d’en limiter les conséquences néfastes, je trouve aussi qu’elles ne doivent pas nous empêcher de penser et d’en passer parfois par les pires idées pour en construire d’autres, meilleures. Faisons un peu confiance aux humains, et acceptons aussi qu’ils ne soient pas parfait.
Laisser un commentaire