Les critiques de Bifrost

Un essai qui cite Ursula Le Guin en ouverture puis qui, dès l’introduction, mentionne une nouvelle d’Isaac Asimov, voilà de quoi augurer d’une place méritée dans les colonnes de Bifrost. Cet ouvrage, sous-titré Introduction à l’éthique des algorithmes, se présente comme un travail de collecte et de synthèse des réflexions et débats sur le sujet.

Rapidement, l’auteur distingue celle-ci de l’éthique des IA. Pour résumer : « l’éthique de l’IA porte sur nos comportements et nos choix. De son côté, l’éthique des algorithmes portent sur les “choix” des machines.  » Replaçant cette problématique toute contemporaine dans son jus philosophique, l’auteur nous présente les deux grandes visions qui s’affrontent dans la mise en œuvre de ces algorithmes : l’utilitarisme, à la Jeremy Bentham – vous savez l’inventeur du panoptique, qui a inspiré la mythique série Oz – contre le déontologisme, à la Kant – lui, a priori vous devriez le situer. Martin Gibert fait la promotion du tirage au sort, relevant, selon lui, d’une «  certaine modestie épistémique ». En parallèle, deux logiques s’affrontent également dans la très concrète question de l’apprentissage des AMA (Agents Moraux Artificiels) : la déductive, première à avoir été mise en place, et l’inductive. On rejoint là l’épistémologie classique des sciences. Autrement dit, j’ai mon hypothèse et je chercher à en déduire des résultats, ou bien je me base sur ce que j’observe pour monter ma réflexion. Puis, les pages se déroulant, se dessine un troisième profil : l’éthique de la vertu. Le concept ? Se servir de figures humaines que l’on reconnaît comme vertueuse. L’auteur prend alors deux exemples, pour montrer que là encore, ce n’est évidemment pas si simple : Jésus et Greta Thunberg.

Ne cherchant pas à masquer ses propres défaillances, Martin Gibert se met lui-même sur le grill pour mieux amener une question essentielle : comment prémunir les machines de nos préjugés et biais ? Je dis « nos », mais il est en fait question de ceux des programmateurs et programmatrices. Comment éviter une IA sexiste, raciste ou classiste ? On plaint d’avance les personnes en surpoids qui se retrouveront dans la balance d’une IA devant trancher la question « qui sauver ? »

Au bout du compte, il s’agit là d’un ouvrage accessible, qui ne refuse pas pour autant la complexité. Le ton est léger, parfois même familier et l’on se prend à croire qu’un pote nous présente des enjeux cruciaux. Si l’on se biberonne à la SF du matin au soir, l’on n’apprendra peut-être rien dans ces pages. Mais elles ont le mérite de poser les questions, de rassembler les débats et de faire la synthèse des travaux. Et Faire la morale aux robots, comme le résume Martin Gibert, c’est faire de la morale tout court. C’est déjà s’interroger sur le monde que l’on souhaite. Et comme l’écrivait Jaime Semprun : « À quels enfants allons-nous laisser le monde ? »

Mathieu MASSON