Justice et IA : une enquête critique

L’extension du domaine de l’IA aux institutions publiques est généralement présentée comme ineluctable car liée au fameux « sens de l’histoire ». Le discours managérial qui la promeut évite ainsi le risqué de l’analyse de la « nature », du fonctionnement et des vices des algorithmes mais néglige également l’examen scrupuleux des modes ou processus décisionnels spécifiques aux institutions qui sont visées par son « implémentation ». Comment penser alors l’alliance projetée entre l’IA et la justice, au-delà des éléments de langage et au-delà du seul objectif de performance ? Comment apercevoir avec la netteté requise les menaces anthropologiques que les « aides à la décision » et autres « outils prédictifs » font peser sur l’indépendance, l’impartialité et l’humanisme de la justice mais également sur le libre arbitre des magistrats, voire sur leur capacités cognitives et expressives et en définitive sur l’État de droit ?

C’est l’objet de cette étude qui, pour maintenir à distance respectable les discrédits de technophobie et d’anti-modernité, adopte la méthode de l’enquête critique. Ainsi, elle rappelle d’abord les traits caractéristiques et fondamentaux du processus décisionnel judiciaire, en ce compris son rôle et sa place dans le champ institutionnel et son inscription dans l’histoire du XX^e siècle, pour les confronter ensuite aux propriétés et à la mécanique des différentes IA, « classiques » ou génératives, qu’elles soient en vigueur dans les services publics de certains États, parfois d’ailleurs déjà partie intégrante du procès, ou qu’elles soient en passe de l’être.

Le diagnostic qui se déduit de cette enquête est sans équivoque : les résultats générés par les algorithmes sont radicalement incompatibles avec l’office du juge et les standards du procès équitable.
Ils en compromettent la vérité, la légitimité mais aussi la liberté et la responsabilité. Nonobstant l’accompagnement « éthicien » qui est vanté par les marchés, deux vices rédhibitoires s’y conjuguent en effet définitivement : leur opacité et les biais, voire la réelle manipulation dont ils sont généralement à la fois l’objet et l’instrument. Exclusivement fondée sur une lecture numérique et donc chiffrée et statistique du monde et de l’humain, radicalement émancipée du sensible et en définitive du vivant, l’IA est tout aussi amorale qu’inscrutable. Son amoralité autorise en conséquence, « par construction » et à l’insu de ses utilisateurs et destinataires, la violation du Droit, de la morale et de toutes les promesses démocratiques. Pire, à la faveur du New Management public, elle vicie l’action des services publics en institutionnalisant la catégorisation des citoyens et leur discrimination.

L’ambition de cette enquête est donc d’éclairer les juristes et les différents acteurs de justice sur les incompatibilités et le nihilisme caractérisé qui marquent la relation envisagée entre l’IA et le procès, étant précisé que la grille d’analyse proposée par l’autrice peut être élargie et « servir » à chaque institution publique dont le processus décisionnel serait susceptible de se voir assister, voire remplacer et donc dénaturer par une IA.

Version numérique disponible sur :

• Strada lex Belgique

Vous êtes abonné ? Activez gratuitement la version numérique grâce au code présent dans l’ouvrage.