Quand les algorithmes décident à ma place

Le point de vue d'une juriste

Dans Omni Sciences
Texte Patricia Janssens

Chercheuse qualifiée au FNRS au Centre de recherche en information, droit et société de l’UNamur, Antoinette Rouvroy a obtenu la chaire Francqui au titre belge à la faculté de Droit, Science politique et Criminologie de l’ULiège. Elle s’intéresse aux rapports entre le droit, les modes de coproduction des sciences et des technologies et la gouvernementalité néolibérale. Sa leçon inaugurale était intitulée “La gouvernementalité algorithmique”.

D’emblée, elle pose le cadre : « On se trompe de combat. La préservation de nos données personnelles sur le web est une chimère. Le véritable enjeu réside sur la place que prennent les algorithmes dans notre vie et dans la société. La possibilité d’une “gouvernementalité algorithmique” m’inquiète. »

À l’heure actuelle, les nouvelles technologies promettent aux gestionnaires publics et privés une gouvernance automatique du social en “ultra-haute résolution”, en “temps réel”. Que font nos appareils connectés ? « Ils transforment notre monde en une multitude de données numériques. Ces données sont incorporées dans une masse informe, les big data, et finissent par former des énormes corps statistiques impersonnels au sein desquels les algorithmes font surgir des “profils” capables, dit-on, d’anticiper les comportements humains. Cette façon d’appréhender la réalité qui se targue d’objectivité, d’exhaustivité, et même de prédictibilité pourrait mener à une forme de gouvernement inédite. »

À qui appartient la gouvernementalité ? « On pense immédiatement à Google, Apple, Facebook, Amazon, Microsoft (les Gafam), mais on oublie que le dispositif nous inclut en son sein. Cependant, ils ont fini par nous convaincre que l’on pouvait gérer des comportements à partir de données insignifiantes mais calculables, des suites de chiffres anonymes et impersonnels. Comme si les données fournissaient un mode de gouvernement ! Nous sommes en train de passer de la civilisation du texte à celle des algorithmes. »

Insidieusement, le calcul remplace la réflexion, la pon- dération. Or l’algorithme fonctionne selon la règle de l’optimisation; il métabolise les données du passé et table, pour prendre l’exemple du droit, sur des décisions de justice qui ont été rendues. « Un algorithme ne décrit rien : il produit un état de fait. Et cet état de fait devient la norme. » Le droit ? « C’est l’inverse, il est basé sur un corpus de textes, des textes flous, ambivalents, non calculables, humains... La norme juridique précède le comportement. Par ailleurs, il existe en toile de fond de l’arsenal juridique une présomption en faveur de l’équité, du bien commun. Des considérations inconnues du monde numérique. Certes, les décisions du juge n’auront jamais la rigueur mathématique. Mais est-ce souhaitable ? Faut-il remplacer les juges par un ordinateur ? Je ne le pense pas. »

Autre problème, continue Antoinette Rouvroy : « On a l’impression de participer à une communauté alors qu’en réalité, il n’y a pas d’échange. Facebook n’est pas un espace public. On assiste à une hypertrophie de la sphère privée (qui se caractérise paradoxalement par une dépersonnalisation) et, concomitamment, à une hyper-fragmentation du monde social. La prise de conscience collective ne peut pas se produire dans le monde algorithmique : il n’y a même plus la place pour un rapport de pouvoir. Le pouvoir devient une pure puissance spéculative. Celui qui détient les données acquiert la maîtrise de production de l’avenir. C’est une pathologie de la norme. Il n’y a plus rien à représenter, plus de distance critique, tout est dans les données. La norme ne préside plus la récolte des données, elle émane d’elles et de leur traitement. » Et Antoinette Rouvroy de plaider, en guise de conclusion, pour « la fermeture des portes des facultés de Droit aux géants du web et la sauvegarde du rapport au savoir et à la vérité qui est propre à l’Université ».

POUR ALLER PLUS LOIN

Antoinette Rouvroy, Pierre Delvenne et Kenzo Nera, “La fabrique d’opinion”, dans FNRS news, n° 117, octobre 2019. https://www.frs-fnrs.be/docs/Lettre/lettre117

Voir la captation vidéo de la leçon inaugurale

Partager cet article