New Jim Code

Depuis quelques années, les travaux se multiplient (Bishop, et al. 2020, Mendes et al. 2019) pour identifier le rôle des dispositifs informatiques (logiciels, services, réseaux sociaux, algorithmes, robots, etc.) dans la pérennisation d’un ordre racial, validiste, sexiste, spéciste. Parmi ces travaux, on trouve le récent livre de Ruha Benjamin (Race After Technology. Abolitionist Tools for the New Jim Code, Polity, 2019), sociologue au Département d’études afro-américaines de l’Université de Princeton, qui fournit un certain nombre de concepts utiles pour penser la matérialisation numérique de la race dans la perspective de l’analyse du discours numérique (Paveau 2017).

Penser la matérialisation numérique de la race

En s’appuyant sur les Sciences & Technologies Studies, qu’elle articule aux travaux en Race and Racism in Internet Studies (Daniels 2012), Ruha Benjamin montre que les questions raciales et intersectionnelles sont étroitement liées à un ensemble de médiations techniques, de technologies numériques, présentes dans nos quotidiens. Stéréotypes raciaux, sexistes, classistes, validistes sont inscrits dans leur architecture même, qui participerait d’une « matrice de domination » (Patricia Hill Collins). Ruha Benjamin insiste en effet sur un point important : le racisme n’est pas qu’une “construction sociale” : c’est aussi une force de construction qui, à son tour, fabrique des systèmes oppressifs, les renforçant. Dès lors, une grande partie de la population est amenée à vivre dans l’espace « imaginaire » de personnes (les informaticiens) à l’origine de ces dispositifs.

Pour appuyer sa thèse et montrer l’ampleur de la situation, la sociologue puise dans des exemples et des terrains très variés en histoire, science-fiction, séries dystopiques, actualité informatique. Un exemple parmi d’autres : une « application » (Citizen), qui permet à des citoyens de signaler des problèmes, ou ce qu’ils estiment être des problèmes…comme des rassemblements de personnes de couleur noire sur des pelouses, en train de pique-niquer. Ruha Benjamin cite d’autres cas, tout aussi inquiétants :

  • Une base de données de criminels composées exclusivement de noir.e.s, de latinos… et de bébés, censés être des membres de gangs.
  • Un concours de beauté jugé par des robots (Beauty IA) qui n’ont élu que des candidat.e.s à la peau blanche…
  • les algorithmes qui ont du mal à “s’interfacer” avec des créatif.ve.s noir.e.s, notamment sur Instagram, qui sont peu mis en avant, contrairement aux artistes de couleur blanche.
  • l’assistant vocal de Google Maps qui propose aux conducteurs de se rendre dans la rue “Malcom Ten” au lieu de “Malcom X”.

On le voit : la technologie n’a pas qu’un “impact” sur la société (thèse déterministe paresseuse qui a envahi le discours journalistique et parfois même scientifique) : on a affaire à un tressage très fin, à un ajustement entre des médiations techniques, des normes, des valeurs, des stéréotypes dont nous avons du mal à comprendre qu’ils informent nos sens et nos modalités de reconnaissance des êtres qui peuplent l’espace social.

En travaillant ses terrains, la chercheuse forge un concept : “New Jim Code”, en référence aux lois Jim Crow à l’origine d’une ségrégation raciale et d’un système de castes aux États-Unis de 1877 à 1964. Mais pour une avocate comme Michelle Alexander, ce système n’a été aboli qu’en apparence : dans The New Jim Crow elle montre quelles formes nouvelles il prend.

Ruha Benjamin prolonge son travail en l’appliquant à la culture numérique : avec son nouveau concept (“New Jim Code”), elle désigne l’inscription dans les dispositifs informatiques de représentations stéréotypées sur le monde social, rendues objectives, naturalisées, séduisantes, par toute une “architecture” technique, sociale et graphique, à qui il est difficile de demander des comptes : applications, réseaux sociaux, se présentent à partir de listes, de formulaires, de médiations complexes, comme s’ils n’étaient pas conçus par des mains et des cerveaux.

Chaque chapitre de son livre présente différents cas, articulés à un sous-concept : la manière dont l’inégalité raciale est inscrite dans le traitement des données (engineered Inequity), la discrimination par défaut des personnes noires à cause de l’impensé socio-historique des ingénieurs (Default Discrimination), les différentes technologies qui les invisibilisent et les surveillent en même temps (Coded Exposure), la relative bienveillance dont elles font l’objet (Technological Benevolence) parce qu’elles rendraient un service utile. C’est le cas du UKBA’s Human Provenance : ce programme utilise des tests d’ascendance génétique pour examiner des demandes d’asile d’Afrique de l’est, suite aux doutes manifestés par les travailleurs sociaux… Pire : ces technologies racistes révèlent parfois des équipes complexes, par exemple entre le gouvernement zimbawé et la Chine, qui développe des algorithmes de reconnaissance pour classer les ethnies du pays…

Dans ce cadre, la chercheuse identifie les intrications morbides entre le racisme et un maître mot de la culture numérique et entrepreunariale, sans doute détournée de ses objectifs initiaux : l’ « innovation ». On a en effet tendance à oublier que ces dispositifs sont désirés : ils sont conçus dans des espaces qui les accueillent, les promeuvent, parce qu’ils permettent aux uns de dominer les autres sans qu’ils ne soient traversés par un “racisme” stéréotypé qui les condamnerait aussitôt aux yeux de leurs concepteurs. En fait, ce racisme s’insinue dans de minuscules objets, dans de petits signes, qui le rend difficilement identifiable, d’autant plus que ces signes, ces objets, si anodins, invalident les discours antiracistes, auxquels on demande généralement de s’occuper du « vrai » racisme.

Comme le montre Ruha Benjamin, cette pensée inscrite dans et travaillée par les technologies numériques s’insinue partout. Elle prolonge une histoire longue des outils institutionnels, administratifs, scientifiques qui ont cherché à faire de la race une question biologique en établissant des distinctions entre les individus, jusqu’à les rendre opératoires par de menus signes, de petits formulaires, de tout petits objets en apparence inoffensifs. Ainsi, Ruha Benjamin montre que la race est elle-même une technologie dont chaque époque se saisit, en mobilisant différents outils, pour en pérenniser la logique séparatiste, jouir des avantages qu’elle octroie.

Propositions pour l’analyse du discours

La démarche de Ruha Benjamin est au croisement de la sociologie, des épistémologies intersectionnelles et des Sciences & Technologies Studies. Pour travailler son corpus hétérogène, elle forge de nouveaux concepts et mobilise une description « fine », par opposition à la description « dense » de l’anthropologue Geertz. Elle ne cherche ainsi pas à saisir une réalité sociale en tentant d’accéder à toutes les sphères où elle pourrait se manifester. Elle choisit plutôt de prêter une attention à quelques signes ou discours saillants, qu’elle déplie de manière critique.

L’analyse du discours offre des concepts et des pistes méthodologiques qui permettraient de se saisir avantageusement d’un tel corpus. Par exemple, Ruha Benjamin mentionne l’organisation « Algorithmic Justice League » qui mène des audits auprès des entreprises pour faire entendre la voix de communautés intersectionnelles et ainsi éviter la reconduction de préjugés racistes, sexistes, validistes, classicistes au sein des algorithmes. À ce titre, elle s’oppose à celui de Google Maps qui propose aux conducteurs de se rendre dans la rue « Malcom Ten » au lieu de « Malcom X » (voir plus haut). Le concept de champ discursif proposé par Dominique Maingueneau (2009) permettrait ici de montrer comment s’organisent des positions dominantes et dominées, des centres et des périphéries. Pour le dire autrement : quelles sont les productions discursives (interfaces numériques, documentation du projet, prise de parole publique, etc.) que les dominé.e.s sont amené.e.s à produire pour faire exister leur programme alternatif ? Quelles autodésignations et marqueurs d’altérité mobilisent-t-ils ? À quelle communauté de communication (Hymes) a-t-on affaire ? Comment à leur tour les dominant.e.s créent-ils des pratiques discursives, en mobilisant toutes les modalités expressives dans leur dispositif (l’oralité, dans le cas de Google Maps), pour naturaliser l’action des usagers, les faire agir sans s’interroger sur le cours problématique de leur activité, voire de leur participation implicite à un ordre raciste ?

Ruha Benjamin mentionne également les « imaginaires » des informaticiens, des designers bref, d’un ensemble d’acteurs qui s’emparent des dispositifs informatiques pour les faire exister, à partir de représentations parfois stéréotypées, pour ne pas dire fausses. Les conditions de production (Pêcheux) de ces discours mériteraient cependant d’être précisées, en identifiant notamment leur préconstruit matériel. En effet, les informaticiens ont tendance à reprendre des bouts de codes déjà existants pour concevoir les dispositifs informatiques (robots, réseaux sociaux, etc.). On peut ainsi penser qu’ils héritent de traces ou de formules discursives, elles-mêmes héritées des cadres idéologiques qui les informent et qu’elles actualisent, en les adaptant pour maximiser leur pertinence (Grice), faciliter leur intégration sociale. Bien plus, ces traces circulent, de dispositifs en dispositifs, d’entreprises en entreprises : elles ont une dimension interdiscursive et polyphonique. Couplé à l’interdiscursivité, le préconstruit relève ainsi de la mémoire interdiscursive (Moirand) ou discursive (Courtine).

Enfin, la notion de composite proposée par Marie-Anne Paveau (2017) serait sans doute utile pour penser les associations techniques racistes. Ainsi de de cette base de données que mentionne Ruha Benjamin, qui rassemble exclusivement des noir.e.s, des latinos et des bébés apparentés à des gangs. À l’inverse, comme nous l’avons vu, les algorithmes ont du mal à s’interfacer avec des personnes noires, quand il s’agit de les valoriser (concours de beauté). Dans un cas, on a donc affaire à un composite discriminatoire qui associe des visages dans une base de données, créant ainsi le contexte de leur interprétation, à partir d’éléments techniques, graphiques, documentaires, langagiers. Dans un autre, on pourrait parler d’a-composite, c’est-à-dire de l’impossibilité pour certaines personnes d’accéder à des formes de couplages (potentiellement) valorisants, du fait d’instructions pensées en amont. L’éthique du discours numérique (Paveau) rejoindrait ainsi les thèses formulées par le « Design justice » de Sasha Costanza-Chock, qui cherche à penser les conditions d’élaboration des dispositifs informatiques à partir de l’expérience vécue des personnes subissant des oppressions croisées.

Références

  • Ruha Benjamin, 2019, Race After Technology. Abolitionist Tools for the New Jim Code, Polity.
  • Sophie Bishop et al., 2020, « Introduction to the special issue: algorithms for her? Feminist claims to technical language« , Feminist Media Studies.
  • Sasha Costanza-Chock, 2020, Design Justice: Community-Led Practices to Build the Worlds We Need, Cambridge, MA, The MIT Press.
  • Jean-Jacques Courtine, 1981, « Quelques problèmes théoriques et méthodologiques en analyse du discours. À propos du discours communiste adressé aux chrétiens », Langages 62, « Analyse du discours politique », p. 9-128.
  • Jessie Daniels, 2012, « Race and racism in Internet Studies: A review and critique« , New Media & Society.
  • Dell Hymes, 1964, « Introduction: Toward Ethnographies of Communication », American Anthropologist, 66(6), p. 1‑34.
  • Dominique Maingueneau, 2009, « Champ discursif » dans Les Termes clés de l’analyse du discours, Seuil.
  • Kaitlynn Mendes, Jessica Ringrose et Jessalynn Keller, 2019, Digital Feminist Activism: Girls and Women Fight Back Against Rape Culture, Oxford University Press.
  • Sophie Moirand, 2009, « Les lieux d’inscription d’une mémoire interdiscursive » dans Le Langage des médias : discours éphémères?, Paris, L’Harmattan, p. 83-111 cité par Dominique Maingueneau dans Les Termes clés de l’analyse du discours, Seuil.
  • Marie-Anne Paveau, 2017, L’Analyse du discours numérique. Dictionnaire des formes et des pratiques, Hermann.
  • Michel Pêcheux, 1969, Analyse automatique du discours, Paris, Dunod, 1969.
  • Michel Pêcheux, 1990, L’Inquiétude du discours, Paris, Éditions des cendres (textes rassemblés par Denise Maldidier).

Articles reliés

Désignation située, Épistémologie du point de vue, Race et discours

Crédit : Abigail, sans titre, 2015, compte de l’auteure sur Flickr, CC BY 2.0

Cite this article as: Marc Jahjah, "New Jim Code," in Analyse du discours intersectionnelle, 19/11/2020, https://adi.hypotheses.org/472.

Vous aimerez aussi...

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search