Dans la dernière décennie, de nombreuses recherches dans le domaine de l’intelligence artificielle (IA) et des interactions homme-machine (IHM) ont permis de mettre en lumière l’intersectionnalité des biais sexistes, racistes et de classes reconduites insidieusement par des algorithmes prétendument impartiaux. Les systèmes de reconnaissance faciale, principal suspect au banc des accusés, ont du mal à démontrer leur objectivité, laquelle se moule étrangement aux préjugés et croyances des designers informatiques qui les programment¹.

Bien que ces études aient démontré hors de tout doute leur pertinence et la nécessité de mettre en place des outils éthiques permettant d’atténuer les risques d’une reproduction indue des préjugés ou des inégalités² – risques associés à l’utilisation de tels systèmes automatisés –, les recherches en IHM ne parviennent malheureusement pas à s’extirper du modèle de la bicatégorisation des genres. Sans compter le phallocentrisme nominal de la discipline elle-même³, son corps d’analystes, composé (très) majoritairement de personnes cisgenres – c’est-à-dire des personnes dont l’identité de genre est en adéquation avec le sexe biologique attribué à la naissance –, qui assument ainsi en amont de leurs études que le genre est fixe, binaire et basé sur la physiologie⁴. Leurs conclusions, en aval, s’édifient donc à partir d’une conception erronée de l’humain – et éventuellement de l’IA elle-même – comme une variable sécable selon deux catégories mutuellement exclusives, soit femme et homme. Cette circularité critique a comme angle mort la multiplicité des identités de genre, cimentant au passage l’élision des communautés trans et les violences systémiques dont elles sont victimes⁵, dans le monde virtuel aussi bien que réel. Ce biais des recherches en IHM empêche de facto une discussion informée et transparente sur les problématiques liées aux genres et aux technologies.

— L’IA sera queer ou ne sera pas

Du système de numération binaire 0-1 aux adaptateurs électriques « mâle-femelle », c’est tout l’univers computationnel et son appareillage théorique et discursif qui sont donc calqués sur ce paradigme dualiste. Un paradigme soulevé avec ironie et humour par Queer Technologies, une organisation artistique et activiste chapeautée par l’artiste-hackeur Zach Blas et ayant comme objectif avoué de queeriser les nouvelles technologies en se réappropriant puis en trafiquant ses codes et ses usages. L’oeuvre transCoder (2008), un logiciel collectif queer « antilangage », propose ainsi d’infiltrer le discours hétéronormatif tel qu’employé par les algorithmes en programmation. En tant qu’ensemble d’instructions visant à assurer l’opérationnalité d’un ordinateur, transCoder vise à déterminer et à ordonner des tâches qui pourront être effectuées par la machine. Alimenté par des ouvrages traitant de cyber-théories et de théories féministes et queer, le logiciel use d’une interface de programmation applicative ayant pour but « d’initier » les algorithmes à ces savoirs spécifiques. Agissant en quelque sorte comme un ensemble de variables structurantes capables de moduler l’information produite par l’ordinateur, transCoder permet de queeriser, par la suite, d’autres systèmes d’exploitation ou de gestion de base de données lui étant soumis et utilisés par la programmeuse ou le programmeur. Les écrits de Donna Haraway, Jack Halberstam ou Sadie Plant, entre autres, constituent ainsi cette bibliothèque virtuelle, ce cerveau computationnel qu’est transCoder. Tablant en ce sens sur la performativité subversive butlérienne⁶ et l’idée d’un savoir en perpétuelle construction (dans ce cas-ci à travers des codes de programmation), Blas interroge les rapports de promiscuité insidieux entre le genre et les nouvelles technologies, tous deux définis à partir d’un cadre discursif et théorique hétéronormatif.

— Science-fiction et méthodologie du futur

Cette citationnalité, pour reprendre Butler, est plus étroitement mise en relief par Blas dans l’un de ses plus récents projets : Icosahedron (2019). L’installation, réalisée en collaboration avec une équipe spécialisée en IA, prend la forme d’un bureau assez générique sur lequel est déposée une boule de cristal bleutée à travers laquelle il nous est possible d’interagir avec l’avatar elfique d’une IA. L’ensemble, nous dit Blas, est présenté comme étant l’office de Peter Thiel. Ami intime de Trump et fidèle partisan de l’aile droite états-unienne, Thiel est surtout connu pour être le richissime fondateur de PayPal, mais également de Palantir Technologies, une firme en IA spécialisée dans l’analyse de mégadonnées et la vente de produits de surveillance biométriques. Aussi séduisante que critique, Icosahedron pointe l’agenda réactionnaire et l’ingérence politique de firmes de gestion de mégadonnées telle celle de Thiel dans la vie privée – principalement celle des communautés marginalisées – tout en interrogeant les fondements idéologiques derrière l’espèce d’utopie technologique promise par l’IA.

Incarnation humanoïde fantasmée par la Silicon Valley – masculin, blanc, anglophone, jeune, immortel –, Icosahedron se veut l’oracle parfait de ce futur hypertechnologisé. Une fois de plus, théorie et littérature sont convoquées par Blas puisque l’oeuvre est réalisée à partir d’une vingtaine de textes de science-fiction et d’écrits produits par des futurologues et autres gourous de l’IA (Ray Kurzweil, Ayn Rand, Isaac Asimov, Michio Kaku). Formaté par ces points de vue issus de la culture technologique de la côte ouest états-unienne, le futur prophétisé par Icosahedron répond du même imaginaire hétéronormatif, de la même « pensée straight », pour reprendre l’expression consacrée de la théoricienne féministe Monique Wittig.

I ask it about feminism everyday and it won’t respond. It’s prudish on swear words – it knows them but won’t say them.⁷

Icosahedron prédit ainsi un avenir atone, conservateur, mais étrangement dystopique. Parfois confuses, souvent insensées, les réponses fournies par le personnage mystique sont fragmentées, mais on y entend l’écho d’une culture californienne imbue d’elle-même et aveuglée par la performance et les stéréotypes.

Avec l’approche caustique qui caractérise son travail, Blas se joue des codes de la science-fiction comme levier d’une critique intersectionnelle, notamment en reprenant la figure de l’elfe chez J.R.R. Tolkien. Dans la cosmogonie de l’auteur du Seigneur des anneaux, les Elfes incarnent en effet la progéniture blanche, immortelle, noble, civilisée et pure des Valar (sorte de Dieux de la littérature tolkienne), auxquels viennent faire contrepoids les sombres, vils et barbares Orques, sous-race métisse déchue et en tout point inférieure. La référence n’est pas innocente et correspond pour l’artiste au désir technolâtre des transhumanistes de voir se matérialiser un futur architecturé par l’IA et habité par des êtres humains augmentés supérieurs et immortels. La guerre eugénique au coeur de l’oeuvre de Tolkien recoupe ici celle que se livrent les biotechnologies et l’IA de la Silicon Valley aux corps des marginales et des marginaux. Sur le champ de bataille resteront les corps des trans, des pauvres, des infertiles, des malades….

Mais cet emprunt de l’artiste à l’univers fantastique de Tolkien n’est pas le moindre. L’allusion formelle du globe de cristal d’Icosahedron au palantir – cette « pierre de vision » qui permet de surveiller et de gouverner la Terre du Milieu tel un panoptique foucaldien⁸ –, renvoie également au nom de la compagnie de Peter Thiel, Palantir Technologies, une compagnie prophétesse à l’éthique plus ou moins élastique qui compte sur l’IA pour vendre à prix fort (aux gouvernements et aux organes militaires, entre autres) des données permettant de prédire/contrôler lesvariables du futur et de mieux en policer les possibles. D’office écartées des hautes sphères de contrôle et de configuration de ce technopouvoir, car absentes de ses processus mêmes de conception, les communautés racisées et LGBTQIA+ en sont toutefois parallèlement les premières victimes; un enjeu politique qu’a d’ailleurs largement fouillé Blas, notamment avec le projet Face Cages (2013-2016).

Critiquant les dérives technocratiques, militaires, racistes et transphobes liées aux violences induites de l’IA envers les communautés LGBTQIA+, Face Cages pointe la logique de gouvernance des corps et des identités qui en caractérise l’utilisation. Comme son nom l’indique, l’oeuvre se résume à une série de masques grillagés, lesquels reprennent les schémas rectilignes emblématiques de l’identification biométrique. Portés au visage, ces dispositifs évoquent étrangement des objets de torture archaïques, gênant une identification aisée de la personne qui l’arbore. Véritable matérialisation du pouvoir ostracisant de ces programmes de reconnaissance faciale, Face Cages cristallise la violence bien réelle des technologies numériques et la promiscuité invasive des algorithmes. La série de masques répond avec un humour acerbe aux entreprises répétées de l’IA de déterminer l’orientation sexuelle des individus, aux dépens des libertés individuelles. Mais le projet de Blas contrecarre également la visée discriminante de l’IA puisque les masques, devenus prothèses, empêchent paradoxalement aux algorithmes de « lire » adéquatement le visage de la personne qui le porte.

Dans ce monde régit par le input/output, l’accumulation et le traitement accéléré des données par l’IA ne servent plus uniquement à décrire objectivement le monde, mais contribuent désormais, qu’on le veuille ou non, à en façonner les contours mêmes et à en paramétrer les formes d’être-au-monde. C’est pourquoi Zach Blas, évitant l’écueil d’une critique dualiste et polarisante, laquelle reconduirait une posture binaire peu enrichissante pour le débat autour de l’IA, préfère privilégier la satire et l’ironie pour pointer cette logique de techno-gouvernance, proposant par la bande des alternatives subversives. Cette nouvelle fabrique de soi et des corps, générée par l’apprentissage profond (deep learning) et le big data, participe d’une redéfinition desvariables de l’humanité, laquelle ne peut plus être pensée hors du cadre technologique qui la définit. Si les outils du maître ne peuvent détruire la maison du maître, comme le souligne la poétesse Audre Lorde, ils concourent sans contredit ici, à architecturer de nouveaux possibles.

Candidate au doctorat en histoire de l’art à l’Université du Québec à Montréal, Anne-Marie Dubois est essayiste et critique d’art. Guidées par une approche féministe et multidisciplinaire, ses recherches portent principalement sur la question de l’objet en art actuel étudié sous le prisme du nouveau matérialisme et de la pensée queer.