==/ Sous-titres générés avec IA (Whisper), editing et proofing par Guglielmo Fernandez Garcia /== Règle 30, il n'y a pas de filles sur internet, à elle seule cette règle dictée par le très
sulfureux forum 4chan au début des années 2000 illustre le problème qu'a internet
avec les femmes.
Ça fait maintenant quelques émissions qu'on en parle, les mondes numériques sans grande
surprise affichent un certain rejet de la diversité, en tout cas ils semblent
exclure tout ce qui ne correspond pas à un homme blanc, cis et hétéro.
Si ça on a pu l'observer avec Jennifer Lufau d'Afro Gameuses en ce qui concerne
l'univers du jeu vidéo, aujourd'hui on a envie d'aller un peu plus loin sur ces
sujets en s'intéressant aux communautés mais aussi aux rouages techniques qui permettent
ces dérives.
Comment on est arrivé là ? A ces genres de règles définies sur un forum aussi
influents ? Qui sont les personnes qui sont au cœur de cette haine en ligne ? Est-ce
que quelque part les plateformes et les réseaux que nous utilisons ne favorisent
pas-ils l'exclusion ou l'harcèlement de certains groupes d'individus ? Quelle
est la responsabilité de nos outils dès la technique dans les formes modernes
d'exclusion sociale ?
Dans cet épisode, nous tenons à vous avertir que nous aborderons des cas de harcèlement
et de violence en ligne.
Ce ne sont pas des sujets très agréables, du coup on tenait à vous avertir avant
d'aller plus loin.
Tout ces questions, on a essayé de les poser à Mathilde Saliou, notre invitée
de l'épisode d'aujourd'hui.
Mathilde Saliou est journaliste pour les médias Next et on l'a découvert à
travers de son livre Technoféminisme, Comment le numérique aggrave les inégalités.
Ensemble, nous échangeons sur le sujet de la manosphère, de biais algorithmiques
et sur les numériques de demain.
Ok, je lance AZERTY
Alors on l'a pas précisé en intro, mais le livre de Mathilde, il est très bien
structuré et il permet de comprendre plein de choses, allant de la construction des
communautés violentes en ligne, à la critique de la conception des algorithmes,
en passant par plusieurs récits racontant l'invisibilisation des femmes dans l'histoire
de l'informatique.
Plusieurs portes sont donc ouvertes dans ce qui est qualifié d'enquête
unique en son genre par la quatrième de couverture.
J'imagine que la tâche à ce sujet ne vient pas de nulle part, alors avant d'aller
plus loin, on voulait savoir qu'est-ce qui a motivé l'écriture de Technoféminisme.
En sortant d'école et en rentrant définitivement dans le milieu du travail, je rejoins très
vite une association qui s'appelle Prenons la Une et qui vise à une meilleure représentation
des femmes dans les médias, la production médias.
Et toutes les réflexions qu'on mène là-bas sur quelle est la place des
femmes dans la fabrication de tous nos contenus médiatiques, mais ensuite on peut
étendre à audiovisuel, culturel, etc., et comment elles sont représentées dans
ces productions.
Sachant qu'en parallèle, moi, je commençais à être chouvenaliste spécialisée du
numérique, peu à peu, je me dis, mais quand même, c'est vachement proche comme
problématique.
Quand on parle de la transformation numérique, on parle beaucoup de la transformation de
l'information, du fait que l'information, c'est le pétrole du XXIe siècle,
les données, c'est le pétrole du XXIe siècle, etc.
Du coup, ça m'a paru de plus en plus évident que toutes les réflexions
que j'avais avec mon association en dehors de mon temps professionnel sur la place
des femmes et des minorités, d'ailleurs, la manière dont elles sont représentées,
le rôle que ça pouvait avoir dans le renforcement ou dans le recul des
inégalités, et tout ça, ça pouvait aussi être transposé côté numérique.
Donc, j'ai commencé à le faire petit article par petit article.
Et puis ensuite, je me suis dit, peut-être qu'il faut essayer de faire une
petite somme pour comprendre comment ça fonctionne à la fois dans nos
usages numériques, à la fois dans la manière dont les outils numériques
qu'on utilise pour nos usages sont construits et donc derrière dans
l'industrie elle-même, qui construit, comment, etc.
J'ai l'impression qu'il y a pour toi, mais je te prête peut-être des
intentions, une espèce de manque d'appropriation peut-être des thématiques
numériques dans les combats progressistes militants sur ces questions-là.
À mon avis, il y a deux types de manques.
Il y a côté combat pour l'égalité, notamment combat féministe, mais pas que.
Souvent, on manque, en tout cas, on a longtemps manqué
des réflexions sur le rôle du numérique dans ces affaires.
On manque notamment d'analyse sur le fait que, comme le numérique s'étend
dans toutes les strades de la société, tous les moments de la vie,
en fait, il participe aussi à beaucoup des problématiques
qui sont critiquées, contestées, etc.
Par exemple, dans le cas des violences sexistes et sexuelles,
aujourd'hui, dans neuf affaires de violences conjugales sur dix,
selon les chiffres du centre Hubertino-Clair,
il y a un pont numérique à l'affaire.
Et donc à quoi ça ressemble ?
Ça peut être tout et n'importe quoi.
Ça peut être du harcèlement, cyberharcèlement,
donc des sujets qui sont plutôt bien connus désormais sur la place publique.
Ça peut être de la surveillance intime en mode
rentrer dans les comptes de réseaux sociaux,
récupérer les codes et l'accès aux comptes bancaires,
aux comptes de l'administration publique
et donc vraiment rendre très difficile l'indépendance économique
de la personne visée par la violence conjugale.
Ça peut aussi être à l'ère où le droit à l'avortement recule
dans plusieurs pays du monde,
utiliser, récupérer toutes les données collectées par nos services numériques
pour aller poursuivre une femme qui chercherait à avorter.
C'est présent dans plein d'endroits, en gros,
et en fait dans la plupart des combats pour essayer de faire en sorte
que les femmes aient autant de droits et autant de libertés que les hommes.
Mais en sens inverse, je voyais aussi que dans le milieu du numérique,
depuis au minimum 2013 et l'affaire Snowden,
mais en fait depuis qu'il existe des combats pour les libertés numériques,
il y avait encore un espèce de plafond de verre,
une difficulté à vraiment faire comprendre aux gens
pourquoi ces problématiques qui soient surveillées.
Mon postulat en commençant à écrire techno-féminisme,
c'était qu'en prenant des cas très concrets,
donc par exemple avec les lunettes féministes,
peut-être, j'arriverais à mieux montrer
pourquoi tous ces enjeux de protection de la vie privée,
tous ces enjeux de lutter contre le pouvoir énorme
de cinq entreprises de la tech, c'était important au sens démocratique.
Parce que oui, ok, je parle de égalité femmes-hommes au début,
mais en fait, c'est un prétexte pour parler de la société en général
et des impacts du numérique sur la société en général.
Si on s'arrête un instant, les numériques, internet,
ces fameux espaces publics numériques n'est pas genrés.
D'un point de vue purement technique,
je vois mal pourquoi internet serait masculin ou féminin.
Pourtant, depuis une dizaine d'années,
certains coins d'internet sont devenus des endroits
des radicalisations à la haine des femmes et d'autres minorités de genre.
On pourrait parler de communautés incels,
les célibataires involontaires qui s'enforcent dans leur ressentiment
à l'égard de genre féminin, cause de leur célibat,
ou encore les MGTOW, men going their own way,
c'est-à-dire de communautés d'hommes qui parlent ouvertement
de séparatisme masculin.
Tous ces groupes seront responsables d'actes d'harcèlement,
attaques personnelles et aussi des tueries.
Voyons alors si Mathilde peut nous donner un aperçu
de comment la culture masculiniste s'est mêlée avec internet.
En fait, ce qu'internet a permis et ce que internet 2.0,
les réseaux sociaux ont permis,
c'est à tout le monde, quel que soit son centre d'intérêt,
de se réunir très facilement sans contrainte géographique.
Donc c'est très pratique pour se réunir entre gamers,
c'est très pratique pour se réunir entre fans de crochets,
c'est très facile pour se réunir
autour d'intérêts professionnels, personnels, n'importe quoi.
Mais c'est donc aussi très facile pour se réunir
entre personnes qui détestent d'autres personnes.
Il y a plusieurs courants qui ont trouvé un réel intérêt à internet,
notamment les courants extrémistes,
enfin d'extrême droite, très conservateurs,
parce qu'à l'époque, en tout cas fin des années 90,
années 2000, ils étaient quand même assez peu acceptés
dans les médias traditionnels.
Donc ils ont vite compris que
on a une superbe infrastructure
pour faire nos propres réseaux de communication, échanger, etc.
En partons-nous-en.
Et c'est comme ça qu'internet est devenu
enfin certains recours en internet,
certaines plateformes dont les règles de modération étaient très faibles,
qui mettaient en avant une conception de la liberté d'expression
qu'on pourrait débattre aussi,
et bien ils ont décidé de s'en emparer pour échanger sur leurs idées.
Et donc parmi ces courants,
il y a à la fois des courants très politiques au sens traditionnel
ou enfin qu'on sait définir comme l'extrême droite des gens.
Et puis il y a ces courants de personnes
qui sont plus focalisées sur un truc
qui est au croisement entre ce qui ressemble à du développement personnel
pour des jeunes hommes qui se disent
comment devenir un meilleur homme en grandissant.
Et fair enough, quand on est adolescent,
on se pose plein de questions sur soi
et je comprends que puisse y avoir un intérêt
et qu'on puisse se faire embarquer là-dedans.
Les filles aussi se posent plein de questions
sur comment devenir une meilleure fille, une meilleure femme.
Et en général, les garçons, ce qu'on leur recommande,
c'est de devenir des durs et de renoncer à toutes leurs émotions.
Et les filles, ce qu'on leur recommande,
c'est de se faire très jolie et de faire en sorte de séduire un homme.
Et voilà comment beaucoup de problèmes se recréent.
Et en fait, sur internet,
il y a des groupes qui ont tiré ces raisonnements-là
vraiment de manière très très poussée
pour arriver à l'idée que les hommes étaient victimes des femmes,
en fait que les femmes avaient déjà pris le pouvoir.
Ils ont tiré ce raisonnement au maximum en disant
non, non, mais nous, on est victime des femmes.
On devrait avoir...
Ils ont une conception aussi du rapport aux femmes
qui est très particulier et en fait problématique
en termes de démocratique et de liberté et de conception de l'autre,
qui est qu'ils auraient le droit.
En fait, il serait nécessaire pour eux
d'avoir accès à des femmes pour avoir des relations sexuelles.
Enfin, en fait, c'est nous rabaisser au rôle de bétail.
Et c'est aussi très, bien sûr, hétérocentré.
Donc aucune considération pour voir beaucoup d'homophobie
pour toutes les personnes LGBTQIA+.
Souvent, il y a des idées racistes.
Et en fait, on va recroiser comme ça à la terme.
Quand on tire le fil,
souvent, c'est assez proche et ça peut devenir assez pourreux
avec des idées d'extrême droite.
Mais ça, on est en train de s'en rendre compte que dernièrement,
et donc pendant les 10, 15 dernières années,
ces groupes-là, ils sont passés de petits groupes de niches
perdus dans des recoins bien cachés d'internet
à de plus en plus mainstream.
Et aujourd'hui, dans la culture populaire,
culture pop en ligne dans les mêmes, dans les choses qui circulent,
il y a beaucoup, beaucoup d'idées qui viennent en partie
de ces milieux-là, malheureusement.
Quand on pose la question des groupes masculinistes à Mathilde,
elle nous parle de communautés aux valeurs conservatrices,
voire même à des groupes qu'on peut, sans trop de difficultés,
rattacher à l'extrême droite.
Et ce que j'ai trouvé intéressant dans nos échanges à ce sujet,
c'est aussi qu'elle parle de ces communautés
comme étant un mal de notre époque,
qu'on identifie réellement depuis quelques années,
depuis le début de la décennie 2020.
Mais alors, pourquoi ?
Qu'est-ce qui fait que la catégorisation de ces groupes
est venue assez tard ?
Goulielmo et moi, on a des attaches au monde universitaire,
alors on s'est dit que la recherche avait déjà dû parler de ce sujet,
et qu'en réalité, c'était la sphère médiatique
qui avait mis du temps à qualifier ces groupes.
Moi, je dirais même pas le milieu universitaire,
je dirais les militants de terrain
et celles et ceux qui réfléchissent depuis très longtemps aux inégalités,
très souvent parce qu'elles les subissent en premier.
Par exemple, il y a eu des alertes très tôt sur le fait que
ce n'était pas forcément des courants masculinistes,
mais en tout cas des gens plutôt haineux,
arrivaient à retourner le fonctionnement des plateformes
sur lesquelles on échange,
donc X, Facebook et compagnie,
pour harceler des personnes qui leur déplaisaient.
Et les premières victimes de ça,
c'est des personnes qui, dans le monde hors ligne aussi,
sont les personnes les plus susceptibles de subir des discriminations.
Donc par exemple, des personnes non-blanches,
des femmes, des femmes noires,
qui sont donc au croisement de plusieurs inégalités, etc.
Depuis très très tôt,
il y a des groupes de personnes marginalisées comme ça ou minorisées
qui alertent sur le fait que les outils numériques
peuvent être dangereux et qu'il faut mettre en place des outils
pour aider les utilisateurs et les utilisatrices à se protéger.
Ces alertes n'ont pas été prises au sérieux.
La raison la plus probable pour l'expliquer très grossièrement,
c'est que les personnes qui construisent ces outils,
ce sont donc un tout petit milieu social,
c'est très principalement des hommes, des pays occidentaux.
Si on prend les principales plateformes qu'on utilise,
j'enlève TikTok du coup pour cette explication,
c'est principalement des hommes blancs américains
qui sont passés à un moment ou à un autre par l'une des plus grandes écoles des États-Unis.
Et donc c'est un milieu social très très précis
qui en fait vit très peu déjà de discriminations en ligne,
mais donc aussi très peu des violences
qui sont la traduction de ces discriminations en ligne.
Donc ils n'ont pas compris ou ils n'ont pas voulu comprendre,
ni voulu voir l'urgence des alertes
qu'il y a eu dès les années 2006-2007-2008,
dès le tout début de Facebook, Twitter et compagnie.
Il y a un chiffre que j'aime bien donner,
parce que ça illustre bien le truc,
c'est que Twitter par exemple,
ils ont mis 7 ans avant de mettre en place
le premier outil de modération sur leur plateforme.
7 ans c'est énorme,
rien qu'en termes juste de protection du consommateur.
Mais c'est pas un cas spécifique à Twitter,
ça illustre bien comment l'industrie n'a pas pris au sérieux
les alertes sur les problématiques
remontées par leurs propres utilisateurs.
Pour reboucler avec la question politique,
je pense qu'on a commencé à comprendre les choses dans les pays occidentaux,
parce que ça aurait pu arriver avant si on était plus alerte.
On a commencé à vraiment comprendre les choses
quand Donald Trump a été élu pour la première fois en 2016.
On a commencé à comprendre que certains des utilisateurs,
certains des internautes derrière le Gamergate,
notamment les plus radicalisés à fond
pour défendre un jeu vidéo masculin
qui ne deviendrait pas walk-easy ou que sais-je,
ces gens-là, ils avaient été mobilisés,
ils s'étaient mobilisés aussi
pour soutenir Donald Trump en mode
et ils n'avaient pas eu forcément cette idée parfaitement tout seul.
On leur avait poussé beaucoup de messages
pour qu'ils se mobilisent en ce sens,
notamment à l'intrigation de Steve Bannon,
grand théoricien derrière Donald Trump,
de comment faire en sorte que le camp ultraconservateur gagne
et qui a repéré très très vite l'intérêt
d'aller chercher dans ces petites communautés très actives en ligne
et quel pouvoir elle pouvait avoir sur la conversation globale en gros.
Bon, il faut être honnête.
Je ne peux pas parler de ces sujets comme s'ils ne me concernaient pas.
Je suis un homme cis, hétéro, qui a grandi avec Internet
et j'étais une proie potentielle
pour ceux qui tentent de radicaliser les hommes dans la haine des femmes.
Chaque fois que j'aborde ces sujets,
il y a comme un petit sentiment de malaise qui monte dans un coin de moi
parce que même si à l'adolescence
mes valeurs étaient très éloignées des celles propagées par ces communautés,
ma réflexion sur mon genre était solitaire et immature.
J'étais probablement, sans m'en rendre compte,
au bord de ces puits qu'est la manosphère.
Et c'est pour ça que j'ai besoin de comprendre une chose.
Comment ces hommes finissent pour y tomber dedans ?
En discutant avec Mathilde,
les premiers sujets qui étaient sortis étaient les faits que,
aujourd'hui, dans certains cercles,
c'est cool d'être anti-woke.
Sûrement si on arrivait déjà à croire que les féministes gouvernent le monde,
les positions de la manosphère peuvent paraître subversives.
Mais cela ne nous explique pas
comment on finit par se retrouver dans ces cercles.
Est-ce qu'on y arrive
parce qu'on a été déjà élevé de manière un peu anti-féministe ou de droite ?
Est-ce qu'on y arrive à cause d'un sentiment de défaite générale vis-à-vis de soi-même
dans un monde qu'en fin de compte autorise cette violence ?
Moi, je ne sais pas plus.
Et du coup, on essaie de creuser un peu plus les sujets avec Mathilde.
Comment on tombe dans les sujets manosphères masculinistes ?
En fait, dans la société, même si les femmes ont gagné ces droits-là,
il y a encore beaucoup de choses qui poussent l'idée
que les hommes devraient avoir plus de pouvoir que les femmes.
Par exemple, OK, depuis le MeToo,
on parle plus ouvertement de violences sexuelles
et certains points de la société essayent de faire en sorte
que la honte change de camp.
C'est-à-dire notamment que la honte soit sur l'agresseur
et pas sur l'agressé.
Puisque dans la société jusqu'ici,
si une femme est violée,
déjà elle a subi cette violence qui est atroce.
Et je rappelle que les violences sexuelles
c'est qualifié de torture par l'ONU.
Mais en plus, qu'est-ce que dit la société,
et ça existe encore dans plein d'endroits du monde,
c'est ah, elle a été violée, bah elle est périmée.
On va l'exclure de la société.
Enfin, essayer de lui faire sentir qu'elle est sale et qu'elle est...
Oui, c'est ça, qu'elle devient périmée quoi.
Donc c'est la double peine, littéralement.
La honte est imposée sur la victime
et c'est vraiment le seul type de criminalité
où la honte est sur la victime et pas sur l'auteur.
Vous vous faites voler un truc, on va pas vous dire
ah mais t'es nul, pourquoi tu t'es fait voler ?
On va essayer de trouver le voleur.
Vous vous faites agresser, on va pas lui dire
ah t'es nul, tu t'es fait agresser,
on va essayer de trouver l'agresseur.
Et bah le seul cas pour lequel les choses sont retournées dans la société,
c'est les violences sexuelles.
Et ces groupes-là peut-être participent aussi,
conserver ce genre d'idées ?
En tout cas, ça permet de valider que même si c'est cool,
on se rend compte que c'est une contre-culture cool,
comme je disais tout à l'heure,
il y a quand même certainement un peu de vérité
si monsieur le président dit que Gérard Depardieu,
c'est l'honneur de la France,
alors qu'il est poursuivi pour viol.
Ou violences sexuelles, je ne sais plus quelles sont les poursuites exactes.
Les exemples de Mathilde rentrent clairement dans ce que nous on a toujours dit dans Azerty,
évidemment que le numérique est sujet aux problématiques contemporaines.
Dans notre discussion, c'est ce que notre invité cherche à nous montrer.
La banalisation et l'impunité dans les cas de VSS,
surtout lorsqu'ils sont médiatisés,
entretiennent un terreau fertile au développement de groupes d'hommes hostiles au progrès social.
Bon alors, maintenant que j'avais le comment on tombe dans ces groupes,
je voulais demander à Mathilde quelles étaient les personnes qui composaient ces groupes.
Sauf qu'elle m'a très vite stoppé.
On dispose de peu de travaux sur les personnes qui adhèrent aux communautés mascus.
D'ailleurs, ces hommes sont souvent très réfractaires aux études sur le sujet.
Mais le peu qu'on a comme études nous montre une certaine représentation de problèmes de santé mentale.
Et ça, Mathilde, ça l'a fait réagir.
Si on prenait plus au sérieux les questions de santé mentale,
si aussi on cassait le patriarcat dans le sens où vous autres hommes,
même si vous êtes persuadés d'y gagner,
en fait vous y perdez aussi parce qu'une des choses qu'on vous enseigne très tôt,
c'est de couper vos accès à vos émotions.
Un vrai homme, ça pleure pas.
Si un homme commence à montrer d'émotions, on va le traiter de fillettes.
Donc là, on est justement sur le fait de faire une hiérarchie entre filles et garçons.
Mais on est aussi en train de décrédibiliser l'accès à ces émotions, etc.
En fait, en faisant ça, en bloquant l'accès de certains humains à leurs propres émotions,
on est en train de construire des futures bombes de dépression et de santé mentale en vrac pour les années à venir.
Et ça fait des siècles qu'on fait ça.
Et typiquement, en fait, le masculinisme et notamment ceux qui vont suffisamment loin pour aller tuer des gens,
c'est la version hyper grossière de ce problème qui est beaucoup plus répandu
et qui pour le coup, on n'a pas besoin d'être masculiniste pour être tombé dedans.
Parce que c'est pareil, ça fait partie de la culture au cinéma, dans les médias, etc.
de dire un vrai homme, ça connaît que deux émotions, le succès et la colère.
Yes !
Et le succès, c'est même pas une émotion, mais enfin, c'est ce qu'il est censé poursuivre.
Et en fait, non, l'expérience humaine est beaucoup plus variée que ça.
Et si on l'acceptait et si on arrêtait de le dévaloriser, notamment pour les hommes,
probablement qu'on arriverait à résoudre beaucoup de problèmes de violence, en fait.
Il y a une véritable exploitation de ces vulnérabilités ?
Je ne sais pas si c'est une exploitation pensée, mais en tout cas,
les discours masculinistes qui sont très engralés sur justement...
C'est pour ça que je parlais aussi un peu de développement personnel au début,
parce que c'est souvent tourné comme ça, sur un, on va vous aider à devenir mieux.
Quand on est dans un moment de fragilité personnelle, en mode rien ne me réussit.
Et notamment, je n'arrive pas à trouver une meuf.
Tout le monde me déteste, etc.
Avoir des messages en mode, mais non, ce n'est pas de ta faute, c'est de la faute des filles.
Tu peux devenir mieux en apprenant telles, telles et telles techniques.
Ça, c'est des trucs de pick-up artistes qui sont littéralement une école de l'irrespect et du consentement.
Ça peut être attirant.
Enfin, oui, ça peut être attirant.
C'est vrai.
Je n'ai jamais été éduqué à prendre soin de moi et des autres dans les sens où Mathilde l'ait dit.
Les soins en sens féministe.
Et c'est peut-être là un de point de départ moins numérique qu'on devrait impronter.
En vrai, c'est là pour moi, ça ouvre en fait de nombreuses questions.
Certaines plus intimes, qui quand j'y pense, elles sont même un peu effrayantes, telles elles sont grandes.
Et d'autres plus sociales, comme la manière de nous éduquer collectivement sur les soins.
Cependant, il faut dire qu'on se trouve sur un terrain très différent de celui des lasers classiques.
Et moi, je n'y suis pas sûr qu'on soit prêt à continuer par là.
Et en même temps, il me reste une sorte de vert d'oreille.
Cette vague d'antiféminisme, avec toute l'énergie mise sur Internet,
est-ce qu'elle n'est pas alimentée par quelque chose, quelque mécanisme de spécifiquement lié au fonctionnement d'Internet ?
Internet n'a pas inventé la haine des femmes.
Internet n'a pas inventé le patriarcat.
Internet n'a pas inventé aucune de nos structures sociales.
Néanmoins, ce qu'il a fait, c'est donc nous donner des infrastructures
et une possibilité d'échanger à une ampleur jusque-là inconnue.
Enfin, et infaisable dans l'espace physique.
On ne pourrait pas se retrouver avec la moitié de la planète sur une place pour discuter.
Alors que c'est littéralement ce qui se passe sur Facebook.
Enfin, en termes de nombre d'utilisateurs en tout cas.
Mais elle l'a fait en n'important pas forcément les mêmes règles de communication,
d'échange, de respect de l'autre que ce qu'on avait en ligne.
Dans les années 90, chez les vieux de la vieille, il y avait ce qu'on appelait la netiquette.
Mais clairement, ce truc-là n'est pas resté.
Ces règles-là ne sont pas devenues mainstream, puisqu'on a oublié le terme.
Et puis, accessoirement, la manière dont les plateformes ont été construites,
en tout cas les suivantes, plutôt aux réseaux sociaux.
Même s'il y a des règles d'utilisation, conditions d'utilisation qui mettent des règles précises,
en fait, elles ne sont pas suivies ni par les utilisateurs,
ni même par les plateformes elles-mêmes quand il s'agit de modérer.
Après, on s'est aussi rendu compte que la manière dont le contenu était trié n'était pas neutre non plus.
Et donc, notamment, que tous les contenus liés au corps des femmes, etc,
c'était modéré tout de suite.
Parce que par contre, dans les conditions d'utilisation,
ce qu'il y avait aussi, c'était la conception plutôt américaine de ce qui est acceptable ou non.
Et donc, il y avait un peu cette pudeur ou pudibondrie, comme on aime dire.
Je ne sais pas si c'est vraiment adapté de parler comme ça,
mais pudeur américaine qui fait qu'il ne faut pas parler de corps et de sexualité,
qui en fait a empêché plein plein plein de filles et de femmes de partager leurs contenus,
alors que des mecs qui balançaient des contenus hyper haineux, eux, ils se faisaient pas modérer.
Et donc, il y a un deux poids de mesure qui est régulièrement critiqué
sur le rôle qu'on sait plateforme, sur le type de discours qu'on peut avoir
et celui qu'on ne peut pas avoir.
Le deuxième point qu'aborde Mathilde me fait penser à un concept qu'elle développe dans un technoféminisme,
c'est celui de neutrasculinité.
En gros, c'est l'idée que le monde numérique technique et technologique serait faussement neutre
puisqu'il est en réalité construit et dominé par une perspective masculine.
Sans se pencher davantage sur la question,
c'est normal de ne pas remettre en question la soi-disante neutralité des plateformes
et de nos outils numériques.
En vrai, ça, c'est un sujet que je trouve passionnant,
qui mériterait peut-être, d'ailleurs, un épisode à part entière.
En attendant, j'avais vraiment envie de parler de ça avec notre invité,
de discuter de comment on a fait croire au monde entier
que les technologies représentent un idéal juste et neutre,
puisqu'elles sont le fruit de la science et des mathématiques.
On nous a présenté des outils comme
c'est le produit de l'informatique, donc des mathématiques, donc c'est neutre
et puis c'est plus efficace que ce que c'est faire l'humain
et puis vraiment c'est tip top quoi,
adoptez-le tous, ce que nous avons fait.
Mais en fait, non, ça n'est pas neutre pour la simple et bonne raison
que c'est des technologies qui ont été construites dans un contexte précis
par une population précise.
C'est des produits de la société comme tout le reste
et donc ça embarque des visions du monde.
Et donc là, ce qu'on détaille depuis tout à l'heure,
c'est que ça embarque au minimum l'expérience des concepteurs principaux,
donc principalement des hommes blancs de classe sociale plutôt aisés.
Et ok, leur expérience, elle peut être très cool
et ils peuvent être très très très experts dans leur domaine.
Mais quand ensuite ils vont dire
nos services sont parfaitement efficaces
et ils vont fonctionner pour tout le monde de la même manière,
en gros, il y a un peu une vocation universaliste
dans la manière dont ils présentent leurs outils,
bah c'est faux,
enfin, foncièrement c'est faux.
Donc il y a tout ce qu'on a dit déjà
sur la question de modération et d'orientation des discours.
Mais on peut prendre des exemples,
puisque en ce moment on parle beaucoup d'intelligence artificielle générative.
Si on reste sur de l'intelligence artificielle tout court
et notamment de la reconnaissance d'image,
on a su assez tôt que les technos qui étaient vendus
comme assez super efficaces pour reconnaître des gens
qui étaient vendus soit aux forces de police,
soit potentiellement aux constructeurs de smartphones
pour qu'ils fassent les trucs de sécurité
pour déverrouiller les téléphones.
En fait, si on regarde les résultats,
bah ça fonctionne quand même vachement mieux
pour ceux qui les ont construits, les mecs blancs,
que pour les femmes blanches.
Ça fonctionne beaucoup mieux pour les blancs que les noirs.
Et donc encore une fois,
et là on retrouve les questions de problématiques intersectionnelles.
On se rend compte que les personnes les moins bien servies
par ces technologies supposément universelles,
c'est encore une fois les personnes
qui sont au croisement de plusieurs discriminations.
Et donc là, en l'occurrence,
je fais référence aux travaux de Joy Buolamwini en 2018
qui montrait que pour les femmes noires,
les machines arrivent à les reconnaître
quasiment qu'une fois sur deux,
ce qui équivaut à jouer à pile-face.
Donc c'est pas du tout efficace.
Initialement, nous voulons mettre d'un set capsule
des exemples d'études,
montrant comment la masculinité
et la neutralité d'un numérique.
À un lieu de cela,
lors du montage,
Mark Zuckerberg lui-même
a lavé les doutes sur cette question
et n'annonçant dans les podcasts de Joe Rogan
sa volonté de revenir à un réseau social
et à une entreprise à l'énergie plus masculine.
Je pense qu'il n'y a pas besoin d'autres exemples.
Nous assistons en ce moment
à une véritable récomposition politique
des grandes entreprises de la tech,
qui tombent les masques de techno-epi
dont on avait discuté avec Felix Treguer,
des losers libéraux qui ont réussi
mais qui quand même restent un peu libérales
et prennent de plus en plus des positions
anti-woke, anti-feministes
et hyper-conservatrices.
Si Zuckerberg et compagnie
veulent que nos réseaux sociaux soient plus masculins,
cela signifie que les algorithmes
qui choisissent automatiquement nos contenus
doivent être aussi plus masculins.
Et puisqu'on parle d'automatisation de contenu,
Mathilde n'émanche pas ses mots
à propos de l'intelligence artificielle non plus.
Pour faire une machine qui fonctionne,
il faut l'entraîner avec des données.
Donc moi je fais le parallèle avec
pour faire un bon article,
il faut mettre dedans plein de faits.
Les données, on a l'impression que c'est des faits,
mais en fait c'est des morceaux
très très parcellaires de la réalité.
Et en l'occurrence, si on reprend la question
de reconnaissance d'images,
les gens qui ont construit ces machines
ont pris toutes les images qu'ils trouvaient en ligne.
Et qui est-ce qui est le plus présent en ligne,
encore une fois,
c'est les hommes des pays occidentaux.
C'est très visible sur Wikipédia par exemple,
qui est souvent utilisé parmi les divers jeux d'entraînement,
notamment des modèles génératifs.
90% des personnes qui écrivent Wikipédia
sont des hommes,
9% des femmes, 1% des personnes non binaires.
Et puis si on regarde en termes de continents aussi,
parce que c'est intéressant aussi sur des questions géopolitiques,
je crois que c'est quelque chose comme
78% des personnes qui écrivent sur Wikipédia
viennent soit des États-Unis, du Canada,
enfin de l'Amérique du Nord ou d'Europe.
Et le reste, c'était le reste de la planète.
Ce qui n'est évidemment pas du tout équilibré
avec la population réelle, etc.
Et donc ce que ça veut dire,
c'est que dans les jeux d'entraînement
qui notamment s'appuient sur Wikipédia,
il y a beaucoup moins de présence
des cultures, des concepts,
des idées, des personnes même,
d'Afrique, de l'Amérique latine, d'Asie.
Et que donc les machines qu'on construit,
c'est des machines à reproduire
uniquement le point de vue des pays occidentaux.
Et l'IA générative, ça permet de bien le voir.
C'est pour ça que je continue de trouver ça super intéressant quand même,
parce que la technologie qui se croit neutre,
elle est quand même super efficace
pour montrer que franchement pas du tout.
Donc par exemple,
quand Dall-E, Mid-Journey et compagnie sont sortis,
il y a eu des grosses enquêtes sur la manière
dont ces technos répondaient
si on leur demandait
est-ce que tu peux me faire une image de mexicain,
une image de français,
une image de chinois, etc.
Et les clichés,
mais genre même un enfant de 5 ans,
il fait moins de clichés que ça.
Si vous demandiez à un ou une mexicaine à la machine,
et de préférence,
il faut faire l'expérience avec un langage neutre,
donc par exemple en anglais.
Un Mexicaine,
ça veut pas dire que c'est une femme,
ça veut pas dire que c'est un homme.
On n'avait que des vieux hommes aux cheveux blancs
avec un énorme poncho et un sombrero.
Genre un truc,
enfin j'ai vécu au Mexique,
tout le monde n'est pas du tout habillé comme ça,
enfin on calme nous quoi.
Que ça a comme effet potentiel,
c'est si jamais on se met à tout illustrer avec ça,
on est parti pour un appauvrissement terrible
de nos imaginaires et de nos images d'abord.
Mais en sens inverse,
pour toutes les personnes qui luttent pour plus d'égalité,
ça peut être une manière super efficace
de montrer qu'on a un problème
et de dire qu'il va falloir qu'on le résolve.
Ceux et celles qui nous écoutent
depuis un certain temps les savent bien.
Chez Azerty, nous parlons de reflets numériques,
parce que nos interlocuteurs et interlocutrices
nous disent souvent
que les numériques reproduisent et amplifient
des structures qui existent déjà dans la société
et en nous-mêmes.
Face au techno-féminisme,
est-ce que Mathilde est de même avis ?
Quand j'entends dire que le numérique ne change rien,
je ne suis pas d'accord,
j'aurais plutôt tendance à dire
qu'il renforce des logiques de domination existantes.
Pourquoi ?
Parce que c'est pour ça que je mets l'accent
sur les questions d'efficacité
et neutralité supposées de ces outils.
En fait, quand on les déploie,
les gens qui les déploient ont tendance à le faire
au motif que ça permettrait d'être plus efficace,
mais ça leur permet aussi de se déresponsabiliser,
dans les choix qu'ils font.
Donc s'il y a un problème,
ils disent c'est pas notre faute,
c'est la faute de la machine.
Or, les sujets dont on a parlé,
notamment si on prend les questions
d'accès aux aides sociales,
foncièrement, c'est des sujets de politique public,
donc ça veut dire que c'est des sujets politiques,
donc il faut prendre des décisions et les assumer.
Ça demande des lignes claires
de trancher dans un débat extrêmement complexe,
certes, mais c'est le rôle par exemple
de nos représentants politiques.
Et en fait, le fait de dire
on a déployé cette machine et elle fonctionne mal,
ça permet de dire c'est pas ma faute,
c'est soit la faute du concepteur,
soit c'est la faute de la machine,
on sait pas pourquoi elle a bugué.
Mais en fait, c'est pas acceptable ça
au sein d'une société.
Nous, en tant que citoyens et citoyennes,
on a le droit et on a besoin
de pouvoir demander des comptes.
Et en fait, ce que font souvent
les déploiements d'outils numériques
un peu à tout va,
c'est que ça nous complique à nous
le fait d'aller demander des comptes.
Donc en ça, je trouve que
dire juste ça reproduit ce qui existe déjà,
c'est oublier la partie
OK, mais dans ce qui existait déjà,
si quelqu'un est raciste,
on peut le critiquer pour être raciste.
Actuellement, on a quand même des lois
qui protègent contre ça
et on peut aller demander des comptes
et on peut le traduire en justice.
Si c'est une machine qui opère du racisme,
qui est-ce qu'on emmène
devant la justice ?
Comment on fait pour demander réparation ?
Elle reproduit des choses qui existent,
elle n'a rien inventé.
Ça, c'est clair et net.
Par contre, je suis tout à fait d'accord
sur le truc,
c'est pas Internet qui a inventé
les hiérarchies que les humains
se mettent dans la tête
les uns vis-à-vis des autres.
Par contre, ce qu'elle permet de faire
c'est d'avoir bon dos,
c'est de deflecte,
de déplacer la responsabilité
de dire que c'est la faute des mathématiques
et pas la faute de l'humain
qui a fabriqué la techno.
Et ça, je ne suis pas d'accord.
Et je pense qu'en tant que citoyens et citoyennes,
on ne doit pas être d'accord
avec ces raisonnements-là.
Pour autant,
elle a quand même été super utile
sur plein de choses
qu'on a aussi un peu évoquées.
Elle reste utile encore aujourd'hui.
Si on réfléchit encore
sur les logiques de mouvements sociaux,
c'est hyper intéressant
d'avoir les outils de technologie
le plus pointus qu'on a
pour mieux comprendre
ce qui se passe sur la planète
et comment peut-être lutter
contre le changement climatique en cours.
On peut faire des choses
qu'on aurait été incapable
de faire à ce niveau de précision
sans les outils numériques
qu'on a développés au fil des années.
Je pense que ça ne change rien.
C'est pour dire qu'il ne faut pas tout jeter.
Et ça, je suis d'accord.
Le problème, ce qu'il faut qu'on fasse,
c'est qu'on arrive à réfléchir
en tant que société
et à s'emparer du sujet,
surtout à ne plus le laisser dans les mains
de la seule industrie,
des seuls acteurs privés.
S'emparer du sujet en tant que société
pour dire ce qu'on veut en fait.
Là où on veut bien déployer la technologie,
là où on dit c'est mort,
les risques que ça provoque,
arrêtez-vous en fait.
Malgré tout ce dont on a parlé,
les groupes masculinistes,
les billets algorithmiques,
la fausse neutralité des plateformes,
on sent que Mathilde a toujours
cette approche très nuancée sur le numérique.
Ça, c'est ce que je me suis dit
pendant tout l'enregistrement,
en entendant son avis sur l'IA,
comme étant l'une des technologies
qui met en exerbe
les problèmes liés aux représentations,
ou lorsqu'on discutait
de diverses initiatives en ligne.
Elle le dit elle-même,
il ne faut pas tout jeter.
Alors l'expression de cette nuance,
elle m'intéresse.
Et j'ai l'impression qu'elle est même
teintée d'espoir peut-être.
Alors après tout ce qu'on s'est dit,
toutes les conclusions
qui ressortent de techno-féminisme,
son avis m'intéresse.
Peut-on encore espérer un numérique
plus juste, moins discriminant,
moins sexiste,
plutôt que simplement le déserter ?
Je pense que
on a besoin, et c'est en cours,
de critiquer très très fort
le système économique
derrière le monde numérique qu'on connaît.
Celui qui a permis à 4 ou 5 acteurs
de prendre un pouvoir énorme,
un pouvoir plus fort que certains Etats.
Ça c'est vraiment très très problématique.
Et donc du coup là,
je sors un peu du numérique
et dire ce qu'il faut qu'on aille
analyser, critiquer, corriger,
c'est le système économique.
Donc en fait,
des questions de société
en dehors du monde purement numérique.
Sur le monde purement numérique,
je m'inquiète beaucoup.
Les effets qu'a le système économique
qui pousse à chercher,
à ce que nos 5 grands acteurs,
notamment les Etats-Unis,
cherchent toujours plus de profits.
Les effets que ça, ça a
sur leur déploiement matériel
et donc sur la planète à terme.
Donc non seulement leurs outils,
quand on les croit neutres,
ils participent pour des problèmes
de société au sens égalité.
Il est urgent qu'en tant que société,
même si on pense ne rien y connaître,
moi je veux la vie des gens
qui ne connaissent rien.
Parce que eux par exemple
seront beaucoup plus à même de nous dire
là où mettre du numérique
n'a pas été aussi efficace
que vendu par exemple.
Donc on a besoin que tout le monde discute,
y compris ceux qui ne veulent pas du numérique
et qu'ensemble on arrive
à inventer des solutions
pour faire le monde qu'on a envie d'avoir.
Retrouvez les thèmes et les questions
abordés dans cet épisode
et bien plus encore dans
Techno Féminisme
Comment le numérique aggrave les inégalités
un livre de notre invitée
Mathilde Saliou
qu'on remercie chaleureusement
pour avoir pris le temps
de répondre à nos questions.
Si cet épisode vous a plu
et que vous nous écoutez
sur la bande FM de Radio Grenouille,
on vous donne rendez-vous
dans vos applis de podcasts
pour une version légèrement plus longue.
Pour ceux qui nous écoutent
déjà sur les applications,
n'hésitez pas à partager l'émission,
à la commenter,
à nous mettre des étoiles
et à vous abonner au podcast.
Ça nous aide beaucoup.
Merci d'avoir écouté et à bientôt en podcast et sur les ondes. ==/ Sous-titres générés avec IA (Whisper), editing et proofing par Guglielmo Fernandez Garcia /==