Par Gautier Roos, France Télévisions, Direction de la Prospective

Les algorithmes des réseaux sociaux ont-ils pris le pouvoir sur l'opinion ? Comment un système de désinformation, organisé d’une main de maître, a pu contribuer à l'élection de Donald Trump ? Le fact-checking, et les labels de fiabilité attribués à tel ou tel titre de presse, peuvent-ils vraiment endiguer le phénomène ?

Toutes ces questions ont été débattues cette semaine lors d’un événement organisé par La Belle Games et NUMA Paris, sur une initiative du journaliste Laurent Checola. Antonio Casilli, l'un des chercheurs les plus renommés sur les problématiques de « digital labor », a remis en perspective la question des fake news, souvent traitée de façon parcellaire. Une soirée où participaient des développeurs et des personnes investies dans ces thématiques en vue d'élaborer, au fil des prochains rendez-vous, des jeux vidéo innovants destinés à alerter sur le phénomène.

L’occasion de découvrir que ces fausses informations ne sont pas qu’un problème qui chagrine les démocraties libérales en mal de représentativité, mais bien une guerre économique qui s’étend à la surface du globe, et qui concerne pour ainsi dire… tout le monde.

Fake news : un marché mondial destiné à produire de l’intox

Utilisé parfois bien abusivement, le terme de « fake news » s’appuie sur trois racines historiques permettant de retracer l’histoire du phénomène :

• La propagande : fausse information adossée à une volonté politique, visant à produire activement de l’ignorance. Exemples : données erronées, nouvelles biaisées, publicités mensongères, spams présentant des remèdes miracles…
• La littérature de colportage, qui nourrit les croyances populaires avec des rumeurs qui s’auto-alimentent : informations fantastiques, théories surnaturelles, mais aussi mèmes internet avec des légendes outrancières (phénomène de buzz).
• Les écrits apocryphes : les mythes et autres complots qui reposent sur l’idée qu’une force nous empêche de dire une vérité. S’ajoutent aujourd’hui à la catégorie les alternative facts, le recours aux bots, le vaste marché de faux likes et faux clics.

Point important soulevé par Antonio Casilli : les fake news ne se résument pas uniquement à de l’intox ou de la mal-information, c’est aussi l’interaction sociale qui les accompagne. Le problème du fact-checking traditionnel est qu’il met de côté la circulation du message, pour ne s’intéresser en général qu’aux sources (qu’on est appelé à considérer comme fiables ou non). Or l’émetteur est loin d’être le seul facteur à prendre en compte : le marché de l’engagement, et son arsenal autoritaire déployé pour augmenter la viralisation, doit tout autant nous alerter.

Le fonctionnement de Facebook – une plateforme qui pour le coup ne crée aucun contenu - a évidemment partie liée au problème. Depuis l’élection de Trump, la structure même de son algorithme est pointée du doigt : d’un côté il sélectionne par filtrage les contenus censés nous intéresser, de l’autre, il crée de véritables communautés autocentrées où s’écharpent en fait des individus aux avis bien plus similaires qu’ils ne le croient.

Ajoutons à cela la (moins connue) restriction de la portée organique des messages sur Facebook, un procédé initié par la plateforme pour inciter ses utilisateurs à basculer vers un modèle payant pour diffuser leurs posts. Les publications qui ne sont pas sponsorisées sont naturellement limitées auprès de votre communauté : pour atteindre un taux de reach satisfaisant, il faut donc passer à la caisse… Ce que les partis politiques ont bien compris.

Avant chaque élection, les campagnes d’influence en ligne s’effectuent désormais grâce à des fermes à clics. Sous ce nom plutôt bénin se cache en fait un énorme marché drainant les petites mains des pays émergents et ceux en voie de développement : une micro-tâche (un like, un partage, la rédaction d’une fake news, l’élaboration d’un slide) est effectuée moyennant quelques centimes, pour ne pas dire quelques dixièmes de centimes.

UpWork, Fiverr, Get Paid For Likes, Taskrabbit, Amazon Mechanical Turk, 5euros.com…Si les modèles divergent, ces plateformes permettent à des clients de trouver des prestataires à moindre coût, faisant allègrement fi de notre droit du travail et notre protection sociale. A l’heure où le like et le partage sont presque devenus une monnaie à part entière, le recours à ces usines où s'agglomèrent des tâcherons du clic ne peut qu’interpeller.

Selon Business Insider, les équipes de Donald Trump ont acheté près de 60% des followers de sa page Facebook. Des profils situés aux Philippines, en Malaisie, en Inde, en Afrique du Sud…et au Mexique (!), ce qui n’a pas manqué d’éveiller la curiosité des observateurs :

Sans réelle surprise, on remarque que la carte des pays qui ont recours à ces click farms (Etats-Unis, Australie, Canada, Grande-Bretagne…) et ceux qui vendent ces services (Philippines, Pakistan, Chine, Hong Kong, Bangladesh…) reproduit les disparités du monde du travail. De là à parler de néo-colonisation du trafic mondial, il n’y a qu’un pas.

Quand la gamification n’a plus rien d’un jeu

Une nouvelle pratique qui ne se cantonne pas à nos voisins d’outre-Atlantique. De façon moins abusive, le parti socialiste a rémunéré des influenceurs pour propager des messages pendant les primaires : plutôt que d’utiliser des petites mains anonymes, ce sont des leaders aux communautés bien établies qui ont été sollicités (avec une rémunération moins indécente).

Empêtrées dans le « Pénélope Gate », les équipes de François Fillon n’ont visiblement pas eu la même clémence. En s’inscrivant sur la plateforme Les e-militants de l’alternance, les internautes bénévoles peuvent s’engager à défendre leur candidat : un kit de soutien en ligne leur est proposé (des éléments de langage, des tweets pré-enregistrés, des objectifs chiffrés…) pour irriguer les réseaux sociaux. A la clef : pas de rémunération, mais de simples points distribués pour les actions engagées, et peut-être un égo regonflé (« Un classement des meilleurs e-miliants est établi en fonction des actions réalisées »).

Nos partis politiques avalisent donc une forme de travail non rémunéré, rendue moins scandaleuse par le vernis de la gamification…Le philosophe américain Ian Bogost, qui travaille ces thématiques depuis des années, va plus loin : il souhaite qu’on parle d’exploitationware plutôt que de ludification, insistant sur les faibles revenus empochés par les forces productives dans ce nouvel écosystème.

Contrairement à ce que notre intuition nous laisse penser, la viralisation n’est donc pas devenue l’apanage des machines ! Antonio Casilli nous rappelle, qu’à côté des envahissants spambots, des travailleurs volontaires (le plus souvent précaires) contribuent au phénomène. Un secteur de la fake news déjà en voie d’uberisation, qui ne profite, comme bien souvent, qu’à un petit nombre.

Retrouvez notre compte-rendu vidéo de cette première soirée au NUMA, avant les prochaines étapes où seront développés les concepts des jeux vidéo :

Voici le Gamathon et la présentation des projets du 11 juin :