La définition du terme désinformation, nous n’avons plus besoin de vous la donner bien sûr. Ou bien… malheureusement devrais-je dire. La pratique s’est tellement popularisée avec internet, et les canaux pour communiquer à l’échelle mondiale sont si simples d’utilisation que nous en sommes recouverts. Plus personne ne sait à quel saint se vouer. Notre libre arbitre se réduit par l’épuisement d’avoir à traiter un flot d’informations continu et notre cerveau finit par buguer. 

Par Nathalie Gallet, MediaLab de l’information 

Dans le cadre du projet « A European Perspective » France Télévisions a pu réaliser un document qui donne une idée précise des formes que cette désinformation prend aujourd’hui.  Nous vous proposons une série de 6 articles dans les prochaines semaines : De la carte simplifiée qui vous donnera l’occasion de (re)poser tranquillement les acteurs de cet écosystème, à des articles sur les tendances et modèles actuels de cet outil de manipulation, nous vous partagerons ce dossier en le déclinant par thématiques. 

L’écosystème de la désinformation 

Globalement on pourrait résumer la problématique en disant que l’on est tous plus ou moins cibles et diffuseurs de la désinformation. Que ce soit volontaire ou involontaire. Que ce soit à des fins personnelles ou une échelle plus grande, l’objectif est le même pour le producteur : obtenir ce qu’il veut. Pour cela il s’appuie sur des diffuseurs et des cibles. 

La désinformation c’est utiliser une information vraie ou fausse pour manipuler, faire croire, désorienter, mettre de la confusion dans l’esprit d'une à des millions de personnes en même temps. Ainsi vous créez des groupes de pensées qui s’opposent et souvent se déchirent. Une sorte de guerre d’abord basée sur les idées qui peut aller jusqu’aux armes comme le prouve la guerre en Ukraine. 

L'écosystème de la désinformation 

L’écosystème de la désinformation fonctionne parce qu’il y a des prédateurs et des proies qui, selon un cycle naturel, sont parfois l’un ou parfois l’autre. Ce « jeu » créé une spirale d’influence et de pouvoir des uns sur les autres. À grande échelle, les défenseurs de l’information de qualité emploient tous les moyens pour que les populations aient accès à une information juste et surtout, soient capables de se faire leur propre idée sur une question. Cette éducation que nous devrions tous avoir, est l’une des clés pour démêler le vrai du faux. Malheureusement elle n’est pas toujours accessible à tout le monde. 

Le cycle de la désinformation se tient parce que l’homme (humain) ne peut se satisfaire d’être simplement heureux et positif. Il fonctionne parce que le besoin de domination animal est ancré dans l’humanité. La propagation réussit parce que le cerveau a besoin d’être nourri par des émotions, des réflexions et de la rumination.  La désinformation se sont des humains qui « jouent » avec les autres humains pour faire dominer leur propre pensée. Peu leur importe si elle est vraie ou fausse. Ils la considèrent vraie pour eux et s’emploient donc à redéfinir la vérité auprès du plus grand nombre pour pouvoir redessiner le monde à leur image. 

En toute honnêteté, l’éradiquer totalement semble impossible. On peut au mieux apprendre à la reconnaître. 

Les producteurs de Fake News 

Attachons-nous à parler de la désinformation qui touche un public à grande échelle.
Elle fonctionne en entonnoir. Un producteur crée une Fake News et utilise une masse d’individus, réels ou artificiels (bots), pour relayer sa fausse information et la rendre « vraie » aux yeux du plus grand nombre. 

Un producteur, cela peut être un gouvernement, une entreprise, certains médias ou des individus.
Leurs motivations sont le pouvoir et l’influence.
Ils utilisent deux types de propagations :

1-Intentionnelle : manipulation, propagande, conspiration ou intimidation pour des intérêts politiques, financiers ou de réputation.
2-Non intentionnelle : ignorance, croyances / excès de confiance, réaction émotionnelle ou erreur / inattention...

Par exemple, la personne à l’origine de la fausse information la crée et la diffuse à l'aide de centaines de bots. L’information est alors référencée et remonte dans les notifications de citoyens que le sujet intéresse. Elle fait naître une émotion qui fait appel à une croyance chez cette personne qui finit par partager cette fausse nouvelle la pensant vraie.
Au fur et à mesure cela touche des milliers voire des millions de personnes. 

Un gouvernement pourra asseoir une politique, une entreprise pourra dénigrer un concurrent, gagner de l’argent. Plusieurs études montrent clairement que beaucoup de ces organes utilisent aujourd'hui la désinformation pour arriver à leurs fins.

Afin de ne pas se « salir » les mains, les producteurs délèguent de plus en plus les campagnes de désinformation à des entreprises spécialisées très discrètes.  
En attendant notre article sur l’industrialisation de la désinformation vous pouvez vous intéresser aux enquêtes du collectif Forbidden Stories. Ce sont des journalistes de plusieurs pays qui réalisent des enquêtes collaboratives pour tenter de faire contrepoids aux campagnes de désinformation. Ils les dénichent et les dénoncent. 

Les types de Fake News 

Les outils à la disposition des producteurs de fausses informations se multiplient avec les nouvelles technologies, l’IA et le nombre croissant de réseaux sociaux.
Ces outils sont de plus en plus faciles à utiliser. Ils sont de plus en plus élaborés et permettent une propagation efficace et rapide de la fausse information.  

Voici les types que nous avons recensés :

1Le contenu fabriqué  :

Cela peut être un discours avec un mélange de vraies et de fausses informations. Si vous avez connaissance des vraies, vous pensez que les fausses sont aussi vraies puisque le discours vous avance des arguments que vous reconnaissez comme réels.

Technologiquement, le contenu fabriqué peut aussi être une image ou une vidéo créée artificiellement. Deepfake ou image créée à partir d’un contexte réel mais sur une situation précise fausse comme les images d’IA générative qui ont tant fait parler quand Midjourney a été découvert par tout le monde, avec ces images qui ont trompé une partie de la population.  

C’est un exemple concret récent de la puissance des outils qui arrivent dans les mains de tout un chacun. Cela pose forcément de nombreuses questions quant à l’accélération de la diffusion de fausses informations, leur volume qui va augmenter de façon exponentielle et les conséquences possibles sur la société. 

2Le contenu manipulé  :

C’est un discours, une image authentique prise et découpée, recadrée, pour lui donner un autre sens que celui d’origine.  
Dans une interview Bill Gates parlait de la corruption en Ukraine. Son interview a été découpée pour changer le sens de son propos. Dû à son statut de personne en vue sur la scène internationale, cette vidéo a été vue des millions de fois. Mais cette partie d’interview n’était pas le reflet de ce que disait Bill Gates qui évoquait le fonctionnement de l’Ukraine avant la guerre et qui expliquait que le pays avait bien changé positivement ces derniers temps.

3Le contenu imposteur  :

Vous avez pu déjà voir une vidéo de CNN qui ne provenait pas en réalité de la chaine américaine ? Le « contenu imposteur » c’est la création d’un faux contenu avec la « signature » d’un acteur reconnu comme fiable. Si le résultat est bien fait. Il faudra certainement un œil expert pour ne pas tomber dans le panneau et sans cela il est probable que vous partagerez le contenu. 

4Le contenu trompeur  :

C’est une question d’interprétation. Le discours, l’image, sera présenté avec des arguments totalement faux et qui semblent être cohérents.  

5Faux contexte  :

Une phrase ou une image réelle peut être détournée de son contexte. Par exemple une vidéo de l’explosion du port au Liban du 4 août 2020 a été reprise pour illustrer le tremblement de terre en Turquie du 6 février 2023. Ce type d’utilisation d’un vrai contenu dans le mauvais contexte est certainement le plus utilisé dans le monde de la désinformation. Il n’y a besoin d’aucune technologie. C’est donc très facile à réaliser et en général les contenus choisis sont spectaculaires et crééent une émotion positive ou négative forte. C’est ce qui aide à faire croire à leur véracité dans le contexte pour lequel le contenu est détourné.

6Satire et parodie  :

Une imitation bien faite, une information présentée de manière humoristique. Même si c’est annoncé comme étant faux cela peut troubler l’esprit. Tout est dans la méthode. 

7Les contenus sponsorisés  :

Ce sont le plus souvent des publicités trompeuses mises en évidences au milieu de contenus que vous regardez parce que vous suivez tel ou tel compte. Ces publicités sont engageantes et vous amènent à les partager. 

Toutes ces méthodes fonctionnent parce que notre cerveau est sensible à la sollicitation surprenante. C’est une vraie machine à croire les Fake News.  
Nous en parlerons dans notre prochain article sur les biais cognitifs. Avec l’éducation du libre arbitre de chacun, la connaissance du fonctionnement de notre cerveau est une clé importante pour savoir réagir et réfléchir devant un contenu qui nous interpelle et avoir une chance de ne pas se tromper.

Outils et ressources utilisées pour créer des Fake News  

Afin de créer ces fausses informations une batterie d’outils et de techniques sont à la disposition de chacun. Plus ou moins compliqués. Plus ou moins demandeurs de ressources sophistiquées comme un ordinateur puissant ou du savoir-faire en programmation. Tout le monde peut avoir accès à un minimum de possibilités. Plus encore avec l’avènement des applications de montage de vidéos sur smartphone ou l’intelligence artificielle générative qui sont maintenant à la portée de tous. La différence c’est que plus vous y mettez les moyens et plus l’objectif de désinformation sera vraisemblablement atteint.  

Les « bots » : Programmes autonomes sur internet qui peuvent interagir avec des personnes réelles de manière de plus en plus naturelle. Ils sont en général créés pour envoyer ou relayer de fausses informations et créer du flux sur ce message erroné. 

Les logiciels : programmes de montage, de création d’infographie qui vont permettre la manipulation d’un contenu. 

Modèle d’IA : Certains modèles d’intelligence artificielle vont créer des textes ou des images et bientôt des vidéos suffisamment correctes pour illustrer des situations, créer des personnages ou des lieux qui n’existent pas. Cela permet des impostures plus réalistes que jamais. 

Le DDosing : tiré du vocabulaire informatique, cette méthode consiste à submerger le web avec des argumentaires contradictoires pour perdre les citoyens. 

Le blanchiment narratif : C’est une technique régulièrement employée en politique. Les gouvernements ou partis utilisent des médias « ralliés » à leur cause. Ils leur font délivrer un message et attendent que celui-ci soit repris par des sites « amis » qui offriront de la crédibilité au message.  

L’incitation au clic (click baiting) : attirer les gens avec un titre sensationnel qui les incite à partager 

Sockpuppeting  (Marionnetting) : Une fausse identité va être crée, de faux comptes avec des biographies bleuffantes de réalismes et elles seront utilisées pour entrer en contact avec d’autres personnes ou diffuser des fausses informations dans des blogs, des réseaux sociaux. Elles peuvent être utilisées aussi pour faire du Catfishing. 

Catfishing : À l’aide d’une fausse identité on attire quelqu’un, on le met en confiance afin de lui soutirer des informations  

Fermes de trolls : Ce sont des groupes de personnes ou de bots qui utilisent toutes les techniques ci-dessus pour diffuser les fausses informations.  

Agences de renseignements numériques : Ce sont des sociétés discrètes qui mettent en œuvre les campagnes de désinformation pour le compte de gouvernements ou d’entreprises. 

Cet étalage de possibilités nous montre à quel point nous devons nous méfier de ce que nous voyons ou entendons. Toujours être en alerte et se demander quel est le vrai message. Pourquoi on reçoit telle information à tel moment ? À qui cela profite ? Est-ce que cela a du sens ?
Déconnecter un peu ?  

Les acteurs qui luttent contre la désinformation

En tant que défenseur d’une information juste de qualité, les fact-checkers et les medias s’efforcent de réduire les effets de la désinformation à grande échelle. Celle qui touche les élections, les messages erronés au sujet des guerres ou l’inutilité d’un vaccin contre une pandémie mondiale.

Pour cela il y a deux types de fact-checkers : les indépendants et les médias/presse.

Beaucoup de sociétés indépendantes dont le travail se porte à 100% sur de la vérification de fait naissent dans une majorité de pays dans le monde. Une carte réalisée par Duke Reporters’ Lab les recense. Sont inclues dans cette carte les initiatives de médias. On entend par médias des entités qui ne font pas que du fact-checking et qui ont des départements dédiés à cela.  

Ces acteurs engagent leurs efforts sur plusieurs fronts : Des enquêtes précises sur de la vérification de faits que vous pouvez retrouver sur leur site web. De l’éducation aux médias auprès de jeunes ou de moins jeunes en se déplaçant dans des établissements scolaires, en produisant des programmes sur leurs canaux dédiés aux jeunes publics, en participant à des conférences. Ces acteurs qui sont sur « le terrain » au quotidien, sont en général labellisés par des organisations qui ont une charte éthique extrêmement précise pour bien encadrer les pratiques et s’assurer que les fact-checkers et les médias affiliés s’engagent à travailler avec sérieux et transparence.  

Les plus connues sont l’IFCN à l'échelle mondiale, l’EFCSN pour l’Europe, et le JTI.  Ils régulent le monde des fact-checkers, organisent des groupes de discussions, créent de la collaboration internationale et forment leurs signataires à de nouveaux outils.
La collaboration internationale a par exemple permis de comprendre et d’anticiper les fausses informations qui circulaient de pays en pays pendant la pandémie de la COVID.  

Les derniers acteurs de la catégorie sont les soutiens qui vont aussi faire en sorte de 'connecter' les fact-checkers. Ils organisent des initiatives collaboratives comme De Facto en France, une initiative regroupe des articles de vérifications de plusieurs médias/fact-checkers français reconnus.
Ils font remonter des informations de tous les fact-checkers qui sont partenaires pour réaliser des rapports et mieux comprendre les activités de désinformation à l’échelle internationale.  

Pour faciliter les actions de ces groupes de fact-checking, il y a des chercheurs, des fournisseurs de solutions et des financeurs.  

Ils facilitent la lutte contre la désinformation 

Si elles sont réputées pour être les vecteurs de la désinformation, elles se doivent d’aider à la combattre. Les plateformes font parties des financeurs et des fournisseurs d’outils pour lutter contre les formes de publications de fausses informations. 

Cela ne va pas toujours de soi quand on suit les évènements côté Twitter ou Facebook par exemple mais il y a un investissement de certaines de ces plateformes notamment dans le Code of practice de la désinformation créé par la commission européenne en 2018 et mis à jour en juin 2022. Dans ce code ces plateformes s’engagent par exemple à travailler sur la monétisation des contenus. Notamment pour que ceux proposant des contenus faux ne soient pas encouragés. 

De leur côté les chercheurs participent à beaucoup de projets pour créer de nouveaux outils qui peuvent aider à la lutte contre la désinformation. On peut citer l’un des outils les plus utilisés par les fact-checkers/medias : l’extension Vera.ai, un véritable couteau suisse de la vérification. Plusieurs équipes de chercheurs travaillent dessus et le résultat est concret pour la population de la lutte contre la désinformation. Des images aux posts publiés sur les réseaux sociaux et leur viralité cet outil les aide au quotidien dans leurs enquêtes de vérification. 

 

Les derniers sont fournisseurs de solutions qui sont des entreprises qui vendent leurs produits sur étagère ou qui mettent des outils gratuits à dispositions des professionnels.
Il y a un mélange entre les outils payants et gratuits et beaucoup de possibilités gratuites s’offrent aux fact-checkers/Medias grâce au monde de l’open source. En général des passionnés qui créént des programmes et les mettent à disposition gratuitement à tous sur le web. Parmi les outils très pratiques, on trouve par exemple Wayback Machine qui permet de retrouver des pages archivées disparues d’internet. 

Pour créer ces outils des financeurs lancent régulièrement des appels à projets. Ce sont des fondations, des associations, des organes gouvernementaux pour la recherche ou encore la commission européenne. Ils permettent à des projets concrets de lutte contre la désinformation de se développer. Des projets d’éducation aux médias, des projets de créations d’outils, des projets de mapping de la désinformation pour mieux la comprendre et la contrer.

Conclusion 

Ce milieu est un monde complet mais pas si complexe à comprendre.  

Si vous me demandez ce qu’il y a de plus important à retenir je dirais : « Soyez ouvert d’esprit mais pas trop naïfs. Soyez curieux et écoutez tout le monde. Informez-vous un peu partout et n’oubliez pas de recouper. Laissez un peu tomber le numérique et lisez du papier tranquillement à l’ombre d’un arbre sans stress des notifications constantes 😉 et n’oubliez jamais que vous avez un libre arbitre et un bon sens naturel qui sont de bons conseils. Personne ne pourra vous enlever que votre vérité constitue votre monde. À vous de voir dans quel monde vous voulez vivre. Personnellement, j’appartiens à ceux qui pensent que la terre n’est pas plate. » 

➡️ Retrouvez l'étude complète (en anglais) ici