Par Laure Delmoly, France Télévisions, MediaLab
Fatigués d’être exposés à des propos racistes, homophobes et antisémites sur leur feed, des utilisateurs américains changent la localisation de leur compte Twitter pour l’Allemagne. Un moyen ingénieux de profiter des lois locales allemandes interdisant toute publication de discours d'incitation à la haine sur les réseaux sociaux.
L’Allemagne : une politique stricte due à des lois locales
Depuis l’Holocauste, tout discours d'incitation à la haine est considéré comme illégal en Allemagne. En Octobre 2017, une nouvelle ordonnance, le Network Enforcement Act (NetzDG) étend cette illégalité à tout contenu sur les plateformes en ligne.
Selon la loi allemande, les entreprises de media sociaux comme Twitter sont dans l’obligation de payer une amende de 50 millions d’euros si elles ne retirent pas tous les messages au contenu incitant à la haine, passibles de poursuites pour diffamation ou véhiculant de fausses informations dans un délai de vingt-quatre heures (ou de cinq jours pour les cas moins évidents).
Les services comme Twitter, Facebook ou YouTube doivent également rendre publics des rapports exhaustifs listant les messages qu'ils ont supprimés et les raisons pour lesquelles ils l'ont fait. En juillet 2019, Facebook a été sommé de payer 2 millions d’euros pour avoir communiqué de manière incomplète sur le nombre de commentaires haineux supprimés circulant sur le réseau social. Début 2018, Twitter a ainsi fait état de 265 000 contenus signalés par les utilisateurs, YouTube 215 000 contenus et Facebook 1704 contenus.
Des utilisateurs qui migrent leur compte en Allemagne
Source : twitter.com
« Lors d’une inscription sur une plateforme en ligne. On peut inscrire le pays de résidence que l’on souhaite. Il n’y a aucune vérification de géolocalisation via des documents légaux », explique Delphine Meillet, Avocate au Barreau de Paris, spécialiste des atteintes à la vie privée et des affaires en diffamation.
Les lois allemandes sur les discours d'incitation à la haine sont beaucoup plus strictes que celles en vigueur aux Etats-Unis où Twitter tarde à condamner les utilisateurs publiant des propos diffamatoires. Les utilisateurs de Twitter américains sont ainsi confrontés au quotidien à de nombreux propos racistes qui s’affichent dans leur feed sans pouvoir y remédier. « J’ai essayé de muter certains hashtags mais la méthode la plus efficace a été de me géolocaliser en Allemagne », explique l’utilisateur américain Colford interrogé par la CNBC.
Les utilisateurs qui migrent leur compte en Allemagne voient ce message à la place du contenu diffamatoire :
Source : Twitter.com
Carl Perez explique ainsi à la CNBC « Depuis mon changement de géolocalisation, j’ai vu très peu de discours nationaliste sur Twitter » Un utilisateur a affirmé que depuis qu’il avait changé son pays de résidence pour l’Allemagne, il n’était plus harcelé. Selon lui, Twitter ne montrait plus ses tweets dans le feed d’utilisateurs antisémites le protégeant ainsi de toute attaque en ligne.
« Les utilisateurs ne devraient pas avoir à utiliser des solutions détournées pour se protéger contre les discours d’incitation à la haine en ligne. Ils devraient pouvoir personnaliser leurs paramètres pour diminuer leur exposition à la haine et au harcèlement » explique Jonathan Greenblatt, CEO de l’ADL (AntiDefamation League) à Newsweek. Celui-ci ajoute que « Twitter devrait partager les données de ceux qui changent leur localisation pour l’Allemagne. Cela permettrait de comprendre les comportements utilisateurs »
La politique de signalement sur les discours d’incitation à la haine
En France, les plateformes en ligne ont l’obligation légale de mettre en place des procédures de signalement (Loi pour la confiance dans l’Economie Numérique du 21 juin 2004). Si elles ne le font pas, tout individu peut se saisir de la justice pour obtenir gain de cause.
« Les GAFA ont le statut d’éditeur et non d’auteur. Ils ont donc l’obligation de modérer mais à postériori. Nous leur signalons le contenu problématique pour qu’ils le suppriment. S’ils ne le font pas, il faut alors lancer une procédure juridique », explique Delphine Meillet.
La politique de Twitter en matière de conduite haineuse stipule que : « Vous ne devez pas directement attaquer ni menacer d'autres personnes, ni inciter à la violence en vous fondant sur la race, l'origine ethnique, la nationalité, l'orientation sexuelle, le sexe, l'identité sexuelle, l'appartenance religieuse, l'âge, le handicap ou toute maladie grave. Par ailleurs, nous n'autorisons pas les comptes dont le but principal est d'inciter à nuire aux autres sur la base de ces catégories. »
« Lorsqu’on lance une procédure judiciaire contre Twitter, il faut parfois jusqu’à deux ans pour obtenir la suppression du contenu problématique » ajoute Delphine Meillet.
Une politique qui repose sur les utilisateurs
Twitter est accusé de laisser la responsabilité de la modération aux utilisateurs au lieu de mettre en place une politique pro-active. Certains utilisateurs affirment ainsi que ceux qui postent des contenus dénonçant les discours d’incitation à la haine sont davantage ciblés
« Ceux qui réagissent à la haine et au harcèlement se voient dépublier leur contenus alors que ceux qui postent des propos ouvertement racistes et utilisent Twitter pour organiser des rassemblement racistes ne sont pas concernés » explique Jessica Gonzales de Free Press, un lobby américain défendant la liberté de la presse.
Selon Jack Dorsey, l’inefficacité de la modération viendrait plutôt des utilisateurs eux-mêmes. « La plupart des utilisateurs ne signalent pas les contenus haineux. Ils les voient s’afficher dans leur feed mais il est plus facile pour eux de tweeter Les Nazis, dehors! que de signaler le contenu qui pose problème via le bouton sur Twitter. Il est vrai que nous devons adopter une politique plus pro-active mais cette réalité autour du signalement existe » explique le PDG de Twitter dans une interview pour le Rolling Stone Magazine.
Et Delphine Meillet d’ajouter : « On ne voit plus de décapitation sur les plateformes en ligne comme cela pouvait être le cas il y a quelques années. Mais celles-ci ne sont pas juges pour autant. Parfois on leur demande de s’ériger en juge or ils n’ont pas les compétences »
Vers une politique de modération plus efficace ?
« Twitter est la plateforme la plus difficile à faire condamner. C’est la plus libertaire. Ils ont des modérateurs qui suppriment les contenus liés au terrorisme ou à la pédo-pornographie mais pour les autres types de discours d'incitation à la haine, c’est beaucoup plus compliqué » souligne Delphine Meillet.
Qu’en est-il aujourd’hui d’une modération automatique par filtre ? Les filtres actuels mis en place par les plateformes sont jugés peu efficaces. En Allemagne, la mise en place de la politique de modération stricte est d’ailleurs gérée par une équipe et non par des filtres d’Intelligence Artificielle. « Les GAFAS ne veulent pas mettre en place tous les filtres de modération parce que cela leur coûte trop cher et que les solutions techniques développés ne sont pas encore assez efficace. Ils ont mis en place certains filtres mais cela ne suffit clairement pas » conclut Delphine Meillet.
Liberté d’expression en ligne : Allemagne vs Etats-Unis
En Allemagne, le génocide et le nazisme ont profondément impacté la notion de libre expression. Les Allemands sont enclins à penser que pour protéger la démocratie, il faut parfois limiter la liberté d’expression. En France, si on considère que la polémique est bénéfique pour la démocratie, on pense qu’il est dangereux de laisser la responsabilité de la modération à des entreprises qui n’ont pas encore de solutions techniques assez performantes pour proposer une modération efficace.
Aux Etats-Unis, la liberté d’expression est constitutive de la Démocratie. Ils n’y a pas de législation visant à interdire les discours d’incitation à la haine.
Les plateformes en ligne sont livrées à elle-même concernant l’épineuse question des discours de diffamation et d'incitation à la haine. Les défenseurs de la liberté d’expression à l’américaine affirme que celle-ci a permis une politique d’innovation performante. Les entreprises de médias sociaux leaders sont américaines, mais les discours qu’elles hébergent ne doivent pas menacer pour autant le pacte social, et ce, au delà des frontières.
