En janvier 2024, 62,3 % de la population mondiale utilisait les réseaux sociaux. Sur des plateformes comme Facebook, X (anciennement Twitter), Instagram, WhatsApp ou TikTok, les informations se diffusent rapidement et largement. Cela fait de ces réseaux des vecteurs idéaux pour la propagation de fausses informations (fake news). Une fake news est une information fallacieuse ou mensongère, destinée à tromper l'opinion publique.
Il s’agit d’un outil utilisé dans la guerre de l’information, à différents niveaux (local ou international) et dans différents domaines (politique, sécuritaire, etc.). Les fake news peuvent être diffusées pour influer sur le cours d’une élection, pour attiser la violence et polariser les communautés, etc.
Comptes de bots : de quoi parle-t-on ?
La diffusion de fake news est facilitée par le recours à des bots.
Sur les réseaux sociaux, les bots sont souvent utilisés pour animer des faux comptes grâce à l’automatisation d’actions telles que : publier des messages, aimer des posts, suivre des comptes ou partager des informations. Les bots jouent un rôle crucial dans l’amplification de la désinformation.
Faux comptes vs comptes automatisés : quelles différences ?
Un faux compte est un profil en ligne créé avec de fausses informations. Il s’agit d’une identité fictive dont se sert sur les réseaux sociaux un utilisateur qui n’est pas formellement identifié. Un faux compte a pour but d’usurper une identité, de manipuler, de tromper ou d’influencer.
Depuis des années en Côte d'Ivoire, les "brouteurs" sont des professionnels de l’escroquerie sentimentale sur Internet. Ils usurpent l’identité d’hommes et de femmes sur les réseaux sociaux et entrent en contact avec des personnes fragiles sur le plan psychologique, souvent européennes ou américaines. Ils promettent à leur victime une grande histoire d’amour et finissent par vider leur compte bancaire.
Un compte automatisé (aussi appelé bot) est un profil en ligne géré par un programme informatique pour effectuer des actions de manière autonome, sans intervention humaine. Les comptes automatisés peuvent être utilisés pour interagir avec d’autres utilisateurs, publier du contenu, etc. Il a pour but de diffuser rapidement et massivement un message.
En 2019, les élections générales au Nigeria ont été largement marquées par les fake news. Des faux comptes ont été utilisés pour diffuser des fausses informations sur les réseaux sociaux comme X, Facebook et WhatsApp, concernant des rumeurs de fraude électorale, de violences et de manipulations des résultats.
Les social bots : technologies et fonctionnement
Il existe des social bots particuliers à certains réseaux sociaux comme X et Instagram. Un Twitter bot est un type de social bot spécifiquement conçu pour X. Il est adapté aux particularités de la plateforme et peut notamment publier des tweets, répondre à des mentions, aimer ou retweeter des messages, etc.
Un compte automatisé Instagram est un type de social bot spécifiquement conçu pour Instagram. Il est adapté aux particularités de la plateforme et peut notamment publier des photos, des vidéos ou des Reels, s’abonner ou se désabonner d'utilisateurs, aimer des publications, etc.
Pour fonctionner, les social bots ont recours à l’intelligence artificielle (IA) et à l’automatisation.
Concernant l’IA, les bots utilisent le Traitement du Langage Naturel (NLP) et le machine learning (ML). Le NLP permet aux bots de reconnaître, comprendre et générer du texte et de la parole de manière fluide. Cela lui permet d’interagir directement avec l’humain. Le ML permet aux bots d’apprendre sans avoir été préalablement programmés spécifiquement à cet effet. Ils s'améliorent au fil du temps en apprenant de leurs interactions passées. Le ML permet aux bots d’apprendre sans avoir été au préalablement programmées spécifiquement à cet effet.
Concernant l’automatisation, les bots utilisent les Application Programming Interfaces (API) et les scripts. Une API permet à un ordinateur de demander une information à un autre ordinateur, par Internet. Concrètement, une API permet à un bot de se connecter aux différents réseaux sociaux. Les scripts sont quant à eux des programmes chargés d'exécuter une action pré-définie et permettent donc d'automatiser des tâches spécifiques comme l'envoi de messages ou la publication de contenu.
A l’aide de ces différentes technologies, le social bot va pouvoir créer des comptes sur les réseaux sociaux. Une fois les comptes créés, il faut programmer les interactions pour se faire passer pour un utilisateur lambda.
Usages des bots dans la désinformation
Les bots jouent un rôle crucial dans la désinformation. Ils permettent, tout d’abord, la diffusion massive de fake news. Ils augmentent artificiellement l’engagement d’un contenu en générant un grand nombre de likes, de partages et de commentaires en peu de temps afin de le rendre viral. Ils permettent, ensuite, de manipuler les tendances en créant de faux mouvements ou hashtags populaires, on parle alors d’astroturfing . Ces deux utilisations permettent de donner l’impression qu’un message est largement accepté. Cela peut amener l’utilisateur humain à considérer ce message comme étant crédible et il est alors possible de manipuler l’opinion publique et d’influencer les débats politiques et sociaux.Ces dernières années, sur le continent africain, l’utilisation de bots s’est accrue et est devenue plus sophistiquée. En 2018, lors des élections présidentielles du Nigéria, des enquêtes ont dévoilées qu’un assistant du président était impliqué dans la diffusion de campagnes de diffamation contre Atiku Abubakr, le leader de l’opposition, en publiant des images et des informations falsifiées, comme par exemple en alléguant qu’Atiku Abubakr était impliqué dans des campagnes de vente d’enfants des rues.
Étude de cas : Kopeechka et la création de faux comptes
Kopeechka (« une pièce » en russe), est un outil informatique permettant de créer en masse des comptes automatisés sur les réseaux sociaux. Cet outil permet de contourner les deux obstacles principaux relatifs à la création de compte sur les plateformes numériques : la vérification par courrier électronique et par téléphone. Ce logiciel russe peut ainsi être exploité pour réaliser des campagnes de désinformation, de spam et de diffusion de logiciels malveillants.
L’un des usages principaux de Kopeechka et de ses bots est l’interférence dans les élections et la manipulation de l’opinion publique. En Afrique, de nombreux pays en ont fait les frais. En 2018, les élections générales en République Démocratique du Congo ont été marquées par de fortes tensions politiques et des accusations de manipulation de résultats. Des rapports ont ensuite révélé que des réseaux de bots créés à l’aide de Kopeechka ont été utilisés pour influencer les débats politiques et manipuler les opinions des électeurs avant l’élection présidentielle. Un scénario similaire à eu lieu lors des élections présidentielles nigériennes de 2019 et des élections présidentielles kényanes de 2017 et 2022.
L'affaire Kopeechka a mis en lumière plusieurs aspects de la cybersécurité et de la manipulation numérique, soulevant des inquiétudes concernant la manière dont les informations peuvent être utilisées pour déstabiliser des démocraties et fausser des processus électoraux.
Comment faire face aux bots et faux comptes ?
Face à ces réseaux de bots, plusieurs plateformes comme X, Facebook, et Instagram ont intensifié leurs efforts pour les identifier et limiter leur influence. Ces plateformes mettent en place des outils comme des algorithmes d’IA chargés de détecter les comportements suspects qui trahiraient l’existence d’un bot, la suppression des comptes inactifs de longue durée, une authentification à deux facteurs, etc. Ces outils utilisent des méthodes d'analyse basées sur des comportements suspects et d'autres indicateurs permettant de distinguer les interactions humaines des interactions générées par des bots.
Les utilisateurs peuvent eux aussi lutter contre ces bots en utilisant des outils de détection comme Twitter Bot Checker, Botometer et Hoaxy. Ils peuvent également observer l’activité des comptes suspects et analyser la fréquence des publications (les bots publient souvent à une fréquence excessive), le contenu (les bots tendent à publier le même message ou des messages très similaires de manière répétée), l’absence de réponse humaine (des réponses automatiques comme "Merci", "Bien joué", etc.), etc.
Les gouvernements et les organisations jouent également un rôle dans la lutte contre les bots et les faux comptes. Le fact-checking (vérification des faits) consiste à analyser et à vérifier les affirmations ou les informations en les confrontant à des sources fiables et vérifiables. Les gouvernements mettent en place des législations sur la lutte contre les bots, comme le BOTS Act (Better Online Ticket Sales Act) de 2017 aux États-Unis.
Les faux comptes de bots : un outil puissant de désinformation
Les bots sont des acteurs clés dans la diffusion des fake news sur les réseaux sociaux, amplifiant la désinformation et influençant notamment des événements politiques et sociétaux. Le continent africain n’est pas une exception à la règle. L'exemple de Kopeechka montre comment ces outils peuvent servir à manipuler l'opinion publique et perturber les processus électoraux. Face à cette menace, les plateformes renforcent leurs systèmes de détection, mais les utilisateurs, les gouvernements et les organisations de fact-checking peuvent également jouer un rôle dans cette lutte. Une combinaison de technologies, de vigilance et de législation peut aider à limiter l'impact des bots et ainsi préserver l'authenticité des informations partagées en ligne.
