Twitter affirme depuis longtemps que 5 % de ses comptes sont des faux comptes ou des comptes de spam, mais certains experts estiment que ce chiffre pourrait être plus élevé.
Lorsqu’Elon Musk a tweeté vendredi que son projet d’achat de Twitter était “en suspens” pendant qu’il examinait l’ampleur du problème des bots de Twitter, il enfonçait une plaie ouverte dans l’entreprise de réseaux sociaux.
Les problèmes de Twitter avec les bots et les faux comptes sont aussi anciens que la plateforme, vieille de 16 ans. En 2016, une ferme de trolls russes a utilisé plus de 50 000 bots pour tenter d’influencer le résultat de l’élection présidentielle, et les dirigeants de Twitter ont promis de régler le problème. Toutefois, même si les experts s’accordent à dire que l’entreprise a réalisé des progrès considérables en éliminant plus de faux comptes et de comptes de spam que jamais, ils affirment que les progrès de l’intelligence artificielle permettent d’en créer de nouveaux qui sont de plus en plus difficiles à détecter.
Rien de tout cela n’aurait dû surprendre Musk, qui a tweeté qu’il suspendait la transaction “dans l’attente de détails étayant le calcul selon lequel les spams/faux comptes représentent effectivement moins de 5 % des utilisateurs”. (Il a par la suite déclaré qu’il était toujours engagé dans le rachat pour 44 milliards de dollars, et certains investisseurs ont dit qu’ils pensaient que Musk cherchait à obtenir un prix plus bas qui ne pèserait pas aussi lourdement sur les actions Tesla qu’il a données en garantie de son prêt).
M. Musk faisait référence à un document réglementaire déposé par Twitter ce mois-ci, selon lequel les faux comptes ou les comptes de spam constituaient moins de 5 % de ses 229 millions d’utilisateurs actifs quotidiens.
Ce chiffre n’est pas nouveau : Twitter donne la même estimation depuis des années, même si des critiques et des experts ont dit qu’ils pensaient que l’entreprise sous-estimait le nombre réel de ces comptes.
Article: Musk dit qu’il interdira les robots spammeurs sur Twitter, mais il en a été bénéficiaire
“Ces 5 % sont une mesure très opportune et choisie”, a déclaré un ancien employé qui a parlé sous le couvert de l’anonymat pour ne pas s’aliéner un ancien employeur. “Ils ne voulaient pas que ce chiffre soit élevé, mais pas non plus qu’il soit faible, car ils auraient alors pu être pris en flagrant délit de mensonge.
Twitter a refusé de commenter cet article. Une personne familière des négociations d’acquisition, qui a parlé sous le couvert de l’anonymat pour décrire des sujets sensibles, a déclaré que les négociations se déroulaient comme d’habitude, malgré les affirmations de Musk concernant un blocage. La personne a déclaré que les demandes d’en savoir plus sur le spam et les faux comptes étaient routinières pour un acquéreur potentiel d’une entreprise de réseaux sociaux.
L’histoire de Twitter avec le spam remonte à son offre publique de 2013, lorsqu’elle a révélé le risque de comptes automatisés – un problème auquel sont confrontées toutes les entreprises de réseaux sociaux. (Facebook a également estimé que les faux profils représentaient environ 5 % de sa base d’utilisateurs). Pendant des années, les personnes souhaitant manipuler l’opinion publique pouvaient acheter des centaines de faux comptes afin de rehausser l’image d’une célébrité ou d’un produit.
Mais le problème a pris une tournure grave en 2016, lorsque des agents russes de l’Internet Research Agency ont semé la désinformation sur l’élection auprès de millions de personnes en faveur du candidat présidentiel de l’époque, Donald Trump, sur Twitter, Facebook, YouTube et d’autres plateformes.
La controverse sur la Russie, qui a culminé avec les auditions du Congrès en 2017, a incité Twitter à sévir. En 2018, l’entreprise a lancé une initiative appelée Healthy Conversations et éliminait plus d’un million de faux comptes par jour de sa plateforme, a rapporté le Washington Post à l’époque.
Pour s’attaquer au problème en interne, les ingénieurs de Twitter ont lancé une initiative interne appelée Opération Mégaphone, dans le cadre de laquelle ils ont acheté des centaines de faux comptes et étudié leur comportement.
“Vous prenez une catégorie et vous en trouvez d’autres qui se comportent de cette espèce”, a déclaré une personne connaissant bien l’initiative interne, sous couvert d’anonymat pour pouvoir la décrire librement. Cette personne a déclaré qu’elle pensait que le chiffre de 5 % était probablement sous-estimé. “Vous faites des prédictions basées sur ce que vous avez observé, mais vous ne savez pas ce que vous ne savez pas.
Les critiques ont fait valoir que Twitter a intérêt à minimiser le nombre de faux comptes sur sa plateforme et que le problème des robots est bien plus grave que ne l’admet l’entreprise. L’entreprise autorise également une certaine automatisation des comptes, comme les agrégateurs d’actualités qui diffusent des articles sur des sujets spécifiques ou des bulletins météorologiques à des heures précises, ou encore des photos toutes les heures.
Article: Elon Musk a tweeté que l’accord avec Twitter était temporairement suspendu.
Twitter n’inclut pas les comptes automatisés dans ses calculs d’utilisateurs actifs quotidiens parce que ces comptes ne voient pas de publicité, et il affirme que tous les réseaux sociaux ont une certaine quantité de spams et de faux comptes.
Mais le chiffre de 5 % a longtemps fait sourciller les chercheurs extérieurs qui mènent des études approfondies sur le comportement des utilisateurs de la plateforme autour de questions cruciales telles que la santé publique et la politique.
“Qu’il s’agisse de covid ou de nombreuses études sur les élections aux États-Unis et dans d’autres pays, ou encore sur divers films, nous voyons bien plus que ce nombre de bots”, a déclaré Kathleen Carley, professeur d’informatique à Carnegie Mellon, qui dirige le Center for the Computational Analysis of Social and Organizational Systems (Centre d’analyse informatique des systèmes sociaux et organisationnels) de l’université.
“Dans toutes les études que nous avons menées collectivement, le nombre de robots varie : Nous avons observé des pourcentages aussi bas que 5 % et aussi élevés que 35 %”.
Selon M. Carley, la proportion de bots tend à être beaucoup plus élevée sur les sujets où il y a un objectif financier clair, comme la promotion d’un produit ou d’une action, ou un objectif politique clair, comme l’élection d’un candidat ou l’incitation à la méfiance et à la division.
Il existe également des types de bots très différents, notamment le spam promotionnel de base, les comptes d’États-nations et les amplificateurs à des fins commerciales.
L’évolution rapide de la technologie permet aux forces géopolitiques de paraître plus humaines, en émaillant leurs commentaires d’allusions personnelles, et d’essayer de manipuler le flux des conversations et des opinions de groupe.
À titre d’exemple, M. Carley a déclaré que certains robots pro-Ukraine engageaient le dialogue avec des groupes normalement axés sur d’autres questions pour tenter de créer des coalitions soutenant les objectifs ukrainiens. “Le nombre de technologies de bots a augmenté, et le coût de création d’un bot a baissé”, a-t-elle déclaré.
Les personnes extérieures ont déclaré qu’il leur était très difficile de produire une bonne estimation du trafic des robots avec l’aide limitée que Twitter apporte aux efforts de recherche.
“Lorsque nous utilisons notre outil Botometer pour évaluer un groupe de comptes, nous obtenons un spectre allant de très humain à très bot”, explique Kaicheng Yang, doctorant à l’université de l’Indiana.
“Entre les deux, on trouve ce que l’on appelle les cyborgs, contrôlés à la fois par des humains et des logiciels. Nous confondrons toujours les robots avec les humains et les humains avec les robots, quel que soit l’endroit où nous tracerons la ligne de démarcation.
Twitter permet à certains chercheurs d’accéder à un très grand nombre de tweets, connus au sein de l’entreprise sous le nom de “tuyau d’incendie” en raison de leur immense volume et de leur rapidité. Mais même cette base ne contient pas les indices qui permettraient d’identifier plus facilement les robots, tels que les adresses électroniques et les numéros de téléphone associés aux comptes à l’origine de chaque tweet.
Pratiquement tous les efforts déployés en dehors de Twitter pour détecter les “bots” sont voués à l’échec”, a déclaré Alex Stamos, l’ancien responsable de la sécurité de Facebook qui dirige l’Observatoire de l’Internet de Stanford.
Twitter lui-même ne fait pas tout ce qu’il pourrait pour traquer et éliminer les bots, ont déclaré deux anciens employés au Post. Mais deux autres anciens employés ont déclaré au Post qu’après 2018, l’entreprise a agi de manière beaucoup plus agressive.
Certaines de ces personnes ont émis l’hypothèse que des incitations financières motivent Twitter à ne pas les trouver. Si l’entreprise identifie davantage de bots et les supprime, le nombre d'”utilisateurs moyens quotidiens monétisables” diminuerait, le montant qu’elle pourrait facturer pour la publicité diminuerait également et le cours de l’action suivrait, comme cela a été le cas après que Twitter a confirmé un grand abattage au Post en 2018.
La société utilise un certain nombre de programmes pour rechercher et bloquer les comptes commerciaux automatisés, mais ils sont plus efficaces pour attraper les spammeurs évidents, tels que ceux qui enregistrent des centaines de nouveaux comptes le même jour à partir du même appareil, ont déclaré les anciens employés.
Pour produire son estimation trimestrielle des robots, la société examine un échantillon de millions de tweets.
Mais il s’agit d’un pourcentage infime du total, et ces tweets couvrent un large éventail de sujets – pas les questions brûlantes qui attirent le plus de spams et le plus d’impressions de la part des téléspectateurs.
“Honnêtement, ils ne savent pas”, a déclaré l’ancien employé. “Il y a eu une forte résistance à toute quantification significative.”
Twitter s’est protégé juridiquement en insérant dans ses rapports trimestriels une clause de non-responsabilité indiquant que l’erreur pouvait être importante.
“Nous avons fait preuve de beaucoup de discernement, de sorte que notre estimation des faux comptes ou des comptes de spam peut ne pas représenter avec précision le nombre réel de ces comptes, et le nombre réel de faux comptes ou de comptes de spam peut être plus élevé que ce que nous avons estimé”, a déclaré Twitter dans son dernier rapport trimestriel.