Logically a remporté des contrats gouvernementaux d’une valeur de plusieurs millions de livres sterling pour surveiller et signaler les articles considérés comme faux

Une zone industrielle du Yorkshire ℹ️ est un lieu improbable pour une opération de surveillance de l’État. Mais ces entrepôts d’apparence vierge abritent une société d’intelligence artificielle (IA ℹ️) utilisée par le gouvernement pour surveiller les publications des gens sur les réseaux sociaux.

Logically 🔗 a reçu plus de 1,2 million de livres sterling d’argent des contribuables pour analyser ce que le gouvernement appelle la “désinformation” – de fausses informations délibérément diffusées en ligne – et la “désinformation”, qui est une fausse information diffusée par inadvertance.

Pour ce faire, elle “ingère” du matériel provenant de plus de centaines de milliers de sources médiatiques et de “tous les messages publics sur les principales plateformes de médias sociaux”, en utilisant l’IA pour identifier ceux qui sont potentiellement problématiques.

L’entreprise a été créée il y a six ans par Lyric Jain 🔗, un ingénieur diplômé de Cambridge âgé de 27 ans, qui a d’abord mis la technologie à l’épreuve lors des élections dans son pays d’origine, l’Inde.

Il la déploie aux côtés de ce que Logically affirme être “l’une des plus grandes équipes de fact-checking ℹ️ au monde”, répartie entre le Royaume-Uni, l’Europe et l’Inde.

Ce modèle a permis à l’entreprise de décrocher une série de contrats.

Elle a signé un contrat de 1,2 million de livres avec le ministère de la culture, des médias et des sports (DCMS), ainsi qu’un autre d’une valeur de 1,4 million de livres avec le ministère de la santé et des soins sociaux pour surveiller les menaces pesant sur des personnalités de premier plan au sein du service des vaccins.

Parmi les autres clients de premier ordre figurent des agences fédérales américaines, la commission électorale indienne et TikTok.

Un “partenariat” avec Facebook

L’entreprise a également conclu un “partenariat” avec Facebook, qui semble accorder aux fact checkers de Logically une influence considérable sur le contenu que les autres personnes voient.

Un communiqué de presse commun publié en juillet 2021 laisse entendre que Facebook limitera la portée de certaines publications si Logically estime qu’elles sont fausses.

“Lorsque Logically estime qu’un contenu est faux, Facebook réduit considérablement sa diffusion afin que moins de personnes le voient, applique une étiquette d’avertissement pour indiquer que le contenu a été jugé faux et avertit les personnes qui tentent de le partager”, indique le communiqué de presse.

Logically affirme qu’elle ne transmet pas à Facebook les preuves qu’elle recueille pour le gouvernement britannique – mais le partenariat de Logically avec l’entreprise de réseaux sociaux a suscité des inquiétudes parmi les défenseurs de la liberté d’expression.

La société d’IA a été engagée pour la première fois par le DCMS en janvier 2021, plusieurs mois après le début de la pandémie, et a été chargée de fournir un “soutien analytique”.

Au fil du temps, ses responsabilités semblent s’être accrues, de sorte qu’elle soutenait “les efforts intergouvernementaux visant à dresser un tableau complet des fausses informations et de la désinformation potentiellement nuisibles”.

Les documents obtenus par le Telegraph montrent qu’il produit régulièrement des “rapports sur les conditions de service de la plateforme de désinformation liée au Covid-19” pour l’unité de contre-désinformation – une opération secrète au sein du DCMS.

Ce titre suggère que l’objectif était de cibler les messages qui enfreignaient les conditions d’utilisation de plateformes telles que Twitter et Facebook.

Toutefois, les détails des rapports divulgués en vertu de la législation sur les données ont révélé qu’ils comprenaient également des journaux de messages légitimes publiés par des personnalités respectées, telles que le Dr Alex De Figueirido, responsable des statistiques au sein du Vaccines Confidence Project 🔗.

Nadhim Zahawi ℹ️, l’ancien ministre, a déclaré au Telegraph qu’il pensait que l’inclusion du tweet était une erreur. Toutefois, Logically a déclaré qu’il lui arrivait d’inclure des messages d’apparence légitime dans ses rapports s’ils étaient susceptibles d’être “utilisés à des fins militaires”.

“Le contexte est important”, a déclaré un porte-parole.

“Il est possible qu’un contenu qui n’est pas spécifiquement de la fausse information ou de la désinformation soit inclus dans un rapport s’il y a des preuves ou un potentiel de militarisation d’un récit.

Le porte-parole a ajouté que les détails obtenus en vertu des lois sur les données “suppriment souvent la raison pour laquelle le contenu a été signalé et peuvent donc être très trompeurs”.

Toutefois, un document public produit par Logically semble au moins jeter un peu de lumière sur la pensée de l’entreprise.

Le rapport de 21 pages intitulé “Désinformation sur le Covid-19 au Royaume-Uni” fait référence à plusieurs reprises au “sentiment anti-confinement” et au “sentiment anti-vaccin contre le Covid-19”.

Il a également souligné les hashtags “#sackvallance” et “#sackwhitty” (« Renvoyez Valence » et « Renvoyez Whitney) comme preuve d’un “fort dédain pour les conseils d’experts”, plutôt que d’un dédain pour les recommandations de Sir Patrick Vallance, l’ancien conseiller scientifique en chef du gouvernement, ou de Sir Chris Whitty, le médecin en chef de l’Angleterre, en particulier.

L’objectif est de “prévenir les préjudices dans le monde réel”

Un porte-parole de Logically a déclaré que la société croyait “fermement” en la liberté d’expression et que “toute suggestion selon laquelle nous la limitons est inexacte et erronée”.

Le porte-parole a ajouté :

“Nous ne surveillons pas spécifiquement les individus et leur comportement, et nous ne faisons pas de recommandations qui limitent leur droit à la liberté d’expression.

“Lorsque nous servons nos clients, nous surveillons le contenu, y compris les récits et les tendances dans les environnements d’information publique en ligne, afin d’aider à lutter contre la prolifération des préjudices en ligne, de la désinformation et de la mésinformation, et de prévenir les préjudices dans le monde réel”.