Les dessous de l’infox

« L'Europe face aux menaces informationnelles » – (Épisode 13) La désinformation est devenue une pandémie numérique, capable de nuire aux processus électoraux, au point de fragiliser les démocraties. Comment lutter contre ce fléau ? Notre invité, l'historien David Colon adopte l'approche de l'épidémiologiste au sujet de la propagation des fausses nouvelles. Ce qui le conduit à recourir aux notions d'immunisation des populations, et même de vaccination des LLM derrière les IA génératives. 

Pour enrayer la pandémie de fausses informations, il faut déjà travailler sur le diagnostic, situer les responsabilités. Premier constat, en l'état actuel, l'utilisateur final se trouve plus ou moins livré à lui-même. Tous les dispositifs qui servaient jusque-là d'anticorps, afin de de protéger la société des manipulations de l'information, ont été démantelés par l'administration Trump et les patrons de la tech, peu intéressés par la modération sur leurs plateformes, du moment qu'elles leur rapportent. 

Aujourd'hui, une part considérable de la production scientifique sur l'impact des médias sociaux est financée par les médias sociaux. Et sans surprise, cette production scientifique tend à montrer du doigt l'utilisateur plutôt que les choix algorithmiques.

David Colon, historien et enseignant-chercheur à Sciences Po.

La montée des populismes, estime David Colon, résulte notamment du choix des algorithmes qui favorisent systématiquement les discours extrémistes, les publications polarisantes suscitant de l'engagement. 

Une société civile mobilisée, agissante, et des médias plus vigilants face à l'instrumentalisation des tendances en ligne et aux différentes formes de manipulations, c'est un préalable. Mais il y a aussi une responsabilité des politiques et de la façon dont ils occupent aujourd'hui l'espace public. 

Les discours politiques sont plus courts, plus agressifs, avec une connotation émotionnelle. Pourquoi ? Parce qu’ils s’adressent non pas aux autres députés, mais aux algorithmes de recommandation des plateformes pour être relayés et amplifiés.

Les solutions existent

Techniquement, il serait possible de remédier à ces tendances. David Colon s'intéresse notamment aux travaux de Sander van der Linden, professeur de psychologie sociale à l'Université de Cambridge, pour qui une campagne menée à des fins de désinformation par le recours à une IA peut être entravée grâce à l'inoculation du virus à faible dose dans les modèles d'apprentissage des IA.

Il s'agit d'avertir les individus sur le fait qu'ils risquent d'être l'objet de campagnes de désinformation, ou de techniques de désinformation (..) Le meilleur moyen d'injecter une dose infime et indolore de désinformation à des fins de vaccination, c'est de les faire jouer un jeu où ils jouent le jeu du désinformateur, par exemple sur le jeu Harmonie Square ou le jeu Bad News. En étant exposés à ces techniques et en les pratiquant soi-même dans un cadre qui n'est pas un cadre dangereux, ni pour eux, ni pour la société, ils développent des anticorps mentaux qui réduisent leur vulnérabilité à l'égard de ces techniques de désinformation ou de ces récits lorsqu'ils y sont exposés. Appliquée au LLM, cela consiste à entraîner des modèles de langage sur des données qui comprennent d'infimes doses de techniques de désinformation pour entraîner ces modèles à détecter ces techniques et y répondre.

L'essayiste évoque d'autres solutions, comme la création de plateformes conçues pour visibiliser les contenus fiables. Quant au projet de loi relatif à la lutte contre les ingérences étrangères dans la vie démocratique, dont l'examen débutera au Sénat à partir du 20 octobre, son efficacité est d'ores et déjà mise en doute, trop restrictive pour certains, trop tardive aussi. Rien n'empêchera que la désinformation touche sa cible sur les réseaux sociaux dans les 48 heures précédant le vote, alors même que les médias sont tenus à respecter la période de réserve électorale.

Cette émission est le 13e épisode de notre série « L'Europe face aux menaces informationnelles », diffusée dans le cadre du projet CLIC, cofinancé par l'Union européenne, en partenariat avec France 24, l'AFP, et le média d'investigation slovène Oštro.