Comment lutter contre la désinformation à l’ère de l’intelligence artificielle ?

Les réseaux sociaux sont désormais incontournables pour s’informer. Mais ils sont aussi le terrain fertile des fake news. À l’approche des prochaines élections européennes, Thomas Huchon nous a parlé de sa nouvelle application Anti Fake News AI créée en collaboration avec l’entreprise BrainSonic pour lutter contre la désinformation. L’occasion aussi de recueillir son témoignage d’enseignant sur l’utilisation de ces outils par la jeune génération.

Propos recueillis le 30 avril 2024

---

Quai des Savoirs :  La question des fake news vous anime depuis de nombreuses années. En février dernier, vous avez créé l’application “Anti fake-news AI” pour lutter contre la désinformation. En quoi consiste-t-elle ? Pourquoi finalement créer encore une nouvelle IA ? 

Thomas Huchon : Je me suis lancé dans ce projet un peu comme un cri de désespoir. 

Avec ce projet, j’essaie de résoudre deux problématiques : le coût et le temps de la production. Puisque personne ne veut vraiment payer pour s’informer en général, encore moins sur la désinformation, il faut trouver le moyen de faire baisser le coût de la production pour qu’on puisse financer malgré tout ce travail-là. 

Aussi, répondre à la désinformation qui circule sur les réseaux sociaux, c’est essayer de prendre en considération le jeu des algorithmes et le fait que ceux-ci vont plutôt avoir tendance à donner une visibilité aux fake news. Donc si on arrive avec une réponse à une fake news 4 jours après sa diffusion, d’une certaine manière, on a déjà perdu le combat. L’enjeu est donc de gagner en réactivité.  

L’idée c’est que ce nouveau compte soit aussi une sorte d’appel à l’aide. Toi, tes amis, ton petit cousin, vous pouvez taguer @anti fake news AI dans les commentaires d’une vidéo qui vous semble problématique et nous allons la regarder et la vérifier si besoin. La particularité de ce projet, c’est qu’on n’utilise pas d’IA génératives de contenus sur la partie éditoriale. Les enquêtes sont faites par des humains, les chroniques sont écrites par des humains et donc les mots prononcés par l’avatar in fine sont écrits par des humains. Et ça restera toujours comme ça.  

Au lieu de tourner la chronique, on l’envoie à HeyGen, un logiciel qui fabrique des avatars. En 3 minutes ils fabriquent une vidéo d’un faux Thomas Huchon plus vrai que nature. Entre le moment où on appuie sur “go” pour que le texte soit fabriqué et le moment où on appuie sur “publier sur Instagram” , il y a entre 3 et 4 heures. L’idée c’est d’utiliser l’IA générative comme une aide à la production, non comme une aide éditoriale.

Quai des Savoirs : Sur les réseaux sociaux, il existe ce qu’on appelle des “bulles de filtres” qui filtrent les informations qui nous parviennent. Sont-elles encore plus puissantes avec le développement de l’intelligence artificielle ? Qu’est-ce que ça engendre pour les utilisateurs ?

Thomas Huchon : Les bulles de filtres sont le fait même de l’intelligence artificielle. Je suis un peu perturbé par la manière dont les gens l’abordent aujourd’hui. 99% des services auxquels ils ont accès sur Internet sont améliorés, voire conçus, voire générés par l’IA. Google traduction, c’est de l’IA, Google Maps c’est de l’IA, Gmail c’est de l’IA, les assistants vocaux, c’est de l’IA. La recommandation par algorithme des contenus que vous allez voir sur Netflix, Youtube, Facebook, Instagram, Tik Tok, c’est de l’IA. Je pense qu’il faut faire de la pédagogie là-dessus.  

Dans le média Anti fake-news AI, on a créé depuis un mois une nouvelle rubrique qui s’appelle Disrupt IA, qui montre comment l’IA nous perturbe. Sur le compte, on a des vidéos sur fond jaune, qui sont de la lutte contre la désinformation et on a des vidéos sur fond bleu, qui est comment l’IA bouleverse nos vies. Cette rubrique permet de faire de la pédagogie.

Quai des Savoirs : Que pensez-vous du regard critique des jeunes face à toutes ces questions de désinformation ? Quel est leur rapport aujourd’hui au numérique et au téléphone ?

Thomas Huchon :  On dit souvent que les jeunes n’ont pas d’esprit critique. Mais si on soumettait les personnes qui ont plus de 60 ans aujourd’hui à la quantité de délires auxquels les jeunes sont soumis sur les réseaux sociaux, le monde aurait basculé. Je me bats un peu contre l’idée que les jeunes seraient plus crédules. Ils adhèrent à des théories du complot parce qu’ils sont surexposés à cela dans l’espace numérique. Je pense au contraire qu’ils sont assez critiques. 

Les journées que je passe dans les établissements scolaires (collèges, lycées) me donnent de l’espoir plutôt que de l’inquiétude. J’ai plutôt l’impression qu’il y a quelque chose qui va bien, même s’ il faut le travailler et les accompagner. Je ne suis ni défaitiste ni en dépression sur cet aspect-là. La dépendance aux écrans me semble plus préoccupante. Le temps que les jeunes passent devant les écrans explose, et notamment sur le téléphone. Le téléphone est particulièrement dangereux car il est associé à une forme d’intimité. 

Quai des Savoirs : Les réseaux sociaux jouent une place importante dans ce qu’on appelle aujourd’hui le marché de l’attention. Ça existe vraiment ?

Thomas Huchon : Oui et c’est même la « dictature de l’attention ». C’est un énorme problème auquel on est confronté parce que même si les chaînes de télé jouaient à ce jeu-là bien avant, elles ne savaient pas tout de nous. Là, le problème c’est que ceux qui jouent à ce jeu ont des outils de prédiction comportementaux extrêmement puissants. Ceux qui détenaient les médias avant n’avaient pas les mêmes pouvoirs que ceux qui détiennent les médias sociaux aujourd’hui. C’est l’architecture industrielle qui permet cette nouvelle économie de l’attention, une architecture de la surveillance généralisée. Ce qui nous pose un problème aujourd’hui, c’est qu’on a accepté de vivre dans une dictature stalinienne où on ne nous dit pas quoi penser, mais quoi acheter. Ce qui change aujourd’hui ce n’est pas tant le contenu, c’est le contenant.

Quai des Savoirs :  En 2017, vous avez réalisé le documentaire Unfair game : comment Trump a manipulé l’Amérique traitant de l’impact des fake news sur l’opinion des électeurs. Doit-on être vigilants en vue des prochaines élections européennes qui auront lieu au mois de juin ?

Thomas Huchon : Oui ! Il va falloir être très vigilants. Tout le monde parle du problème des fake news en ce moment et de la possibilité de créer des choses fausses qui ont l’air vraies avec l’IA. Je suis d’accord, c’est un problème. Mais c’est un problème parce qu’on n’a pas résolu le problème d’avant. Comme on n’a pas réglé le problème des réseaux sociaux, l’avènement de l’IA crée la possibilité de faire n’importe quoi tout le temps et de faire dire n’importe quoi à n’importe qui.  

Il va falloir être d’autant plus vigilants dans la période où on n’a plus le droit de faire campagne, c’est-à-dire entre le vendredi minuit et le moment du vote,où les médias traditionnels n’ont plus le droit de parler de politique. C’est pile dans cet interstice-là que la publication sur des réseaux sociaux d’un contenu faux fabriqué en IA peut créer les conditions de la destruction de la démocratie.

C’est arrivé en Slovaquie au mois d’octobre. Le candidat qui était au pouvoir a été visé entre le vendredi soir et le dimanche matin par un deep fake, où il avouait avoir fait des malversations financières. Il a perdu les élections. Est-ce qu’il n’aurait pas perdu les élections de toute manière ? On peut s’interroger bien sûr, mais le fait est que ça n’a certainement pas aidé son combat politique.