Serena Villata : Lutter contre les fausses informations et le cyber-harcèlement grâce à l’IA

Dans cet épisode, Serena Villata nous présente les grands chantiers de l’intelligence artificielle. Selon la chercheuse, cette discipline doit être mise au service des citoyens et servir à affiner leur esprit critique. Elle conçoit des outils aux champs d’application nombreux avec son équipe de Sophia Antipolis. Parmi ces outils, la détection automatique de propos haineux, de fausses informations, le décryptage de discours politiques, etc. Serena Villata et son équipe tentent ainsi de déconstruire ces discours problématiques et de créer des contre-discours, afin d'éclairer les consciences des internautes. Elle explique que le pouvoir de la rhétorique en ligne est bien réel, et pourquoi il est fondamental d'apprendre à l’analyser et à l’utiliser à bon escient.

Extraits :  « L'idée est surtout de fournir des outils intelligents pour les professionnels tels que professionnels de la santé ou les journalistes par exemple. On a travaillé beaucoup sur les débats des élections américaines dès 1960 jusqu'à 2016. On a collecté tous les débats présidentiels et après on a fait à la main une notation pour identifier des arguments fallacieux par exemple.»

« Comment détecter les discours haineux ? Comment peut-on classifier automatiquement un certain discours comme étant misogyne, homophobe par exemple, raciste ? Et en plus, comment générer un contre discours pour lutter contre la diffusion ? »

« En ce moment, on arrive à avoir des résultats plutôt satisfaisant en ce qui concerne la détection des arguments dans les textes. L'enjeu qui est devant nous, qui est face à nous, est vraiment la génération de l'argumentation.»

« Je fais partie du Comité national pilote d'éthique du numérique. L'objectif est d'établir des réflexions sur les valeurs d'éthique pour les outils du numérique. Par exemple, on a émis dernièrement des avis sur les agents conversationnel.»

Serena Villata est chargée de recherche CNRS en informatique au Laboratoire I3S (CNRS/Université Côte d'Azur). Elle est la lauréate 2021 du Prix Inria-Académie des sciences jeunes chercheurs et jeunes chercheuses.