L’IA au service de la censure en Russie ? RSF s’inquiète des expérimentations du régulateur des télécommunications, le Roskomnadzor
Le Roskomnadzor, le régulateur russe des télécommunications, mène des expériences afin de voir comment l’intelligence artificielle (IA) peut permettre de renforcer le contrôle de l’information en ligne. Reporters sans frontières (RSF) s’inquiète des conséquences de telles expérimentations et appelle à une régulation pour encadrer l’usage de l’IA.
Le régulateur russe des médias, le Roskomnadzor, procède à des tests pour affiner ses méthodes de contrôle de l'information sur le Runet, l’Internet russe, grâce à l’IA, selon le site d’investigation indépendant Istories et du quotidien économique pro-gouvernemental Kommersant. L’autorité a confirmé l’information auprès de l’agence de presse étatique TASS, et précisé qu’il s’agissait de voir quelle place donner aux “réseaux de neurones”, tels que les IA comme ChatGPT, pour contrôler les contenus en ligne définis comme “illégaux” par le pouvoir russe.
RSF s’inquiète d’une expérience qui pourrait ouvrir la voie à de nouvelles pratiques de censure en ligne renforcées par l’IA. Il est urgent d’encadrer la commercialisation de ces technologies afin qu’elles ne servent pas à étouffer la libre circulation de l’information fiable.
“La censure du Roskomnadzor est déjà féroce. Assistée par l’IA, elle pourrait devenir implacable. Ces expériences sont à interpréter comme une menace supplémentaire à l'accès à une information libre et indépendante en Russie, qui déjà n’est plus possible que par des moyens détournés. Que ce soit en Russie ou ailleurs, il est nécessaire d’encadrer l’usage de l’IA afin qu’elle ne puisse pas être mise au service des prédateurs de la liberté de la presse.”
Déployées par des États censeurs, les performances actuelles des systèmes d’IA laissent présager le développement de techniques de censure de plus en plus sophistiquées et d’aller bien au-delà des systèmes qui pour l’heure cherchent des mots-clés interdits dans des contenus en ligne, sur le web comme sur les réseaux sociaux. Capables d’analyser des textes, des images, des vidéos, des métadonnées, ces technologies pourront par exemple permettre aux régulateurs de déterminer, par associations d’idées ou en utilisant un registre de vocabulaire précis, de repérer si un contenu a été créé de manière à échapper à la censure et ainsi empêcher l’accès aux informations qu’il souhaite étouffer.
RSF appelle à des actions concrètes concernant la commercialisation des systèmes d’IA, qui ne donnent pour l’instant aucune garantie en matière de protection du droit à l'information. Sur la question de la censure, les États démocratiques doivent contraindre les concepteurs de systèmes d’IA d’adopter un devoir de vigilance renforcé, en s'assurant de l'identité de leurs clients étatiques et en ayant la capacité d'auditer l’usage qu’ils en font et, si nécessaire, de couper l'accès à leurs technologies en cas de détection d'abus.
