Centres de transparence algorithmique et le nouvel ordre européen

Le monde est divisé en trois blocs concernant les algorithmes et l'intelligence artificielle. Dans le premier, les États-Unis jouissent d'une domination majeure grâce à l'avantage d'être les pionniers. Les grandes entreprises technologiques de la Silicon Valley déterminent la direction que prendront les technologies d'IA et ce que les algorithmes peuvent accomplir. Leur philosophie est celle du « faisons d'abord, nous corrigerons les problèmes qui surviendront plus tard ». La Chine, quant à elle, progresse plus rapidement que prévu dans le développement de l'IA et des algorithmes au sein d'un système numérique en circuit fermé, en utilisant les quantités massives de données générées par ses citoyens. Leur approche est de « localiser la technologie et concevoir des algorithmes plus avancés en utilisant les mégadonnées dont nous disposons ». L'Union européenne, pour sa part, adopte une politique quelque peu « conservatrice » face à la rapidité d'action des deux autres parties. Elle constate un vide administratif et de contrôle concernant les technologies d'IA et les algorithmes. Elle pense qu'il faut « définir d'abord les règles et les réglementations, puis permettre l'utilisation des technologies ». 

C'est avec cette approche que l'Union européenne a agi pour combler ce grand vide dans le monde numérique et a créé le Centre européen pour la transparence algorithmique (ECAT). Ce centre est chargé de contrôler les algorithmes invisibles des plateformes et d'étudier leurs impacts sociétaux. L'objectif est de révéler le fonctionnement de ces « boîtes noires » qui opèrent partout, des réseaux sociaux aux moteurs de recherche, et de sensibiliser le public.

Comme l'a annoncé la Commission européenne, l'ECAT fonctionne notamment dans le cadre de la Loi sur les services numériques (DSA). En d'autres termes, les systèmes de classement de contenu, les algorithmes de recommandation et les systèmes de modération de contenu des grandes plateformes en ligne pourront être examinés indépendamment à partir d'ici. La transparence ne se limitera pas à des rapports techniques ; la manière dont ces algorithmes déclenchent des risques sociétaux tels que la santé mentale des jeunes, les tendances à la radicalisation et la désinformation sera également mise sur la table. Comme le souligne le site de la Commission européenne, le centre examinera ces systèmes sous l'angle des « modèles de comportement à risque pour la société ».

Comme indiqué dans un article paru sur TechCrunch, l'Europe ne cherche pas seulement à obtenir plus de responsabilité de la part des entreprises technologiques avec cette mesure ; elle vise également à mettre en lumière les processus décisionnels qui affectent directement la vie des utilisateurs. Ceci est considéré comme l'une des mesures les plus sérieuses de l'Europe en matière de « régulation numérique ».

Bien entendu, des débats existent. Comme l'a rapporté Reuters ces derniers mois, les géants de la technologie pourraient vouloir limiter ces exigences de transparence sous prétexte de « secret commercial ». De plus, la question de savoir comment cette transparence sera répercutée sur le public est cruciale : même si des rapports techniques sont rédigés, s'ils ne sont pas transmis dans un langage simple, ces documents pourraient rester accessibles uniquement aux universitaires et aux bureaucrates. En somme, la transparence soulève également la question : « pour qui » cette transparence est-elle destinée ?

Si l'on considère la situation du point de vue de la Turquie, le tableau est plus complexe. Nous ne disposons pas encore d'un centre indépendant capable d'examiner systématiquement les algorithmes. Pourtant, ignorer le fonctionnement des systèmes de recommandation sur les réseaux sociaux aggrave de nombreux problèmes, de la désinformation aux discours de haine. Cette mesure prise en Europe m'amène à poser la question : « un mécanisme de transparence similaire est-il possible chez nous ? ».

En conclusion, l'ECAT constitue un « modèle pionnier » non seulement pour l'Europe, mais pour le monde entier. Car les algorithmes, acteurs invisibles de nos vies numériques, ne sont plus seulement des boîtes noires appartenant aux entreprises technologiques, mais sont devenus un sujet de contrôle social. Cette voie ouverte par l'Europe devrait être une source d'inspiration pour des réglementations privilégiant l'intérêt public dans des pays comme la Turquie.