TikTok se tourne vers l'intelligence artificielle pour la modération de contenu : des centaines de modérateurs licenciés

TikTok va licencier des centaines de personnes travaillant au sein de ses équipes de confiance et de sécurité, dans le cadre d'un nouveau modèle opérationnel visant à accroître l'utilisation des technologies d'intelligence artificielle pour la modération de contenu.

Il a été indiqué que l'entreprise prévoit de réduire ses effectifs en Irlande d'environ 300 personnes. Les coupes devraient également affecter les équipes sur d'autres marchés, bien que l'ampleur et la localisation précise de ces réductions n'aient pas encore été clarifiées.

Chez TikTok, les modérateurs de contenu sont chargés de détecter et de supprimer les contenus nuisibles et dangereux présents sur la plateforme. Étant donné que la modération des vidéos est effectuée sur une base linguistique plutôt que régionale, il est estimé que ces réductions pourraient avoir des conséquences dépassant les frontières d'un seul pays.

LA PART DE L'INTELLIGENCE ARTIFICIELLE AUGMENTE

Les responsables de TikTok décrivent ce processus comme une restructuration visant à renforcer le modèle opérationnel mondial de confiance et de sécurité grâce à de nouvelles capacités technologiques. Selon les données de l'entreprise, 97 % des contenus supprimés entre janvier et avril de cette année ont été effacés par des technologies automatisées. Il a également été rapporté que 99 % des contenus supprimés via l'intelligence artificielle l'ont été avant même d'être signalés par les utilisateurs.

Cependant, les modérateurs soutiennent que l'intelligence artificielle n'a pas encore atteint une maturité suffisante pour une modération de contenu à grande échelle. Un employé, s'exprimant auprès de l'Independent, a rapporté que les modèles développés pour la détection d'armes pouvaient confondre des gestes de la main mimant une arme avec de véritables armes, et que les systèmes conçus pour détecter le sang pouvaient interpréter des taches sur un mur comme étant du sang.

Il est également souligné que les émojis et les expressions détournées utilisés pour contourner les règles dans les sections de commentaires ne sont pas toujours détectés correctement par les systèmes automatisés. Les modérateurs avertissent que les coupes budgétaires pourraient rendre les utilisateurs plus vulnérables face aux deepfakes, aux abus et autres contenus préjudiciables.

Le départ de plus de 400 employés de l'équipe de confiance et de sécurité du bureau de TikTok à Londres l'année dernière avait déjà intensifié les débats sur la sécurité en ligne. Alors que les pressions s'accentuent au Royaume-Uni pour protéger les enfants contre les contenus nuisibles sur les réseaux sociaux, le Premier ministre Keir Starmer a annoncé que l'utilisation des réseaux sociaux par les moins de 16 ans serait interdite à partir du printemps 2027.

Un porte-parole de TikTok a déclaré que la restructuration visait à rendre les équipes plus agiles et évolutives, à créer de nouveaux postes spécialisés à Dublin, à offrir des opportunités de reclassement et à améliorer la sécurité de la plateforme grâce à des innovations technologiques.