Règles de l'Union européenne pour réguler l'intelligence artificielle

Le Conseil de l'UE a annoncé qu'un accord avait été trouvé sur la « Loi sur l'intelligence artificielle », négociée entre les États membres et le Parlement européen (PE), qui introduira les premières règles complètes au monde en matière d'intelligence artificielle. Selon cet accord, les systèmes d'intelligence artificielle utilisés dans les pays européens devront être sûrs et respecter les droits fondamentaux ainsi que les valeurs de l'Union.

Les systèmes d'intelligence artificielle seront réglementés selon une approche « fondée sur le risque », en fonction de leur potentiel à nuire à la société.

Des règles plus strictes seront imposées aux systèmes d'intelligence artificielle à haut risque. Des critères clairs seront établis pour distinguer l'intelligence artificielle des systèmes logiciels simples.

Il sera garanti que l'intelligence artificielle n'affecte en aucun cas les compétences des États membres en matière de sécurité nationale ou toute entité chargée de ce domaine.

La loi sur l'intelligence artificielle ne s'appliquera pas aux systèmes utilisés exclusivement à des fins militaires ou de défense.

Les systèmes d'intelligence artificielle présentant un risque limité devront clairement indiquer que le contenu est généré par une intelligence artificielle afin que les utilisateurs puissent prendre des décisions en connaissance de cause. Ces systèmes seront soumis à des obligations de transparence légères. Divers systèmes d'intelligence artificielle à haut risque seront autorisés. Cependant, l'accès des systèmes d'intelligence artificielle à haut risque au marché de l'UE sera soumis à une série de règles et d'obligations.

CERTAINES INTERDICTIONS SERONT ÉGALEMENT APPLIQUÉES À L'INTELLIGENCE ARTIFICIELLE

Certaines utilisations de l'intelligence artificielle seront jugées inacceptables et ces systèmes seront interdits dans l'UE.

La manipulation comportementale cognitive, l'extraction non ciblée d'images faciales à partir d'Internet ou de systèmes de vidéosurveillance, la reconnaissance des émotions sur le lieu de travail et dans les établissements d'enseignement, la notation sociale, ainsi que la classification biométrique visant à extraire des données sensibles telles que l'orientation sexuelle ou les croyances religieuses entreront dans le champ des interdictions.

Les forces de l'ordre pourront utiliser l'intelligence artificielle. Elles pourront déployer un outil d'intelligence artificielle à haut risque qui ne passerait normalement pas la procédure d'évaluation de la conformité en cas de procédure d'urgence.

Les unités de police pourront utiliser des systèmes d'identification biométrique à distance en temps réel dans les espaces publics, avec autorisation, dans des cas exceptionnels et nécessaires.

L'utilisation de tels systèmes d'intelligence artificielle sera limitée à des situations telles que la prévention d'attaques terroristes, de menaces existantes ou prévisibles, et la recherche de personnes suspectées des crimes les plus graves. Par ailleurs, un mécanisme spécial sera mis en place pour garantir une protection suffisante des droits fondamentaux contre d'éventuels abus des systèmes d'intelligence artificielle.

Des règles spécifiques seront introduites pour les grands systèmes capables d'effectuer une grande variété de tâches différentes, telles que la création de vidéos, de textes, d'images, la traduction, le calcul ou l'écriture de code informatique. Ces systèmes d'intelligence artificielle à usage général devront se conformer à diverses obligations de transparence avant d'être mis sur le marché.

Un « Bureau de l'intelligence artificielle » sera créé au sein de la Commission européenne, chargé de superviser les modèles d'intelligence artificielle avancés, de contribuer au développement de normes et de pratiques de test, et d'appliquer des règles communes dans tous les États membres.

Un panel scientifique composé d'experts indépendants conseillera le Bureau de l'intelligence artificielle. Le Conseil de l'intelligence artificielle, composé de représentants des États membres, agira comme une plateforme de coordination et un organe consultatif pour la Commission. Les amendes pour violation de la loi sur l'intelligence artificielle seront calculées sur la base du montant le plus élevé entre un pourcentage du chiffre d'affaires annuel mondial de l'entreprise au cours de l'exercice précédent ou des montants prédéterminés.

En cas de violation concernant des applications d'intelligence artificielle interdites, une amende de 7 % du chiffre d'affaires de l'entreprise ou 35 millions d'euros sera imposée ; en cas de non-respect des obligations, 3 % du chiffre d'affaires ou 15 millions d'euros ; et en cas de partage de données erronées, 1,5 % du chiffre d'affaires ou 7,5 millions d'euros. Le montant le plus coûteux pour l'entreprise sera retenu lors de l'imposition de l'amende.

LES ENTREPRISES TECHNOLOGIQUES DEVRONT ÉGALEMENT SE CONFORMER À CES RÈGLES

La loi entrera en vigueur après son approbation officielle par les pays de l'UE et le Parlement européen, et son application débutera 2 ans après cette approbation officielle. La Commission européenne avait préparé et soumis aux États membres et au Parlement européen la première proposition législative contenant le cadre des nouvelles règles sur l'intelligence artificielle il y a 2 ans.

Cette proposition introduisait un certain nombre de restrictions et de règles de transparence dans l'utilisation des systèmes d'intelligence artificielle. Dans la proposition de loi de la Commission, les systèmes d'intelligence artificielle étaient divisés en 4 groupes principaux : risque inacceptable, risque élevé, risque limité et risque minimal.

Avec la nouvelle loi, diverses technologies d'intelligence artificielle telles que le modèle d'intelligence artificielle Gemini de Google et ChatGPT devront se conformer aux nouvelles règles.