L’Union européenne décide d’un accord global sur la régulation de l’IA

Le Parlement européen et le Conseil de l’Union Européenne ont trouvé le 8 décembre 2023 après trois jours de négociations un accord sur la réglementation de l’intelligence artificielle en Europe, baptisée AI Act. Cet accord prévoit que la loi sur l’IA devrait s’appliquer deux ans après son entrée en vigueur.

Un accord qualifié de provisoire par le Conseil de l’Union Européenne

La Commission européenne en la personne de Thierry Breton, commissaire chargé du marché intérieur était partie prenante de cette négociation baptisée « Trilogue » dans le jargon des institutions européennes. L’accord est qualifié de provisoire par le Conseil de l’Union Européenne. Ce Conseil est l’instance qui représente les gouvernements des Etats membres de l’Union Européenne.

Le projet de règlement vise à garantir que les systèmes d’IA mis sur le marché européen et utilisés dans l’UE sont sûrs et respectent les droits fondamentaux et les valeurs de l’UE. Cette proposition vise également à stimuler l’investissement et l’innovation dans le domaine de l’IA en Europe. L’idée principale est de réguler l’IA en fonction de sa capacité à nuire à la société selon une approche « basée sur le risque » : plus le risque est élevé, plus les règles sont strictes.

Le nouveau texte autorise l’identification biométrique à distance par les forces de l’ordre dans les espaces publics, sous réserve de garanties. Il oblige les déployeurs de systèmes d’IA à haut risque de procéder à une évaluation d’impact sur les droits fondamentaux avant de mettre en service un système d’IA. Le texte interdit le « score social » et l’usage de l’IA pour manipuler ou exploiter les vulnérabilités des utilisateurs. Les consommateurs auront le droit des déposer des plaintes et de recevoir des explications significatives.

Les IA de recherche et d’innovation ne sont pas concernées par l’AI Act

L’accord prévoit que le règlement ne s’appliquera pas aux systèmes d’IA utilisés à des fins de recherche et d’innovation, ni aux personnes utilisant l’IA à des fins non professionnelles. La loi sur l’IA ne s’appliquera pas aux systèmes utilisés exclusivement à des fins militaires ou de défense et ne doit pas affecter les compétences des Etats membres de l’UE en matière de sécurité nationale.

Pour certaines utilisations de l’IA, les systèmes seront interdits dans l’UE car le risque est jugé inacceptable. L’accord provisoire interdit, par exemple, la manipulation cognitivo-comportementale, la collecte non ciblée d’images faciales provenant d’Internet ou d’images de vidéosurveillance, la reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement, la notation sociale, la catégorisation biométrique pour en déduire des données sensibles, telles que l’orientation sexuelle ou les croyances religieuses, et quelques cas de police prédictive pour les individus.

Le texte de l’accord essaie de ménager la chèvre et le chou. Par exemple, une procédure d’urgence a été introduite permettant aux services répressifs de déployer en cas d’urgence un outil d’IA à haut risque qui n’a pas passé avec succès la procédure d’évaluation de la conformité. Toutefois, un mécanisme spécifique a également été introduit pour garantir que les droits fondamentaux seront suffisamment protégés contre toute utilisation abusive potentielle des systèmes d’IA.

Des amendes proportionnées pour les PME et les startups

Les amendes en cas de violation de la loi sur l’IA représenteraient 35 millions d’euros ou 7 % pour des applications d’IA interdites, 15 millions d’euros ou 3 % pour les violations des obligations de la loi sur l’IA et 7,5 millions d’euros ou 1,5 % pour la fourniture d’informations incorrectes. L’accord provisoire prévoit toutefois des plafonds plus proportionnés aux amendes administratives pour les PME et les startups en cas de violation des dispositions de la loi sur l’IA.

L’accord provisoire signé prévoit que la loi sur l’IA devrait s’appliquer deux ans après son entrée en vigueur, avec quelques exceptions pour des dispositions spécifiques. Suite à l’accord provisoire du 9 décembre, les travaux se poursuivront au niveau technique dans les semaines à venir pour finaliser les détails du nouveau règlement. La présidence soumettra le texte de compromis aux représentants des États membres pour approbation une fois ces travaux terminés.

L’ensemble du texte devra être confirmé par les deux institutions et faire l’objet d’une révision juriste-linguistique avant son adoption formelle par les co-législateurs.

Photo de la conférence de presse des négociateurs de l’AI Act : de gauche à droite les représentants du Parlement Européen (Dragoş Tudorache et Brando Benifei), la représentante du Conseil de l’Union Européenne (Carme Artigas) et le représentant de la Commission européenne (Thierry Breton).
Carme Artigas est secrétaire d’État espagnole à la numérisation et à l’intelligence artificielle. Elle a présidé le trilogue avec le Parlement européen et la Commission européenne pour parvenir à un accord sur la loi sur l’intelligence artificielle du 6 au 9 décembre 2023 à Bruxelles. Dragoş Tudorache et Brando Benifei sont co-rapporteurs pour le Parlement européen. Thierry Breton est Commissaire chargé du marché intérieur.