Décryptage du projet de l'Union Européenne sur la règlementation de l'IA
Le Comité Stratégies Numériques présidé par Nicolas Gomart a échangé ces dernières semaines sur la réglementation à venir sur l’AI Act (Artificial Intelligence Act).
Invités lors de ce comité, David Gruson et Judith Mehl, co-fondateurs d’Ethik-IA, et Hélène Marin, Directrice exécutive, ont passé en revue les principales dispositions du texte. L’équipe d’Ethik-IA a par ailleurs rédigé une note sur l’applicabilité de l’AI Act aux mutuelles (note disponible en téléchargement).
Le projet de réglementation sur l’IA
Le projet a été validé par les 27 pays de l’Union Européenne le 2 février 2024, voté par le Parlement européen le 13 février et devrait être définitivement adopté en session plénière le 10 avril.
Le champ de l’AI Act est large et non limité à la santé. Il pose un cadre juridique et un calendrier clair en matière de régulation de l’usage des outils d’IA :
- Identification d’obligation pour les fournisseurs d’IA mais aussi pour ceux qui les utilisent ;
- Classification des IA selon 4 niveaux de risque (de risque minime à risque inacceptable) ;
- Classification sectorielle avec des systèmes considérés comme étant à haut risque selon leur secteur d’application : service essentiels et services et avantages publics, éducation, infrastructures critiques, etc. (Annexe III du règlement européen).
Les impacts sur les systèmes d’IA des complémentaires santé
L'Annexe III du projet de réglementation aura un impact sur certains systèmes d'IA utilisés par les complémentaires santé. Pourront ainsi être concernés :
- Les systèmes utilisés pour l’évaluation et le pricing en relation avec les personnes physiques dans le cas de l’assurance vie et santé (life and health insurance) ;
- Les systèmes utilisés pour évaluer la solvabilité des personnes physiques ou établir leur note de crédit (à l’exception des cas d’usage de fraude financière) ;
Cependant, des incertitudes demeurent notamment la portée de la notion de Life Insurance.
A noter : la Commission pourra ultérieurement modifier le contenu de l’Annexe III.
L’IA et les secteurs à haut risque
Plusieurs exigences s’appliquent aux secteurs à haut risque, dont celle de mettre en place une « Garantie Humaine » (Human oversight). Ce principe est porté par les articles 14 (pour les concepteurs d’IA) et 29 (pour les utilisateurs d’IA) du règlement.
A noter : depuis octobre 2023, la réglementation américaine a également introduit cette logique de garantie humaine en IA (executive order de Joe Biden[1] du 30 octobre 2023).
Une réglementation « produit » est prévue avec une obligation de marquage CE pour les systèmes à haut risque. Un chaînage est notamment prévu avec le marquage CE des dispositifs médicaux.
Le calendrier de l’AI Act
Le calendrier est très contraint.
- Fin 2024, les IA considérées comme présentant des risques inacceptables seront interdites (ex. : système d'IA ayant recours à des techniques subliminales afin de manipuler le comportement humain pour contourner le libre arbitre) ;
- Dans les 12 mois suivant son adoption, le règlement s’appliquera aux IA génératives (IA capables de générer des textes en langage naturel, des histoires, des images, des vidéos, etc.) ;
- Dans les 24 mois suivant l’adoption du règlement, seront concernés les systèmes à haut risque - les systèmes utilisés par les mutuelles devraient figurer dans la catégorie à haut risque.
Retrouvez l'intégralité de la loi européenne sur l'intelligence artificielle.
