Promouvoir une IA de confiance en assurance et santé : Mutuelles Impact et MGEN investissent pour soutenir l’accélération d’Ethik-IA

Mutuelles Impact, premier fonds d’investissement à impact social et environnemental dédié à la santé et au médico-social à l’initiative de la Mutualité Française, géré par la société de gestion XAnge (Groupe Siparex) en partenariat avec Investir&+, et MGEN, première mutuelle de la fonction publique, s'engagent dans un partenariat ambitieux pour soutenir l'accélération d'Ethik-IA, expert de la régulation positive de l'IA, et promouvoir une IA de confiance en santé.

Leur objectif : faciliter la diffusion des programmes de Garantie Humaine de l'IA, développer une plateforme technologique accompagnant la démarche de conformité à l'AI Act et permettre le déploiement opérationnel de ces dispositifs dans le domaine de la santé et du mutualisme, dans un cadre de confiance et de souveraineté numérique.

Une accélération significative se dessine dans l’adoption des outils d’intelligence artificielle (IA) par les entreprises et les employeurs publics dans tous les domaines d’activités, l’assurance et la santé en particulier. Ainsi, les professionnels de santé l’utilisent pour améliorer la qualité des soins prodigués aux patients : la traumatologie aux urgences, la radiologie générale, la dermatologie ou encore l’ophtalmologie connaissent une diffusion sans précédent d’outils d’IA.

Par exemple, des algorithmes auto-apprenants, s’améliorant au fil des traitements de données, détectent les signes de pathologies sur des scans et des IRM.

Le guidage par l’IA des parcours de santé territoriaux et les nouvelles perspectives offertes par l’IA générative révolutionnent également les pratiques et les organisations.

Le secteur mutualiste est lui aussi profondément impacté par ce mouvement. De nouveaux outils sont développés pour toujours mieux accompagner les adhérents, gagner en efficacité dans les processus assurantiels, apporter un soutien aux équipes internes et soutenir des programmes innovants en prévention santé.

Pour garantir une diffusion éthique de ces outils, Ethik-IA porte depuis 2017 le principe de Garantie Humaine de l’IA. Intégré à la loi de bioéthique française de 2021 et reconnu par l’OMS, ce dernier constitue désormais le socle pour les concepteurs et utilisateurs du nouveau règlement européen sur l’IA (AI Act) qui entrera en vigueur dès 2025 pour les dispositifs d’IA générative.

« La démarche de "Garantie Humaine" est très opérationnelle et vise à permettre une diffusion soutenable de l’IA en santé et en autonomie. L'idée est d'appliquer des principes de régulation en amont et en aval de l'algorithme en établissant des points de supervision humaine dans un dialogue partagé entre les professionnels, les patients, les bénéficiaires finaux / assurés et les concepteurs d'innovation. C’est donc majeur pour Ethik-IA de pouvoir inscrire son action au sein de cadres de confiance et de souveraineté numérique. Le soutien de Mutuelles Impact et MGEN dans le cadre d’un écosystème mutualiste en constitution avec la Mutualité française représente donc pour nous une étape essentielle » précise David Gruson, président fondateur d’Ethik-IA.

Ethik-IA déploie, depuis la démarche pilote initiée en 2020 dans le domaine des soins bucco-dentaires avec l’UFSBD (Union française pour la santé bucco-dentaire), ces programmes de garantie humaine dans une dizaine de spécialités médicales et a lancé, avec son partenaire Medin+, les premiers dispositifs de télémédecine avec contrôle humain de l’IA (les premiers cas d’usage se développent d’ores et déjà sur la téléradiologie de supervision du recours à l’IA en traumatologie aux urgences). Ces méthodologies ont constitué la base du premier label en garantie humaine de l’IA, initié en 2021 et opérationnel depuis février 2023 en collaboration avec le Digital Médical Hub, et sont intégrées dans des travaux de normalisation sous l’égide de l’AFNOR.

Co-fondée par David Gruson et Judith Mehl, Ethik-IA a développé des programmes de garantie humaine et d’accompagnement stratégique en IA mis en œuvre depuis 2022 sous l’égide d’Hélène Marin, directrice exécutive. A l’occasion de cette levée de financement, Pierre-François Chiron rejoint le projet en tant que directeur général avec notamment pour mission le développement de la plateforme technologique de conformité. David Gruson, Président, présentera dans les prochains jours le schéma d’organisation de l’entreprise.

Dès 2018, la Mutualité Française a plaidé pour la création d’un écosystème mutualiste de référence en matière de Garantie Humaine de l’IA.

« Il est toujours plus difficile de faire évoluer des usages une fois qu'ils sont installés. Pour préserver notre système de protection sociale dans ses dimensions solidaire et éthique, mais aussi garantir la confiance, soyons proactifs dans l'adoption responsable du numérique. En tant que mutualistes, nous nous devons d’être les garants des bons usages en la matière, pour s’assurer d’éviter certains écueils comme la segmentation ou la sélection des risques.  L’IA représente l’avenir en proposant de véritables solutions au bénéfice d’une meilleure santé : encore faut-il en garder le contrôle éthique » souligne Eric Chenut, président de la Mutualité Française.

Dès mai 2023, la mutuelle MGEN a lancé le premier programme pilote à l’échelle d’un groupe assurantiel et mutualiste français, préparant ainsi la conformité au nouveau cadre réglementaire européen et favorisant une diffusion éthique de l’IA en assurance et santé.

« Nous avons été précurseurs en anticipant la future réglementation européenne. Nous avons ainsi déployé la garantie humaine sur trois cas d’usage de l’IA : l’orientation des courriels de nos adhérents, la préparation des réponses aux demandes de nos adhérents, ainsi que les détections de fraudes. Les retours sont très concluants et préfigurent une nouvelle méthode de maîtrise des risques à mettre en œuvre, basée sur un cadre éthique » indique Matthias Savignac, président de MGEN.

L’investissement de Mutuelles Impact et MGEN pour soutenir l’accélération d’Ethik-IA est une première étape significative. Ce tour de table pourra être complété au cours des prochaines semaines d’apports d’autres partenaires partageant ce projet et ces valeurs essentielles pour l’avenir de notre système de santé.