L'intelligence artificielle (l'I.A.) fait une entrée dans nos sociétés, et nous ne sommes qu'aux prémices d'une véritable révolution. À ce titre il mérite d’être expliqué et détaillé, même si nous ne pouvons pas aborder l’ensemble du thème tellement il est vaste Notre organisation syndicale a décidé d'ouvrir un dossier sur l'I.A. Le sujet est vaste et complexe, aussi nous étalerons notre étude sur plusieurs articles .

Tout d’abord essayons de définir ce qu’est l'I.A.  Là aussi autant de définitions que d’auteurs. Alors juste deux propositions de définition. C'est un « processus d'imitation de l'intelligence humaine qui repose sur la création et l'application d'algorithmes exécutés dans un environnement informatique dynamique.

Le but est de permettre à des ordinateurs (des machines) de penser et d'agir comme des êtres humains (1 )».

Mais, plus largement, c’est aussi « l'ensemble des systèmes informatiques capables d'effectuer des tâches typiquement associées à l'intelligence, telles que l'apprentissage, le raisonnement, la résolution de problèmes, la perception ou la prise de décision. L'intelligence artificielle est également le champ de recherche visant à développer de tels systèmes (2) ».

L'I.A. apporte des avantages immédiats dans plusieurs domaines, comme par exemple la médecine pour la lecture et l'interprétation de l'imagerie médicale (elle peut contrôler et analyser plus de données qu'un humain et ainsi mieux détecter certains pathologies et personnaliser les traitements). Mais elle suscite beaucoup d'inquiétudes et d'interrogations en faisant craindre de réels dangers.

De nombreuses inquiétudes

L’emploi

Dans un premier temps, les inquiétudes portent sur l'emploi. L’I.A. engendrera, certes, de nouveaux emplois mais elle en détruira beaucoup d'autres. Tous les organismes travaillant sur le sujet ne sont pas d’accord entre eux, sauf sur un domaine : un vrai bouleversement se prépare avec des métiers qui vont disparaître, des nouveaux qui vont apparaître, enfin d’autres qui vont évoluer. Outre la suppression d'emplois avec son lot de conséquences économiques, familiales…, il convient d'ajouter la détresse psychologique de voir sa compétence, son engagement et son expérience remplacés brutalement par une intelligence artificielle, par une machine.

L’environnement

L'impact environnemental du développement de l'I.A. est souvent tu mais source de grandes inquiétudes. Pour fonctionner l'I.A. a d'énormes besoins en eau et en électricité, elle engendre la prolifération des data-center, l'extraction de minéraux rares (cobalt, terres rares...) et une pollution des eaux et de la terre. Les émissions de CO2 des géants de la tech ont déjà augmenté en 2024 de 30% à 50%.

Le fonctionnement

L'I.A. est un ensemble d'algorithmes créé par des hommes, avec leurs personnalités, leurs croyances politiques ou religieuses, leurs préjugés. Les créateurs peuvent, volontairement ou involontairement, biaiser les données dont va se servir l'I.A. Cette dernière peut les reproduire et même les amplifier et arriver ainsi à des raisonnements et des décisions altérées, dangereuses, difficiles à comprendre et à contrôler. Les résultats produits par l'IA ne sont pas infaillibles et peuvent parfois être biaisés. L'IA peut produire des « hallucinations ». Ce phénomène propre aux modèles d'IA générative désigne une situation où l'IA invente une information crédible, mais fausse sans fondement réel dans ses données d'apprentissage ou d'entrée, tout en la présentant comme véridique. Et comme les algorithmes ne sont pas connus, cachés dans des « boites noires » que l’on ne connaît pas, comment déceler ces problèmes ? Comment fonctionne le raisonnement de l’I.A. ? Bien malin qui a la réponse et là c’est un véritable problème. Si les paramètres ou les hypothèses d'un modèle d'I.A. sont mal compris ou mal connus, les réponses générées par le modèle risquent d'être mal interprétées et peuvent mener à des erreurs dans les calculs ou dans les décisions à prendre.

Éthique et libertés

L'utilisation des nombreuses données personnelles (politiques, économiques, religieuses, de genre, appartenance ethnique…) génère les risques d'une surveillance massive et d'une utilisation abusive des données. L'I.A. peut porter atteinte au droit de rassemblement puisqu'elle peut être utilisée pour  localiser et profiler des personnes liées à certaines activités, croyances ou comportements. Attention à qui va utiliser les résultats d’une I.A. 

Créativité et compétences humaines

Fonctionnant à partir de données existantes et stockées en son sein, l’I.A. ne peut pas « créer » (au sens de l’artiste, de l’auteur) quelque chose d’original. Au mieux, elle peut réécrire des textes, redessiner, faire des vidéos, etc. mais, en réalité, elle ne produira que des amalgames de choses déjà faites, vues, écrites… Et une dépendance à l’I.A. entraine une baisse de certaines compétences humaines ainsi que l’esprit critique (on se souvient de la manifestation des scénaristes).

Que faire ?

Législation existante ou à venir

L’individu a son rôle à jouer, mais il paraît bien petit face à un rouleau compresseur qui s’avance sur lui. La collectivité, les gouvernements doivent s’emparer rapidement du sujet et se poser les bonnes questions. Il ne s’agit pas de renier tout en bloc, mais la plus grande prudence est de mise.

Du point de vue de la transparence, une personne doit toujours être à même de déterminer si elle est en train d'interagir avec un humain ou avec une I.A., doit savoir d’où provient l’information qu’elle consulte et comment elle a été générée. La loi sur l'I.A. a également introduit une exigence selon laquelle les images, les contenus audio ou vidéo créés ou manipulés artificiellement (les deepfakes) doivent être clairement et visiblement étiquetés comme tels.

Pour éviter des dérives, la loi européenne sur l'I.A. exige que les ensembles de données utilisées pour former l'I.A. soient aussi complètes et exemptes d'erreurs que possible (mais qui va vérifier et comment vérifier vu la quantité de données ingurgitées par les I.A. ?). Elle règle aussi l'utilisation de certaines applications de l'IA susceptibles de menacer les droits des citoyens. La loi doit également réglementer l'utilisation de l'I.A. afin d'empêcher la manipulation du comportement humain, la tromperie ou l'exploitation des vulnérabilités des personnes.

L'utilisation croissante de l'intelligence artificielle est susceptible d'entrainer une érosion des compétences cognitives. Conçue pour améliorer l'efficacité immédiate, l'I.A. peut nuire à la performance humaine si on lui accorde une confiance aveugle ou si elle devient indisponible.

Et en cas d’atteinte à une personne (morale, psychique, matérielle, physique), à une collectivité ou à un groupement de quelque nature qu’il soit, suite à une « décision » d’une I.A., qui doit être tenu comme responsable ?

Toutes ces questions, tous ces sujets mettent en évidence le danger pour la démocratie que représente un usage non maîtrisé de l’Intelligence Artificielle. Il est donc essentiel de ne pas développer une dépendance excessive à l'I.A. et de l'utiliser comme un outil d'assistance et non de substitution.

INTELLIGENCE ARTIFICIELLE ET RESPONSABILITÉS

L'IA s'implante dans des secteurs sensibles de la société : la médecine, la finance, la sécurité, la justice, les ressources humaines, la robotique… Cela engendre des enjeux juridiques inédits en matière de responsabilité.

Deux exemples.

En médecine, l'I.A. est capable d'analyser l'imagerie médicale, de recommander des traitements ou d'assister les chirurgiens en temps réel. Mais que se passera-t-il si l'algorithme se trompe et qu'un patient en subit les conséquences ?

En robotique, un véhicule autonome (une voiture) piloté par l'IA renverse un piéton qui est responsable ?

Les responsabilités peuvent être nombreuses :

· Le ou les concepteurs de l'algorithme si le code contient une erreur ou un biais.

· Le fournisseur de données, si celle-ci sont insuffisantes, de mauvaise qualité ou présentant des biais manifestes.

· La plateforme hébergente qui détient ou distribue l'IA si elle n'assure pas la sécurité de l'outil proposé.

· L'utilisateur si celui-ci ne respecte pas les recommandations d'utilisation ou s'il n'apprécie pas et ne contrôle pas correctement les décisions de l'algorithme.

La pluralité d'acteurs rend l'identification du responsable difficile. D'autant que plusieurs causes peuvent être combinées. De plus, les différents acteurs peuvent être localisés dans différentes parties du monde où les règles de compétence et de responsabilité sont différentes.

Il est absolument nécessaire d'instaurer une réglementation internationale sur les sujets juridiques, éthiques, les droits humains et environnementaux liés à la conception et à l'utilisation de l'IA.

1 )   https://www.cimpa.info/fr/ecoles/mathematiques-appliquees-et-intelligence-artificielle

2 ) https://fr.wikipedia.org/wiki/Intelligence_artificielle