Intelligence Artificielle : on n'a pas fini d'en parler !
Effectivement ....le sujet est d'importance et les réflexions fusent de toute part au regard de l'impact de cette révolution technologique sur les organisations de travail que ce soit dans le secteur privé ou dans les services publics en fonction des utilisations qui pourront en être faites.
D'où la nécessité d'encadrer les choses...tant au plan national qu'européen...(le décryptage du projet de règlementation validé par les 27 pays de l’Union Européenne a d'ailleurs été évoqué dans ces colonnes ces dernières semaines:
cf: https://www.miroirsocial.com/participatif/decryptage-du-projet-de-lunion-europeenne-sur-la-reglementation-de-lia )
Pour mémoire, dès septembre 2023, Elisabeth Borne alors Première Ministre avait annoncé la création de la Commission de l’intelligence artificielle qui rassemblait des acteurs de différents secteurs (culturel, économique, technologique, recherche…). L'objectif: Eclairer les décisions du Gouvernement pour positionner la France en leader face aux enjeux de l’Intelligence Artificielle.
La Commission a remis un rapport mi- mars au Président de la République, rapport qui formulait 25 propositions visant à faire de la France un acteur majeur de la révolution technologique qu’offre l’IA. (1)
Les impacts de l’IA sur le travail: une contribution importante au débat
Après deux années d’enquêtes opérées par Matrice (institut d’innovation étudiant notamment les effets sociaux de l’IA), le Labor IA Explorer vient de publier des résultats de leurs observations et réflexions sur les interactions humain-machine et les enjeux d’appropriation de l’IA dans le monde du travail.
Comment l’IA transforme-t-elle les métiers et les organisations ?
Quelles interactions entretiennent les personnes qui travaillent avec les systèmes d’IA ?
Quels risques pour le travail sont-ils associés à la mise en œuvre sur le terrain ?
Et quelles sont les conditions d’émergence d’une IA « capacitante », c’est-à-dire une IA qui vient compléter ou augmenter les compétences humaines, pour la population active et les organisations de travail ?
...autant de questions abordées dans cette étude de LaborIA..!!
Les recommandations développées ne devraient pas manquer de retenir l'attention....(2)
Elles visent à " outiller le dialogue social et technologique en faveur de l’intégration dite « capacitante » des systèmes d’IA dans le monde du travail" .
5 grands axes sont mis en avant:
- partir du travail réel pour penser le rôle et la place des IA ;
- garantir la co-conception des systèmes intégrant de l’IA et organiser le dialogue en continu ;
- mettre l’IA au service de la sécurisation des travailleuses et travailleurs ;
- rendre les systèmes d’IA « explicables », pour permettre aux décideurs et aux utilisateurs de comprendre leur fonctionnement et de faire confiance aux résultats créés ;
- apprendre chemin faisant. Accepter une part d’imprévisibilité dans les bouleversements produits par l’IA.
Ces recommandations ont déjà été présentées à l’ensemble des partenaires sociaux dans le cadre du Comité exécutif élargi du LaborIA.
A suivre....
Dernière heure:
Intelligence artificielle : la CNIL poursuit ses travaux pour une IA innovante et respectueuse de la vie privée et lance une seconde consultation publique
La CNIL ( Commission Nationale Informatique et Libertés) a publié ces jours-ci un nouvel ensemble de fiches pratiques relatives au développement de systèmes d’intelligence artificielle qu'elle soumet à consultation publique
Au travers de cette démarche, elle entend répondre aux questions posées par le développement de l’IA sur la protection des données et de la vie privée
Alors que le règlement européen sur l’IA vient d’être adopté et entrera en application de façon échelonnée dans les prochains mois, la CNIL souhaite apporter de la sécurité juridique aux acteurs du secteur en anticipant l’articulation entre règlement IA et RGPD.
Elle souligne que le RGPD s’applique aux fournisseurs de systèmes, indépendamment du règlement IA, lorsque ceux-ci utilisent des données personnelles pour leur développement.
..et que c'est d’est dans ce contexte qu'elle ouvre, pour la deuxième fois, une consultation auprès de tous les acteurs pour élaborer ses recommandations :
- les fiches mises en consultation traitent plusieurs questions majeures d’innovation et de protection : l’usage du moissonnage sur le web (« web scraping »), largement répandu notamment pour les modèles de langage, la publication de modèles d’IA en source ouverte (« open source ») mais aussi la gestion des droits des personnes, qui constitue la clé de voûte du cadre juridique sur les données personnelles ;
- la CNIL propose également un questionnaire sur le sujet de l’application du RGPD aux modèles d’IA entraînés avec des données personnelles.
Cette mise en consultation fait suite à de premières recommandations récemment publiées à la suite d’une consultation publique.
Participer à la consultation publique
(1) Retrouvez l’intégralité du rapport ici
(2) https://www.laboria.ai/laboria-explorer-synthese-generale/
(3) Pour plus d'infos: Les sept fiches thématiques de la Cnil
NB: Cette mise en consultation fait suite à de premières recommandations récemment publiées à la suite d’une consultation publique sur le développement des systèmes d’intelligence artificielle pour aider les professionnels à concilier innovation et respect des droits des personnes pour le développement innovant et responsable de leurs systèmes d’IA.
Afficher les commentaires
INTELLIGENCE ARTIFICIELLE : pour le meilleur et pour le pire ?
« L’intelligence artificielle est un processus d’imitation de l’intelligence humaine qui repose sur la création et l’application d’algorithmes exécutés dans un environnement informatique dynamique ».
Ainsi, en dépit des apparences, elle n’a pas de faculté cognitive propre en ce sens qu’elle ne peut restituer que les données que l’ordinateur aura enregistrées. Mais sa vitesse de calcul et sa capacité à analyser et à synthétiser, à partir de l’interconnexion de données sélectionnées artificiellement, constituent à l’évidence une aide aux décisions les plus complexes.
Assez rapidement, l’intelligence artificielle a trouvé un terrain de prédilection dans les domaines de la recherche ou de la médecine : aide au diagnostic, assistance opératoire, analyses et imageries médicales.
C’est aujourd’hui une véritable révolution en marche et cette technologie envahit nos ordinateurs et nos smartphones, notamment avec la mise en ligne de CHATGPT. Le monde de l’industrie s’en empare, la Défense et même tout récemment l’administration avec une expérimentation s’appuyant sur le numérique pour « repenser les missions des agents et faciliter la vie des usagers ».
De jour en jour nous vivons une prolifération des sites hébergeurs d’applications liées à l’IA. Cette évolution est rapide, pour ne pas dire galopante, et elle est irréversible comme l’était, il y a quelques années, la mise en place de l’informatique de réseau puis le développement que nous connaissons, mal contrôlé d’ailleurs, des réseaux sociaux. Les enjeux sont majeurs cependant au-delà des facilités immédiates que les nouvelles performances de l’IA permettent. Enjeux en matière de sécurité notamment qui suscitent un questionnement de plus en plus prégnant. Nombre de philosophes, d’éditorialistes et de scientifiques s’interrogent au point que ce sujet est abordé régulièrement dans la plupart des revues spécialisées ou grand public. Cette inquiétude doit évidemment être prise au sérieux et nous interpeler.
La robotisation de nos activités, notamment intellectuelles, a sa limite : celle de notre libre arbitre.
L’IA est une aide méthodologique mais artificielle. L’IA enregistre, calcule, compare, reproduit, mais ne peut réfléchir. Elle ne saurait se substituer au cerveau humain totalement et intrinsèquement autonome, aux possibilités infinies, qui, seul, est à même d’interpréter et de valider ou corriger. L’IA, fondamentalement, n’a pas et ne peut avoir d’esprit critique. Il ne faut pas surestimer les capacités de cette nouvelle technologie au détriment de l’intelligence et de l’intuition humaines.
L’intelligence artificielle est d’abord et surtout un outil qui produit des images, des textes, des modèles de langage, des processus. Mais il y a des domaines à haut risque comme celui des libertés des individus, de l’armement, des infrastructures, des ressources humaines, de l’éducation et de la santé entre autres où le contrôle de l’humain doit être absolument préservé.
Les risques sont réels : manipulation de l’opinion, fausses photographies plus vraies que nature, faux documents, fausses discussions en ligne. L’IA peut générer des usages douteux voire particulièrement mal appropriés, malveillants ou criminels faute de maîtrise par l’humain. Soulignons-le : il n’y a pas et ne peut y avoir de conscience artificielle. C’est bien là la principale limite de l’IA.
De plus il ne faut pas négliger l’impact de la généralisation de l’IA sur les emplois, même très qualifiés que l’automatisation va menacer. Le développement de l’IA risque ainsi de creuser encore davantage les inégalités dans le monde.
Faut-il la freiner pour autant ?
Ce n’est évidemment pas possible d’ailleurs le phénomène est mondial et on ne peut faire obstacle au progrès à condition toutefois de savoir bien le maîtriser et d’en fixer les règles.
Dans cet esprit les 27 membres de l’Union Européenne (UE) ont approuvé à l’unanimité une législation inédite au niveau mondial afin de réguler l’intelligence artificielle.
Ainsi sur les IA génératives des règles s’imposeront à tous pour s’assurer de la qualité des données utilisées dans la mise au point des algorithmes et vérifier qu’ils ne violent pas la législation sur les droits d’auteur. Les développeurs devront s’assurer que les sons, images et textes produits seront bien identifiés comme artificiels.
IA:Pour une plus juste redistribution des gains de productivité
Intelligence artificielle: La nécessité d'une juste redistribution des gains de productivité
L'intelligence artificielle révolutionne la productivité, mais il semble crucial de dépasser les débats éthiques pour se concentrer sur la juste répartition des richesses qu'elle génère. Cela nécessite des efforts pour garantir que tous puissent bénéficier équitablement des avancées économiques qu'elle apporte.
Récemment, l'économiste Pierre Jacquet a exploré dans un article des Échos les implications de l'intelligence artificielle générative (IAgen) sur l'économie et la société. Un point crucial abordé par celui-ci concerne la répartition des bénéfices économiques de l'IAgen. Il interroge : « Le défi majeur demeure la répartition des gains attendus : vont-ils profiter à l'emploi ou seulement aux innovateurs et aux investisseurs ? ». Il rappelle que dans l’ouvrage "Power and Progress", les auteurs « mettent en garde contre la tentation de substituer l'innovation au travail au lieu de l'utiliser pour rendre ce dernier plus productif et mieux rémunéré. Dans ce cas, la productivité moyenne augmente, mais pas la demande de travail ni sa rémunération. »
L’économiste insiste également sur l'importance de ne pas laisser les trajectoires d'utilisation de l'IAgen être uniquement définies par les intérêts financiers, soulignant que les luttes sociales historiques ont souvent été nécessaires pour corriger des répartitions initialement inégales des gains technologiques.
Enfin, il est crucial de réévaluer les mesures de productivité et de croissance économique à la lumière des défis environnementaux tels que le changement climatique et la transition énergétique. Pierre Jacquet plaide pour une réorientation des bénéfices de l'IAgen vers une croissance économique durable et responsable, mettant en avant l'importance cruciale de politiques publiques cohérentes et de débats informés pour guider cette transition.
L’avis de FO-Cadres :
Avec l’essor des SIA, trois niveaux différents de création de valeur sont envisageables : éthique, économique et social. Toutefois, souvent, l’IA est évaluée uniquement par sa rationalité économique instrumentale, se traduisant en gains de productivité et d'efficacité dans les processus économiques. Selon Goldman Sachs Research, l’IA générative pourrait augmenter le PIB mondial de 7 %, soit près de 7 000 milliards de dollars de richesse supplémentaire.
L’urgence de rééquilibrer les rapports de valeur au profit des dimensions éthique et sociale ne doit pas pour autant conduire à ignorer les enjeux autour de la valeur économique créée par l’IA. Aux côtés de la question centrale de prévoir les impacts indéniables de l’IA en matière d’emplois, la question de la juste redistribution des gains de productivité de l’IA doit également être posée.
Tout comme l’urgence d’adapter notre système fiscal aux défis économiques posés par l’IA (concentration et transfert de valeur vers les grands acteurs de l’économie numérique) pour en saisir les bénéfices économiques et soutenir des politiques industrielles au service de l’innovation et de l’emploi et financer les investissements publics et privés notamment dans le cadre de la transition écologique.
Lien vers l’article source : https://urlz.fr/qV2U
L’intelligence artificielle: l’agent public nouvelle génération?
L’intelligence artificielle (IA) fait son entrée dans les services publics et en parallèle, l’exécutif prône depuis quelques temps la nécessité d’une administration proche des usagers et capable de répondre en un quart de tour à leurs demandes. Outil intéressant, l’IA a cependant de quoi porter les agents à la vigilance, d’autant que les suppressions d’emplois, déjà enregistrées et décidées au nom de la réduction des dépenses publiques, sont bien réelles. Zoom sur le secteur des Finances publiques où FO-DGFIP interroge l’administration sur l’avenir des missions et des emplois.
En avril 2022, le président de la République, Emmanuel Macron, demandait une action publique beaucoup plus proche des citoyens, avec des administrations et des agents sur le terrain et dans les services déconcentrés. Cela comprenait des agents polyvalents, capables de renseigner les usagers sur toutes les démarches, avoir un numéro de téléphone unique du service public pour répondre à toutes les questions et accompagner sur toutes les démarches et les difficultés rencontrées. Les progrès de l’IA sont arrivés à point nommé… Dans les services publics volontaires, 1 réponse sur 2 est facilitée par l’IA et le temps de réponse moyen est passé de 7 jours à 3 jours. Tel était en décembre le bilan de deux mois de de l’expérimentation d’usage d’une IA générative dans les services publics lancée par l’ex ministère de la Transformation et de la Fonction publiques (il n’y a plus pour l’instant de ministère de plein exercice), cela pour la rédaction des réponses aux avis et commentaires en ligne d’usagers.
A en croire alors le ministère 70% des agents ont un ressenti positif de l’utilisation de l’outil. 74% des usagers se disent satisfait de la réponse apportée. Tout irait donc pour le mieux par l’utilisation de cette nouvelle technologie géniale, dont ChatGPT, que la Fonction publique vise d’ailleurs à étendre, pour ne pas dire à généraliser, dans ses services. En parallèle indiquait le ministère la DINUM [soit l’incubateur IA animé par la direction interministérielle du numérique, Ndlr] développe un outil d’IA générative, souverain, libre et ouvert, créé par et pour des agents publics, nommé Albert. Celui-ci propose des réponses personnalisées, la transparence des sources, une facilité d’accès pour toutes les administrations. Et dans les prochains mois, l’intuitif Albert va être déployé dans le réseau France services auprès de conseillers France services volontaires. Il s’agit d’un réseau de « Maisons » qui au fil des années a pris le pas sur les implantations de pleine compétence, notamment à la DGFIP (finances publiques), via la réforme du Nouveau réseau de proximité lancée en 2018 par Gérald Darmanin.
94 000 agents de la DGFiP ont failli s’étrangler !
Des décombres encore fumants de ces 1 109 trésoreries municipales ont émergé quelques 500 Services de Gestion Comptables (SGC) censés être la vitrine du NRP (Nouveau Réseau de proximité). Or, ces SGC remplaçant intégralement les trésoreries supprimées sonnent le glas de toute relation personnalisée et fructueuse entre l‘usager, l’élu et son comptable, prônent la massification des tâches au prétexte de professionnalisation et astreignent les agents moins nombreux à une taylorisation d’un autre âge. Il faut ajouter la suppression de 2/3 des services de publicité foncière, la réduction de 40% du nombre de Services des impôts des entreprises et de Services des impôts des particuliers. Le tout en 5 ans. Telle est la réaction du syndicat FO DGFIP aux propos tenus par Emmanuel Macron lors de sa conférence de presse. Le président de la République déclarait : Lors de mon premier quinquennat, nous avons beaucoup fait : on a recréé des préfectures, on a réouvert des trésoreries sur le terrain. Pour le syndicat FO : 94 000 agents de la DGFiP ont failli s’étrangler !
L’IA doit rester au service des agents, pas les remplacer
Dans cette administration, en manque de moyens et mise dans la tourmente perpétuelle des destructions de services – au nom de l’abaissement drastique des dépenses publiques en vue d’une résorption rapide du déficit public –, l’arrivée de l’intelligence artificielle interroge d’autant plus. Quel sera l’impact de l’IA sur les missions ? Quelles conséquences sur les emplois ? demandait ainsi en septembre dernier le syndicat FO à son administration. Et s’il souligne qu’il n’y a pas de rejet de l’IA en tant qu’outil, il précise que celui-ci doit rester au service des agents, pas les remplacer. Pas gagné. FO-DGFIP note ainsi que l’expérience tirée du passé montre que les Directeurs généraux ont souvent profité du déploiement de grosses applications informatiques pour gager des suppressions d’emploi, voire les anticiper avant même qu’une application soit stabilisée. Et plus largement, le syndicat a de quoi se monter très vigilant vis-vis de la politique qui sera menée par l’administration en matière d’intelligence artificielle.
En octobre, lors du congrès de de la Fédération FO Finances, FO-DGFIP rappelait en effet les suppressions d’emplois massives dans le périmètre de cette administration des Finances publiques : 26 000 suppressions en douze ans ou encore un tiers des effectifs supprimés en 25 ans ainsi que la moitié des implantations supprimées s’indignait son secrétaire général Olivier Brunel. Chaque année cette direction est particulièrement visée par les suppressions d’emplois dans le cadre des lois de finances. C’est ainsi la seule administration en 2024 à avoir un schéma d’emplois négatif avec notamment 600 emplois supprimés dans le réseau, rappelait le militant, résumant la situation : ça craque de partout.
En toute logique, cette disparition des emplois a des conséquences. Les agents sont épuisés. Et désormais, ils s’expriment de plus en plus sur la situation dégradée de cette administration et dressent dans le « baromètre interne » un constat accablant pour la direction générale. Pour l’usager, tout cela a aussi des conséquences, à commencer par un éloignement des services déconcentrées des finances publiques, tandis que les agents, eux, aux prix d’une charge de travail décuplée, tentent chaque jour de maintenir un service de proximité, par téléphone ou aux guichets, et de traiter les dossiers. Dans une administration toujours plus « à l’os » au plan de ses effectifs, les robots de l’intelligence artificielle seraient-ils bientôt amenés entre autres à jouer le rôle de pompiers en permettant encore de maintenir certains services rendus à l’usager, et tout en camouflant le manque de moyens dont disposent les agents pour assurer leurs missions ?