Réflexions de la coordination Innovation sur l’intelligence artificielle générative

Mercredi 11 juin 2025

Présents : S. Toussaint, M. Guinche, C. Decaen, V. Barriac, R. DC, G. Leroux

Problématique d’origine : le bureau fédéral de Sud et les syndicats départementaux voient avec inquiétude arriver les outils d’IA dans les métiers d’Orange. Quand ils expriment des doutes, ils s’entendent répondre qu’il ne faut pas s’inquiéter, cela a été développé par Innovation. Notre division travaillerait-elle à la destruction de l’activité des métiers d’Orange ? Que pouvons-nous en dire ?

Articulation de notre réflexion en quatre thèmes :

• L’IA dans l’équation économique d’Orange
• L’impact environnement et RSE de l’IA utilisée par Orange
• La perte de contrôle humain avec l’introduction de l’IA - L’emploi à Orange suite à l’introduction de l’IA

Concepts et notions

Mais pour commencer, une nécessité de clarifier de quoi on parle. En effet, chacun entend parler ou est confronté à des petits bouts de la réalité. On commence à avoir des militants et collègues qui l’utilisent (et font “joujou” avec), et en tirent bénéfice dans leur activité (validation, analyse de documents). Donc a priori favorable, mais prêts à écouter ce que disent des spécialistes. D’autres au contraire voient concrètement leur boulot piqué par des machines et s’inquiètent pour leur poste (développement informatique, support client) ; ils voient donc l’IA comme une plaie.

Il nous semble important de préciser que ce qu’on constate actuellement est le déploiement de l’IA générative, c’est à dire une toute petite partie de l’IA. Cette dernière est développée et utilisée par beaucoup de monde depuis des dizaines d’années, sans que cela pose de problème à quiconque. Cette technologie représente un progrès, comme l’a été l’internet à une autre époque et comme le sera un jour le calcul quantique…

L’IA générative marque une rupture avec l’IA classique des réseaux de neurones, avec l’arrivée de nouveaux outils et modèles (LLM). La nouveauté est la massification de la donnée (big data) et de son traitement (Nvidia, cloud, etc.). On sait désormais gérer une grande quantité de donnée et une grande capacité de stockage.

Avec les technologies de machine learning, l’IA se forme elle-même et déduit elle-même les causalités, qui peuvent d’ailleurs changer avec le temps. Cela lui donne un côté plus mystérieux qu’avant, largement imprévisible.

Il ne s’agit pas de diaboliser l’IA en général en mélangeant les différentes générations technologiques, mais de réfléchir à une vision sur les évolutions résultant de l’introduction de l’IA générative, notamment dans le monde du travail (impact sur les métiers et sur l’emploi). Une des difficultés qui nous empêche d’y voir clair est que précédemment on avait du recul et de la formation à l’arrivée de nouvelles technologies (exemple, il y a 20 ans avec l’IP et les nouveaux langages de programmation) étaient nouveau, ce qui n’est plus vrai aujourd’hui avec cette révolution qui déboule à toute vitesse sans qu’on se pose de questions. C’est dangereux.

L’IA dans l’équation économique d’Orange

L’IA générative est aujourd’hui un gadget de riches qui ont tout et s’ennuient. Si on était méchant, on pourrait dire qu’elle ne produit rien, ne sert à rien et ne résout rien des problèmes du monde actuel. A part des besoins très spécifiques et qui font avancer la connaissance, comme dans le milieu médical ou pour la recherche. Ces cas d’usage sont opportunément mis en avant et demeureront quoi qu’il advienne, ce n’est pas eux qui posent problème.

Le modèle économique n’est pas prouvé et part d’une logique d’offre qui devrait créer sa propre demande automatiquement. Pour l’instant, l’accès au service est souvent gratuit, mais bientôt les abonnements vont devoir rentrer dans les coûts…

Sinon, pour répondre à une inquiétude sur une éventuelle attitude des ingénieurs d’Innovation qui scieraient la branche sur laquelle leurs collègues sont assis, rappelons que la plupart des nouveaux outils d’IA générative ne sont pas développée par Orange, mais acheté sur étagère.

L’IA générative est mise à toutes les sauces dans les développements de produits, pas forcément à bon escient. C’est un effet de mode qui coûte cher financièrement et écologiquement. Combien de temps cela va-t-il durer ? Est-on en présence d’une bulle spéculative ? Et que se passera-t-il quand ça va pêter ? Lire “What comes after the AI crash” . La réflexion sur le sujet semble absente à Orange.

Nous pensons qu’il faut penser l’IA (comme tout nouvel apport technologique) en fonction des besoins, et non pas de l’offre. Aujourd’hui, on a plutôt un réflexe pavlovien du type « techniquement on peut faire, donc on fait et on “vend” ». Un contre modèle à cette course vers la performance (source de fragilités extrêmes) peut être l’entreprise robuste.

On retrouve dans cette course échevelée le leadership américain, qui applique comme toujours sa technique de croissance économique à tout prix (la « Supply Theory », selon laquelle l’offre crée la demande) sous sa domination quasi monopolistique et oblige le reste du monde à suivre. Dans ce contexte, on n’est plus en mesure de décider une stratégie rationnelle, on bascule en mode guerre économique, le premier arrivé sera le premier servi, tout est pensé sur le court terme. Malheureusement, on le constate à chaque fois, plus y a de dégât (social, écologique), mieux c’est pour l’économie. La croissance à tout prix.

Orange est complètement enfermé, de gré ou de force, dans cette façon de penser le monde et l’économie.

Pour sortir de cette logique, il est bon de se pencher sur les travaux de chercheurs qui pensent un autre monde. Nos militants citent une référence à lire : Philippe Bihouix, L’âge des low tech.

L’impact environnement et RSE de l’IA générative utilisée par Orange

Aujourd’hui on consomme des gouffres d’énergie et de ressources dans “un truc” qui n’a aucun modèle économique pérenne (mais qui enrichit très vite les premiers à avoir investi dedans) comme on l’a vu précédemment.

Par contre le tribut de destruction environnementale actuelle du fait de la mode de l’IA est bien payé et mis sur la note des générations à venir.

L’impact environnemental est déjà constaté du fait des constructions de datacenters et de l’entraînement des divers LLM.

La ville de Memphis aux USA est actuellement dans le même fog de pollution que le Londres de la révolution industrielle. Et ce à cause du data-centre xAI de Grok 3 d’Elon Musk. On revient au XIXème siècle.

On est face à un mur énergétique.

Orange semble y échapper à travers son bilan carbone trompeur qui joue comme un écran de fumée. En effet, lorsque les GAFAM développent un nouveau LLM ou construisent un datacenter, Orange n’est concerné qua marginalement dans son scope 3.

Or, comme précisé au chapitre précédent, le modèle économique sous-jacent de l’offre pilotant la demande ne tient que s’il y a de la demande ! Sans opérateurs télécom ou entreprises technologiques friandes d’IA générative, on n’aurait pas ces déploiements et donc un bilan carbone bien meilleur. Donc, le bilan objectif d’Orange est bien plus négatif qu’il ne semble l’être.

On entend aussi parfois parler d’IA frugale. En générale, ces considérations sont mises en avant quand on cherche à verdir le bilan de l’IA générative. Certes, il y a des LLM moins gourmands que d’autres (Deepk Seek, par exemple), et des façons plus vertueuses de les utiliser. Mais cela joue dans l’épaisseur du trait. Attention à ne pas se laisser prendre au piège du green washing !

La perte de contrôle humain avec l’introduction de l’IA générative

Un des gros risques identifiés par les chercheurs en diverses sciences humaines lorsqu’ils s’intéressent aux outils utilisant l’IA est la désintermédiation. Ou en termes plus simples le fait que désormais on va confier à des machines non seulement la réalisation de tâches mais aussi la décision associée. Des robots parlant à des robots et leur donnant des ordres, sans humain au milieu. On imagine aisément les dangers de tels scénarios.

Sans surprise, c’est dans le domaine militaire qu’on a vu les premières dérives. Ainsi, l’armée israélienne a carrément utilisé une IA pour désigner les cibles de bombardements à Gaza, à partir de profils sur les réseaux sociaux. La machine va tellement vite que les soldats préposés à la validation, débordés, ne contrôlaient rien et validaient les cibles systématiquement sans contrôle. Une IA a donc décidé de la vie et de la mort d’êtres humains !

On peut aussi s’inquiéter concernant les voitures assistées, qui peuvent provoquer des accidents sans contrôle extérieur humain.

Pour les services vendus par Orange, pour l’instant rien de tel, mais il faut rester vigilant.

L’emploi à Orange suite à l’introduction de l’IA générative

La révolution de l’automatisation des IA génératives va être la source d’une nouvelle révolution et la cause d’un possible tsunami de chômage. On ne mesure pas encore le nombre de métiers et d’emplois dans le tertiaire qui vont être détruits pour être remplacés par des services robotisés.

Or, la France a désormais un emploi majoritairement dans le tertiaire.

Comment éviter la catastrophe annoncée ?

On nous parle d’un maintien de service personnalisé en parallèle du tout-venant automatisé. Mais outre que cela se fera sous le contrôle de la machine qui commandera à l’humain (cf. chapitre précédent), ces services plus fluides, humains et humanisés seront mis à disposition par des prestataires privés et payants, donc dédiés aux riches et aux privilégiés. On va ainsi créer une société à deux vitesses. Les interlocuteurs robots inefficienst pour les pauvres, un service humain sur mesure pour les riches

Regardons déjà ce qui se passé pour les services de l’état dématérialisés, c’est abominable pour la grande majorité des usagers.

Donc l’IA générative va également accentuer les inégalités sociales.

Mais qu’en est-il de l’impact de l’IA générative sur nos métiers. Quels sont les plus visés, dans combien de temps ? Comment mobiliser le personnel ? Notre collectif Innovation n’a malheureusement pas une vision suffisante des métiers d’Orange pour pouvoir répondre avec fiabilité à cette question, qui est en fait la plus importante pour les salariés.

On peut cependant avancer quelques éléments sur la nature des risques. Ainsi, on va vers une dévalorisation des activités et des salariés si une IA est capable de faire mieux. Comment vont se sentir les salariés quand on leur donnera un boulot qui peut être fait par une IA ou qui a été décidé par une IA ? Imaginons le dégât humain…

Selon l’article L.2312-8 du Code du travail, le CSE doit être consulté sur l’introduction de nouvelles technologies ou tout aménagement important modifiant les conditions de santé et de sécurité ou les conditions de travail. L’introduction d’un système IA dans l’entreprise doit donc donner lieu à consultation.

Le Code du travail impose que le comité social et économique soit informé et consulté lors de l’introduction de nouvelle technologie, ce qui inclut le cas du déploiement d’une intelligence artificielle. Nous pensons que c’est une ligne de conduite impérative, à appliquer au CSE central et dans les CSEE.

Autres considérations échangées entre nous

Les IA génératives sont souvent entraînées sur la base des archives mensuelles de CommonCrawl.

Cela donne une certaine garantie de fiabilité et de sérieux et évite les dérives pouvant aboutir à des hallucinations.

Néanmoins, l’intelligence artificielle générative a des effets de bord toxiques qui commencent à être bien documentés.

Les nouvelles itérations de compression de la connaissance par les différentes générations d’IA génératives s’auto-empoisonnent de plus en plus. D’où les effets d’hallucinations de plus en plus aberrants. Du coup on dépense de plus en plus d’énergie pour nettoyer et filtrer les données, et pour accéder à de nouvelles.

Effet de bord supplémentaire, elles polluent aussi potentiellement internet.

Nous observons avec inquiétude un changement des usages ignorant complètement l’impact environnemental des IA génératives. Par exemple, on va créer une image plutôt que chercher une image existante via un moteur de recherche. Bilan carbone et eau multiplié par 10. Le tout répété des millions de fois chaque jour… Orange doit avoir un rôle d’éducation, de prescription des usages, montrer à l’utilisateur final où se trouve son intérêt et celui du bien commun.

Les usages futurs indiquent une catastrophe annoncée, où Orange aura sa part de responsabilité. Comment convaincre Orange de ne pas y contribuer, voire faire partie de la coalition des bonnes volontés, à travers son propre usage (Quelles limites à dinootoo ? Actuellement on n’a aucune culture à ce sujet) mais aussi celui de ses clients (On arrête quand le tout et n’importe quoi ?). C’est un débat un peu prospectif, mais crucial pour l’avenir.

A ne pas oublier, bien que non abordé lors de notre séminaire faute de temps :

• aspects légaux, propriété intellectuelle, protection des données perso
• condition sociale du développement de l’IA (“petites mains”). Sommes-nous complices ?