Interview de Gilles Moyse, membre du Conseil Scientifique d'Ynov
Conséquences des innovations technologiques, transformations des compétences et des parcours de formations ou encore évolutions du rôle de l’entreprise, nous avons abordé avec les membres de notre Conseil Scientifique ces thèmes majeurs afin de nourrir notre travail sur « L’avenir du travail dans une société professionnelle en cours d’évolutions parallèles ». La singularité de chaque regard et la richesse de leurs expertises nous permettent d’élaborer des pistes de compréhension des mutations en cours.
GILLES MOYSE, Docteur en Intelligence Artificielle & CEO de reciTAL
Gilles Moyse est auteur et entrepreneur, président de la société reciTAL, une start-up d’IA dédiée au traitement automatique du langage et des documents. Il a publié en septembre 2023 aux éditions du Robert « Donnerons-nous notre langue au ChatGPT ? », préfacé par Etienne Klein.
Après une expérience de conseil de 8 ans, entre la France, l’Inde et l’Algérie, il a effectué un doctorat en IA à Sorbonne Université, puis a créé reciTAL. Aujourd’hui reciTAL compte une vingtaine de collaborateurs, et travaille avec les grands groupes comme les PME pour automatiser et accélérer le traitement des mails, des documents et la recherche d’information.
Il nourrit l’ambition de « débrancher les solutions numériques américaines et coûteuses des téléphones, ordinateurs, logements pour revenir à des solutions européennes, open source, frugales ». Il a enseigné l’IA à Sciences Po et à ESCP Europe. Il a fait partie de la délégation du G20 des Entrepreneurs et a reçu le prix AI Awards Paris.
Q : Est-ce que les IA Génératives nous font basculer dans une nouvelle civilisation ?
Gilles Moyse : Je suis partagé sur cette question. Quand l'homme a commencé à écrire il y a 5000 ans, cela a constitué une bascule anthropologique. On pourrait imaginer que lorsque la machine se met à écrire, cela produit également des impacts majeurs. Mais cela est-il réellement comparable à la révolution de l'écriture sous certains aspects ?
En reprenant l’histoire du web, il est indéniable que l’arrivée de ce type de technologie a des conséquences et effets nouveaux. Si le WEB1 reproduisait ce qui se passait à peu près dans la modèle “réel” (peu de producteurs de contenus et d’informations et beaucoup de consommateurs), le WEB 2 avec les réseaux sociaux, les blogs, et cetera a changé la donne : tout le monde est devenu producteur ET consommateur. Aujourd’hui, nous assistons à l'arrivée d’un nouveau web avec une brique IA générative - que l’on n’appellera pas WEB 3 puisque ce nom désigne le web du Metavers. Ce “nouveau WEB” s’introduit entre les producteurs et les consommateurs via une machine qui a “aspiré” toutes les productions et qui les restitue “digérées” aux consommateurs. L’un des changements profonds est donc la perte de la source : on ne sait plus d’où vient l'information. De plus, elle est recréée, reformulée en permanence par le consommateur selon sa langue, ses instructions, son prompt. Cette machine prend donc une position de monopole dans l'accès à l'information, ce qui pose de vraies questions. D’autant plus que ces IA ont des biais, portent des valeurs culturelles qui ne sont pas forcément les nôtres et qu’elles ne sont pas bien maîtrisées.
Je pense qu’il faut essayer de sortir de la fascination, de cette peur de passer à côté de l’innovation technologique, de ce que les Anglais appellent le Fear Of Missing Out. Car ce FOMO nous rend sujets à une forme de manipulation. Je vais illustrer mes propos en prenant un exemple récent : à l’automne dernier (NDLR automne 2023), j’étais invité à échanger avec un ministre et son cabinet sur les applications de l’IA dans la fonction publique. J’ai été extrêmement surpris de voir la place qu’avait prise l’IA Générative dans leur agenda : le cabinet semblait littéralement obsédé par ChatGPT. Une start-up californienne avait sorti un produit et 10 mois plus tôt qui impactait la feuille de route d’un ministère en France…
Q : Cette fascination est-elle aussi le fruit d’une ignorance ?
G.M. : Le 30 novembre 2022 OpenAI ouvre ChatGPT au grand public, ce dernier prend soudainement conscience de la réalité de cette technologie. Une réalité qui est accompagnée de prophéties, et de phantasmes. Résultat, les gens y voient plus de dangers que d’opportunités, ils ont peur. C’est ainsi que l’on peut voir des affiches appelant à « Manifester contre l'IA ». C’est absurde, mais ça veut dire quelque chose.
Or dans les faits l’IA n’est pas nouvelle, elle est présente partout, mais les utilisateurs ne s’en rendent pas compte. Quant à l’IA “générative”, la plus récente, qui nous occupe ici, si elle n’était pas suffisamment performante pour être déployée jusqu’alors, elle n’est pas nouvelle non plus. Je travaille depuis 2011 sur ces sujets et on commençait déjà à faire de l'IA générative sur de modèles types ChatGPT en 2018.
Il se passe indéniablement quelque chose, mais il convient de prendre du recul pour analyser et comprendre la technologie, afin de ne pas se retrouver dans une posture de fidèles face à des prêtres. Or, nous avons une guerre à nos portes, nous sommes en retard sur le numérique, nous ne sommes souverains sur aucune technologie, autrement dit la posture passive de fascination est mortifère. Nous devons nous emparer de l’IA et du numérique plus généralement pour retrouver notre autonomie technologique.
Par ailleurs, la valeur ajoutée de l’IA générative est aujourd’hui remise en question, et la question qui se pose est alors « est-ce que le summum de l'IA générative, ce n’est pas déjà ChatGPT ? ».
Q: Donc pour vous, aujourd’hui, nous ne sommes pas en mesure d’apprécier si ChatGPT marque le début ou la fin de la révolution l’IA générative ?
G.M. : Absolument, car ces grands modèles de langue sont assez instables, peu robustes et du coup difficile à industrialiser : un espace en plus ou en moins dans un prompt modifie le résultat du tout au tout. Ces modèles sont aujourd’hui le plus efficace en interaction avec un utilisateur humain, qui contrôle et vérifie les textes générés.
Donc, je crois qu'il faut faire preuve d’une certaine humilité. Il y a manifestement un moment technologique qui se passe, on ne peut le nier. Mais ce que cela impliquera dans 10 ans, personne n’est capable de le savoir précisément.
Lors d’une discussion avec Éric Salobir* à Vivatech sur le sujet, il relevait qu’à l’invention d’Internet, plus précisément du protocole HTTP, personne n'aurait pu anticiper Google, Facebook ou autres.
Ce qui est certain aujourd’hui, c’est que ChatGPT est devenu un outil standard dans la boîte à outils des travailleurs du tertiaire ; chez reciTAL, par exemple, chaque nouveau collaborateur a désormais un accès à ChatGPT dans son package d'arrivée en plus de son ordinateur portable et de son badge. Les étudiants aujourd’hui l’utilisent de manière quotidienne et s’attendent donc à le retrouver sur leur lieu de travail. Et ce ne sont pas les seuls ! On estime qu’il y a aujourd’hui 100 millions d'utilisateurs hebdomadaires de ChatGPT, dont une grande partie de travailleurs du tertiaire.
En ce sens, son impact est comparable à l’arrivée du mail et des traitements de textes. Est-ce que Microsoft Word peut s’apparenter à une révolution, je vous laisse en juger, mais ce qui est sûr, c'est que cela a été une révolution pour les travailleurs en cols blancs et j’insiste sur cette catégorie. Et ces derniers sont d'autant plus apeurés et surpris que la société dans son entier leur avait dit qu’un master les protégerait et garantirait leur employabilité.
Q: Nous reviendrons dans un second temps sur les conséquences pour l’emploi des évolutions technologiques et en particulier des IA Génératives, mais j’ai une dernière question pour finir cet état des lieux. Vous qui êtes docteur en intelligence artificielle, pensez-vous que votre place d’expert et d’entrepreneur vous oblige d’une manière singulière ?
G.M. : Oui, nous avons une responsabilité et c’est pour ça que j’ai créé reciTAL, pour d’une part, proposer des solutions face à des ingénieurs de la Silicon Valley qui ont pour devise « Break things first then repair » et, d’autre part, pour tenter de répondre à un enjeu de souveraineté considérable et qui prend de l’ampleur au fur et à mesure que le temps passe. Une ambition qui s’inscrit dans une vision réaliste car les solutions américaines dont nous dépendons aujourd’hui sont financées par des investissements considérables.
Chez reciTAL, nous développons une plateforme de traitement automatique des documents basée sur des modèles d’IA classique et générative. Nous développons aussi une solution d’évaluation des modèles d’IA générative, car ces modèles sont assez instables et peuvent générer des contenus faux, mais très convaincants (les fameuses “hallucinations”). Plus généralement, l'évaluation de ces modèles est absolument indispensable pour relever les biais et les violations de droits d’auteur. Aujourd'hui, on sait que si on propose le début d'un texte sous droits d’auteur à un outil et qu'il le complète parfaitement, le modèle a été entraîné sur ce texte. L'audit des grands modèles de la langue et donc de leurs risques est un des sujets majeurs.
Q : Vous le mentionniez, chatGPT a avant tout des conséquences sur les professions dites “intellectuelles”. Est-ce que chatGPT est aux cols blancs ce que les machines industrielles ont été aux artisans du XIXᵉ siècle ?
G.M. : En un sens, c'est comparable. Malgré tout, les travailleurs des manufactures au XIXᵉ siècle ont été vraiment remplacés, or ici, il faut se demander si la technologie remplace ou si cela aide.
En pratique, aujourd’hui, les remplacements ont eu lieu dans les centres de support client et dans les métiers d’écriture de contenus peu créatifs, dans de faibles proportions, bien loin des grandes vagues de licenciement annoncées par certains.
Les tâches menacées par chatGPT sont celles où la valeur humaine, créative et intellectuelle est réduite. Si l’on prend les métiers de l’écriture : description de produits à la ligne ou encore la traduction de notice produits, mais pas de textes littéraires où le traducteur est nécessaire, car il y a une appréciation intellectuelle et poétique qui ne peut être remplacée.
Dans la plupart des cas, ChatGPT peut accélérer certaines tâches, mais la relecture par un expert du texte renvoyé est toujours nécessaire. L’expertise n’est donc pas externalisée de l’utilisateur, au contraire, elle doit être conservée ou réinternalisée le cas échéant.
Lors d’un échange avec une professeure de médecine qui avait utilisé ChatGPT pour en évaluer les capacités,elle m’expliquait avoir été impressionnée de prime abord par le niveau de connaissances de l’outil, mais qu’elle s’était rapidement rendu compte qu’il pouvait facilement raconter n'importe quoi. Ce qui augmentait donc la valeur de son expertise de médecin.
Je crois que c’est là un point crucial de ces outils de GenAI : ils permettent aux personnes moins performantes d’augmenter leur niveau, mais revalorisent l’expertise humaine par la même occasion. Du fait de la position critique qu’il faut tenir quand on les utilise. Ce qui au passage les éloigne de la définition de l’outil telle que donnée par André Leroi-Gourhan, puisque l’externalisation n’a pas lieu.
Q : Les innovations technologiques ont donc une conséquence pour ces professions du tertiaire…
G.M. : ChatGPT augmente le niveau moyen : ceux qui sont en dessous doivent s’en emparer pour progresser, ceux qui sont au-dessus n’en ont pas forcément l’usage. Comme on l’entend souvent à ce propos, ChatGPT ne remplacera pas les gens, mais ceux qui l'utilisent remplaceront ceux qui ne l’utilisent pas.
C'est pour ça qu'il faut s’en emparer. Qu’il s’agisse d’augmenter ses capacités ou de corriger ses lacunes d’ailleurs. Je l'ai vu auprès de collaborateurs qui n’avaient pas une bonne orthographe, ceux qui ont compris comment se servir de ces outils pour corriger cette faiblesse font maintenant des emails irréprochables. Ils y ont gagné.
Ensuite, en termes de productivité, c'est évident que ces outils bien maîtrisés permettent d’augmenter le pouvoir individuel d’un professionnel, ce qui dans certains cas peut permettre à une personne de faire ce qui nécessitait une petite équipe (par exemple pour la création de certaines images).
Q : Au regard de ces constats, quelle est pour vous la formation idéale ?
G.M. : La formation doit permettre de toujours faire un pas de côté. Au-delà de la couche technique, une couche éthique est nécessaire - pour évaluer les impacts - et une couche philosophique - pour être en position de questionnement. Il faut donc former des étudiants experts et critiques qui comprennent ce qu’est cet outil, ce qu’il ajoute et ce qu’il ôte à celui qui s’en sert.
Dans le cas de la GenAI, les étudiants doivent être conscients de la perte du lien à la source, de la manière dont ils doivent aborder les réponses données par l’outil. Une professeure de droit me parlait de son approche que je trouve intéressante : plutôt que de poser une question à ses étudiants, elle leur demande de critiquer la réponse fournie par ChatGPT. Parce qu'effectivement, si ça devient leur seule source d'accès à Internet, ils doivent avoir en permanence cet esprit critique. Même si des solutions comme Perplexity donnent accès à la source, il faut insister sur ces notions premières lors de leur formation.
Ensuite, il faut leur donner envie d’embrasser le numérique et l’informatique sous tous leurs aspects et de créer : faire de la musique assistée par ordinateur, des jeux vidéos, des textes sur ChatGPT, du code, de la gestion de projets… C’est cette curiosité et cette créativité que la formation doit cultiver pour les sortir du rôle passif de consommateur de solutions vers celui, plus important, d’inventeur de solutions.
Q : Vous avez mentionné une “couche éthique” dans la formation, pour vous comment cela se traduit dans les métiers du numérique ?
G.M. : La couche éthique couvre les sujets de souveraineté, de données personnelles, d’usage de la technologie, de biais, etc. L’Union européenne est précurseure sur ces sujets avec des textes comme l’AI Act, le DSA et le DMA. Il faut donc en premier lieu enseigner la responsabilité aux étudiants, par l’impact de ce qu’ils font sur la société, mais aussi par les choix qu’ils vont opérer. Pour des jeunes qui travaillent sur des métiers techniques et numériques, la formation doit donc les ouvrir à des technologies souveraines européennes en permanence, sortir des réflexes Google, Meta, Amazon. En un mot, jouer collectif, européen. Il est important qu’ils adoptent le réflexe de l’open source ou des solutions résilientes, moins consommatrices d’énergie ou plus perméables à la nouveauté permanente. Il faut sortir de cette tendance de la surproduction, car dans certains cas, c'est vraiment un marteau-pilon pour écraser une mouche.
Q : Si l’on écoute Elon Musk, il faut passer au revenu universel d’urgence, car la fin du travail est proche.
G.M. : Elon Musk, c’est celui qui annonçait en 2015 qu’en 2020 nous serions tous les passagers de notre voiture… Il fait partie de ces gourous qui défendent soit « L’IA tragique » ou « L’IA magique », qui font commerce d’une spectacularisation des innovations techniques.
Dans ce contexte d’annonces tous les jours plus extraordinaires, il est indispensable de sortir de la fascination pour prendre les bonnes décisions.
Il faut par exemple rappeler que cette technologie s’applique principalement au secteur tertiaire : un danseur à l'opéra, un plombier ou un agriculteur ne seront pas remplacés par ChatGPT. Le monde physique n’est pas impacté. Cette vision d’un grand “remplacement des travailleurs par les GenAI” est celle d’un entre soi des professions intellectuelles.
Q : Une dernière question, car nous nous intéressons aux changements du monde du travail et donc de l’entreprise. Notre société voit ses structures profondes être ébranlées (démocratie, numérique, environnement…) comment penser le rôle de l’entreprise ?
G.M. : Comme je le disais, j’ai créé mon entreprise avec la volonté de répondre au problème de souveraineté et de non-contrôle technologique qui allait, me semblait-il, devenir majeur et qui l’est devenu. Maintenant, avec le recul, je me demande quand même si “l'entreprise à mission” n’est pas un peu un pansement sur une jambe de bois. Je ne crois pas que ce soit à l'entreprise de remplacer l’Etat. Et le fond du problème, c'est que l'État s'est dépossédé de ce qu'il devait faire. Le livre « La destruction de l’Etat » de Maroun Eddé montre d’ailleurs de manière remarquable comment on paie aujourd’hui les conséquences du New Public Management et du fantasme de l'entreprise sans usine.
Des gens bien intentionnés, des entrepreneurs, cherchent à répondre aux problèmes que ce vide étatique a engendrés. Mais ça ne peut pas fonctionner aussi bien que si c’est un État qui s’en charge, car l’État n'est pas une entreprise, il n’a pas les mêmes attributions ni les mêmes obligations. Ses fonctions régaliennes lui donnent une envergure et un pouvoir qu’aucune entreprise n’a et il a une capacité d’investissement unique. Si l’entreprise comme l’État peut jouer un rôle d'amortisseur en cas de révolution technologique, c’est à l’État de prendre soin des victimes de ces nouvelles technologies. L’entreprise n’est pas le bon outil pour le faire et c’est d’ailleurs pour ça que ça ne fonctionne pas. Nous avons besoin d’un État fort avec une vision forte de son rôle et qui inclut une vision technologique.
* Président du comité exécutif chez Human Technology Foundation