Dans ce nouvel épisode de Logique Floue, Denis Raffin, chercheur chez Spirops, échange avec Luc Laroche, ingénieur, directeur sécurité, sûreté, défense et mémoire au sein du Groupe SNCF et président de Railenium.

À partir d'un projet de recherche sur le train autonome, ils explorent les défis que pose l'intelligence artificielle. Comment une machine perçoit-elle son environnement ? Peut-elle prendre des décisions fiables ? Et jusqu'où peut-on automatiser sans inclure un contrôle humain ?

Ce point de départ permet une réflexion plus poussée de l’IA dans la société. 

• À qui doivent profiter les gains de productivité apportés par l'IA ?
• Comment éviter la perte des compétences humaines lorsque les machines prennent en charge certaines tâches ?

Denis Raffin et Luc Laroche défendent une vision pragmatique de l'intelligence artificielle : une technologie capable d'améliorer nos capacités, à condition de rester au service de l'humain et de s'inscrire dans un véritable projet de société.

Un épisode qui rappelle que les questions posées par l'IA sont avant tout des questions de choix collectifs.

TRANSCRIPTION

Logique Floue – Podcast

Spirops

Transcription de l’épisode 5  :

Denis Raffin et Luc Laroche

[00:00] Carole : Logique Flou est un podcast consacré à l'intelligence artificielle et au monde qui se construit autour d'elle. À travers des rencontres entre chercheurs, entrepreneurs, philosophes ou acteurs publics, nous explorons les multiples façons de penser l'IA et ses impacts sur nos sociétés. Aujourd'hui, rencontre entre Denis Raffin, chercheur chez Spirops, et Luc Larochee, ingénieur, directeur sécurité, sûreté, défense et mémoire chez SNCF Group et président de Rallenium, institut de recherche technologique.  

[00:27] pour une discussion autour des usages concrets de l'intelligence artificielle et des transformations qu'elle apporte dans nos organisations. Musique  

[00:40] Aujourd'hui, on reçoit Luc Larochee. Vous êtes ingénieur. Vous travaillez sur les trains autonomes dans l'innovation de manière plus générale à la SNCF. Et vous êtes aussi dans un groupe de réflexion sur l'IA et ses impacts sur la société. Est-ce que j'ai bien résumé ? 

Luc Laroche : Exactement. 

Carole : C'est parfait. Très bien, merci beaucoup. Et donc, on est avec Denis Raffin qui fait partie de Spirops.  

[01:04] Luc Laroche : Peut-être une précision pour commencer. Effectivement, je travaille à la SNCF. Là, je ne parle pas au nom de la SNCF. Donc, je parle au nom des compétences que j'ai pu acquérir dans les différents projets. Je ne parle pas au nom de la SNCF, même si, bien sûr, je travaille à la SNCF et je mène des projets d'innovation avec de l'IA. 

Carole : Très bien, parfait. Est-ce que vous voulez me raconter un petit peu sur quoi vous avez travaillé ?  

[01:27] en matière de véhicules autonomes et de trains autonomes ? Quels ont été vos travaux ? 

Denis Raffin : Oui, alors déjà, moi, je peux parler dans quel contexte on s'est rencontrés. Nous, on a participé à un projet voyageur. Donc, un train, c'était plutôt un train régional voyageurs. Donc, c'est une expérimentation pour... L'objectif, c'était de savoir quels étaient les...  

[01:51] contraintes, qu'est-ce qu'il était le reste à faire pour arriver à un train autonome. Donc on construisait, il y a eu une vraie réalisation, c'était un rétrofit ce qu'on appelle, c'est-à-dire la modification d'un train existant pour le rendre autonome. Nous on s'occupait de deux sujets, un sujet qui est la relation au voyageur et un peu la partie aléa, c'est-à-dire  

[02:15] Définir toutes les actions, toutes les réactions à avoir quand il y a quelque chose qui n'est pas prévu. 

Luc Laroche : L'objectif du projet Train Autonome, en l'occurrence, c'était pour nous d'essayer de sentir quelle était la faisabilité à terme d'un train autonome. Ce n'était pas du tout un projet qui avait comme ambition de déployer des trains autonomes, mais vraiment de monter...  

[02:39] les différents niveaux de compétences de ce qu'on appelle craquer des verrous technologiques, monter les niveaux de TRL pour ceux qui connaissent l'expression. Et donc c'était ça. Et c'était d’avoir une vision globale sur qu'est-ce que ça voulait dire de l'autonomie de conduite fondamentalement. Comment ça s'insérait dans le système ferroviaire. Et notamment quand vous avez avec  

[03:02] Spirops travaillait sur les aléas, c'est un des sujets les plus compliqués du train autonome. Le train autonome, c'est un robot fondamentalement. C'est-à-dire, c'est un engin qui doit capter ce qui se passe autour de lui. Donc, il y a tout un aspect de perception. On y reviendra en parlant de la partie IA. Et puis, à partir de la perception de tout ce qu'il doit percevoir,  

[03:27] Il prend des décisions et après, il y a un actionneur. C'est-à-dire, il décide certaines actions. Alors, suivre un train, ce n'est pas très compliqué. En gros, il avance ou il freine. Il n'y a pas de volant. Donc, la partie décision n'est pas très complexe. La partie actionneur, ce n'est pas très complexe non plus. Il n'y a pas vraiment de verrou technologique. En revanche, le vrai verrou, c'est de comprendre l'environnement, comprendre ce qui se passe.  

[03:55] et de le faire en sécurité.

Carole : Quelle est la démarche derrière ? C'est-à-dire, la SNCF, dans l'absolu, à un moment, voudra avoir des trains autonomes et voudra mettre ça en place de manière plus large ou c'est de la recherche ? 

Luc Laroche : C'est de la recherche. 

Carole : Donc là, vous êtes bien trouvé, du coup. 

Denis Raffin : Oui, tout à fait. La difficulté, elle est beaucoup dans la perception. De savoir, de voir, de remplacer les yeux d'un humain  

[04:20] les yeux, les oreilles aussi, parce qu'en fait, il y a plein de sensations, il y a du ressenti même dans un train, donc cette partie-là est vraiment très complexe. Et ensuite, de la contextualiser. C'est là où il y a un petit peu, même si la décision en elle-même, c'est je freine ou j'accélère, ce n'est pas très compliqué, effectivement, la sortie de décision. Par contre, il y a ce qu'on appelle la fusion, qui est d'essayer de  

[04:45] reconstruire le monde, de comprendre le contexte. Le contexte, il peut changer en fonction de la... On ne va pas prendre la même décision si le rail est mouillé, etc. Donc ça change un peu. Il y a une complexité qui est à ce niveau-là, mais effectivement, elle est plutôt concentrée sur ça. Et ce que je pourrais dire, pour rassurer peut-être pour certains qui ne sont pas forcément... C'est que le chemin est encore un petit peu long.  

[05:09] On n'y est pas encore. Même si ça avance, il y a des choses qui sont... En fait, dans tous les systèmes autonomes, globalement, que ce soit voitures, etc., la recherche avance. Il y a des choses qui permettent déjà d'avancer sur certains tronçons. Par exemple, sur l'autoroute, il y a déjà des aides à la conduite. Sur le train, il y a déjà des aides à la conduite aussi qui vont...  

[05:34] Typiquement, pour tout ce qui est amélioration du contrôle pour la consommation, ça, il y a des aides. On veut trouver, améliorer des processus ou optimiser des choses, mais toujours en gardant l 'idée que l'humain, il est au centre de tout ça. 

Carole : Qu'est-ce que vous en pensez de ce point-là, justement ?  

Luc Laroche : Que l'humain reste au centre de tout, oui, je pense que c'est à la fois important. On peut avoir...  

[06:01] Des visions un peu philosophiques, des visions un peu sociales. Et puis aussi, on peut avoir une vision qui est très, très pragmatique et scientifique. C'est-à-dire que de toute façon, il y a besoin d'avoir quelque part un humain, quel que soit le niveau de sophistication de l'automatisation. C'est vrai à peu près de tous les systèmes. Parfois, l'humain est plus loin, parfois il est plus proche. Il y a guère de systèmes d'automatisation où il n'y a pas une supervision quelque part.  

[06:26] Donc oui, de toute façon, c'est le lien avec l'humain qui est important.

Carole : C'est vrai que ça pose toutes ces questions-là derrière et que Denis soulève évidemment immédiatement et vous aussi, parce que qu'est-ce qu'on fait de l'humain dans tout ça ? Comment vous, vous voyez ça ? C'est-à-dire que d'un côté, il y a quelque chose de très excitant à l'IA et à cette avancée technologique formidable, etc. Mais d'un autre côté, il y a aussi ces questions-là qui se posent. 

Luc Laroche : C'est une question qui se pose pratiquement  

[06:54] Pas du tout uniquement au niveau des trains. C'est une question qui se pose généralement sur tout ce qui est automatisation des process et donc d'un certain nombre de travaux qui sont faits par l’homme aujourd'hui. Il y a des systèmes assez proches du train. Il y a le métro qui est déjà complètement autonome. Il y a le taxi autonome qui arrive, qui commence à se déployer, etc. Il y a plusieurs choses là-dedans. La première chose, c'est...  

[07:18] entre guillemets, à qui profite le crime ? C'est-à-dire, qu'est-ce qu'on fait si jamais il y avait hausse de productivité grâce à l'automatisation ? À qui est-ce que ça profite ? Et selon la réponse, il n'y a pas du tout la même vision morale, en tout cas en ce qui me concerne. C'est-à-dire que si ça permet de faire de la productivité à outrance éventuellement,  

[07:43] Et entre guillemets, ça va juste dans la poche des actionnaires. Pour moi, ça ne va pas du tout. Si ça permet de faire de la productivité et que la productivité faite, elle permet de redéployer des services au contact du client. Alors oui. Et qui dit service au contact du client ? Là, on dit vraiment des emplois humains. Donc, voilà la réponse à la question. Est-ce que c'est bien ? Est-ce que ce n'est pas bien ?  

[08:07] Elle est forcément sous-tendue par une hypothèse de départ, c'est-à-dire qu'est-ce qu'on fait avec les progrès technologiques qui sont dus à l'automatisation en général, quel que soit le système. Et on imagine très bien qu'on puisse avoir des systèmes plus automatisés qui libèrent du temps de personnes,  

[08:30] Et donc, s'il n'y a que ça, on pourrait dire de la baisse d'emploi, mais qui permette de générer de la possibilité de financer de l'emploi au service du client. Et ça, c'est le scénario idéal dans tous les domaines. Et quand on regarde en général le problème de l'IA, puisque c'est aussi sur l'IA qu'on en viendra plus spécifiquement, ce sujet-là, il existe. La productivité due à l’IA...  

[08:57] à qui elle profite et qu'est-ce qu'elle permet. Il n'y a pas de problème fondamentalement d'emploi, ni en France, ni en Europe, ni dans le monde. Il y a un problème de financement de l'emploi. Parce que si vous allez dehors, vous regardez, il y a des gens qui sont sur le trottoir, il y a des trucs qui sont sales, il y a des choses à faire. Il y en a, on en trouve à la pelle. Ce qu'on ne trouve pas, c'est le financement de l'emploi.  

[09:20] Donc, si on permet de dégager du financement pour de l'emploi, alors la balance peut être positive pour tout le monde et pour l'emploi, pour ceux qui travaillent et pour les clients et pour la société. Donc, c'est vraiment cette question-là qu'il y a derrière. 

Denis Raffin : Moi, je suis complètement en phase. C'est-à-dire qu'il n'y a pas de la technologie au-delà de l'IA, de l'automatisation, tout ça. C'est toujours la technologie, le...  

[09:43] il vaut mieux la voir comme quelque chose qui libère du temps pour créer de l'emploi potentiellement mais aussi potentiellement j'en avais parlé la dernière fois c'est qu’il y a un sujet de répartition il y a aussi de ce qu'on veut de la société en général est-ce que  

[10:06] Parce que potentiellement, même s'il n'y avait pas plein de choses à faire, on pourrait imaginer que dans le futur, il y aura même des robots pour nettoyer les rues. Donc, ce travail-là ne sera plus l'affaire. Soit, mais l'humain est toujours là et il faut qu'il vive, etc. Donc, si on pense la société autour de ça, toujours dans cet objectif de...  

[10:33] Plus d'égalité, plus de... À ce moment-là, la technologie, elle n'est que libératrice. 

Carole : Et comment on fait pour aller dans cette direction-là ? Parce qu'on sait que ce n'est pas forcément la chose la plus évidente qui se mettra en place. On sait que le profit, il n'est pas toujours réparti de manière à ce que la société fonctionne mieux. Enfin, ce serait formidable, mais est-ce que ce n'est pas un peu utopiste de penser ça ?  

[11:00] Luc Laroche : Non. J'ai hésité en disant non. Puis finalement, j'ai dit non. C'est surtout qu'à la fois, on a chacun à œuvrer pour et à la fois, c'est éminemment du domaine politique. Donc, il faut en même temps savoir que nous trois, on ne va pas transformer le monde comme ça. Mais qu'en revanche, on a quand même notre rôle à jouer là-dedans. Donc, c'est vraiment un élément  

[11:28] strictement politique au bon sens du terme. Donc oui, il y a de la discussion, il y a des façons de rentrer dans le débat public, etc. Il faut faire du lobbying. Donc c'est d'abord par ça, puis après on a chacun, aux places où on est, quelques microdécisions qui permettent d'aller dans un sens ou dans un autre.  

[11:53] Mais oui, c'est compliqué parce que tout pousse au profit, même ceux qui n'ont pas forcément plus envie que ça. Ou j'ai envie de dire, tout pousse à la maximisation du profit ou même, j'ai envie de dire, à la maximisation de la productivité parce que sinon l'entreprise meurt. Donc là, on n'est pas dans maximiser le profit. À partir du moment où on est dans un  

[12:17] monde en concurrence absolue et où d'autres veulent maximiser leurs profits, ceux qui veulent rester, ils sont obligés de faire un petit peu attention quand même aussi. Donc voilà, sujet éminemment politique. Bon, alors après, moi, je n'ai pas tellement plus de réponses que ça, ou au tout cas, ma réponse n'a pas plus de valeur que celle d'un autre. 

Denis Raffin : Oui oui, c'est ça. De toute façon, je suis plutôt un optimiste, mais je  

[12:40] On est obligé de jouer, comme disait Luc, dans les marges qui sont données par le marché. On vit dans un monde préexistant. Donc on doit jouer là-dedans. Mais effectivement, chacun peut jouer son rôle de différentes manières. On n'est pas obligé d'être un activiste, mais on peut être  

[13:04] rien que dans la discussion quotidienne, dans ses réflexions, dans les choix qu'on fait de consommation, etc. Chaque petite chose fait évoluer les choses.

Carole : On a l'impression qu'il y a une espèce de course contre la montre avec l'IA. En tout cas, c'est ce que nous laissent entendre les médias, etc. Et on a l'impression que ça va à une vitesse folle. On parle de disparition de métier à un horizon extrêmement court.  

[13:32] Donc c'est vrai qu'il y a peut-être des choses à révolutionner, à penser différemment la société, etc. Mais il va falloir que tout ça se mette en phase finalement assez rapidement et sur le même tempo. 

Luc Laroche : Oui, de toute façon, les périodes de transition, on est toujours en période de transition. Il y a toujours des nouvelles technos, mais l'apparition de nouvelles technologies et donc les transitions qui s'en suivent, c'est toujours des moments un petit peu chaotiques.  

[13:58] Je n'ai pas une idée extrêmement claire des pertes d'emplois générées par l'IA. On en parle beaucoup. J'ai vu des études récemment. Certaines disaient que ça allait être terrible. Et d’autres disaient qu'en fait, quand on fait la balance entre ce que ça perd et ce que ça crée, il y a des études qui disent que ça en crée un peu plus que ça n'en perd. Et après, il y a la question, est-ce que...  

[14:22] C'est le même type de boulot et comment est-ce que les gens peuvent se reclasser, j'ai envie de dire, par décalage ? Ça, c'est encore un autre sujet. Donc moi, je n'ai pas les idées claires sur est-ce que ça va faire disparaître beaucoup d'emplois au total ? J'ai plutôt envie de dire que ça va remodeler le marché de l'emploi sur une petite partie, mais qu'on va aussi avoir des créations.  

[14:47] La difficulté, c'est qu'il y a des types d'emplois qui vont plus disparaître que d'autres. Et là, on attaque peut-être le point qui me semble un des plus majeurs avec l'arrivée de l'IA, c'est que ça va impacter des métiers d'apprentissage du métier, entre guillemets. Je prends l'exemple des juristes, parce que c'était l'exemple dans l'article que j'ai lu.  

[15:13] Un jeune juriste, quand il arrive, il se tape de regarder dans tous les codes possibles et imaginables. Déjà, il a essayé de tout apprendre pendant ses études. Puis quand il arrive, il commence par... Il étudie les cas, il va regarder, il va à droite, il va à gauche, etc. Sans doute que ce métier, il peut être remplacé par de l'IA. Mais l'IA, et on en parlera évidemment tout à l’heure, l'IA, elle se trompe. Donc il faut qu'il y ait quelqu'un qui puisse superviser.  

[15:39] La personne qui doit superviser, il faut qu'elle soit avertie. Ça ne peut pas être le junior qui supervise. Donc, ça veut dire qu'on va priver les gens de cette perte d'apprentissage avec du métier pas forcément super rigolo, en tout cas pas le plus passionnant, mais qui leur permet d'accéder à des compétences et  

[16:02] Et du coup, comment est-ce que cette génération va pouvoir accéder à ces compétences ? Et alors ça, c'était vu du côté des personnes, mais vu du côté du résultat. Et quand ceux qui connaissent, ils partiront à la retraite et que ceux d'en dessous, ils n'auront pas appris, là, on va se retrouver dans une situation un peu compliquée. D'un point de vue assez général, j'ai envie de dire, c'est les risques  

[16:26] de nature cognitive qui sont associées à l'IA ? 

Denis Raffin : Il y a déjà des situations où des boîtes ont décidé de virer du monde pour remplacer par de l'IA parce que c'est performant. Et elles sont maintenant arrivées au seuil, c'est assez vite, au seuil où il y a des choses qui ne marchent pas trop, mais ils n'ont plus les experts puisqu'ils sont déjà partis.  

[16:49] Donc ça, c'est déjà... Très rapidement, ça arrive, donc on peut imaginer que ça va être encore pire plus tard. Donc il y a déjà cette situation, on est déjà dans cette situation. Alors le fait qu'on s'en rende compte assez vite, c'est plutôt positif, parce qu'on se dit, on ne va pas attendre que ce soit trop tard. Déjà, c'est trop tard pour ceux qui se sont fait virer, mais par contre 

[17:14] Voilà, on a le temps de les rattraper avant qu'ils soient partis trop loin. 

Carole : Et qu'est-ce qu'on pourrait faire justement face à ça ?

Luc Laroche : Je pense qu'il faut d'abord que les entreprises elles-mêmes aient conscience du risque. Et après, qu'elles pensent cet apprentissage des personnes comme un investissement. Et celles qui le feront  

[17:37] seront celles qui gagneront dans 15 ans, mais en attendant, il faut qu'elles serrent les dents. Donc là, c'est vraiment du rôle des patrons d'entreprise d'avoir cette vision-là. Et donc, conserver effectivement un certain nombre de travaux qui sont nécessaires à la montée en compétences globales du personnel qui travaille dans la boîte, même  

[18:03] s'ils pouvaient être remplacés par de l'IA. Ça ne veut pas dire qu'il n'y en a pas un certain nombre qui peut être remplacé par de l'IA. Mais vraiment, ce point-là est important. On en parlera encore. Un des risques principaux de l'IA, je pense que c'est la perte de compétence des professionnels, mais sur un certain nombre de sujets, presque de l'espèce humaine. Je généralise exprès parce que ça permet de lancer le débat, mais c'est...  

[18:30] Plus que ce qu'on raconte sur l'IA va nous gouverner, machin, etc. Je pense que les risques, c'est d'abord de la perte de ça va faire de compétences. 

Carole : Donc, d'après vous, les sujets qui sont à contrôler de manière à ce qu'on ne perde pas l'humain, on en revient là quand même, ce serait donc contrôler ses apprentissages ?  

[18:54] Enfin, faire en sorte que les apprentissages perdurent et avoir un système de contrôle de la machine et de voir si elle ne fait pas d'erreurs, etc. Ce serait ça ?

Luc Laroche : Oui, je pense qu'il faut effectivement toujours qu'il y ait une capacité de contrôle. Et on a dit que c'était difficile à avoir tant qu'on n'avait pas les compétences. Après, c'est plus ou moins  

[19:19] selon le niveau de fiabilité qui est attendu de lire. On a beaucoup de situations où, en fait, quand l'homme agit, il se trompe deux fois sur dix et ça va bien. Et là, on peut dire, quand on est dans des niveaux statistiques de fiabilité aussi bas  

[19:46] qu'on est capable de mesurer statistiquement qu'une IA se trompe peut-être qu'une fois sur dix. Si on remplace un homme qui se trompe deux fois sur dix par une IA qui se trompe une fois sur dix, à la fois, on n'est pas forcément obligé de contrôler. Et puis, il y a d'autres cas où il ne faut pas que ça se trompe. Il ne faut pas que ça se trompe. Et là, du coup, il faut mettre en place les procédures, soit pour nous assurer que le système ne se trompe pas, soit pour contrôler ce qu'a fait le système.  

[20:13] Les deux sont différents. S'assurer que le système ne se trompe pas, c'est majeur dans les travaux scientifiques que l'on mène. Comment on fait la démonstration de sécurité du système qu'on est en train de concevoir ? Là, pour aussi y revenir, l'IA tout seul ne peut pas. Donc, il faut penser le système de façon à ce que si on y met une brique d'IA...  

[20:37] elle n'ait qu'une petite influence sur le résultat global et qu'on ait d'autres briques indépendantes et que c'est la somme de l'ensemble qui permette d'atteindre le niveau de fiabilité nécessaire. 

Denis Raffin : Sachant que quand on parle de briques d'IA dans ce sens-là, c'est les briques d'IA boîte noire. 

Luc Laroche : Oui, bien sûr. 

Denis Raffin : Parce qu'il y a d'autres systèmes, il y a des systèmes...  

[21:00] Maintenant, on ne dit plus... Je ne sais plus si on a le droit de dire IA, mais en tout cas, il y a des systèmes qui sont déterministes et fiables et qui permettent de s'assurer que le résultat à entrer donnée est toujours le même. Donc ça, c'est différent. Mais effectivement, dès qu'on met un système boîte noire, on a...  

[21:24] Luc Laroche : C'est important ce que tu dis comme précision. Quand moi je dis IA là, c'est plutôt effectivement apprentissage, deep learning, etc. IA n'est pas juste système numérique et informatique dans ce que je raconte là.  

[21:40] Donc voilà, il y a la façon de concevoir des systèmes de sécurité, y compris avec une brique d'IA boîte noire. 

Denis Raffin : Oui, on peut dire IA parce que c'est le terme. 

Luc Laroche : Mais c'est vrai que le vocabulaire n'est pas complètement figé. Et puis après, il y a d'autres cas où il faut pouvoir contrôler. Alors, il y a des moyens de contrôler. 

[22:03] Je prends des exemples où on veut faire la maintenance de systèmes complexes et puis on entre une panne et puis l'IA va chercher dans toute la documentation énorme qui existe sur le système et puis dit il faut faire ça, ça. Et là, ces systèmes-là peuvent dire et d'ailleurs, je l'ai vu dans le manuel numéro 7, la page 342, paragraphe 7. Et puis, il met les références  

[22:30] des modes opératoires à appliquer. Et dans ce cas-là, ce qu'il faut faire, c'est une fois qu'on a ça, on ouvre le document directement à la bonne page et là, on voit bien si l’IA dit n'importe quoi ou pas. Donc, il y a quand même des types de systèmes où l'IA deep learning boîte noire peut effectivement accélérer énormément le processus de recherche et à la fin, on s'appuie  

[22:54] plus sur l'IA, on s'appuie sur le résultat et on va voir à l'origine le bon document, etc. Donc voilà, il y a des tas de systèmes où ça aide vraiment. 

Carole : C'est vrai que je m'interroge beaucoup sur ce mouvement qu'a eu l'homme finalement de déléguer son savoir ou le fait de penser, etc. D'avoir eu cette volonté de...  

[23:18] de passer ça à une machine ? C'est vrai que ça m'interroge énormément. 

Luc Laroche : Je ne pense pas qu'à l'origine, il y ait le désir de sous-traiter la pensée à une machine. D'abord, pour moi, il n'y a pas sous-traitance de la pensée. En fait, la machine ne pense pas. Je suis clair là-dessus, la machine ne pense pas. Donc, on ne peut pas sous-traiter quelque chose qu'on fait à quelque chose qui ne sait pas le faire.  

[23:45] Après, ceux qui ont vraiment travaillé sur les concepts fondamentaux de l'IA, je ne suis pas sûr qu'ils avaient, eux, une idéologie. Après, c'est récupéré par des gens qui ont une idéologie. Alors, deux types de personnes. Il y a une première catégorie de personnes qui disent avoir une idéologie, mais en fait, qui veulent du fric. Ça, il y en a quand même un certain nombre. Donc là, il faut gratouiller l'idéologie, mais il ne faut pas y passer trop de temps. Ils veulent juste du fric, donc ils racontent n'importe quoi.  

[24:13] Et puis du moment que ça fait vendre, ça va bien. Et puis il y a des gens qui ont une véritable idéologie. Il y a le transhumanisme. Est-ce qu'on peut aller se transférer dans une machine ? Parce qu'en fait, l'ensemble de l'homme, ils disent que si on veut se transférer dans une machine, ça veut dire que c'est l'homme. L'homme, ça veut dire que c'est réduit à ce qui peut passer dans une machine et comment on peut survivre à l'intérieur de la machine.  

[24:36] ou s'ils ont envie, pourquoi pas. Donc là, il y a des choses plus intéressantes à discuter. Donc, je ne pense pas que ce soit l'idéologie de ceux qui ont, des chercheurs, des scientifiques, des mathématiciens, des codeurs, des informaticiens. Eux, l'idéologie, leur but, c'était comment est-ce qu'on peut améliorer les capacités plutôt de calcul au sens très large du terme ?  

[24:58] des machines. Le mouvement n'est pas nouveau. Ce n'est pas parce que ça s'appelle IA aujourd'hui que ça n'existait pas. Quand on avait un boulier et quand on voulait faire des calculs, on déléguait à la machine des trucs où il fallait poser les multiplications. La machine à calculer, c'est ça. Donc, on n'est pas sur un nouveau paradigme quand on dit qu'on veut déléguer un certain nombre de tâches. Le nouveau paradigme, c'est de dire qu'on veut déléguer  

[25:25] On pense qu'on peut déléguer et qu'on veut déléguer la pensée humaine.

Carole : Qu'est-ce que tu penses, toi, Denis, que la machine pense, justement ? 

Denis Raffin : Non, non, pas du tout. De la même manière, c'est juste que, oui, effectivement, c'est l'usage... Enfin, il y a un discours. Il y a des gens qui se disent, oui, l'intelligence générale, etc. C'est un discours de vente.  

[25:50] de dire que c'est de l'intelligence et que ça fait des choses intelligentes. Mais c'est des machines à régurgiter, à synthétiser, etc., qui marchent très bien, avec des défauts qui nécessitent toujours l'humain derrière pour superviser, pour vérifier, etc. Justement, quand on parlait tout à l'heure, je regardais  

[26:17] pareil, un article qui était intéressant sur quelqu'un qui analysait un petit peu une formation à lire. C'était un peu sur le thème humoristique, mais il prenait, donc il s'inscrivait sur un lien d'apprentissage et puis il apprenait. Ça lui disait, bon ben voilà, c'était Prompt Engineer, là, pour apprendre à écrire des promptes. Et donc, dedans, il y avait du bon sens toujours dans la formation. Ce n'était pas une grosse formation, mais à plusieurs moments dans la formation, il y a  

[26:46] il expliquait, faites attention pour vérifier toujours l'information, etc. Mais pour vérifier l'information, il faut que je connaisse, que je fasse une recherche, que finalement, pourquoi je fais la recherche par l'IA ? Puisque de toute façon, il faut que je fasse la recherche ensuite pour vérifier que l'IA ne m'a pas dit de bêtises. C'était assez cocasse comme situation. Et donc, on est toujours dans ce...  

[27:10] Voilà, donc il n'y a pas de pensée, ça ne réfléchit pas. Même quand on parle dans l'IA, nous, tel qu'on fait la prise de décision, c'est la digitalisation d'un processus, c'est complètement mathématique, c'est-à-dire qu'on met des seuils, on va essayer, on va...  

[27:33] on va choisir la solution la moins pire, mais il n'y a pas de pensée. Ça ne va pas plus loin que ce qui a été écrit dans l'algorithme, etc. Même si ça peut faire des choses qui semblent magiques. 

Luc Laroche : En fait, dans les réflexions qu'on peut mener, on pense que quand on dit que l'IA...  

[27:56] C'est-à-dire qu'on dit, du coup, que la pensée humaine est réductible à ce que fait un ordinateur avec des algos de deep learning. Et pour nous, c'est une triple réduction, en fait. C'est une triple simplification. La première chose, c'est que ce faisant,  

[28:23] On dit que notre façon de penser, c'est uniquement du traitement de l'information. Or, d'expérience, on sait qu'on ne fait pas que du traitement de l'information. On a un type de pensée qui est une pensée rationnelle, pas à pas, où on fait des déductions, etc. Donc ça, oui, on fait du traitement de l'information, puis après, on en tire des conclusions.  

[28:48] Et puis on sent bien que dans la façon dont on pense, il y a des choses qui sont beaucoup plus de l'ordre de la fulgurance, etc. Alors, ce qui est toujours compliqué dans ce genre de débat, c'est qu'en fait, on connaît très bien comment fonctionne l'IA. On connaît très, très bien comment fonctionne une IA. On connaît très, très mal comment fonctionne la pensée humaine.  

[29:11] Donc on a toujours du mal à dire la pensée humaine ne fait pas comme l'ordinateur parce que la pensée humaine fonctionne comme ça. Et on est obligé de s'appuyer sur des concepts qui sont soit philosophiques, soit un peu plus empiriques ou intuitifs. Et toute la philosophie sur la pensée s'appuie un petit peu là-dessus. Donc première réduction, c'est ça. Ce serait de dire que nous, on ne fait que du traitement de l'information. Or, il y a des tas de choses 

[29:39] autrement que du traitement de l'information. La deuxième réduction, ce serait de dire que ce qui se passe lorsque l'on pense, c'est uniquement nos neurones qui font, on ne sait pas trop quoi, mais dans tous les sens, qui envoient des petits produits chimiques, des trucs électriques, des machins, etc. Pareil, les neurosciences...  

[30:04] se développe énormément, mais la compréhension exacte de ce qui se passe, on ne l'a pas atteint, on n'a pas craqué et on est loin d'avoir craqué le fonctionnement du cerveau. En revanche, il y a des choses qui sont presque certaines maintenant, c'est que le cerveau tout seul, ça ne marche pas et c'est l'ensemble de la personne et de son corps qui permet de penser. Et moi, j'appuie la thèse que  

[30:30] sans corps, il n'y a pas de pensée humaine, y compris pour des raisons. Enfin, voilà, on sait, ça nous prend aux tripes et ça nous fait penser. Voilà, il y a même, j'ai envie de dire, même quand on fait du raisonnement. Donc, on voit bien que notre façon de penser est intrinsèquement liée au corps, aux émotions, à ce qu'on ressent.  

[30:56] Et ça, la machine ne peut pas l'avoir. Et la troisième réduction, ce serait de dire que nos neurones, en fait, fonctionnent juste comme un algorithme. Ou pire, comme un algorithme d'IA. Encore une fois, on ne sait pas comment fonctionnent nos neurones. Mais ce qui est sûr, c'est que ça ne fonctionne pas du tout pareil.  

[31:19] D'abord, si ça fonctionnait pareil, ça ne consommerait pas autant d'énergie. Il y a plusieurs ordres de grandeur de consommation énergétique entre le cerveau et un ordinateur. Donc, pour faire la même tâche, il faut 100 fois, 1000 fois, 10 000 fois plus d'énergie à une IA qu'à nous. Voilà, encore une fois, parfois on va droit au but.  

[31:44] Et ce qui est intéressant aussi, c'est qu'on sent que la pensée humaine et toute l'évolution de la pensée n'aboutit pas à une optimisation de ce qu'on pourrait appeler un algorithme s'il y avait algorithme. En fait, le vivant est aussi dans la robustesse, dans la capacité à survivre. Et la capacité à survivre, ce n'est pas juste de l'hyper-performance.  

[32:08] alors que l'IA, on veut faire de l'hyper-performance. Donc, tout ça fait dire que même ce qui se passe au niveau de nos neurones, ce n'est pas de l'optimisation algorithmique. Donc, c'est un certain nombre de faisceaux qui me permettent à moi de dire que la pensée humaine est infiniment plus vaste que l'IA. Et tant mieux !  

[32:36] Et que du coup, j'ai pas peur une seconde du fait que l'IA va nous bouffer. L'IA peut nous rendre idiots parce qu'on est tellement paresseux qu'on va aller regarder que l'IA. On est tellement paresseux qu'on sait que ce truc ça fait des erreurs et qu'on va pas les corriger parce que c'est quand même fatigant. Mais que l'IA comme ça tout d'un coup commence à avoir des intentions...  

[32:59] Non, parce que l'intention, c'est du registre de la pensée humaine, ce n'est pas du registre de la machine. Alors après, qu'il y ait des gens méchants, qu'il y ait des intentions en utilisant l’IA, alors là, oui, ça, c'est un deuxième sujet. 

Carole : Qu'est-ce que tu penses, toi, Denis, de ces trois points-là ? 

Denis Raffin : Oui, alors je pense que je suis d'accord. Globalement, on dit qu'il y a des intelligences aussi. Il y a différentes façons qui sont liées à l'émotion, au vécu, etc., qui font aussi la...  

[33:27] La diversité, en fait, dans l'humain, c'est le fouillis, c'est un peu le bordel, la vie humaine. Le fait d'avoir des trucs bien rangés, tout carrés, c'est pour certains processus, c'est ce qu'on veut, mais le fait de remplacer tout par quelque chose qui serait tout plat, on aurait toujours la même saveur de tout, on aurait...  

[33:54] Toujours les mêmes inputs, on aurait toujours les mêmes sorties. Et donc, c'est là, surtout, je pense que là, l'humain, il aura toujours sa place parce que, de temps en temps, il n'est pas en forme. Et puis, ça lui fait faire des choses un peu différemment. Et puis, hop, la science, ça a été ça. C'était des découvertes avec des accidents, des trucs. Là, il n'y a plus d'accidents. 

Carole : Mais là, encore une fois, on parle de l'IA générative. En ce qui concerne votre démarche chez Spirops, c'est avec...  

[34:21] cette histoire de logique floue. Vous avez quand même plus, d'après moi, cette envie de s'approcher de comment réfléchit l'humain ou comment pense l'humain. 

Denis Raffin : Oui, alors déjà, nous, on part de l' esprit humain pour automatiser. Donc, on n'est pas, déjà, on va prendre un expert et puis on va lui demander comment il fait et puis on...  

[34:43] Déjà d'un côté. Et puis aussi, on a cette... On essaye de comprendre un peu... Alors pas forcément de la neurosciences, etc. Mais le principe que l'humain... Enfin, le vivant, plus que l'humain. Le vivant, il a tendance à optimiser, à faire le moins d'efforts possible, etc. Et on pense que c'est comme ça que...  

[35:07] qu'on va pouvoir faire des systèmes, donc le moins d'efforts possibles dans l'informatique, c'est le moins de temps de cycle plus faible, le moins d'énergie consommée, le moins de... Donc c'est comme ça qu'on pense qu'on va réussir à faire des choses. On vise plutôt cette logique-là, plutôt que de se dire bon, ça ne marche pas, mais on va mettre encore plus de puissance, puis ça marchera. C'est...  

[35:34] Et c'est un peu pareil avec l'IA en ce moment. Ça fonctionne parce qu'on y met de la puissance, mais on est dans des niveaux de consommation énergétique qui n'ont plus de sens, en fait. 

Carole : Est-ce qu’il y avait d'autres points que vous aviez envie d'aborder, que vous aviez en tête ? 

Luc Laroche : Je pense que dans les risques de l'IA, il y a un point aussi qu'on pourrait aborder.  

[35:59] C'est le risque de rupture relationnelle. Je vais expliquer. Alors, ce n'est pas que l'IA, c'est l'IA plus les réseaux sociaux. Encore une fois, quand je dis ça, il faut que je précise le vocabulaire. Ce n'est pas que l'IA deep learning, c'est les réseaux sociaux plus l'IA deep learning. Là, on commence à avoir des choses qui sont un peu puissantes.  

[36:23] et sur lesquelles il faut faire attention. Deux exemples, c'est effectivement les dégâts parfois que causent les réseaux sociaux sur certaines catégories de personnes, l'enfermement que ça génère et donc une espèce de communautarisme.  

[36:47] Des personnes qui restent des heures et des heures sur les réseaux sociaux, qui ne sortent pas de chez eux. Ça finit par faire des gens bizarres. Et donc là, il peut y avoir vraiment un premier risque. Alors c'est vrai pour les enfants, mais pas que. C'est vrai aussi pour des adultes. Et puis quand on commence à avoir en face de soi quelque chose qui imite les raisonnements humains et que dès lors, on anthropomorphise  

[37:13] très facilement, là, il peut commencer à y avoir un peu de perte de repère. Si on commence à discuter avec l'IA comme si c'était, je ne sais pas moi, notre mère qui est morte ou notre petite amie qui nous a quittés ou je ne sais pas quoi. Là, on est quand même en limite et là-dessus, il y a des risques. Le risque lié, c'est le risque de désinformation.  

[37:41] où effectivement, on peut quand même réussir à faire passer des infos fausses auprès d'un grand nombre de personnes. Et ça, ça demande... Alors certes, les réseaux sociaux suffisent, ça permet déjà de le faire, mais quand en plus, on peut créer des fake news très, très réalistes et qu'on les balance sur les réseaux sociaux à des gens  

[38:07] qu'on a déjà triés sur le volet parce qu'en fait, ils sont extrêmement réceptifs à ce qu'on a envie de leur dire, petit à petit, ça fait des choses qui peuvent être dangereuses. Donc voilà, là, il y a un deuxième risque important. Tout à l'heure, on parlait du risque plutôt cognitif, c'est-à-dire que les gens, ça allait plutôt les désapprendre à penser. Enfin, c'est l'effet GPS. Là, on est sur un deuxième risque, un risque de désinformation 

[38:33] et un risque de rupture relationnelle. En fait, très clairement, ce qu'il faut avoir, c'est le sens critique. Alors, on a beau savoir que sur les réseaux sociaux, ça raconte des choses bizarres, mais si on adore y aller, que c'est tellement simple, et qu'on n'a pas réussi à se façonner un esprit critique suffisant, ben non, ça ne peut pas forcément...  

[38:56] Ça ne donne pas forcément des adultes qui sont mieux... 

Denis Raffin : On revient au premier sujet. Si on ne s'est pas déjà formé, on n'est pas armé pour se défendre. Et moi, je pense que le problème, il est avant l'IA. C'est-à-dire que maintenant, on a de l'IA, de deep learning, qui permet de générer des images, qui permet de massivement faire des choses qui...  

[39:19] décrire des choses qui sont cohérentes, qui ont du sens. Mais avant ça, il y avait déjà un problème lié aux réseaux sociaux, qui est les algorithmes qui vont pousser l'information, et que ça soit de la bonne information ou de la mauvaise information, c'est la même chose. C'est-à-dire qu'il y a une fenêtre de Norton, c'est-à-dire que moi j'aime bien les...  

[39:44] faire des cookies, et donc je vais avoir que des vidéos de gens qui font des cookies, alors que peut-être que les gâteaux, je sais pas, la fraise, c’est très bien. Je simplifie, mais c'est pareil, que ce soit politiquement ou scientifiquement, je vais avoir... On va me pousser tout le temps les mêmes choses, donc déjà, je vais pas ouvrir mon esprit, je vais être un peu fermé, donc ça...  

[40:07] Ça, ça peut... Il y a des solutions. On pourrait dire qu'il faut que les algorithmes soient ouverts, qu'ils soient... Ce n'est pas forcément interdire, mais c'est réguler, trouver des solutions pour dire... Par exemple, on prend l'exemple du réseau X, ou Twitter. Le jour où Elon Musk a repris le truc, il a viré tous les gens qui faisaient de la régulation, etc. Et puis en plus, maintenant, il pousse ses...  

[40:33] ses idées, et puis je ne sais pas, l'algorithme, je ne suis pas là-dessus, mais le problème, il est en grande partie là.

Carole : On a beaucoup parlé des risques, finalement, et puis de ces peurs que ça pouvait engendrer, etc. J'ai envie de vous demander, à tous les deux, pour finir cet entretien, quelles sont les promesses qui résident dans l'IA et qui font vraiment envie à chacun ?  

[40:58] Luc Laroche : Ce qui me vient à l'esprit, c'est un premier exemple. C'est l'IA dans la médecine, où là, on est dans des systèmes qui améliorent beaucoup la performance, qui peuvent se tromper, mais fondamentalement, qui améliorent beaucoup la performance. Quand on fait de l'analyse  

[41:22] de radio ou de résultats d'examens compliqués de médecine avec de l'IA. En fait, l'IA permet d'aller voir des choses que, assez souvent, un humain pourrait ne pas détecter. Et ça, pour moi, c’est un des exemples d'amélioration fondamentale grâce à l'IA.  

[41:44] Alors bien sûr, on revient à ce qu'on a dit tout à l'heure. Si on laisse juste l'IA, un jour il va y avoir une tumeur de 40 cm de large et puis l'IA ne va pas le voir. Donc il faut évidemment que non seulement qu'il y ait quelqu'un qui contrôle, et pas que quelqu'un qui contrôle. Ça, on y a beaucoup travaillé dans nos projets. C'est-à-dire que si on a juste quelqu'un qui contrôle, quelque chose qui marche presque toujours.  

[42:09] Au bout d'un moment, la personne ne contrôle plus rien, puisque comme elle sait que ça marche, elle dit c'est bon, c'est bon, c'est bon. Et en fait, ça ne sert à rien d'avoir rajouté quelqu'un qui contrôle. Donc, il faut faire en parallèle. Il faut qu'il y ait quelqu'un qui analyse sans avoir vu le résultat de l'IA. Il faut à côté qu'il y ait le résultat de l'IA. Et puis, il faut soit la même, soit une autre qui regarde. Est-ce que les deux disent la même chose ? Sinon, ça ne marche pas. Et dans ce cas-là,  

[42:34] Alors oui, on améliore la fiabilité. Vous remarquerez d'ailleurs que dans le cas que je cite, on n'a pas amélioré forcément la productivité parce que je doublonne le boulot. Mais là, c'est vraiment une promesse. Après, on pourrait multiplier les exemples à l'infini. Quand on fait une recherche un peu fine de quelque chose avec de l'IA sur Internet, c'est quand même hyper puissant.  

[42:56] Et puis après, si ça nous renvoie à la page en question, on va voir la page. Donc, on a des tas d'exemples où c'est très puissant et ça permet d'accélérer, de faire des progrès. Je pourrais en avoir beaucoup des exemples, mais Denis, tu dois en avoir d'autres. 

Denis Raffin : Oui, alors des exemples, j'en ai... En fait, l'idée de l'exemple de le médecin est très bien parce qu'en fait, c'est déjà ce qu'on fait...  

[43:22] actuellement quand on a quelque chose d'assez grave on demande un deuxième avis puis un troisième avis etc, et là parmi l'un des avis il y aura de l'IA et qui permettra peut-être d'affiner etc, donc ça c'est effectivement donc c'est déjà utilisé positivement et donc ça c'est pour faire avancer l'humanité dans un bon sens c'est-à-dire qu'on… 

[43:47] des énergies plus vertes. Dans ce sens-là, si elle est utilisée, c'est toujours pareil, c'est une technologie, si elle est utilisée dans un sens vertueux, c'est bien. Et puis, il y a toujours, malheureusement, des gens qui veulent l'utiliser. C'est sûrement utilisé dans des systèmes à l'armée pour améliorer les systèmes de visée, etc. aussi, malheureusement. Mais...  

[44:14] En tout cas, je suis plutôt optimiste. Je me dis que le balancier finit toujours plutôt du bon côté. 

Carole : Très bien. Merci beaucoup à tous les deux. Et puis, à très bientôt. 

Luc Laroche : Merci beaucoup.  

Logique Floue est un podcast consacré à l'intelligence artificielle et penser le monde qui se construit autour d'elle. À l'heure où l'IA devient omniprésente dans nos métiers, nos outils, notre information et nos imaginaires, Logique Floue propose d'aller à la rencontre de celles et ceux qui la pensent, la développent, l'utilisent ou la questionnent. Chercheurs, ingénieurs, philosophes, artistes, entrepreneurs ou acteurs publics viendront confronter leur vision d'un futur déjà en train de s'écrire. 

Soutenu par Spirops, laboratoire de recherche indépendant en intelligence artificielle depuis plus de 20 ans, le podcast explorera notamment leur approche dite frugale de l'IA. Des systèmes plus spécialisés, plus maîtrisés et plus raisonnés, fondés sur des modèles différents des grandes IA génératives actuelles. À travers des portraits des membres de l'équipe de Spirops et des conversations avec des invités extérieurs spécialistes de leur domaine, Logique Floue ouvre un espace de dialogue autour des promesses, des limites et des choix de sociétés qui accompagnent le développement de l'intelligence artificielle.

Réalisé et produit par Carole Cheysson chez Pulse Audio, avec l'aide de Sacha Bénard, mix William Lopez, illustration Yara Al Najem, jingle Kelian Régis. 2026