Réinventer l’humain à l’heure de l’intelligence artificielle

Transcription éditorialisée de l’émission avec Frédéric Vissense et Férial Furon

Participants : Guilaine Depis, Frédéric Vissense, Férial Furon

Note éditoriale : Version destinée à une publication écrite. Les hésitations, répétitions, faux départs et scories de l’oral ont été supprimés. La syntaxe a été légèrement resserrée et certains passages ont été condensés pour la lisibilité, sans modifier le sens des propos. Les affirmations factuelles des intervenants sont reproduites comme telles et n’ont pas fait l’objet d’une vérification systématique.

Un romancier et une essayiste face au bouleversement de l’IA

GUILAINE DEPIS

Bonjour et bienvenue dans cette nouvelle émission du Salon de Guilaine. Je reçois aujourd’hui Frédéric Vissense, qui publie son premier roman, Beautiful Company, aux Éditions de la Route de la Soie, et Férial Furon, qui publie l’essai Réinventer l’humain à l’heure de l’intelligence artificielle : alchimie, conscience et réenchantement du monde.

Pourquoi les réunir ? Parce que l’intelligence artificielle est l’un des grands bouleversements de notre époque. Elle touche tous les champs de notre vie et nous oblige à nous interroger sur ce qui, demain, restera proprement humain. J’ai donc souhaité confronter le regard d’un romancier et celui d’une essayiste, un regard littéraire et un regard nourri de science, de philosophie et de spiritualité.

Frédéric, dans la vie vous êtes DRH. Votre premier roman est une dystopie burlesque. D’où est venue cette fiction ?

FRÉDÉRIC VISSENSE

Beautiful Company raconte les pérégrinations d’un groupe de salariés au sein d’une entreprise fictive, internationale et technologique, apparemment surpuissante mais confrontée à de fortes difficultés concurrentielles.

Pour s’assurer de la loyauté de ses salariés, l’entreprise décide de déployer progressivement une sorte de super-IA capable de lire leurs pensées. Évidemment, les choses se passent mal. Les personnages principaux ont la mauvaise pensée au mauvais moment, au moment précis où la machine les analyse. Pour sauver leur réputation, ils doivent accepter une mission improbable et rocambolesque qui les fait traverser plusieurs pays jusqu’au siège mondial de l’entreprise.

Le roman est une satire, mais aussi une analyse de nos vies dans des organisations internationales et très technologiques. Notre relation au monde, à la réalité et aux autres est de plus en plus médiatisée par des protocoles, des machines, des algorithmes, des modes d’emploi. D’une certaine manière, le livre est un petit manuel de survie dans cet univers technologique global.

Le burlesque comme révélateur de l’entreprise

GUILAINE DEPIS

Vous avez choisi l’humour plutôt que la noirceur.

FRÉDÉRIC VISSENSE

Oui, parce que les organisations humaines sont à la fois inquiétantes et profondément comiques. Elles reflètent le fantasme de notre société : contrôler une grande partie, voire la totalité, de la réalité à travers des artefacts techniques.

Mais elles échouent très souvent à atteindre tous leurs objectifs, justement parce qu’elles sont humaines. Ces dysfonctionnements m’intéressent. Ils sont exagérés dans le roman, mais ils restent réalistes : les organisations que nous connaissons ne sont jamais aussi parfaitement cadrées qu’elles prétendent l’être.

C’est dans leurs failles que peut naître une histoire, mais aussi que subsiste leur humanité. Ma conviction est que l’échec permet de se remettre en question et d’apprendre. C’est paradoxalement une dimension essentielle de la vie des organisations.

GUILAINE DEPIS

L’IA est de plus en plus présente et peut devenir un instrument de contrôle global.

FRÉDÉRIC VISSENSE

Elle n’est pas encore partout, mais elle tend à s’immiscer dans une multitude de relations et d’activités. Les IA génératives ont une propriété particulièrement importante : elles utilisent le langage naturel. Elles font donc tomber beaucoup de barrières qui existaient auparavant entre les systèmes informatiques et les humains qui les utilisent.

Elles deviennent extrêmement fluides et adaptables. Ce qui m’intéresse, c’est moins la technologie en elle-même que ce qu’elle fait à l’humain et aux organisations humaines, et la manière dont celles-ci vont s’approprier ces outils, bien, mal, ou les deux à la fois.

Férial Furon : “Que reste-t-il à l’humain ?”

GUILAINE DEPIS

Férial, votre nouveau livre prolonge La Revanche du cerveau droit, que vous aviez coécrit plusieurs années avant l’arrivée de ChatGPT. Comment s’inscrit-il dans cette continuité ?

FÉRIAL FURON

Le sujet de l’intelligence artificielle m’intéresse depuis longtemps. Dans La Revanche du cerveau droit, nous avions déjà consacré un chapitre à l’IA et interrogé notamment Laurence Devillers sur les interactions homme-machine et les robots émotionnels.

La question qui m’anime est simple : que devient l’humain dans un monde de plus en plus mécanisé ? Le monde occidental a, depuis plusieurs siècles, énormément valorisé une pensée analytique, linéaire, mathématique, celle que l’on associe facilement au QI. J’ai le sentiment qu’aujourd’hui quelque chose bouge : de plus en plus de personnes cherchent à retrouver leur intuition, leur corps, leur sensibilité. C’est ce que nous appelions la revanche du cerveau droit, non pas pour éliminer le cerveau gauche, mais pour rééquilibrer notre manière de penser.

Et maintenant l’IA arrive, avec une puissance cognitive de plus en plus impressionnante. Alors la question devient : que reste-t-il à l’humain lorsque la machine imite un nombre croissant de fonctions cognitives ? Pour moi, la réponse passe notamment par les émotions, le ressenti, l’intuition et une réflexion plus profonde sur la conscience.

Conscience, mécanisme et alchimie

FÉRIAL FURON

Mon livre aborde cette question avec un prisme à la fois scientifique, philosophique et spirituel. Je mets notamment en perspective la pensée alchimique avec le paradigme mécaniste dominant.

Dans une vision purement mécaniste, l’être humain est considéré comme une machine biologique. On imagine alors que la conscience pourrait émerger de la matière par l’accumulation de réactions physico-chimiques. Mais cela nous confronte à ce que la philosophie contemporaine appelle le “problème difficile de la conscience” : comment une expérience subjective, immatérielle, peut-elle émerger d’éléments matériels ?

Je fais dialoguer différentes disciplines parce que l’ère de l’IA exige, à mon sens, une pensée plus globale. Physiciens, philosophes, spécialistes du vivant, chercheurs en sciences cognitives doivent pouvoir échanger. C’était plus naturel à certaines périodes de l’histoire où les savoirs étaient moins cloisonnés.

La question centrale reste : qu’est-ce qui demeure spécifiquement humain et comment éviter d’être dominés par la machine ?

GUILAINE DEPIS

Cela me rappelle le livre J’aime donc je suis, que j’avais défendu il y a quelques années : l’idée que les sentiments et les émotions sont peut-être ce qui nous différencie le plus clairement de l’IA.

Les “galets” de Beautiful Company et la rationalité managériale

GUILAINE DEPIS

Frédéric, dans votre roman, il y a un épisode très drôle autour de salariés transformés symboliquement en “galets”.

FRÉDÉRIC VISSENSE

C’est une satire des modes managériales. Les entreprises sont régulièrement traversées par des concepts présentés comme miraculeux, que l’on cherche ensuite à appliquer de manière systématique. Dans le roman, un nouvel expert propose une méthode un peu fumeuse selon laquelle chaque salarié devrait ressembler au galet d’un jardin zen, afin de produire de la sérénité et de la fluidité.

Mais derrière la caricature, il y a une idée plus générale : l’IA sera aussi un révélateur de tendances qui existaient avant elle. La rationalité est autant une idéologie qu’une réalité. Notre civilisation se promet à elle-même qu’elle peut contrôler et maîtriser son environnement de manière rationnelle.

Or les organisations sont traversées d’émotions, de pulsions, de fantasmes, parfois de véritables délires. Tout cela est ensuite rationalisé dans la communication officielle, mais reste très présent dans les décisions. Les outils informatiques ou les IA ne rendent pas automatiquement les décisions humaines plus rationnelles.

En tant que romancier, ce qui me passionne est justement l’écart entre la prétention à la logique et la réalité du fonctionnement, souvent beaucoup plus irrationnelle et fantasmatique.

Le vivant contre le fantasme du robot parfait

GUILAINE DEPIS

La vie, c’est aussi l’imprévu, le risque, la fragilité. Pendant l’émission, ma chatte Vénus s’est fait entendre parce qu’elle était en chaleur. Je ne voudrais pour rien au monde d’un chat robot, calme et parfaitement sage. La vie, ce sont les pulsions, le désir. L’IA, elle, ne désire rien.

FÉRIAL FURON

Je partage cette idée. Je ne crois pas que l’IA puisse avoir une conscience phénoménologique, c’est-à-dire ressentir, vivre une expérience intérieure ou avoir le sentiment d’exister.

Certains ingénieurs ou entrepreneurs de la tech entretiennent l’idée qu’une machine pourrait devenir autonome et consciente. Cela dépend beaucoup du paradigme auquel on se rattache. Si l’on adopte une vision mécaniste, on peut imaginer que la conscience finisse par émerger de la complexité. Dans une approche vitaliste, plus proche de certaines intuitions alchimiques, la conscience ne se réduit pas à une mécanique.

Je m’intéresse aussi à une autre hypothèse, plus spéculative : la possibilité d’interactions entre l’esprit humain et les algorithmes. Mais cela n’équivaut pas à dire que la machine possède sa propre conscience.

L’IA comme miroir de la société

FÉRIAL FURON

Ce que Frédéric dit de l’IA comme révélateur me paraît très juste. J’emploie, moi, l’image du miroir. L’IA amplifie ce que nous sommes.

Une société obsédée par la performance, le calcul et le contrôle utilisera l’IA pour renforcer ces tendances. Une société qui valorise l’esprit critique et le discernement peut aussi utiliser l’IA pour renforcer ces qualités. L’outil n’a pas, en lui-même, une morale autonome : il reflète les choix humains.

GUILAINE DEPIS

C’était déjà vrai d’Internet. Il a amplifié le pire, mais aussi le meilleur : les violences, les manipulations, les réseaux criminels, mais également les chaînes de solidarité, les élans collectifs, le soutien à des personnes en détresse. L’IA décuple encore cette capacité d’amplification.

FÉRIAL FURON

D’où la nécessité de développer l’esprit critique, le discernement et l’intuition. Notre système éducatif a longtemps dévalorisé la pensée intuitive, comme si penser par intuition revenait forcément à se tromper. Or le sensible et l’intuition font partie de nos forces humaines.

Entreprise, contrôle et autonomie

GUILAINE DEPIS

Frédéric, vous êtes DRH. Reste-t-il une place pour le sensible dans les grandes entreprises alors que les pratiques tendent à s’homogénéiser à l’échelle mondiale ?

FRÉDÉRIC VISSENSE

J’espère que oui. L’homogénéisation n’est qu’une tendance parmi d’autres. Toute organisation humaine est traversée par une contradiction fondamentale entre contrôle et autonomie.

D’un côté, il faut un minimum de coordination, de règles et de maîtrise pour produire une action collective. De l’autre, si les personnes n’ont aucune autonomie, elles ne peuvent ni réagir aux aléas ni prendre des initiatives. Cette tension existe indépendamment du niveau technologique. Elle existait déjà dans les organisations d’il y a deux mille ans.

L’IA augmente les capacités des acteurs, mais elle augmente aussi leurs contradictions. Elle peut renforcer le contrôle, mais aussi l’autonomie. C’est pourquoi je ne crois ni au récit d’une liberté automatiquement garantie par la technologie, ni à celui d’un totalitarisme mécanique inévitable.

Beautiful Company met précisément en scène cette exacerbation des contradictions. Et elle ne concerne pas seulement les salariés. En tant que clients, patients ou citoyens, nous voulons à la fois conserver notre autonomie et bénéficier de services de plus en plus fluides, personnalisés et puissants. Nous sommes nous-mêmes pris dans cette contradiction.

Inégalités, éducation et responsabilité humaine

GUILAINE DEPIS

Plusieurs personnalités, dont Bill Gates, ont exprimé leur inquiétude quant aux inégalités que l’IA pourrait creuser. Tout le monde n’a pas le même niveau de formation ni le même accès aux outils. Est-ce un risque majeur ?

FÉRIAL FURON

Il y a des risques, bien sûr, mais l’IA peut aussi réduire certaines inégalités. Dans l’éducation, par exemple, elle peut aider un enfant dont les parents n’ont pas les moyens de payer des cours particuliers. Des outils gratuits ou peu coûteux peuvent donner accès à un accompagnement qui était auparavant réservé à certains.

La question est donc moins “que va faire l’IA ?” que “qu’allons-nous en faire ?”. Ce sont les humains qui décident de remplacer des emplois, de concentrer le pouvoir, de construire des modèles économiques. Si des personnes sont mises de côté, ce n’est pas une volonté autonome de l’IA.

Mon point de vue est très citoyen : comment utiliser cet outil sans nous abrutir, sans perdre notre discernement et sans remettre notre souveraineté entre les mains de quelques acteurs ?

Le travail restera-t-il essentiel ?

GUILAINE DEPIS

Frédéric, le travail est-il indispensable à l’épanouissement humain ? Pourrait-on être heureux dans une société de revenu universel, libérée du travail par les robots et l’IA ?

FRÉDÉRIC VISSENSE

C’est presque une dissertation philosophique et économique. Ma conviction est que le travail, entendu comme contribution à une action collective, répond à un besoin fondamental.

Qu’on appelle cela travail, salariat ou autrement, nous avons besoin d’être reconnus par une communauté humaine pour ce que nous faisons et ce que nous apportons. Les formes peuvent changer, comme elles ont changé dans l’histoire, mais ce besoin de reconnaissance restera.

Une humanité entièrement vouée au loisir finirait peut-être par recréer ailleurs des règles de contribution, de reconnaissance et même de compétition. Le travail pourrait changer de nom, mais la nécessité de participer à quelque chose de collectif me paraît très profondément humaine.

“Ce dont nous avons peur, c’est peut-être de nous-mêmes”

FRÉDÉRIC VISSENSE

L’IA a parfois bon dos. Cela me rappelle les débats sur la radioactivité et l’atome. La découverte de la radioactivité n’a pas, à elle seule, créé des dizaines de milliers de têtes nucléaires. Ce sont des humains qui ont choisi d’en faire certains usages.

Peut-être que ce dont nous avons peur, au fond, c’est de nous-mêmes. Nous projetons sur la technologie notre soif de pouvoir, notre désir de maîtrise absolue, peut-être même notre désir d’oisiveté. L’IA devient alors une nouvelle figure du diable, une effigie sur laquelle nous projetons notre propre ombre.

Cela ne signifie évidemment pas qu’il n’y a aucun danger. Des systèmes peuvent devenir difficiles à contrôler. Mais ils ne se construisent pas tout seuls. Les choix initiaux restent humains. Nous avons surtout peur de ce que nous pourrions décider de faire avec ces outils.

FÉRIAL FURON

Je suis tout à fait d’accord. Le sujet central, c’est l’humain.

Spiritualité, lumière et métamorphose de l’humain

GUILAINE DEPIS

Férial, êtes-vous malgré tout optimiste sur l’être humain ? Votre livre est nourri de spiritualité et vous évoquez notamment René Guénon. Pensez-vous qu’il existe une lumière au bout du chemin ?

FÉRIAL FURON

Je ne suis pas une optimiste béate. L’humain est pétri de contradictions, et son ombre peut l’emporter sur sa lumière.

Mais je crois qu’en tout homme repose une lumière qu’il peut révéler. C’est là que je rejoins certaines dimensions de la pensée alchimique et de la métaphysique. L’homme est capable du meilleur comme du pire.

Pour moi, l’IA est presque une épreuve initiatique. Elle nous oblige à nous demander ce que nous sommes et ce que nous voulons devenir. Je ne suis ni technophobe ni technophile. Je me situe au-delà de ce clivage. La question est : comment allons-nous utiliser cette technologie, et surtout comment allons-nous nous améliorer nous-mêmes ?

Nous anthropomorphisons facilement l’IA. Nous lui prêtons nos peurs, nos désirs, notre ombre. C’est le vieux mythe de Frankenstein : la créature qui se retourne contre son créateur. Mais là encore, cet imaginaire nous parle d’abord de nous.

Neuralink : réparer ou augmenter ?

GUILAINE DEPIS

Si l’on vous proposait une puce dans le cerveau, par exemple une technologie de type Neuralink, pour augmenter vos capacités et rester compétitive face à l’IA, accepteriez-vous ?

FÉRIAL FURON

Pour moi, c’est une ligne rouge. Je distingue très clairement la réparation de l’augmentation. Si une interface cérébrale permet à une personne atteinte de Parkinson ou d’une maladie neurodégénérative de retrouver une capacité perdue, je ne m’y oppose pas par principe.

En revanche, l’idée de pucer des êtres humains pour les “augmenter” et les rendre compétitifs face à l’IA me paraît profondément inquiétante. Elle pose la question de savoir qui contrôle la puce, qui la programme, si l’on peut l’enlever, ce qui se passe en cas de panne, et surtout quelle conception de l’humain se cache derrière le projet.

Si l’on pense que l’humain est simplement un robot biologique, il paraît logique de vouloir lui ajouter un composant pour le rendre plus performant. Mais cela oublie la plasticité cérébrale, la conscience, la singularité, le vivant.

GUILAINE DEPIS

On toucherait alors au risque d’une uniformisation radicale des comportements et des raisonnements.

FÉRIAL FURON

Oui. Et cela pourrait devenir une société de contrôle absolu.

GUILAINE DEPIS

Frédéric, accepteriez-vous une puce qui écrirait vos prochains romans à votre place ?

FRÉDÉRIC VISSENSE

Il faudrait déjà définir ce qu’est l’intelligence. Nous la confondons souvent avec la puissance de traitement de l’information.

Les IA actuelles peuvent traiter des volumes phénoménaux de données humaines. Elles collectent de l’intelligence, mais aussi de la bêtise humaine, et les agglomèrent. C’est une capacité impressionnante, mais ce n’est qu’une partie de ce que nous appelons intelligence.

Une puce contrôlée par un magnat de la tech ne me fait pas particulièrement envie. En revanche, cette perspective doit nous pousser à nous demander ce que nous voulons développer chez nous : la capacité à prendre du recul, à problématiser, à synthétiser, à remettre en cause, à décider. C’est pourquoi je crois que l’éducation devient encore plus importante à l’ère de l’IA.

Société d’abondance ou vieux rêve du paradis ?

GUILAINE DEPIS

Elon Musk a parfois évoqué un futur où l’argent perdrait une grande partie de son importance parce que les robots créeraient une société d’abondance. Vous y croyez ?

FRÉDÉRIC VISSENSE

Avec une réserve : l’argent n’aurait plus de valeur, sauf peut-être le sien !

Plus sérieusement, ce qui me passionne est la manière dont les évolutions technologiques réactivent des mythes extrêmement anciens. D’un côté, on nous promet le paradis terrestre : une société délivrée du travail et de la contrainte. De l’autre, on nous annonce l’enfer : une super-IA qui nous asservirait.

Ces peurs et ces espoirs sont presque aussi vieux que l’humanité. Mon inquiétude porte surtout sur la qualité de nos systèmes de décision. Les IA vont entrer dans de plus en plus de décisions quotidiennes. Si nos organisations politiques, administratives ou économiques deviennent incapables d’avoir des débats argumentés, de décider clairement et de prendre leurs responsabilités, la tentation sera grande de déléguer toujours davantage à la machine.

Ces outils exigent donc, paradoxalement, une capacité collective de discussion et de décision plus forte. Je ne suis pas certain que nous allions toujours dans cette direction aujourd’hui.

FÉRIAL FURON

C’est pourquoi le citoyen doit conserver son esprit critique. Si l’on finit par réserver la décision finale à l’IA, on abandonne quelque chose d’essentiel.

Conclusion : rester souverains et garder le désir

GUILAINE DEPIS

Je crois qu’il faut surtout que l’humain reste souverain et garde le contrôle sur l’IA. Et je ne suis pas certaine qu’une société de satiété permanente soit désirable.

Je repense à un voyage en Iran, à Chiraz, où l’on m’avait proposé une autre lecture du récit du paradis perdu : non pas seulement la chute comme catastrophe, mais la mise en mouvement de l’être humain, contraint de chercher, de désirer, de retrouver le jardin primordial. Le désir naît du manque. Si tout nous est donné à volonté, que devient notre mouvement intérieur ?

C’est peut-être là une des grandes questions posées par l’IA : voulons-nous seulement plus de puissance, plus de confort et plus d’abondance, ou voulons-nous rester pleinement vivants ?

Merci à tous les deux. Avec Beautiful Company, Frédéric Vissense nous offre une dystopie burlesque brillante sur nos organisations contemporaines. Et avec Réinventer l’humain à l’heure de l’intelligence artificielle, Férial Furon propose une réflexion ambitieuse sur la conscience, le discernement et la spiritualité. Deux livres très différents qui se rejoignent sur un point essentiel : le vrai sujet de l’IA, c’est l’humain.

FRÉDÉRIC VISSENSE

Merci Guilaine.

FÉRIAL FURON

Merci Guilaine, et merci Frédéric.