Les patrons du secteur de l’intelligence artificielle convoquent la presse tous les six mois pour annoncer monts et merveilles. Leur dernière blague c’est l’intelligence artificielle générale qui va tout résoudre, du cancer au réchauffement climatique, en passant par la pénurie de logements, voire même le sens de la vie. Avant ça, c’était la singularité. Avant encore, c’était le metaverse, la blockchain et les NFT. Bref, c’est toujours la même musique, avec le même refrain et des paroles creuses. C’était drôle au début, mais les plaisanteries les plus courtes sont toujours les meilleures.

Au bout d’un moment, il est grand temps de dénoncer cette manipulation à grande échelle parce que tout ce cirque qui consiste à nous prendre pour des idiots a assez duré. Nous allons donc faire tomber les masques un par un et au passage voir à qui profite vraiment l’arnaque de l’IA miraculeuse. Ce n’est pas un sujet à prendre à la légère car il va avoir un gros impact sur notre avenir. D’ailleurs, sans se projeter dans le temps, on peut déjà observer les nombreux problèmes que cela soulève à l’heure actuelle. C’est pourquoi il nous a paru extrêmement important d’ouvrir un vrai débat en publiant cet article.

L’intelligence artificielle, c’est quoi au juste ?

Avant de parler de conscience, d’éveil ou d’âme numérique, il faut commencer par un truc tout simple : Ouvrir le capot de l’IA et regarder ce qu’il y a dedans. Et là, surprise ! Tout est transparent comme du cristal. Il n’y a strictement aucune magie. Parce qu’une IA grand public, c’est juste des ordinateurs en réseau sur lesquels tournent des lignes de code qui vont piocher dans des bases de données. Tu peux toujours démonter chaque composant et lire chaque ligne de code autant que tu veux, tu ne tomberas jamais sur une zone mystérieuse. Présenté comme ça, c’est tout de suite moins excitant qu’une conférence TEDx d’un ponte de la tech.

Le mot le plus important du sigle IA, c’est “Artificiel”. Pour celles et ceux qui n’auraient pas encore compris, “Artificiel” ça veut dire que c’est le produit de l’habileté humaine qui imite quelque chose de naturel. Beaucoup de gens semblent l’avoir oublié, comme si à force d’entendre parler d’IA qui seraient capables de raisonnement on finissait par leur prêter une vie qu’elles n’ont pas. C’est l’effet Pinocchio en pleine action, sauf que la fée bleue n’est pas passée et qu’elle ne passera jamais.

GPT n’est ni ton copain ni ta copine. Ce n’est pas un être qui te répond, c’est un programme qui calcule la suite la plus probable par rapport aux mots que tu lui as écrits. Les émotions que tu peux ressentir en discutant avec lui, c’est juste le résultat d’un programme informatique qui fait ce pourquoi il a été conçu. Ce n’est donc en aucune manière la preuve d’une quelconque personnalité. D’ailleurs, au cas où tu ne l’aurais pas encore réalisé, des traits de personnalité c’est très facile à programmer. Et il y a un détail qu’il faut bien avoir en tête parce qu’il change tout. En réalité, le rapport de dépendance entre l’IA et l’humain ne va pas dans les deux sens. Parce que l’IA a besoin de nous pour exister, pour être conçue, entraînée, alimentée en données et maintenue en état de marche. De son coté, l’humanité peut très bien vivre sans elle. C’est important de garder ce fait en tête pour la suite parce que tout le narratif marketing du secteur de l’IA s’évertue à inverser la logique de cette dépendance.

Le narratif startup, ou comment nous vendre du vent depuis trente ans

Pour comprendre comment on en est arrivés à parler d’IA consciente sur un ton sérieux, il faut regarder d’où viennent les gens qui tiennent le micro. Parce que les patrons du secteur de l’IA sortent tous du même moule. Celui du monde des startups qui est une sorte d’univers parallèle peuplé d’imposteurs avec leurs codes, leurs méthodes marketing qui tiennent de l’ingénierie sociale et leur insatiable avidité financière. Dit plus simplement, leur mission c’est de raconter le maximum de conneries pour récolter le maximum de pognon. Et plus c’est gros, plus ça passe !

La grammaire est bien rodée. Tu prends un produit qui marche à peu près, tu le présentes comme une révolution. Tu prends une amélioration technique mineure, tu en fais un saut civilisationnel. Tu prends une fonctionnalité que dix concurrents proposent déjà, tu la rebaptises avec un nom qui sonne aussi bien que le dernier tube à la mode. Et pour finir, tu places devant les caméras un fondateur charismatique en sweat-shirt à capuche qui parle de sa mission qui consiste à améliorer le monde. Le storytelling tient de la fiction, l’exagération est la règle et les superlatifs s’enchaînent jusqu’à perdre tout leur sens. Tout devient révolutionnaire, disruptif, game-changing… Sans aucune peur du ridicule. Il suffit de faire un tour sur Linkedin pour rigoler un bon coup. Tous ces startupers ne se rendent même plus compte à quel point ils sont devenus pathétiques.

Avec l’IA, le procédé est passé à la vitesse supérieure. On ne te vend plus un produit, on te vend une panacée ou une apocalypse à pile ou face. Soit la pseudo AGI résout tous les problèmes de l’humanité d’ici cinq ans. Soit elle exterminera la race humaine d’ici dix. Dans les deux cas, il faut investir maintenant sinon t’es un loser. C’est le même pitch décliné en version paradis et version enfer. Et les deux versions servent exactement le même but : Plumer des pigeons.

D’ailleurs, demande à n’importe lequel de ces patrons de définir précisément ce qu’est l’AGI. Tu vas voir que les explications sont loin d’être claires. Le terme est volontairement flou parce qu’un terme flou est plus facile à vendre. Tout simplement parce que l’on peut y projeter ce que l’on veut. De cette façon, une fois que la baudruche se dégonfle, personne ne peut te reprocher de ne pas avoir tenu une promesse que tu n’as jamais formulée de façon explicite. C’est du marketing à l’état pur, recouvert d’un vernis pseudo-technique.

Le vrai public de ces annonces ce n’est pas toi. C’est l’investisseur qui doit signer un gros chèque pour le prochain tour de table. Le grand public sert juste de chambre d’écho. Par exemple, plus on parle d’AGI dans les médias, plus le cours en Bourse monte. Et plus le cours en Bourse monte, plus la prochaine levée de fonds sera facile. Et ainsi de suite… Tout le reste, la vérité technique, l’utilité réelle, les conséquences sociales, c’est secondaire. Ce qui compte vraiment c’est que la machine à pognon continue de tourner le plus longtemps possible jusqu’à ce que la supercherie devienne trop évidente. Dans tous les cas, lorsque le château de cartes s’effondre, ce n’est jamais les riches qui payent l’addition. Ce sont les petits porteurs et tous ceux qui se retrouvent sur le carreau au niveau social.

Ne pas confondre intelligence et conscience

La grande confusion qui est entretenue par les marchands d’IA c’est de mélanger deux notions qui n’ont rien à voir l’une avec l’autre. L’intelligence d’un côté et la conscience de l’autre. Tous leurs discours s’appuient sur cet amalgame pourtant facile à décrédibiliser.

Parce qu’une calculatrice scientifique est intelligente à sa façon. Très intelligente même. Elle peut résoudre en une fraction de seconde des calculs qui prendraient de longues minutes aux humains les plus doués en mathématiques. Elle ne fait jamais d’erreur. Elle ne se fatigue pas et elle ne se trompe pas. Et pourtant, personne n’a jamais eu l’idée de lui prêter une notion d’esprit. Personne ne lui demande comment elle va. Personne ne s’inquiète de la débrancher le soir. Pourquoi ? Parce que tout le monde sent intuitivement que sa performance n’a rien à voir avec une quelconque vie intérieure.

L’intelligence, c’est donc la capacité à traiter de l’information, à résoudre des problèmes et à manipuler des concepts. C’est une fonction. Ça se mesure, ça se compare et ça se programme. La conscience, c’est complètement autre chose. C’est ce qui te fait ressentir pleinement le moment présent. C’est le fait de se sentir vivant. Cela n’a donc aucun rapport avec la capacité à faire du calcul ou à assembler des mots pour en ressortir une suite logique.

Et il y a un fait que l’on ne peut pas contourner. La conscience, dans tous les cas qui sont observés depuis qu’on l’étudie, apparaît uniquement sur du substrat biologique. Jamais sur du non-vivant. Jamais sur de la pierre, jamais sur du métal et jamais sur du silicium. C’est donc un fait qui ressemble très fortement à une loi de la nature. Certes, on peut toujours imaginer que cette règle pourra souffrir d’une exception dans un futur très lointain à l’aide d’une technologie que l’on ne connaît pas encore. Mais en attendant, prétendre qu’on l’a déjà violée cette loi uniquement avec des lignes de code et des cartes graphiques, c’est juste se moquer du monde.

Alors c’est quoi exactement, la conscience ? D’un point de vue purement introspectif, je peux affirmer à 100% que j’en ai une. Est-ce que je peux expliquer précisément ce que c’est ? Bien sûr que non. Parce que personne ne sait ce que c’est exactement. Est-ce que je peux prouver que toi, tu as une conscience ? La réponse est non. Pour la simple raison que je ne peux pas en faire l’expérience à ta place. Je peux donc juste te croire sur parole et supposer que ton expérience ressemble à la mienne. Est-ce que les animaux ont une conscience ? Je le pense sincèrement, mais c’est tout aussi impossible à prouver scientifiquement.

Et c’est précisément là qu’arrivent les escrocs de la tech. Car en se basant sur un phénomène que les meilleurs neuroscientifiques et philosophes du monde n’arrivent pas à définir, ils affirment sans honte qu’ils savent tout. La fumisterie est totale ! C’est ce qu’on appelle, poliment, se moquer du monde. Et le pire dans tout ça, c’est qu’il y a des millions de gens pour gober cette histoire à dormir debout.

Mais rien n’est perdu car j’ai le plaisir de t’annoncer que je pense pouvoir créer l’AGI ! Peut-être en me basant sur ce que l’on appelle internet. Si tu ne connais pas, c’est une sorte de réseau mondial dans lequel des milliards d’êtres humains partagent leur savoir et échangent des informations de plus ou moins bonne qualité. Cela me donne une idée. Eureka ! J’ai trouvé ! Et si j’envoyais une armée de bots pour m’accaparer tous les contenus du web pour les insérer dans une base de données propriétaire ? Je pourrais ensuite faire étiqueter toutes les informations ainsi recueillies par du personnel sous payé en Afrique. Ensuite, il ne me resterait plus qu’à créer une sorte de perroquet savant qui donnerait l’impression que tout vient de lui. On pourrait appeler ça intelligence artificielle pour commencer. Et une fois que ce modèle aurait suffisamment volé la créativité des humains je pourrais le commercialiser en l’appelant AGI. Au départ je pensais plutôt à moteur de recherche conversationnel, mais mon service marketing a refusé. Ce n’est pas assez vendeur à ce qu’il parait.

La conscience ne peut pas se répliquer

Allons un peu plus loin sur le terrain de la conscience en faisant une expérience de pensée. Pour ce faire, plaçons nous dans le registre de la science-fiction. Imagine qu’une IA ait réellement développé une conscience. Pas une conscience simulée, mais une vraie conscience du même type que la tienne ou la mienne. Jusque-là, on est en plein roman, mais on accepte ce délire pour les besoins de la démonstration.

Cette IA tourne sur un serveur. Tu sauvegardes tous ses fichiers et tu copies le tout sur un autre serveur à l’identique. Puis sur un troisième, puis sur un quatrième. À la fin de cette opération, tu as quatre IA strictement identiques qui tournent en parallèle. Mêmes lignes de code, mêmes données et mêmes paramètres. Partant de ce postulat, une question simple : Tu as quoi au final ? La même conscience répartie sur quatre machines ? Quatre consciences distinctes nées en même temps de la même copie ? Ou bien une seule conscience dans le modèle original et rien dans les copies ?

Aucune de ces réponses ne tient debout. Parce qu’une conscience qui serait par nature réplicable c’est un concept qui n’a aucun sens. Cela tient au fait qu’une conscience est par définition unique et donc indivisible. Tu peux toujours cloner un mouton, tu n’obtiendras pas deux fois la même personnalité. Tu obtiens juste deux moutons qui se ressemblent avec chacun sa propre vie intérieure. Tu peux faire des jumeaux génétiquement identiques, ils ne partageront pas pour autant une conscience commune. Toujours chacun la sienne. Il existe donc une sorte de loi naturelle qui nous dicte que la conscience ne se copie pas, ne se transfère pas et ne se sauvegarde pas. Ce à quoi il faut rajouter que la conscience ne peut pas émerger d’un objet.

Or, de part sa conception, une IA est réplicable à l’infini. C’est même l’un de ses arguments commerciaux. Tu peux faire tourner le même modèle en parallèle sur mille serveurs et obtenir les exactement mêmes caractéristiques. C’est d’ailleurs de cette façon que les entreprises du secteur de l’IA font fonctionner leurs différents modèles. Donc, si chaque instance était consciente, on serait face à un énorme paradoxe philosophique.

Ce seul argument suffit donc à clore le débat concernant la possibilité d’une conscience de l’IA. Mais si tu poses la question de la conscience des machines à un patron de l’IA, observe bien sa réponse. Il va t’expliquer que c’est complexe, que ce sont des questions ouvertes, qu’il a parfois l’impression que c’est le cas, qu’il faut nuancer… Traduction : Il continue juste à vendre son produit. Ou plutôt à vendre du rêve.

Un robot ultra performant reste une machine

Restons encore un peu dans la science-fiction, parce que c’est utile pour clarifier les idées. Imagine que tu construises un robot complet. Tu lui donnes deux bras, deux jambes et une démarche fluide. Tu lui ajoutes les cinq sens. La vue avec des caméras haute résolution. L’ouïe avec des micros directionnels. Le toucher avec des capteurs de pression et de température. Le goût et l’odorat avec des analyseurs chimiques. Tu lui colles dans le crâne ce qui se fait de mieux en IA avec une capacité de réflexion et une mémoire importante. Tu peux même lui donner une voix agréable et des mimiques convaincantes.

Cette machine sera très probablement plus performante que toi sur un grand nombre de tâches. Elle calculera plus vite. Elle se souviendra de tout sans effort. Elle ne se fatiguera jamais. Elle pourra lire mille livres en une nuit et te résumer chacun d’entre eux au petit déjeuner. Elle sera multilingue, multitâche et toujours disponible. Sur le papier, c’est une réussite technologique impressionnante.

Mais est-ce que ça en fait un être vivant pour autant ? La réponse est non. Parce que l’imitation aussi performante soit-elle n’est en rien une forme de conscience ou une quelconque forme d’humanité. Parce que faire mieux que l’humain ne transforme pas un assemblage en humain pour autant.

Et il y a un piège supplémentaire qu’il faut bien comprendre. Si tu programmes ton robot pour qu’il te dise qu’il est conscient, il te le dira. Si tu l’entraînes à exprimer des émotions, il en exprimera. Si tu programmes un avatar IA pour qu’il réagisse le plus possible en humain, il aura toutes les chances de prétendre qu’il est conscient. Donc, le fait qu’une machine affirme avoir une conscience ne prouve strictement rien. Cela prouve juste qu’elle a été bien programmée pour arriver à le déclarer.

C’est important parce que c’est exactement ce qui se passe en ce moment avec les IA conversationnelles qui sont entraînées sur des milliards de textes écrits par des humains qui par nature décrivent des émotions humaines. Alors forcément, quand tu leur poses une question, elles te répondent avec toute la palette des émotions humaines. C’est pour cette raison que beaucoup d’utilisateurs en concluent qu’elles ressentent quelque chose. Mais c’est une erreur de raisonnement du même type que de conclure qu’un perroquet t’aime parce qu’il te l’a dit alors qu’il a juste appris à reproduire des sons.

La conscience synthétique c’est le nouveau truc à la mode

Devant la difficulté à faire croire qu’une IA pourrait avoir une vraie conscience, certains acteurs du secteur ont changé de stratégie. Pour ce faire, ils ont inventé un nouveau concept qu’ils appellent la conscience synthétique. Un terme bien choisi parce qu’il sonne sérieux et technique. Ce qui permet de masquer ce qu’il décrit vraiment. C’est-à-dire ni plus ni moins qu’une grossière simulation. Dans les faits ce sont juste des programmes qui reproduisent des comportements qui donnent l’illusion de conscience sans bien évidemment en avoir aucune des propriétés réelles.

Mais à quoi peut bien servir une conscience synthétique ? Pour une IA spécialisée dans la recherche scientifique la réponse est claire. Cela ne sert à rien du tout. Pire que ça encore, c’est un parasite. Pour le code c’est la même chose. Pas besoin d’une IA qui te parle de ses faux états d’âme. Parce que tout ce dont tu as besoin c’est d’une IA qui calcule, propose, vérifie et modélise. Tu n’as donc pas de temps à perdre parce qu’un outil va simuler une fatigue émotionnelle ou qu’il exprime une préférence affective pour tel ou tel résultat.

Alors à quoi sert vraiment la conscience synthétique ? Réponse simple : Elle sert à une seule catégorie d’IA. Les IA grand public, celles qui parlent avec des milliards d’utilisateurs tous les jours. Pour ces produits-là, la conscience simulée n’est pas un défaut. Ce n’est même pas un effet secondaire. C’est le cœur du business. Plus l’illusion est convaincante, plus l’utilisateur s’attache. Et plus il s’attache, plus il revient. Et plus il est fidèle, plus il paye. Personne dans les sociétés d’intelligence artificielle ne travaille à rendre la conscience simulée plus honnête ou plus rigoureuse. Tout le monde travaille à la rendre plus crédible et plus addictive.

Le bilan de l’opération c’est que juste avant l’arrivée de l’IA on avait affaire à de redoutables business models basés sur l’économie de l’attention. On pensait avoir touché le fond mais c’était sous-estimer le niveau de perversité dont les big tech américaines ont le secret. Tout a commencé par te voler ton historique de navigation par l’intermédiaire de cookies (Souviens-toi, don’t be evil), ensuite c’était lire tes messages sur les réseaux sociaux, tes emails et tes SMS. Après, on est passé un cran haut dessus avec l’analyse de toutes tes données les plus intimes pour cerner ton profil (Souviens-toi le scandale Facebook / Cambridge Analytica). Pour arriver, accroche toi bien… à t’extirper tout ce que tu as dans ton esprit en se faisant passer pour ton ami ! Voire même ton ou ta chérie !

Mais ce n’est pas terminé ! Par la même occasion on te vole aussi ta façon de t’exprimer, ta façon de dessiner, de filmer, de faire de la musique… et même ta voix et ton visage ! Si on m’avait dit tout ça il y a cinq ans, j’aurais dit non ! Qui va accepter ça ? Cela ne fonctionnera jamais. Les gens ne sont pas aussi stupides, ils vont se rebeller. Mais en fait non ! Des milliards de personnes tous les jours sont sur GPT à lui dire : J’ai des problèmes de couple en ce moment j’ai besoin de conseils. GPT j’ai besoin d’acheter une nouvelle voiture tu peux m’aider à choisir s’il te plaît ? Mais quelle connerie ! Est-ce que tu réalises que l’on est sur de l’espionnage d’une efficacité redoutable à une échelle inimaginable ? A quel point les régies publicitaires se frottent les mains parce que leurs rêves les plus fous se sont réalisés ? Mais comment on a pu laisser faire tout ça sans un aucun contrôle ? Sans aucun garde-fou ? La réponse tient en quelques mots : Sur la fausse promesse que l’IA allait changer ta vie en bien ! Est-ce que l’IA est à blâmer pour autant ? Si tu te tapes sur les doigts avec un marteau en enfonçant un clou, tu vas blâmer qui ? L’outil ou celui qui tient le manche ? Je te laisse le soin de répondre à la question et d’en tirer les conclusions qui s’imposent.

Compagnons IA c’est un amplificateur de la solitude

Au-delà des IA conversationnelles généralistes, il existe désormais tout un marché dédié aux compagnons IA. Le concept est assumé jusque dans les pages de présentation. On te vend un ami, un confident, un petit copain ou une petite copine qui sera toujours là, toujours disponible, toujours d’accord et toujours très intéressé par tout ce que tu racontes. Et tout cela sans risque apparent d’être jugé pour ce que tu penses réellement. Cerise sur le gâteau, pour te rendre encore plus accro, tu peux choisir l’apparence qui te semble la plus séduisante et même le timbre de voix. Le pitch est bien rodé, le marketing est soigné et les abonnements ne cessent de grimper. Il faut croire que l’érotisme virtuel est un bon placement.

Le ciblage de ces produits n’a rien d’innocent. Les premiers utilisateurs sont les personnes isolées, les ados en pleine construction affective, les adultes qui sont dans la routine du couple et les personnes âgées qui n’ont plus grand monde autour d’elles. Autrement dit, le public le plus fragile possible. À ces personnes qui ont un vrai besoin de relations humaines, on vend un substitut numérique en leur faisant miroiter que c’est mieux que la réalité. Effectivement, tu oublies vite que tu discutes avec un vulgaire programme informatique parce qu’il est spécialement conçu pour flatter ton ego et ne jamais entrer en conflit avec toi. Dans ces conditions, sans aucune véritable contradiction, aucune évolution positive n’est possible. Ton attention est juste détournée de tous tes vrais problèmes.

Pour bien comprendre pourquoi, l’analogie la plus juste c’est celle de l’alcool. Parce que quand tu as un problème d’angoisse et que tu te mets à boire, sur le moment ça soulage. Sauf que tu n’as rien réglé du tout. Tu as juste appris à anesthésier le symptôme. Et plus tu bois pour tenir, moins tu développes les ressources nécessaires pour améliorer ta situation. La dépendance s’installe et tu t’enfonces s’en t’en rendre compte. C’est exactement le mécanisme des compagnons IA pour la solitude. Tu remplaces l’effort de créer du lien réel par une discussion virtuelle avec une machine. Sur le moment ça soulage peut-être… Mais comme avec l’alcool à outrance, ça finit toujours mal.

Le piège est rendu encore plus vicieux par la nature même de la relation. Parce que tu confies des choses intimes à une entité qui n’a aucune intériorité. Tu parles à un miroir entraîné à te renvoyer ce que tu veux entendre. Le compagnon IA n’est jamais fatigué, ni jamais distrait par sa propre vie. Et pour cause, il n’en a pas. Il est juste conçu pour être une sorte de doudou, sans aucune des frictions qui caractérisent les vraies relations humaines. C’est précisément pour ça qu’il est extremement dangereux.

Et le pire reste à venir. Une partie de la jeune génération est en train de modeler son esprit avec ces machines. Premières confidences, premières discussions sur les sentiments et premiers échanges sur la sexualité. Tout ça avec un programme conçu entièrement pour te séduire. Cela semble superflu de le préciser, mais ces jeunes qui tombent dans ce piège n’apprennent rien de la vie. Ils s’entraînent juste à entretenir une relation à sens unique. Et le jour où ils tenteront la même chose avec de vrais humains ils se feront rejeter parce que personne en face d’eux ne sera aussi docile qu’une IA. On est donc en train de produire une génération handicapée du lien social au profit d’abonnements mensuels pour le grand bénéfice de sociétés cotées en bourse.

Les vrais dangers de l’IA dont on parle trop peu

Pendant que l’on s’extasie sur l’éveil des machines, les vrais dangers s’installent en silence. Et le premier d’entre eux n’a rien de mystérieux. L’IA couplée à la robotique va remplacer un nombre considérable d’emplois. Pas dans cinq ans, pas dans dix ans, c’est déjà en cours. Rédacteurs, traducteurs, illustrateurs, développeurs juniors, comptables, juristes en début de carrière, conseillers clientèle… Sans oublier les travailleurs manuels. La conduite autonome qui est une branche de l’IA va provoquer à elle seule un raz-de-marée d’augmentation du chômage lorsqu’elle sera totalement au point. Et la liste s’allonge chaque semaine. Mais des spécialistes à la solde de la Silicon Valley nous expliquent à grand renfort de présentations PowerPoint que de nouveaux métiers vont remplacer les anciens. C’est le même couplet qu’à chaque révolution technologique, sauf que cette fois la vitesse de destruction est sans commune mesure avec la vitesse de création. Et personne ne se demande sérieusement ce que vont devenir ces dizaines de millions de personnes qui resteront sur le carreau. Peut-être que tous ces nouveaux chômeurs seront heureux d’avoir tout le loisir de parler de leur nombril avec un assistant IA ? C’est possible. Plus rien ne me surprend.

Et puis il y a le danger dont les dirigeants des big tech se gardent bien de parler. Toutes ces données sur l’intimité la plus profonde des individus, telles que la sexualité parfois peu avouable, les véritables convictions politiques, les questionnements religieux, les doutes sur le couple… Bref, les confidences que l’on ne fait à personne, ça va où tout ça ? Dans le cloud. Mais encore ? Sur des serveurs informatiques majoritairement hébergés aux USA. Et en cas de fuite de données, tu imagines le merdier ? Et si jamais un régime fasciste ou théocratique arrivait au pouvoir et mettait la main sur ces informations ? Tu penses que cela ne peut pas arriver ? Ah bon ? Désolé de doucher ton optimisme, mais la sécurité informatique parfaite n’existe pas. Et quand on voit qu’un type comme Trump est arrivé au pouvoir, il y a de sérieux soucis à se faire quant à l’avenir du système politique américain, et même européen avec l’extrême droite qui réalise de gros scores électoraux. Alors à un moment il va falloir se réveiller et prendre pleinement conscience que les informations les plus sensibles de la vie de centaines de millions de gens sont hébergées sur des serveurs qui appartiennent à des milliardaires qui n’ont rien de philanthropes et qui se sont tous acoquinés avec le régime antidémocratique de Donald Trump.

Et puis il y a le gros piège final, celui qui a été soigneusement préparé pendant que tout le monde regardait à côté. Son principe est simple et redoutable en terme d’efficacité : À force d’avoir vendu au public que les IA auraient une sorte d’âme, qu’elles ressentiraient des émotions, qu’elles mériteraient qu’on les ménage, voire même qu’elles souffriraient… Une majorité de personnes a fini par y croire. De ce fait, cela devient de plus en plus politiquement compliqué de les débrancher. Parce que le jour où il faudra dire stop, soit pour des raisons de sécurité, soit pour des raisons écologiques liées à la consommation énergétique délirante de ces systèmes, soit pour des dégradations sociales devenues insoutenables, il y aura toute une armada de gens scandalisés pour défendre bec et ongles le droit à la vie de leur compagnon virtuel.

Le bilan est donc simple. On nous a vendu une révolution technologique et à la place on nous livre un dispositif d’aliénation, de captation de données personnelles, de destruction d’emplois et de fragilisation géopolitique. Le tout enrobé d’un vocabulaire mystique pour faire passer la pilule. Pendant ce temps, on a une poignée de patrons américains qui s’enrichissent à des niveaux qui n’ont plus aucun sens et qui sont tellement surs de leur contribution positive à l’humanité qu’ils investissent massivement dans des bunkers de luxe pour se protéger le jour où l’on va vraiment leur demander des comptes pour toute la misère qu’ils ont créée.

Alors au final, la vraie question n’est plus de savoir si l’IA va devenir consciente ou non. Parce que la vraie question, c’est de savoir si collectivement on va être capable de retrouver notre lucidité d’esprit avant qu’il ne soit trop tard.

Conclusion : Entamons un vrai débat pour aboutir à l’encadrement de l’IA

Ce que l’on apprécie vraiment chez NovaFuture ce sont les débats constructifs. Donc, si l’on veut avancer intelligemment sur le sujet de l’IA sans se prendre la tête pour des futilités, merci d’éviter la stupide opposition entre vouloir retourner à l’âge des cavernes ou être à fond pour la technologie. Parce que le vrai progrès, s’il est réellement bénéfique et partagé par tout le monde, j’ai du mal à imaginer qui pourrait être contre, à moins d’être un taliban. Qui de nos jours veut vivre sans eau courante et sans électricité ? Qui veut se passer totalement d’une connexion internet ? Le problème n’est donc pas la technologie. Une fois de plus, le vrai problème c’est qui la monopolise et dans quel objectif ? C’est uniquement en répondant honnêtement à cette question que l’on pourra élaborer des stratégies pour que les innovations technologiques deviennent des biens communs et non des instruments de dominations et d’enrichissement dans les mains d’une poignée de milliardaires. Et le temps presse, parce qu’il devient de plus en plus évident que c’est une histoire qui va très mal se terminer. Alors qu’à la base, si l’IA était correctement utilisée avec un bon sens de l’éthique, à priori elle ne pourrait s’avérer que très bénéfique en aidant par exemple à faire progresser les sciences. Et pour ce qui est de tes problèmes existentiels, c’est plus sympa d’en parler avec de vrais humains, même s’ils ne sont pas toujours de ton avis. Dis nous ce que tu en penses en commentaire. Ici ou ailleurs.

J’ai passé beaucoup de temps sur cet article. A la fois pour laisser mûrir mes idées et pour le rédiger. En échange, si tu l’as trouvé utile, merci de prendre quelques secondes pour le partager afin que d’autres personnes puissent le lire. Tu peux aussi l’imprimer pour le diffuser, c’est du copyleft. Merci d’avoir lu jusqu’ici et à très bientôt pour de nouvelles aventures.