Intelligence artificielle : les extraits exclusifs du livre choc de Yuval Noah Harari

[HADJRESS]

EXCLUSIF. L’historien, auteur des best-sellers « Sapiens » et « Homo Deus », publie « Nexus ». Un avertissement sur l’intelligence artificielle et ses risques.

Par Guillaume Grallet


C'est une vision du futur qui fait froid dans le dos. Au micro, Sam Altman, le créateur d'OpenAI, à l'origine du robot conversationnel ChatGPT, qui a subjugué la planète lors de sa sortie en novembre 2022. Le trentenaire se livre à un petit exercice de science-fiction, le 18 septembre, à l'occasion du T-Mobile Capital Markets Day, à San Francisco.

Quelles sont les prochaines étapes en matière d'intelligence artificielle ? À quelle sauce le monde de demain sera-t-il mangé ? Et l'entrepreneur d'évoquer l'arrivée, dans un futur très proche, d'« un collègue supercompétent qui connaît absolument tout de ma vie, de tous mes courriels, de toutes les conversations que j'ai eues et qui prend des initiatives ». Pas uniquement un assistant passif, mais un agent capable de décider à notre place. Altman décrit l'étape ultime, l'émergence d'une IA qui prendrait les commandes d'une entreprise comme d'un pays.À LIRE
Un scénario qui fait bondir Yuval Noah Harari, spécialiste de l'histoire médiévale à l'université hébraïque de Jérusalem. L'auteur de Sapiens. Une brève histoire de l'humanité (25 millions d'exemplaires vendus, bientôt une adaptation au cinéma par Ridley Scott) ou encore d'Homo Deus. Une brève histoire de l'avenir, un livre qui a passionné Bill Gates, revient avec Nexus (Albin Michel), un ouvrage qui analyse, avec un recul historique, le tourbillon technologique dans lequel nous ont plongé les progrès conjugués des biotechnologies, des cyberarmes et des processeurs à la puissance exponentielle. Pour Yuval Noah Harari, l'intelligence artificielle est l'invention la plus bouleversante de l'homme depuis son apparition sur Terre.

Stopper la vague

Pour lui, plus encore que les robots tueurs façon Terminator, l'arrivée de cet autre soi à même de prendre des décisions à notre place nous met dans la position de l'apprenti sorcier imaginé par Goethe. Ose-t-on la comparaison avec la bombe atomique ? « La décision de bombarder Hiroshima a été prise par le président Harry Truman et ses conseillers, pas par la bombe. La bombe ne pouvait rien décider. Un système d'armes autonomes alimenté par l'IA peut par contre décider par lui-même qui bombarder. Il peut même inventer de nouveaux types de bombes et de nouvelles stratégies. »


Le robot Apollo, conçu par Apptronik. Il peut porter des charges et être utilisé pour de la logistique.© Apptronik/SP


Certes, l'universitaire reconnaît des mérites à l'IA, capable de progrès fulgurants dans la prévention des maladies, la détection de catastrophes naturelles, ou la création de matériaux. Mais, celui qui, il y a un an, a signé l'appel de The Future of Life Institute à faire une pause de six mois dans le développement de l'IA, aux côtés du chercheur de Berkeley Stuart Russell et d'Elon Musk, explique aussi aujourd'hui qu'il est impossible de stopper une telle vague de fond qui, d'après une étude IDC, promet d'apporter quelque 19 900 milliards de dollars à l'économie mondiale d'ici à 2030.

L'homme sans portable

La quasi-totalité des géants de la tech d'ailleurs – de Meta, la maison mère de Facebook, à Microsoft en passant par Amazon, Google ou les chinois Baidu et Tencent – planche sur la possibilité de mettre KO l'homme dans l'ensemble de ses capacités cognitives. Et peu importe que cette IA balaie sur son passage les emplois dans les call centers, le monde de la traduction ou celui de la comptabilité. Pour l'universitaire né il y a 48 ans à Kiryat-Ata, en Israël, la capacité à s'approprier notre langage, tout comme le fait de rendre floue la frontière entre le vrai et le faux, pourrait signer la fin de la démocratie.


Faut-il voir dans l'avertissement de Harari les prophéties d'un allergique au numérique, lui qui ne possède pas de téléphone portable et qui, rétif au brouhaha de la ville, a installé son bureau dans une maison d'un quartier arboré du nord de Londres où l'on n'entend que le bruit du vent ?

Il y a cinq ans, l'historien, qui a effectué son doctorat à Oxford, a exprimé sa peur, au cours d'un débat avec Mark Zuckerberg, de voir se multiplier les robots tueurs, et compte parmi ses fans Reed Hastings, le créateur de Netflix, l'investisseur star Marc Andreessen tout comme… un certain Sam Altman, avec qui il a dîné il y a un an et qui partage sa crainte de voir un jour un dictateur s'emparer de l'IA.« Je connais Yuval et je l'apprécie beaucoup. J'ai discuté avec lui il y a deux jours », confie Sam Altman au Point. Plongée dans la pensée d'un Harari pessimiste, mais revigorant.



« Nexus. Une brève histoire des réseaux d'information, de l'âge de pierre à l'IA », de Yuval Noah Harari, traduit de l'anglais par David Fauquemberg (Albin Michel, 576 p., 24,90 €). Parution le 26 septembre.

EXTRAITS

Le piège d'un monde des illusions


Qu'adviendra-t-il du cours de l'Histoire quand les ordinateurs joueront un rôle de plus en plus prépondérant dans la culture et commenceront à produire des histoires, des lois et des religions ? En l'espace de quelques années, l'IA pourrait dévorer l'ensemble de la culture humaine – tout ce que nous avons créé depuis des millénaires –, la digérer et se mettre à déverser des flots de nouveaux objets culturels.

Nous vivons dans un cocon de culture, et notre expérience de la réalité se fait à travers un prisme culturel. Nos opinions politiques sont modelées par les articles et reportages des journalistes et les opinions de nos amis. Nos comportements sexuels sont influencés par ce que nous entendons dans les contes de fées et voyons dans les films. Même notre manière de marcher et de respirer est conditionnée par des traditions culturelles, comme la discipline militaire des soldats ou les exercices de méditation des moines. Jusque très récemment, le cocon culturel dans lequel nous vivions était tissé par d'autres humains. À l'avenir, il sera de plus en plus conçu par des ordinateurs.

Dans un premier temps, ces derniers imiteront probablement des prototypes culturels humains, écrivant des textes pareils à ceux des humains et composant de la musique semblable à la leur. Ce qui ne signifie pas pour autant que les ordinateurs soient dépourvus de créativité : après tout, les artistes humains font de même. Bach n'a pas composé sa musique à partir du néant – il était profondément influencé par les créations musicales antérieures, ainsi que par les récits bibliques et d'autres objets culturels préexistants. Mais, tout comme Bach et les artistes humains en général sont capables de rompre avec la tradition et d'innover, les ordinateurs peuvent eux aussi produire des innovations culturelles, composer de la musique ou générer des images quelque peu différentes de tout ce que l'homme a pu produire jusqu'ici. Ces innovations influenceront à leur tour la génération suivante d'ordinateurs, qui s'éloignera sans cesse davantage des modèles humains d'origine, d'autant que les ordinateurs sont exempts des limites que l'évolution et la biochimie ont imposées à l'imagination humaine. Depuis des millénaires, les êtres humains vivent à l'intérieur des rêves d'autres humains. Dans les décennies à venir, nous serons peut-être amenés à vivre à l'intérieur des rêves d'une intelligence autre.



Ces deux images montrant Kamala Harris enceinte au côté de Donald Trump ont été fabriquées par le modèle de langage Grok-2, d’Elon Musk. En Californie, les deepfakes politiques sont au cœur d’un débat législatif.© Capture d’écran/X

Le danger que cela représente est fort différent de tout ce qu'imagine généralement la science-fiction, qui s'est toujours pour l'essentiel focalisée sur les menaces physiques posées par des machines intelligentes. Terminator mettait ainsi en scène des robots courant dans les rues et tirant sur les gens. Matrix défendait la thèse selon laquelle, pour accéder à un contrôle total de la société humaine, les ordinateurs devraient d'abord contrôler physiquement nos cerveaux et les brancher directement sur un réseau informatique. Or, pour manipuler les humains, il n'est pas nécessaire de connecter leurs cerveaux à des ordinateurs. De tout temps, prophètes, poètes et hommes politiques ont utilisé le langage pour manipuler et remodeler la société. À présent, les ordinateurs apprennent à le faire. Et ils n'auront pas besoin d'envoyer des robots tueurs pour nous abattre : il leur suffira de manipuler des êtres humains pour qu'ils appuient sur la détente.

La peur d'ordinateurs puissants n'a commencé à hanter l'humanité qu'au début de l'ère informatique, au mitan du XX^e siècle. Mais, depuis toujours, les humains sont hantés par une peur beaucoup plus profonde : nous avons toujours eu conscience du pouvoir qu'avaient les histoires et les images de manipuler nos esprits et de créer des illusions. Par conséquent, depuis la nuit des temps, les humains ont toujours craint d'être enfermés dans un monde d'illusions. Dans la Grèce antique, déjà, Platon livrait sa fameuse allégorie de la caverne, dans laquelle un groupe d'individus passent toute leur vie enchaînés au fond d'une grotte, face à une paroi nue – un écran. Sur cet écran, ils voient défiler différentes ombres projetées. Les prisonniers prennent à tort ces illusions qui s'offrent à leur regard pour la réalité. Dans l'Inde antique, les sages bouddhistes et hindous affirmaient que tous les humains vivaient emprisonnés à l'intérieur de la Mâyâ – le monde des illusions. Ce que nous prenons généralement pour la « réalité » n'est souvent qu'une simple fiction dans nos esprits. Les hommes sont parfois prêts à mener des guerres atroces, à tuer et à accepter le risque d'être eux-mêmes tués, à cause de leur croyance en telle ou telle illusion. Au XVII^e siècle, René Descartes craignait d'être maintenu enfermé dans un monde d'illusions par un « mauvais génie » qui créerait tout ce qu'il voyait et entendait. La révolution numérique nous confronte aujourd'hui à la caverne de Platon, à la Mâyâ, au mauvais génie de Descartes.

Mais qui a vraiment écrit ce texte ?

Ce que vous venez de lire vous a peut-être inquiété, ou mis en colère. Peut-être cela vous a-t-il mis en colère contre les gens qui mènent la révolution informatique et les gouvernements qui échouent à la réglementer. Ou bien en colère contre moi, car vous pensez que je déforme la réalité, que je suis alarmiste et que je vous induis en erreur. Mais, quoi que vous pensiez, les paragraphes précédents ont pu avoir un effet émotionnel sur vous. J'ai raconté une histoire, et cette histoire vous fera peut-être changer d'avis sur certains sujets, peut-être même vous poussera-t-elle à entreprendre un certain nombre d'actions. Qui a créé cette histoire que vous venez de lire ?

Je vous promets que j'ai écrit ce texte moi-même, avec l'aide d'autres humains. Je vous jure que les lignes que vous lisez sont sorties d'un cerveau humain. Mais pouvez-vous en être absolument certain ? Il y a encore quelques années, vous auriez pu. Avant les années 2020, rien sur Terre, à part un esprit humain, n'était capable de produire des textes sophistiqués. Aujourd'hui, la situation a changé. En théorie, le texte que vous venez de lire aurait pu être généré par une intelligence non humaine – celle d'un ordinateur.

Phaéton ou l'hubris de l'homme

Au fil des âges, bien des traditions ont considéré qu'un défaut dans notre nature nous poussait à vouloir posséder des pouvoirs que nous étions incapables de maîtriser. Le mythe grec de Phaéton raconte ainsi l'histoire d'un jeune homme découvrant qu'il est le fils d'Hélios, le dieu Soleil. Désireux de prouver son origine divine, Phaéton réclame le privilège de conduire le char du Soleil. Hélios le met en garde sur le fait qu'aucun humain ne saurait contrôler les chevaux célestes qui tirent le char solaire. Mais Phaéton insiste tant que le dieu Soleil finit par céder. Après s'être fièrement élevé dans le ciel, Phaéton perd bel et bien le contrôle du char. Le Soleil dévie de sa course, brûlant toute végétation, tuant d'innombrables créatures et menaçant d'embraser la Terre entière. Zeus intervient alors et foudroie Phaéton. Notre humain vaniteux, lui-même en proie aux flammes, tombe du ciel telle une étoile filante. Reprenant le contrôle du ciel, les dieux sauvent le monde.

[HADJRESS]

Goethe et le balai enchanté

Deux mille ans plus tard, alors que la révolution industrielle faisait ses premiers pas et que les machines commençaient à remplacer les humains dans de nombreuses tâches, Johann Wolfgang von Goethe publia un conte moral du même ordre, intitulé L'Apprenti sorcier. Ce poème (que Walt Disney rendra plus tard célèbre sous la forme d'un court-métrage d'animation dans lequel Mickey Mouse interprète le rôle-titre) évoque un vieux sorcier qui, devant s'absenter, demande à son jeune apprenti de veiller sur son atelier et lui confie quelques corvées – aller chercher, entre autres, de l'eau à la rivière. L'apprenti décide de se faciliter la vie : empruntant au sorcier l'un de ses sortilèges, il enchante un balai afin qu'il aille puiser l'eau à sa place. Mais l'apprenti ne sait pas comment arrêter le balai, qui ne cesse plus de rapporter des seaux, menaçant d'inonder l'atelier. Pris de panique, l'apprenti tranche alors le balai d'un coup de hache, avec pour seul résultat que chacune des moitiés s'anime sous ses yeux : ce sont à présent non plus un, mais deux balais enchantés qui déversent leur eau dans l'atelier ! Quand le vieux sorcier revient, l'apprenti l'implore de l'aider : « Les esprits que j'ai invoqués, je ne peux plus m'en débarrasser. » Le sorcier brise aussitôt le sortilège et met fin au déluge. La leçon adressée à l'apprenti – et à l'humanité en général – est claire : ne jamais invoquer des pouvoirs qu'on ne peut maîtriser.

Une erreur de diagnostic

Que nous disent les fables de l'apprenti et de Phaéton en ce début de XXI^e siècle ? Nous autres, les humains, sommes manifestement restés sourds à leurs avertissements. Nous avons d'ores et déjà déséquilibré le climat terrestre et invoqué des milliards de balais enchantés, de drones, de chatbots et autres esprits algorithmiques qui pourraient échapper à notre contrôle et provoquer un déferlement de conséquences involontaires. Mais alors, que devons-nous faire ? Ces fables n'offrent aucune solution, si ce n'est attendre qu'un dieu ou un sorcier vole à notre secours.

Si le mythe de Phaéton et le poème de Goethe échouent à nous fournir des conseils utiles, c'est parce qu'ils se méprennent sur la manière dont les hommes acquièrent leur pouvoir. Dans ces deux récits, un seul être humain se retrouve investi d'un pouvoir immense, mais il est alors corrompu par l'avidité et son orgueil démesuré. Dès lors, une conclusion s'impose : c'est l'imperfection de notre psychologie individuelle qui nous pousse à abuser de notre pouvoir. Ce que ne saisit pas cette analyse grossière, c'est que le pouvoir des hommes ne résulte jamais d'une initiative individuelle : il découle toujours d'une coopération entre un grand nombre d'êtres humains.

La faille : le pouvoir du réseau

Par conséquent, ce n'est pas notre psychologie individuelle qui nous conduit à abuser de ce pouvoir. Après tout, les hommes ne sont pas seulement capables d'avidité, d'orgueil et de cruauté, mais aussi d'amour, de compassion, d'humilité et de joie. Certes, chez les pires représentants de notre espèce, avidité et cruauté règnent en maîtres et poussent ces acteurs mal intentionnés à abuser de leur pouvoir. Mais pourquoi les sociétés humaines décideraient-elles de confier le pouvoir à leurs pires représentants ? En 1933, par exemple, la plupart des Allemands n'étaient pas des psychopathes. Pourquoi, alors, ont-ils voté pour Hitler ?

Notre tendance à invoquer des pouvoirs que nous ne maîtrisons pas ne naît pas de notre psychologie individuelle mais de la capacité unique de notre espèce à coopérer à grande échelle. L'humanité acquiert énormément de pouvoir en construisant d'immenses réseaux de coopération, mais la manière dont ces derniers sont conçus les prédispose à un usage déraisonnable de ce pouvoir. La plupart de nos réseaux ont été bâtis et pérennisés en inventant et en diffusant des fictions, des fantasmes et des illusions collectives – sur des sujets allant des balais enchantés aux systèmes financiers. Notre problème est donc un problème de réseau. Pour être plus précis encore, il s'agit d'un problème d'information. L'information est la colle qui fait tenir ensemble les réseaux. Si l'on fournit aux gens de mauvaises informations, ils risquent de prendre de mauvaises décisions – si sages et bienveillants soient-ils, pris individuellement.

Depuis quelques générations, l'humanité connaît une croissance sans précédent de sa production d'informations, à la fois en termes de quantité et de rapidité. Le moindre smartphone contient plus d'informations que la bibliothèque d'Alexandrie dans l'Antiquité et permet à son utilisateur de se connecter instantanément avec des milliards d'autres personnes à travers le monde. Pourtant, à l'heure où ces flots d'informations circulent à des vitesses vertigineuses, l'humanité est plus proche que jamais de s'autoannihiler.

Malgré la masse de données dont nous disposons – ou peut-être à cause d'elle –, nous continuons de déverser des gaz à effet de serre dans l'atmosphère, de polluer rivières et océans, de raser des forêts, de détruire des habitats entiers, de pousser d'innombrables espèces vers l'extinction et de mettre en péril les fondements écologiques de notre propre espèce. Nous fabriquons en outre des armes de destruction massive sans cesse plus puissantes, des bombes thermonucléaires aux virus apocalyptiques. Nos dirigeants ne manquent pas d'informations sur ces dangers, mais, au lieu de collaborer pour trouver des solutions, ils se rapprochent chaque jour davantage d'un conflit planétaire.

L'IA n'est pas un outil, c'est un agent

Le fait de disposer d'encore plus d'informations améliorera-t-il la situation – ou l'aggravera-t-il ? Nous le saurons bientôt. De nombreuses entreprises et gouvernements se sont lancés dans une course au développement de la technologie de l'information la plus puissante de l'Histoire : l'IA. Son essor représente de nombreuses menaces potentielles pour l'humanité.

Certaines de ces menaces sont faciles à imaginer. Un dictateur paranoïaque pourrait ainsi confier des pouvoirs illimités à une IA faillible, y compris celui de déclencher des frappes nucléaires. Si l'IA commet une erreur ou se met à poursuivre un objectif inattendu, il peut en résulter une guerre nucléaire. Ou encore, des terroristes pourraient utiliser l'IA pour déclencher une pandémie mondiale. Ils peuvent avoir peu de connaissances en épidémiologie, mais l'IA pourrait synthétiser pour eux un nouvel agent pathogène, le commander à des laboratoires commerciaux ou l'imprimer dans des imprimantes biologiques 3 D et concevoir la meilleure stratégie pour le répandre dans le monde entier, via les aéroports ou les chaînes d'approvisionnement alimentaire. Que se passerait-il si l'IA synthétisait un virus aussi mortel qu'Ebola, aussi contagieux que le Covid-19 et aussi lent à agir que le VIH ? Lorsque les premières victimes commenceraient à mourir et que le monde serait alerté du danger, la plupart des habitants de la planète auraient peut-être déjà été infectés.

Mais nombre des menaces inhérentes à l'IA sont beaucoup plus difficiles à imaginer. L'IA pose un problème sans précédent à l'humanité parce qu'elle est la première technologie de l'Histoire capable de prendre des décisions et de créer de nouvelles idées par elle-même. Toutes les inventions humaines précédentes ont donné du pouvoir aux humains, car, quelle que soit la puissance du nouvel outil, les décisions relatives à son utilisation restaient entre nos mains. Les bombes nucléaires ne décident pas elles-mêmes qui tuer, elles ne peuvent pas non plus s'améliorer ou inventer des bombes encore plus puissantes. En revanche, l'IA peut prendre des décisions par elle-même et créer de nouvelles idées, y compris des bombes de conception nouvelle et des stratégies militaires sans précédent. L'IA n'est pas un outil, c'est un agent. La plus grande menace dans notre usage de l'IA est que nous convoquons sur Terre des millions de nouveaux agents puissants, potentiellement plus intelligents et imaginatifs que nous, et que nous ne comprenons pas ou ne contrôlons pas totalement.

Examinons l'impact potentiel sur le système financier. Même aujourd'hui, seule une infime fraction de l'humanité comprend réellement le système financier. Un sondage réalisé en 2014 auprès des parlementaires britanniques – chargés de réglementer l'une des principales plaques tournantes financières mondiales – a montré que seuls 12 % environ d'entre eux comprenaient vraiment que, lorsque les banques accordent des prêts, cela crée de la monnaie – ce qui est l'un des principes les plus élémentaires du système financier contemporain. Comme l'a montré la crise financière de 2007-2008, les principes et dispositifs financiers plus complexes n'étaient intelligibles que pour une poignée de génies de la finance. Qu'advient-il si l'IA crée des dispositifs financiers encore plus complexes et que le nombre d'humains à même de comprendre le système financier se réduit à zéro ?

Transposons la mise en garde fictionnelle de Goethe dans le langage de la finance moderne et considérons le scénario suivant. À Wall Street, un apprenti, las de travailler si durement, crée une IA qu'il appelle Balai et lui donne 1 million de dollars à placer, avec instruction de les faire fructifier. Pour l'IA, la finance est un terrain de jeu idéal, relevant purement des domaines informationnel et mathématique. Conduire une voiture autonome demeure compliqué pour l'IA, car cela implique des mouvements et des interactions dans un monde physique désordonné, où la notion de « réussite » est difficile à définir. En comparaison, pour réaliser des transactions financières, l'IA n'a que des données numériques à gérer, et sa réussite se mesure aisément en dollars, en euros ou en livres. Davantage de dollars = mission accomplie.

Dans sa quête de gains supplémentaires, l'IA Balai ne se contente pas d'élaborer de nouvelles stratégies d'investissement, elle invente des outils financiers inédits à part entière, auquel nul humain n'avait encore songé. Des millénaires durant, l'esprit humain s'en est tenu à l'exploration de certains domaines en matière de finance. On a inventé l'argent, les chèques, les actions, les obligations, les fonds cotés en Bourse, les CDO et autres éléments de sorcellerie financière. Mais bien des domaines financiers demeurent vierges, l'esprit humain n'ayant simplement pas eu l'idée de s'y aventurer. L'IA Balai, exempte des limitations propres au cerveau humain, découvre ces terres jusque-là inexplorées et se lance à l'assaut, avec des manœuvres financières qui sont insondables pour l'esprit humain. Pendant quelques années, alors que l'IA Balai conduit l'humanité dans un territoire financier vierge, tout semble merveilleux. Les marchés s'envolent, l'argent afflue sans effort et tout le monde est heureux. Puis survient un krach plus important encore que celui de 1929 ou de 2008. Mais aucun être humain – ni président, ni banquier, ni citoyen – ne sait ce qui l'a provoqué et ce que l'on peut faire pour y remédier.

[HADJRESS]

Un nouveau prédateur dans la jungle

Pour comprendre les menaces de l'IA, il ne suffit pas d'étudier la manière dont la technologie pourrait avoir un impact sur les sociétés individuelles. Il nous faut également envisager en quoi l'IA pourrait transformer les relations entre les différentes sociétés à l'échelle mondiale.

Au XVI^e siècle, lorsque les conquérants espagnols, portugais et hollandais bâtirent les premiers empires mondiaux de l'Histoire, ils débarquèrent avec des bateaux à voiles, des chevaux et de la poudre à canon. Quand Britanniques, Russes et Japonais visèrent à leur tour l'hégémonie mondiale aux XIX^e et XX^e siècles, ils disposaient de navires à vapeur, de locomotives et de mitrailleuses. Au XXI^e siècle, pour établir sa domination sur une colonie, plus besoin d'envoyer des canonnières : il suffit d'extraire des données. Quelques entreprises ou gouvernements collectant les données du monde pourraient transformer le reste de la planète en colonies de données – des territoires qu'ils contrôleraient non par une force militaire manifeste, mais à travers l'information.

Imaginez un instant une situation – dans, disons, vingt ans – où quelqu'un à Pékin ou à San Francisco posséderait l'histoire personnelle tout entière de chaque homme politique, journaliste, colonel et PDG de votre pays : tous les SMS qu'ils ont envoyés dans leur vie, toutes les recherches en ligne qu'ils ont faites, toutes les maladies dont ils ont souffert, tous les rapports sexuels qu'ils ont pu avoir, toutes les blagues qu'ils ont racontées, tous les pots-de-vin qu'ils ont empochés. Vivriez-vous toujours dans un pays indépendant ou dans une colonie de données ? Que se passe-t-il quand votre pays se retrouve extrêmement dépendant d'infrastructures numériques et de systèmes fondés sur l'IA sur lesquels il n'a aucun contrôle effectif ?

Dans ce domaine économique, les empires antérieurs étaient fondés sur des ressources matérielles telles que les terres, le coton ou le pétrole. Cela posait une limite à la capacité de l'empire à concentrer les richesses économiques et le pouvoir politique en un même lieu. La physique et la géologie n'admettent pas que toutes les ressources mondiales en terres, en coton ou en pétrole soient déplacées dans un seul et unique pays. Avec les nouveaux empires de l'information, il en va autrement. Les données numériques peuvent être envoyées n'importe où quasiment à la vitesse de la lumière, et les algorithmes ne prennent pas beaucoup de place. Par conséquent, il est possible de concentrer au sein d'un pôle unique le pouvoir algorithmique mondial. Les ingénieurs d'un seul pays pourraient écrire le code et contrôler les clés de tous les algorithmes décisifs qui font tourner le monde.

La division du monde en empires numériques rivaux correspond à la vision politique de nombreux dirigeants qui pensent que le monde est une jungle, que la paix relative de la fin du XX^e siècle et du début du XXI^e siècle était une illusion, et que le seul véritable choix est de jouer le rôle de prédateur ou de proie. Face à ce choix, la plupart des dirigeants préféreraient entrer dans l'Histoire en tant que prédateurs et ajouter leur nom à la sinistre liste des conquérants que les malheureux élèves sont condamnés à mémoriser pour leurs examens d'histoire. Il convient toutefois de rappeler à ces dirigeants qu'il existe un nouveau prédateur alpha dans la jungle. Si l'humanité ne trouve pas le moyen de coopérer et de protéger ses intérêts communs, nous serons tous des proies faciles pour l'IA.

[hben]

HADJRESS
Merci Hadj pour cet excellent partage!

[Dalida]

Merci pour vos posts toujours très intéressants