Tweet
Propos recueillis par Guillaume Grallet
Emplois, copyright, imagination... Gilles Babinet, représentant la société civile française pour le numérique auprès de la Commission à Bruxelles, mesure l'impact de la révolution.
Encore une semaine folle sur le front de l'intelligence artificielle. Après l'annonce de sortie de Llama 2, le nouveau modèle de langage de Meta, la maison mère de Facebook, c'est au tour d'Apple de travailler, selon Bloomberg, sur son propre modèle d'intelligence artificielle générative. Ce dernier pourrait donner naissance à un robot conversationnel concurrent du ChatGPT d'Open AI ou encore de Bard signé Google. Dans le même temps, des centaines de scénaristes américains se sont lancés dans une grève historique, en partie parce qu'ils sont menacés par l'intelligence artificielle dans leur quotidien.
Une crainte injustifiée ? Google teste en ce moment, avec plusieurs grandes rédactions américaines, dont le New York Times et le Washington Post, Genesys, un programme qui ambitionne d'écrire des articles à la place des journalistes. « Ces outils ne sont pas conçus pour – et ne peuvent pas – remplacer le rôle essentiel que jouent les journalistes en matière de récolte et de vérification de l'information, et de rédaction des articles », a expliqué un porte-parole de Google, même si l'outil en question sera à même de proposer la rédaction de textes simples dans des formats plus ou moins longs et dans des styles différents.
Un bouleversement historique ? Nous avons posé la question à Gilles Babinet, digital champion, c'est-à-dire représentant du numérique auprès de la Commission à Bruxelles, par ailleurs professeur à HEC et chargé de cours à l'Institut national de service public (INSP), qui forme les cadres d'État, et coprésident du Conseil national du numérique. Son dernier livre Comment les hippies, Dieu et la science ont inventé Internet (Odile Jacob) met en évidence l'importance de la guerre froide, du mouvement hippie, ou encore de la révolution conservatrice dans l'orientation des technologies.
Le Point : Pourquoi parle-t-on autant d'intelligence artificielle en ce moment ?
Gilles Babinet vient d'écrire « Commes les hippies, Dieu et la Science on inventé Internet chez » Odile Jacob.© DR
Gilles Babinet : ChatGPT est en train d'entrer dans l'Histoire. Avec sa mise à disposition, tout le monde comprend que l'intelligence artificielle devient une réalité, une révolution de grande ampleur, à l'impact supérieur à celui de l'électricité. Les Chinois ont vécu cela en mars 2016 lorsque le champion de jeu de go Lee Sedol s'est fait battre par une AI conçue par DeepMind, une filiale londonienne de Google.
Pour des dizaines de millions d'entre eux, et en particulier pour ceux qui jouaient au go, cela a été vécu comme un traumatisme tant cela semblait improbable. Cela aboutira à ce que, un an plus tard, la Chine lance un grand plan de conquête de l'IA sous l'égide de Xi Jinping lui-même, doté de 135 milliards de dollars. C'est désormais l'un des pays les plus avancés au monde à cet égard.
Quels progrès peut-on en attendre ?
Vraisemblablement une rupture civilisationnelle, avec des bouleversements majeurs attendus dans l'éducation, la santé, et la production de richesses au sens large. Évidemment, c'est très opposé au discours dominant du moment sur la décroissance, mais sans même être techno solutionniste, il est difficile de nier que l'IA va considérablement améliorer les systèmes de transports, les processus industriels, la transition énergétique, et ainsi de suite.
Une vision probable, me semble-t-il, est que nous ayons chacun un assistant AI personnel, qui se souvienne de bon nombre de choses. Nous pourrons par exemple lui dire : « Tu te souviens de cette personne que j'ai rencontrée il a deux ans, qui disait ceci... », et l'AI va vous le retrouver.
Les craintes d'un anéantissement de la civilisation, ainsi que l'a pronostiqué l'historien Yuval Harari, sont-elles chacune justifiées ?
Il est surprenant d'observer combien chacun à l'égard de l'IA voit midi à sa porte. Yuval Harari, qui est un écrivain et un conteur, pense que la principale menace est que les machines s'emparent des narratifs collectifs de l'humanité ! D'autres s'inquiètent de la disparition de certains emplois, de l'explosion des cybermenaces, de la manipulation de masses, etc. Ces craintes sont récurrentes et apparaissent dans l'Histoire à chaque fois qu'une nouvelle technologie survient.
On a accusé le métier à tisser Jacquard de détruire les métiers de tisserands, le chemin de fer de faire tourner le lait des vaches, l'électricité d'être une énergie élitiste, en supprimant les emplois d'allumeurs de réverbères, ceux que le peintre Raoul Dufy montre dans La Fée électricité, un tableau réalisé en 1937.
Nous sommes à nouveau face à un impensé vertigineux du fait qu'il s'agit cette fois-ci de cognition, une activité humaine considérée comme très sophistiquée, ce qui fait que cela suscite de nombreuses craintes. Tout cela ne veut pas dire que les risques n'existent pas, mais dans la mesure où ces technologies sont proprement impossibles à arrêter, il nous faut davantage comprendre la nature de ces menaces pour les adresser au mieux. Et puis, si Geoff Hinton et Yoshua Bengio crient au loup, face à eux, il y a le discours autrement mieux construit de Yann LeCun et Andrew Ng, deux chercheurs en IA tout autant réputés.
Comment y répondre ?
En accélérant la recherche plutôt qu'en posant un moratoire. Car seuls les gens responsables respectent les moratoires, pas les voyous. Or, il faut comprendre que le coefficient de prolifération d'une telle technologie est presque illimité : n'importe quel programmeur peut faire tourner une technologie très semblable à ChatGPT, plus puissante à certains égards, sur son ordinateur.
Comprenez-vous les craintes des scénaristes qui, en ce moment, font grève aux États-Unis en partie par crainte de l'intelligence artificielle ?
Les modèles de langage ont de nombreux défauts : ils n'ont aucune prise avec la réalité et sont sujets à de plus en plus d'hallucinations, qui peuvent être interprétées comme de la créativité. Et surprise, pour créer des scénarios, cela peut être très utile. Dans un sens, l'IA a plus d'imagination que l'être humain. De ce fait, il est possible que l'équilibre qui existe entre producteurs et scénaristes depuis pour ainsi dire un siècle soit sur le point de se rompre. Et, par ailleurs, les machines ne demandent pas de copyright.
Les droits d'auteur tels que nous les connaissons n'ont jamais été autant menacés. Savoir qu'un créateur est un humain va être une tendance de fond. Sam Altman, le cofondateur de ChatGPT, l'a bien compris et a créé WorldCoin ; un service pour garantir l'origine humaine, d'un contenu, d'une visioconférence. Il est possible que l'on voie également apparaître un « Nutri-score » nous donnant la part d'IA dans un film, dans un livre, etc.
Une information générée à 100 % par une machine peut-elle être dangereuse pour la démocratie ?
C'est un sujet qui m'inquiète, effectivement. Un IA peut facilement créer des milliers de faux comptes sur les réseaux sociaux, les faire discuter entre eux et peu à peu influencer le débat public dans un sens politique. Les ingérences étrangères, que l'on a observées durant le Brexit, les élections américaine, brésilienne et même française, pourraient être démultipliées si l'on n'y prête pas attention.
Comment faire en sorte que la France ne devienne pas uniquement une colonie numérique de la Chine et des États-Unis ?
Dans mon livre, je montre que l'Internet n'évolue pas de façon linéaire mais par rupture de cycles. Au début, de très gros ordinateurs centralisés – les mainframes –, après des micro-ordinateurs, le cloud, puis le Web3, soit des technologies décentralisées, comme la blockchain, et à présent l'IA. À chaque phase, de nouveaux acteurs dominants qui apparaissent. Cette rupture de cycle est l'occasion pour de nouveaux acteurs, dont éventuellement quelques Européens, de se positionner. Pour la France, il y a là une opportunité remarquable dans la mesure où une part significative des chercheurs les plus avancés au monde vient de là.
Pour cela, il est nécessaire de créer un récit collectif autour de l'IA. Ce que j'ai découvert en travaillant sur cet ouvrage, c'est que la part du mythe d'une technologie émancipatrice dans l'émergence de la Silicon Valley a été tout à fait fondamentale. À mon sens, la France a toutes les cartes pour se spécialiser dans ce qui se situe à la jonction entre AI et environnement. Cela pourrait être notre mythe collectif ; un mythe très puissant, et de surcroît utile.
L'intelligence artificielle va-t-elle accentuer la guerre techno entre la Chine et les États-Unis ?
Bien téméraire celui qui s'aventurerait à être définitif à cet égard. L'Europe doit cependant se poser deux questions : d'une part, quel devrait être son système d'armes à l'aune de l'avènement de ces technologies d'intelligence artificielle ? Car la norme Otan, c'est bien, mais ce sera vite insuffisant. Et d'autre part, comment va-t-on financer les technologies de rupture ? Aux États-Unis, c'est le rôle des fonds de pension ; en Chine, c'est celui des excédents commerciaux. Il y a six fois plus d'argent investi dans la technologie par Américain, trente fois plus en valeur absolue. Depuis cinquante ans, les fonds de pension répartissent leurs risques en investissant dans des actifs risqués et moins risqués.
Au début, ils ne mettaient que très peu d'argent dans le capital-risque et la technologie, montants qu'ils ont accrus au fil des décennies. Aujourd'hui, il n'est pas exagéré d'affirmer que les grandes entreprises technologiques font partie de ce qu'ils considèrent comme des valeurs de fond de panier, de long terme. Ce n'est pas populaire, mais je doute que l'on puisse, en Europe et en France, faire l'économie d'un débat sur la retraite par capitalisation, à moins d'accepter implicitement un décrochage européen durable dans un monde où la technologie est devenue un facteur géopolitique premier, c'est l'une des conclusions de mon livre.
Il n'empêche, en pleine accélération technologique, l'IA n'est-elle pas une machine à créer des inégalités ?
Non, ce peut être même le contraire. Dans l'éducation, l'IA peut aider les retardataires d'une classe à se remettre à niveau avec un assistant/mentor personnel. Dans la mesure où ces technologies sont très simples d'accès, on va assister à une compétition entre les fournisseurs qui pourrait être au bénéfice du consommateur. Si de très nombreux métiers vont être affectés, des milliers d'autres vont être créés pour traiter les enjeux de dépendance ou encore d'environnement, par exemple. Les Français ont une propension marquée à ne voir que les côtés dystopiques.
Emplois, copyright, imagination... Gilles Babinet, représentant la société civile française pour le numérique auprès de la Commission à Bruxelles, mesure l'impact de la révolution.
Encore une semaine folle sur le front de l'intelligence artificielle. Après l'annonce de sortie de Llama 2, le nouveau modèle de langage de Meta, la maison mère de Facebook, c'est au tour d'Apple de travailler, selon Bloomberg, sur son propre modèle d'intelligence artificielle générative. Ce dernier pourrait donner naissance à un robot conversationnel concurrent du ChatGPT d'Open AI ou encore de Bard signé Google. Dans le même temps, des centaines de scénaristes américains se sont lancés dans une grève historique, en partie parce qu'ils sont menacés par l'intelligence artificielle dans leur quotidien.
Une crainte injustifiée ? Google teste en ce moment, avec plusieurs grandes rédactions américaines, dont le New York Times et le Washington Post, Genesys, un programme qui ambitionne d'écrire des articles à la place des journalistes. « Ces outils ne sont pas conçus pour – et ne peuvent pas – remplacer le rôle essentiel que jouent les journalistes en matière de récolte et de vérification de l'information, et de rédaction des articles », a expliqué un porte-parole de Google, même si l'outil en question sera à même de proposer la rédaction de textes simples dans des formats plus ou moins longs et dans des styles différents.
Un bouleversement historique ? Nous avons posé la question à Gilles Babinet, digital champion, c'est-à-dire représentant du numérique auprès de la Commission à Bruxelles, par ailleurs professeur à HEC et chargé de cours à l'Institut national de service public (INSP), qui forme les cadres d'État, et coprésident du Conseil national du numérique. Son dernier livre Comment les hippies, Dieu et la science ont inventé Internet (Odile Jacob) met en évidence l'importance de la guerre froide, du mouvement hippie, ou encore de la révolution conservatrice dans l'orientation des technologies.
Le Point : Pourquoi parle-t-on autant d'intelligence artificielle en ce moment ?
Gilles Babinet vient d'écrire « Commes les hippies, Dieu et la Science on inventé Internet chez » Odile Jacob.© DR
Gilles Babinet : ChatGPT est en train d'entrer dans l'Histoire. Avec sa mise à disposition, tout le monde comprend que l'intelligence artificielle devient une réalité, une révolution de grande ampleur, à l'impact supérieur à celui de l'électricité. Les Chinois ont vécu cela en mars 2016 lorsque le champion de jeu de go Lee Sedol s'est fait battre par une AI conçue par DeepMind, une filiale londonienne de Google.
Pour des dizaines de millions d'entre eux, et en particulier pour ceux qui jouaient au go, cela a été vécu comme un traumatisme tant cela semblait improbable. Cela aboutira à ce que, un an plus tard, la Chine lance un grand plan de conquête de l'IA sous l'égide de Xi Jinping lui-même, doté de 135 milliards de dollars. C'est désormais l'un des pays les plus avancés au monde à cet égard.
Quels progrès peut-on en attendre ?
Vraisemblablement une rupture civilisationnelle, avec des bouleversements majeurs attendus dans l'éducation, la santé, et la production de richesses au sens large. Évidemment, c'est très opposé au discours dominant du moment sur la décroissance, mais sans même être techno solutionniste, il est difficile de nier que l'IA va considérablement améliorer les systèmes de transports, les processus industriels, la transition énergétique, et ainsi de suite.
Une vision probable, me semble-t-il, est que nous ayons chacun un assistant AI personnel, qui se souvienne de bon nombre de choses. Nous pourrons par exemple lui dire : « Tu te souviens de cette personne que j'ai rencontrée il a deux ans, qui disait ceci... », et l'AI va vous le retrouver.
Les craintes d'un anéantissement de la civilisation, ainsi que l'a pronostiqué l'historien Yuval Harari, sont-elles chacune justifiées ?
Il est surprenant d'observer combien chacun à l'égard de l'IA voit midi à sa porte. Yuval Harari, qui est un écrivain et un conteur, pense que la principale menace est que les machines s'emparent des narratifs collectifs de l'humanité ! D'autres s'inquiètent de la disparition de certains emplois, de l'explosion des cybermenaces, de la manipulation de masses, etc. Ces craintes sont récurrentes et apparaissent dans l'Histoire à chaque fois qu'une nouvelle technologie survient.
On a accusé le métier à tisser Jacquard de détruire les métiers de tisserands, le chemin de fer de faire tourner le lait des vaches, l'électricité d'être une énergie élitiste, en supprimant les emplois d'allumeurs de réverbères, ceux que le peintre Raoul Dufy montre dans La Fée électricité, un tableau réalisé en 1937.
Nous sommes à nouveau face à un impensé vertigineux du fait qu'il s'agit cette fois-ci de cognition, une activité humaine considérée comme très sophistiquée, ce qui fait que cela suscite de nombreuses craintes. Tout cela ne veut pas dire que les risques n'existent pas, mais dans la mesure où ces technologies sont proprement impossibles à arrêter, il nous faut davantage comprendre la nature de ces menaces pour les adresser au mieux. Et puis, si Geoff Hinton et Yoshua Bengio crient au loup, face à eux, il y a le discours autrement mieux construit de Yann LeCun et Andrew Ng, deux chercheurs en IA tout autant réputés.
Comment y répondre ?
En accélérant la recherche plutôt qu'en posant un moratoire. Car seuls les gens responsables respectent les moratoires, pas les voyous. Or, il faut comprendre que le coefficient de prolifération d'une telle technologie est presque illimité : n'importe quel programmeur peut faire tourner une technologie très semblable à ChatGPT, plus puissante à certains égards, sur son ordinateur.
Comprenez-vous les craintes des scénaristes qui, en ce moment, font grève aux États-Unis en partie par crainte de l'intelligence artificielle ?
Les modèles de langage ont de nombreux défauts : ils n'ont aucune prise avec la réalité et sont sujets à de plus en plus d'hallucinations, qui peuvent être interprétées comme de la créativité. Et surprise, pour créer des scénarios, cela peut être très utile. Dans un sens, l'IA a plus d'imagination que l'être humain. De ce fait, il est possible que l'équilibre qui existe entre producteurs et scénaristes depuis pour ainsi dire un siècle soit sur le point de se rompre. Et, par ailleurs, les machines ne demandent pas de copyright.
Les droits d'auteur tels que nous les connaissons n'ont jamais été autant menacés. Savoir qu'un créateur est un humain va être une tendance de fond. Sam Altman, le cofondateur de ChatGPT, l'a bien compris et a créé WorldCoin ; un service pour garantir l'origine humaine, d'un contenu, d'une visioconférence. Il est possible que l'on voie également apparaître un « Nutri-score » nous donnant la part d'IA dans un film, dans un livre, etc.
Une information générée à 100 % par une machine peut-elle être dangereuse pour la démocratie ?
C'est un sujet qui m'inquiète, effectivement. Un IA peut facilement créer des milliers de faux comptes sur les réseaux sociaux, les faire discuter entre eux et peu à peu influencer le débat public dans un sens politique. Les ingérences étrangères, que l'on a observées durant le Brexit, les élections américaine, brésilienne et même française, pourraient être démultipliées si l'on n'y prête pas attention.
Comment faire en sorte que la France ne devienne pas uniquement une colonie numérique de la Chine et des États-Unis ?
Dans mon livre, je montre que l'Internet n'évolue pas de façon linéaire mais par rupture de cycles. Au début, de très gros ordinateurs centralisés – les mainframes –, après des micro-ordinateurs, le cloud, puis le Web3, soit des technologies décentralisées, comme la blockchain, et à présent l'IA. À chaque phase, de nouveaux acteurs dominants qui apparaissent. Cette rupture de cycle est l'occasion pour de nouveaux acteurs, dont éventuellement quelques Européens, de se positionner. Pour la France, il y a là une opportunité remarquable dans la mesure où une part significative des chercheurs les plus avancés au monde vient de là.
Pour cela, il est nécessaire de créer un récit collectif autour de l'IA. Ce que j'ai découvert en travaillant sur cet ouvrage, c'est que la part du mythe d'une technologie émancipatrice dans l'émergence de la Silicon Valley a été tout à fait fondamentale. À mon sens, la France a toutes les cartes pour se spécialiser dans ce qui se situe à la jonction entre AI et environnement. Cela pourrait être notre mythe collectif ; un mythe très puissant, et de surcroît utile.
L'intelligence artificielle va-t-elle accentuer la guerre techno entre la Chine et les États-Unis ?
Bien téméraire celui qui s'aventurerait à être définitif à cet égard. L'Europe doit cependant se poser deux questions : d'une part, quel devrait être son système d'armes à l'aune de l'avènement de ces technologies d'intelligence artificielle ? Car la norme Otan, c'est bien, mais ce sera vite insuffisant. Et d'autre part, comment va-t-on financer les technologies de rupture ? Aux États-Unis, c'est le rôle des fonds de pension ; en Chine, c'est celui des excédents commerciaux. Il y a six fois plus d'argent investi dans la technologie par Américain, trente fois plus en valeur absolue. Depuis cinquante ans, les fonds de pension répartissent leurs risques en investissant dans des actifs risqués et moins risqués.
Au début, ils ne mettaient que très peu d'argent dans le capital-risque et la technologie, montants qu'ils ont accrus au fil des décennies. Aujourd'hui, il n'est pas exagéré d'affirmer que les grandes entreprises technologiques font partie de ce qu'ils considèrent comme des valeurs de fond de panier, de long terme. Ce n'est pas populaire, mais je doute que l'on puisse, en Europe et en France, faire l'économie d'un débat sur la retraite par capitalisation, à moins d'accepter implicitement un décrochage européen durable dans un monde où la technologie est devenue un facteur géopolitique premier, c'est l'une des conclusions de mon livre.
Il n'empêche, en pleine accélération technologique, l'IA n'est-elle pas une machine à créer des inégalités ?
Non, ce peut être même le contraire. Dans l'éducation, l'IA peut aider les retardataires d'une classe à se remettre à niveau avec un assistant/mentor personnel. Dans la mesure où ces technologies sont très simples d'accès, on va assister à une compétition entre les fournisseurs qui pourrait être au bénéfice du consommateur. Si de très nombreux métiers vont être affectés, des milliers d'autres vont être créés pour traiter les enjeux de dépendance ou encore d'environnement, par exemple. Les Français ont une propension marquée à ne voir que les côtés dystopiques.