S’il vivait aujourd’hui, Sun Tzu aurait orienté son ouvrage « L’art de la guerre » vers la stratégie de conflits où se mêleront bientôt simples soldats, combattants augmentés et machines autonomes. Par Thierry Berthier, Université de Limoges
Après la dissuasion nucléaire, l'art de la guerre s'apprête à connaître la plus grande mutation de son histoire avec la robotisation du champ de bataille et l'émergence d'armements autonomes.
Comme pour toute transition de rupture, interrogations, craintes et prophéties plus ou moins rationnelles accompagnent le mouvement. À ce titre, le très réputé Future of Life Institute d'Oxford publiait en 2015 une lettre ouverte signée par plusieurs milliers de scientifiques souhaitant alerter l'opinion publique sur les risques liés au développement d'armes autonomes. Dans le second paragraphe de cette désormais célèbre mise en garde, on pouvait lire la phrase prémonitoire :
« If any major military power pushes ahead with AI weapon development, a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious : autonomous weapons will become the Kalashnikovs of tomorrow ».
Kalashnikov se lance dans les robots armés
Deux ans plus tard, l'entreprise russe Kalashnikov, fleuron des industries de défense russes, vient confirmer cette prévision en présentant sa gamme de robots autonomes armés. Depuis le 10 juillet dernier, cette société communique sur son programme de développement de modules armés autonomes s'appuyant sur des réseaux de neurones pour la détection, l'identification et le traitement automatique des cibles.
Sofiya Ivanova, l'actuelle directrice de la communication de Kalashnikov, a annoncé que son groupe s'engageait dans la production de drones de combat autonomes dotés de capacités d'apprentissage par réseaux de neurones, capables de reconnaître les cibles et de prendre des décisions autonomes dont celle de l'engagement. Les prototypes présentés sont dotés d'une mitrailleuse PK montée sur une tourelle elle-même dirigée par une intelligence artificielle construite sur des réseaux de neurones.
On notera que le groupe Kalashnikov n'apparaît pas comme un précurseur dans le développement d'armes autonomes puisque des robots semi-autonomes ont déjà été développés par les industries de défense russes pour cartographier un territoire, localiser une cible et agir dans le cadre de missions de recherche et de sauvetage. Depuis 2015, la gamme de robots combattants russes Platform-M a été testée et est opérationnelle au sein d'unités de combat robotisées.
![](https://cdn.theconversation.com/files/180071/width754/file-20170727-8486-tbf180.jpg)
Elle sert notamment dans les opérations de déminage et de surveillance de sites sensibles en Syrie. Ces robots fonctionnent principalement sous un mode « téléopéré » dans lequel un opérateur humain garde la main sur la décision et l'ordre de tir. Pour autant, l'évolution de ces machines vers une plus forte autonomie dans la décision de tir ne fait plus aucun doute aujourd'hui. Il faut alors s'interroger sur l'apport réel de l'autonomie au combat et les situations opérationnelles dans lesquelles cette autonomie est en mesure de prendre l'avantage sur un adversaire « biologique ».
Les exemples de contextes bien adaptés à l'emploi de robots armés autonomes ne manquent pas. Le combat urbain de haute intensité en contexte saturé en est un. Toujours très coûteux en vies humaines, ce type de confrontation nécessite des prises de décision extrêmement rapides et une forte agilité dans l'acquisition de cibles dynamiques multiples. Un système autonome est quant à lui en mesure d'intervenir selon des échelles temporelles qui dépassent les limites biologiques humaines. La coopération entre robots armés autonomes et leur collaboration dans l'exécution d'une mission commune vont permettre de dépasser ces limites et devraient apporter des réponses pertinentes aux problématiques spécifiques d'engagement en zone urbaine.
Unités robotisées pour la garde des missiles nucléaires
Un second exemple de contexte bien adapté à l'emploi de robots armés autonomes concerne les missions de surveillances automatisées d'un territoire, de garde d'une base militaire ou d'infrastructures critiques. Des unités de robots armés Platform-M et Uran (photo en tête de l'article) ont ainsi été déployées en Russie en 2016 afin d'assurer une garde périmétrique autonome autour de sites de missiles nucléaires intercontinentaux. Les robots armés sentinelles SGRA1 développés par Samsung qui ont été installés le long de la frontière séparant les deux Corées, ont engendré de fortes économies en personnel et ont amélioré la fiabilité et la qualité des gardes.
Les Russes ne sont pas les seuls à développer des systèmes armés autonomes. L'agence américaine DARPA a lancé plusieurs grands programmes de recherche et de développement d'unités de combats robotisés autonomes dédiés à la guérilla urbaine. De tels systèmes économisent le sang, la fatigue, le stress, et la solde du combattant... À l'heure où les budgets militaires connaissent partout de fortes hausses (sauf en France), les différentes économies induites par les systèmes autonomes motivent l'accélération de leur développement.
L'armée russe souhaite robotiser plus du tiers de ses armements à l'horizon 2025. La mutation de certains équipements a commencé avec, notamment, le développement de chars de combat « dronisés » à équipage déporté (T14 Armata). Le combat du futur, selon la nouvelle doctrine russe énoncée en 2015, doit « exclure l'homme de la zone d'immédiate confrontation ». Cette exclusion totale n'est rendue possible que par le développement de systèmes robotisés téléopérés et de systèmes armés autonomes. Elle modifie l'ensemble des mécanismes tactiques et oblige les armées à une révision complète de leurs règles d'engagement et de leurs pratiques au combat.
Des robots contre des insurgés
Imaginons une première situation correspondant à un conflit « asymétrique » opposant l'armée régulière d'une nation technologique à un groupe armé irrégulier, constitué de rebelles, d'insurgés, ou de terroristes et disposant de moyens limités. Supposons que ce groupe d'insurgés contrôle une zone géographique incluant une ville et une population civile. L'armée régulière souhaite limiter ses pertes dans la reprise des zones urbaines. Elle va logiquement choisir d'engager ses unités de combat robotisées autonomes et téléopérées dans la phase d'assaut initiale.
Le niveau d'imbrication du groupe rebelle armé dans la population civile et son aptitude à la guérilla urbaine seront des critères déterminants dans le choix des robots à déployer. Dans tous les cas, ce sont les capacités des systèmes en détection et identification des cibles qui feront la différence et qui permettront de mener une action rapide avec le moins de perte civile possible. Le robot autonome devra être en mesure de distinguer « clairement » le personnel combattant du personnel civil non combattant, le terroriste de l'otage servant de bouclier humain. Les techniques embarquées de reconnaissance de contextes, de formes, d'objets dans une image, de son ou de rayonnement devront atteindre un niveau de fiabilité au moins égal à celui du combattant humain. Sans cela, les dégâts collatéraux risquent d'être si importants qu'ils annuleront le bénéfice de l'emploi des robots et l'armée régulière devra s'en expliquer...
Du côté des rebelles, on peut parier qu'ils auront également la capacité de recycler, de pirater, de détourner des robots civils récupérés sur le terrain ou achetés sur le marché noir pour les convertir en robots armés téléopérés et/ou autonomes. L'État islamique a su le faire à son niveau en équipant de simples drones civils commerciaux d'un dispositif de lance-grenade particulièrement efficace. D'une façon générale, les derniers conflits ont montré qu'une technologie commercialisée pouvait vite diffuser vers des groupes armés pour être convertie en technologie militaire à moindre coût.
Les soldats de notre armée régulière auront donc toutes les chances de se retrouver dans une seconde phase du combat devant un robot autonome low cost bricolé par les ingénieurs du groupe rebelle et tout aussi agressif. Les opérations de piratage informatique de bas niveau et de détournement des systèmes devront également être prises en compte. Cela dit, l'asymétrie des moyens et de la puissance de feu déployée par l'armée régulière fera la différence et lui donnera l'avantage en secteur urbain comme en terrain découvert.
La seconde situation à explorer est celle d'un conflit « symétrique » opposant deux armées régulières de niveaux technologiques équivalents, disposant d'unités de combat robotisées autonomes et téléopérées. On peut supposer que, selon le principe d'exclusion de l'homme de la zone d'immédiate confrontation, les deux armées choisiront d'engager en première instance leurs unités robotisées. Elles n'auront pas d'autre choix compte tenu du niveau de létalité des unités de robots. L'homme sera donc absent de cette première zone de combat laissant la place à une lutte hyper véloce entre des unités robotisées.
Les questions de supériorité technologique et de supériorité d'effectifs seront centrales dans l'évolution de ce combat initial. Vingt robots armés sophistiqués, disposant d'une intelligence artificielle de haut niveau peuvent-ils venir à bout de 80 robots de combat plus rudimentaires mais qui savent se réorganiser rapidement en fonction de leurs pertes ? La résilience des unités robotisées et leur capacité à occuper et à dominer l'ensemble des milieux en même temps (l'ubiquité opérationnelle) permettront de remporter la première phase de la bataille.
Jeu à somme nulle
Mais des jeux à somme nulle sont également envisageables. On peut imaginer dans le contexte de niveaux technologiques et d'effectifs quasiment équivalents, une destruction mutuelle d'un grand nombre d'unités robotisées de part et d'autre sans qu'apparaisse un réel vainqueur. La poursuite de la confrontation s'effectuerait alors « à l'ancienne » en impliquant des combattants humains avec les pertes associées.
Enfin, à plus long terme, certainement utopique, on peut imaginer une économie totale de vies humaines dans un conflit du futur où la première armée remportant le combat robotisé serait tacitement considérée par ses adversaires comme celle qui remporte la guerre. La technologie aurait ainsi rendu inutile et irrationnel l'engagement de combattants humains voués à une défaite certaine.
En attendant, la course à l'autonomie est bien lancée entre les grands pays producteurs d'intelligence artificielle. Les débats éthiques, à géométrie variable selon les cultures, les idéologies et les convictions religieuses vont accompagner le déploiement de systèmes d'armes robotisés plus ou moins autonomes sur l'ensemble des théâtres de conflit. Les futures confrontations impliquant le soldat non augmenté, le soldat augmenté et la machine appellent dès aujourd'hui à repenser l'art de la guerre.
la Tribune fr
Après la dissuasion nucléaire, l'art de la guerre s'apprête à connaître la plus grande mutation de son histoire avec la robotisation du champ de bataille et l'émergence d'armements autonomes.
Comme pour toute transition de rupture, interrogations, craintes et prophéties plus ou moins rationnelles accompagnent le mouvement. À ce titre, le très réputé Future of Life Institute d'Oxford publiait en 2015 une lettre ouverte signée par plusieurs milliers de scientifiques souhaitant alerter l'opinion publique sur les risques liés au développement d'armes autonomes. Dans le second paragraphe de cette désormais célèbre mise en garde, on pouvait lire la phrase prémonitoire :
« If any major military power pushes ahead with AI weapon development, a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious : autonomous weapons will become the Kalashnikovs of tomorrow ».
Kalashnikov se lance dans les robots armés
Deux ans plus tard, l'entreprise russe Kalashnikov, fleuron des industries de défense russes, vient confirmer cette prévision en présentant sa gamme de robots autonomes armés. Depuis le 10 juillet dernier, cette société communique sur son programme de développement de modules armés autonomes s'appuyant sur des réseaux de neurones pour la détection, l'identification et le traitement automatique des cibles.
Sofiya Ivanova, l'actuelle directrice de la communication de Kalashnikov, a annoncé que son groupe s'engageait dans la production de drones de combat autonomes dotés de capacités d'apprentissage par réseaux de neurones, capables de reconnaître les cibles et de prendre des décisions autonomes dont celle de l'engagement. Les prototypes présentés sont dotés d'une mitrailleuse PK montée sur une tourelle elle-même dirigée par une intelligence artificielle construite sur des réseaux de neurones.
On notera que le groupe Kalashnikov n'apparaît pas comme un précurseur dans le développement d'armes autonomes puisque des robots semi-autonomes ont déjà été développés par les industries de défense russes pour cartographier un territoire, localiser une cible et agir dans le cadre de missions de recherche et de sauvetage. Depuis 2015, la gamme de robots combattants russes Platform-M a été testée et est opérationnelle au sein d'unités de combat robotisées.
![](https://cdn.theconversation.com/files/180071/width754/file-20170727-8486-tbf180.jpg)
Elle sert notamment dans les opérations de déminage et de surveillance de sites sensibles en Syrie. Ces robots fonctionnent principalement sous un mode « téléopéré » dans lequel un opérateur humain garde la main sur la décision et l'ordre de tir. Pour autant, l'évolution de ces machines vers une plus forte autonomie dans la décision de tir ne fait plus aucun doute aujourd'hui. Il faut alors s'interroger sur l'apport réel de l'autonomie au combat et les situations opérationnelles dans lesquelles cette autonomie est en mesure de prendre l'avantage sur un adversaire « biologique ».
Les exemples de contextes bien adaptés à l'emploi de robots armés autonomes ne manquent pas. Le combat urbain de haute intensité en contexte saturé en est un. Toujours très coûteux en vies humaines, ce type de confrontation nécessite des prises de décision extrêmement rapides et une forte agilité dans l'acquisition de cibles dynamiques multiples. Un système autonome est quant à lui en mesure d'intervenir selon des échelles temporelles qui dépassent les limites biologiques humaines. La coopération entre robots armés autonomes et leur collaboration dans l'exécution d'une mission commune vont permettre de dépasser ces limites et devraient apporter des réponses pertinentes aux problématiques spécifiques d'engagement en zone urbaine.
Unités robotisées pour la garde des missiles nucléaires
Un second exemple de contexte bien adapté à l'emploi de robots armés autonomes concerne les missions de surveillances automatisées d'un territoire, de garde d'une base militaire ou d'infrastructures critiques. Des unités de robots armés Platform-M et Uran (photo en tête de l'article) ont ainsi été déployées en Russie en 2016 afin d'assurer une garde périmétrique autonome autour de sites de missiles nucléaires intercontinentaux. Les robots armés sentinelles SGRA1 développés par Samsung qui ont été installés le long de la frontière séparant les deux Corées, ont engendré de fortes économies en personnel et ont amélioré la fiabilité et la qualité des gardes.
Les Russes ne sont pas les seuls à développer des systèmes armés autonomes. L'agence américaine DARPA a lancé plusieurs grands programmes de recherche et de développement d'unités de combats robotisés autonomes dédiés à la guérilla urbaine. De tels systèmes économisent le sang, la fatigue, le stress, et la solde du combattant... À l'heure où les budgets militaires connaissent partout de fortes hausses (sauf en France), les différentes économies induites par les systèmes autonomes motivent l'accélération de leur développement.
L'armée russe souhaite robotiser plus du tiers de ses armements à l'horizon 2025. La mutation de certains équipements a commencé avec, notamment, le développement de chars de combat « dronisés » à équipage déporté (T14 Armata). Le combat du futur, selon la nouvelle doctrine russe énoncée en 2015, doit « exclure l'homme de la zone d'immédiate confrontation ». Cette exclusion totale n'est rendue possible que par le développement de systèmes robotisés téléopérés et de systèmes armés autonomes. Elle modifie l'ensemble des mécanismes tactiques et oblige les armées à une révision complète de leurs règles d'engagement et de leurs pratiques au combat.
Des robots contre des insurgés
Imaginons une première situation correspondant à un conflit « asymétrique » opposant l'armée régulière d'une nation technologique à un groupe armé irrégulier, constitué de rebelles, d'insurgés, ou de terroristes et disposant de moyens limités. Supposons que ce groupe d'insurgés contrôle une zone géographique incluant une ville et une population civile. L'armée régulière souhaite limiter ses pertes dans la reprise des zones urbaines. Elle va logiquement choisir d'engager ses unités de combat robotisées autonomes et téléopérées dans la phase d'assaut initiale.
Le niveau d'imbrication du groupe rebelle armé dans la population civile et son aptitude à la guérilla urbaine seront des critères déterminants dans le choix des robots à déployer. Dans tous les cas, ce sont les capacités des systèmes en détection et identification des cibles qui feront la différence et qui permettront de mener une action rapide avec le moins de perte civile possible. Le robot autonome devra être en mesure de distinguer « clairement » le personnel combattant du personnel civil non combattant, le terroriste de l'otage servant de bouclier humain. Les techniques embarquées de reconnaissance de contextes, de formes, d'objets dans une image, de son ou de rayonnement devront atteindre un niveau de fiabilité au moins égal à celui du combattant humain. Sans cela, les dégâts collatéraux risquent d'être si importants qu'ils annuleront le bénéfice de l'emploi des robots et l'armée régulière devra s'en expliquer...
Du côté des rebelles, on peut parier qu'ils auront également la capacité de recycler, de pirater, de détourner des robots civils récupérés sur le terrain ou achetés sur le marché noir pour les convertir en robots armés téléopérés et/ou autonomes. L'État islamique a su le faire à son niveau en équipant de simples drones civils commerciaux d'un dispositif de lance-grenade particulièrement efficace. D'une façon générale, les derniers conflits ont montré qu'une technologie commercialisée pouvait vite diffuser vers des groupes armés pour être convertie en technologie militaire à moindre coût.
Les soldats de notre armée régulière auront donc toutes les chances de se retrouver dans une seconde phase du combat devant un robot autonome low cost bricolé par les ingénieurs du groupe rebelle et tout aussi agressif. Les opérations de piratage informatique de bas niveau et de détournement des systèmes devront également être prises en compte. Cela dit, l'asymétrie des moyens et de la puissance de feu déployée par l'armée régulière fera la différence et lui donnera l'avantage en secteur urbain comme en terrain découvert.
La seconde situation à explorer est celle d'un conflit « symétrique » opposant deux armées régulières de niveaux technologiques équivalents, disposant d'unités de combat robotisées autonomes et téléopérées. On peut supposer que, selon le principe d'exclusion de l'homme de la zone d'immédiate confrontation, les deux armées choisiront d'engager en première instance leurs unités robotisées. Elles n'auront pas d'autre choix compte tenu du niveau de létalité des unités de robots. L'homme sera donc absent de cette première zone de combat laissant la place à une lutte hyper véloce entre des unités robotisées.
Les questions de supériorité technologique et de supériorité d'effectifs seront centrales dans l'évolution de ce combat initial. Vingt robots armés sophistiqués, disposant d'une intelligence artificielle de haut niveau peuvent-ils venir à bout de 80 robots de combat plus rudimentaires mais qui savent se réorganiser rapidement en fonction de leurs pertes ? La résilience des unités robotisées et leur capacité à occuper et à dominer l'ensemble des milieux en même temps (l'ubiquité opérationnelle) permettront de remporter la première phase de la bataille.
Jeu à somme nulle
Mais des jeux à somme nulle sont également envisageables. On peut imaginer dans le contexte de niveaux technologiques et d'effectifs quasiment équivalents, une destruction mutuelle d'un grand nombre d'unités robotisées de part et d'autre sans qu'apparaisse un réel vainqueur. La poursuite de la confrontation s'effectuerait alors « à l'ancienne » en impliquant des combattants humains avec les pertes associées.
Enfin, à plus long terme, certainement utopique, on peut imaginer une économie totale de vies humaines dans un conflit du futur où la première armée remportant le combat robotisé serait tacitement considérée par ses adversaires comme celle qui remporte la guerre. La technologie aurait ainsi rendu inutile et irrationnel l'engagement de combattants humains voués à une défaite certaine.
En attendant, la course à l'autonomie est bien lancée entre les grands pays producteurs d'intelligence artificielle. Les débats éthiques, à géométrie variable selon les cultures, les idéologies et les convictions religieuses vont accompagner le déploiement de systèmes d'armes robotisés plus ou moins autonomes sur l'ensemble des théâtres de conflit. Les futures confrontations impliquant le soldat non augmenté, le soldat augmenté et la machine appellent dès aujourd'hui à repenser l'art de la guerre.
la Tribune fr
Commentaire