L’intelligence artificielle et la guerre : leçons d’Ukraine et du Moyen-Orient

France Culture, Affaires étrangères, Christine Ockrent.

Bonjour à tous. En Europe, comme au Moyen-Orient, la guerre continue. En plus de 4 ans, l'invasion russe de l'Ukraine a profondément transformé la nature des opérations, le choix des armements, les priorités en termes d'engagement et de défense contre l'ennemi. Et voilà 5 semaines que les Etats-Unis, Israël et l'Iran se livrent à des bombardements massifs impliquant de part et d'autre une large panoplie offensive et protectrice allant de missiles extrêmement coûteux aux drones désormais produits en masse et capables de ciblage extrêmement précis.

Ces deux guerres s'emboîtent en quelque sorte, démontrant l'ampleur et l'accélération du changement qui s'impose à tous, aux professionnels de la chose militaire comme aux responsables politiques et aux opinions publiques. Depuis le renseignement jusqu'au feu de l'action, l'intelligence artificielle joue désormais un rôle majeur. Grâce aux drones et aux satellites, le champ de bataille devient transparent, il s'empare des zones urbaines, l'information en temps réel se rapproche dangereusement des jeux vidéo, la boucle rétrécit entre la captation des données, leur interprétation et la décision d'agir.

Plus l'automatisation s'accélère, plus se pose la question centrale du contrôle et du rôle de l'humain dans la prise de décision. A partir du moment où l'escalade, mais aussi, comme le disent certains, l'arsénalisation de la guerre cognitive paraissent inévitables, comment maintenir des garde-fous éthiques, la notion de seuil a-t-elle encore un sens ? La guerre devient de plus en plus hybride, l'intelligence artificielle démultiplie à l'infini les subterfuges de la désinformation. Le régime de Téhéran diffuse presque autant de messages trompeurs que le président des Etats-Unis. Toute comparaison de style mis à part.

En Ukraine, de façon conventionnelle, le rapport de force se calculait d'abord en nombre de tanks. Aujourd'hui, des experts ukrainiens vont aider l'Arabie saoudite et les Émirats, pourtant gavés d'armement de pointe américain. La cyberguerre s'amplifie. Quelles leçons les professionnels tirent-ils de telles expériences ? Quelles inflexions en termes de doctrine, mais aussi de priorité industrielle ? Au Moyen-Orient, les déligérants ont consommé une quantité d'armement sans précédent. Les Etats-Unis vont-ils détourner à leur profit les livraisons promises à l'Ukraine et payées par les Européens ?

La course à la puissance est-elle de plus en plus restreinte à quelques grands pays, à leurs armées et à leurs industries ? D'autres acteurs comme nous ont-ils encore les moyens de rester dans le jeu ? C'est ce qu'on va comprendre ce matin grâce à vous, Isabelle Rille. Vous dirigez le cluster d'intelligence artificielle Prairie. C'est du franglais, pardonnez-moi. La Paris School de l'intelligence artificielle. Vous êtes aussi la conseillère en la matière du président de l'université Paris Sciences et Lettres. Lors de Roussy-Roche-Gonde, vous dirigez le Centre Géopolitique des Technologies à l'IFRI.

Le général Paloméros, chef d'état-major de l'armée de l'air de 2009 à 2012, commandant au suprême allié Transformation au sein de l'OTAN de 2012 à 2015. Merci d'être avec nous. et François Esbourg, vous êtes, François, conseiller spécial à l'IISS et aussi à la Fondation pour la Recherche Stratégique. Général Paloméros, en deux ans, si on se prend uniquement ce calendrier le plus récent, on a vu évidemment la guerre en Ukraine, la guerre à Gaza et maintenant la guerre en Iran. Est-ce que, selon vous, il y a un changement de nature ou simplement un changement d'intensité plutôt que de méthode ?

Tout part de la désinhibition de la violence dans les relations internationales qui est devenue notre quotidien. Deuxièmement, évidemment, toutes ces questions, tous ces conflits tentent de résoudre des problèmes qui sont anciens, qui sont existentiels pour la part d'entre elles, existentiels pour l'Ukraine, existentiels vu aussi du régime des Mollahs, existentiels pour Israël et on le découvre existentiels pour tous les pays du Golfe. Et en fait, la guerre demeure malgré tout un choc de volonté d'abord, de volonté de défendre les acquis, de défendre des biens, de défendre un pays, en l'occurrence, mais elle peut se mener différemment. Et c'est ce que nous apprend en particulier l'Ukraine.

Elle dépend surtout de la volonté de chef, je le disais, c'est le choc des volontés de chef, qui parfois s'ignorent, on pense à Zelensky. Elle repose non seulement sur l'acquisition du nombre, mais maintenant aussi sur l'efficience en quelque sorte, c'est-à-dire l'efficacité et l'économie. Et on le voit, on a très clairement dans toutes ces guerres besoin de masse, de masse pour peser sur l'adversaire, de masse pour durer. C'est ce que j'appellerais la résilience fondamentale, stratégique. Et on a besoin finalement d'une préparation à cette guerre en utilisant tous les outils, vous les avez cités, qui sont disponibles, mais aussi une faculté d'adaptation.

Ce qui demande l'habilité à transformer, à étudier, à comprendre en tant quasiment réel les grandes évolutions, les évolutions de rupture, et ça existe, et à essayer d'optimiser vraiment les outils. Les Ukrainiens le font très bien, les Iraniens, je dirais malheureusement, le font très bien aussi. Optimiser des outils qui, aujourd'hui, en fait, créent une rupture entre ce qui est très stratégique, on pense au nucléaire, et ce qui est conventionnel.

Le président de la République l'a rappelé récemment, d'ailleurs, dans un discours, avec cette notion que, finalement, on a des armes taxiques, comme les drones, qui ont un effet stratégique, on le voit au quotidien dans le Golfe, et d'un autre côté, le nucléaire existe, et malheureusement, il continuera à exister, y compris, à mon sens, en Iran, dissuade, certes, mais il dissuade du nucléaire, finalement.

Et les Iraniens, par exemple, ont créé une véritable dissuasion conventionnelle, sans qu'on s'en rende nous-mêmes bien compte, qui associe, donc, les missiles balistiques dans toute une gamme d'options, parce que les missiles balistiques, c'est un terme générique, mais on voit qu'il y a autant de missiles balistiques, pratiquement, que d'usages très spécifiques, y compris pour terroriser.

Donc, la guerre s'est complexifiée, la guerre touche tous les domaines, vous l'avez dit, on ne peut négliger aucun aspect, on pense que le champ de bataille est transparent, mais finalement, si on regarde ce qui se passe, en particulier en Iran, il est moins transparent qu'on aurait pu le penser, parce qu'on ne sait pas ce qui se passe, ensuite, en dessous de la Terre, c'est une expression, où est le stock d'uranium, où sont les stocks de missiles, ils sont vraisemblablement plus importants que ce qu'on a estimé, là aussi, il ne faut pas sous-estimer l'adversaire, je pense que ça reste un bon principe, et enfin, si on veut la paix, il faut préparer la guerre, mais il faut la préparer avec des grilles et des critères qui sont très différents de ceux dont on a l'habitude, et ça, c'est mon expérience de la transformation de l'OTAN qui me permet de le dire aujourd'hui.

Isabelle Riel, pour la spécialiste de l'intelligence artificielle que vous êtes, quand on regarde l'histoire des technologies, c'est la plupart du temps la guerre, ou la préparation à la guerre, ou l'affrontement à la guerre, qui ont accéléré les étapes de la transformation technologique. Est-ce que pour vous, c'est la même chose en ce qui concerne l'intelligence artificielle, qui semble maintenant présente, inhérente, à beaucoup de systèmes d'armement ?

C'est le cas, mais pas complètement pour moi, parce qu'aujourd'hui, on a tous vu la pénétration de l'intelligence artificielle dans tous les domaines, dans tous les métiers, et donc c'est une révolution qui allait forcément toucher le domaine de la défense aussi, mais on est quasiment toujours face à des technologies duales.

Et donc tout ce qui est utilisé en intelligence artificielle dans un théâtre militaire a souvent une contrepartie dans votre quotidien, dans votre vie de tous les jours, que ce soit un outil de surveillance, par exemple même, qui va faire de la reconnaissance du ciblage de personnes, il n'est pas très éloigné de l'algorithme que vous utilisez pour déverrouiller votre téléphone en le présentant devant vous. Donc tout ça, c'est un continuum. Là où je vous rejoins quand même, c'est sur certains domaines spécifiques. Par exemple, le développement des drones a été fulgurant dans les dernières années, drainé en particulier par l'Ukraine.

Le développement aujourd'hui de la robotique qui arrive va toucher tous les domaines, mais a un versant défense militaire extrêmement important. Donc ça s'inscrit dans l'histoire des technologies avec quand même une petite spécificité de cette grande dualité. Néanmoins, aux Etats-Unis, où évidemment continuent de progresser les géants de la tech, et en particulier avec cette idée qu'il faut accélérer encore le développement de l'intelligence artificielle, quoi qu'il en coûte, il y a même un groupe qui maintenant a été constitué pour financer les candidats aux meetums, aux élections de novembre, qui seraient pour une accélération sans frein de l'intelligence artificielle.

Et les Etats-Unis ont cette institution que beaucoup envient en Europe et en France, qui est la DARPA, et qui permet en fait des investissements massifs et immédiats, sans attendre même de contrats, dans des secteurs névralgiques. Isabelle ? Alors, la grande admiration des Européens pour la DARPA ne date pas d'hier. Il y a deux choses qui sont très différentes de ce qu'on connaît en Europe. C'est le volume de financement, qui est colossal à l'échelle de ce que les Etats-Unis peuvent aussi mettre dans leur start-up ou autre.

Et puis, le mode de fonctionnement, qui n'est pas du tout dans notre système, dans notre mentalité, à savoir des chefs de programme recrutés sur le volet, triés sur le volet, qui sont payés très très cher, mais pour de courtes périodes. Ils ne peuvent pas rester dans la durée. Qui ont un grand pouvoir d'investissement et qui ont surtout l'investissement, le pouvoir d'arrêter des projets. Donc, la DARPA se permet de lancer beaucoup de projets sur des sujets, y compris des projets concurrents, mais avec un frein dès que ça ne fonctionne pas. Mais on voit des résultats. Avec des résultats phénoménaux. C'est ce qu'on ne sait pas faire en Europe.

François Heisbourg, avant que nous soyons en mesure en Europe de définir de telles priorités, et surtout d'y travailler ensemble, comment voyez-vous la différence de nature entre l'Ukraine, qui reste une guerre conventionnelle, mais en pleine évolution, et l'Iran, qui est une guerre aérienne, où l'intelligence artificielle joue un rôle de plus en plus évident et précis ?

Moi, je ne soulignerai pas les différences, bien qu'elles existent. Il y a une différence, c'est qu'en Ukraine, on est dans un combat assez symétrique, c'est-à-dire, ce que les Ukrainiens ont fait dès le début de l'invasion à grande échelle en 2022, les Russes se sont mis à le faire à leur tour. Et donc, on se trouve dans une guerre de drones contre drones, missiles contre missiles, soldats contre soldats, alors que dans le Golfe, on est dans une situation assez asymétrique, asymétrique à tous égards, asymétrie de la géographie, avec l'Iran qui peut faire de la dissuasion, pas simplement nucléaire, mais géographique.

Quand vous possédez le détroit d'Hormuz, c'est comme si vous aviez l'arme nucléaire. Vous pouvez étrangler l'économie mondiale quand et comme vous le souhaitez. Et vous le faites. C'est ce que font les Iraniens. Asymétrie au niveau des dirigeants, lorsque ceux-ci sont vivants, puisque les Israéliens et les Américains se sont employés à tuer les dirigeants iraniens.

Oui, mais qui se renouvellent.

Qui se renouvellent, avec d'un côté des Iraniens qui travaillent dans la longue durée, qui ont conscience que l'histoire de leur pays est ancienne, et un dirigeant américain qui est aux commandes, mais qui est comme un enfant de 6 ans qu'on mettrait au volant d'un 30 tonnes. Ce sont des asymétries basiques qu'on ne retrouve pas dans la guerre d'Ukraine.

Mais par contre, là où il y a communalité, c'est dans le fait que des pays qu'on ne mettrait pas normalement au pinacle de la puissance, le pinacle de la puissance, on parle des Etats-Unis, on peut parler de la Chine, qui en matière d'intelligence artificielle n'est pas exactement un bras cassé, et on se posait toujours la question « mais comment est-ce qu'on va faire, nous poursuivre, et ainsi de suite ? » Ce qui est une vraie question par ailleurs. Mais le fait est que les pays qui ont fait la révolution des drones, ce n'est pas les Etats-Unis, ce n'est pas la Chine, c'est Israël, l'Iran, la Turquie, et puis ensuite l'Ukraine.

Le premier usage des drones un peu significatif s'est fait en Israël pendant les années 80-90-2000. Le premier usage stratégique convaincant, ce sont les Iraniens qui l'ont fait en 2019, lorsqu'ils ont attaqué les puits pétroliers d'Arabie saoudite, ou avec une collection d'une vingtaine de drones et de missiles de croisière qui ont dû coûter au maximum un million de dollars au global, ils ont éliminé pour des dizaines de milliards de valeurs du côté saoudien dont la production de pétrole avait été réduite de moitié pendant 15 jours.

Et là, Donald Trump, qui était au pouvoir, premier mandat, n'a pas réagi.

Il avait dit « débrouillez-vous ». Comme il est en train de dire aujourd'hui aux Israéliens, il vient d'affirmer que les Israéliens s'arrêteront de faire la guerre contre l'Iran quand je leur dirai d'arrêter. Ce qu'il a fait en juin,

en juin dernier.

Ce qu'il a donc dit et renforcé. Mais c'est une façon de rappeler que dans la guerre, ce ne sont pas forcément ceux que l'on attend au tournant qui se présentent. Ceux qui se sont présentés, ce sont des pays qui n'avaient pas des armées, j'allais dire, traditionnelles, très importantes ou très convaincantes. L'armée iranienne...

Enfin, la Russie, on disait, la deuxième armée la plus puissante du monde.

Justement. Faute de casting. Ils se sont trouvés face à des gens qui fonctionnaient à partir d'autres principes d'opération. Les Ukrainiens avaient compris qu'il fallait mettre l'accent sur la technologie des drones qu'ils avaient largement apprise auprès des Turcs qui avaient déjà gagné en partie leurs opérations en Syrie et avaient aidé l'Azerbaïdjan à battre l'Arménie. Tout ça, c'est fait en fonction d'expériences réelles. On n'est pas du tout dans un domaine académique. Les Ukrainiens ont acheté leur premier drone un peu puissant auprès des Turcs avant l'invasion russe.

Les Russes, dont on sous-estime toujours la capacité d'adaptation dans les guerres, Napoléon et Hitler en ont fait les frères en leur temps, les Russes ont appris la leçon et se sont mis à jouer le même jeu que le jeu ukrainien. Et là, on est loin des Etats-Unis et de la Chine. Les Etats-Unis sont présents dans le cadre de l'Ukraine à travers un biais principalement aujourd'hui, c'est la diffusion du renseignement. Bien sûr. On n'est pas dans la participation directe des US à la guerre.

C'est d'ailleurs évidemment ce que Volodymyr Zelensky regrette depuis un peu plus de quatre ans maintenant, lors de Russie-Rochegonde. On voit précisément ces temps-ci les Etats-Unis qui diffusent, et ça fait aussi partie de la guerre plus que jamais, des images de puissances militaires spectaculaires avec ces derniers jours le déploiement de bateaux-robots, enfin des barges en fait, comme pour indiquer la préparation d'un débarquement au sol.

Vous qui étudiez de près ces différents paliers technologiques depuis effectivement Starlink, le rôle du système de satellites qui sont à basse orbite d'Elon Musk, dès le démarrage de la guerre en Ukraine jusqu'à ces nouveaux ces nouveaux vous avez presque de jouets encore une fois de jeux vidéo, comment voyez-vous cette progression ? Est-ce qu'il y a encore une fois des paliers ou est-ce que c'est un phénomène en fait d'accélération ?

Ce qui est intéressant à mon avis c'est qu'il y a effectivement un phénomène d'accélération qui est lié tout simplement au retour d'expérience dont bénéficient les différents acteurs qui produisent ces technologies et c'est vrai qu'on voit finalement un développement technologique fulgurant depuis le début de la guerre en Ukraine parce qu'avant le début de la guerre en Ukraine on avait un certain nombre d'acteurs qui étaient plutôt prometteurs du point de vue de l'intelligence artificielle militaire mais comme il n'y avait pas de véritable expérience opérationnelle c'était difficile de savoir ce dont ils étaient réellement capables à partir de 2020 il y a eu des acteurs en particulier des grands acteurs technologiques américains qui se sont trouvés sur le champ de bataille ukrainien à accompagner Volodymyr Zelensky à l'escarpe par exemple qui est le patron de Palantir est arrivé en Ukraine dès juin 2022 donc très tôt dans le conflit pour proposer ses services à la résistance ukrainienne il faut rappeler pardon

je vous interromps il faut rappeler ce qu'est Palantir qui est en fait le plus gros et le plus avancé technologiquement des géants de la tech pour tout ce qui concerne ces usages multiples

pour tout ce qui concerne effectivement l'édition de logiciels qui permettent de traiter de la donnée et Palantir c'est une entreprise qui est très intimement liée au département de la défense américain qui a bénéficié de financements de In-Q-Tel qui est le fonds d'investissement de la CIA toujours est-il que Palantir est devenu aujourd'hui le champion du traitement de données dans tout un tas de secteurs on parle beaucoup de ses utilisations par les acteurs de la sécurité et de la défense mais en réalité il y a d'autres types d'acteurs qui ont recours à leurs outils également y compris d'ailleurs

le gouvernement français Stellantis et Stellantis

et Airbus et enfin vraiment aussi des boîtes d'assurance on trouve les outils de Palantir dans des entreprises et dans des organisations très variées et donc ce qui est important de dire pour en revenir au sujet de la guerre c'est qu'au moment où les entreprises technologiques se sont mises à accompagner les combattants ukrainiens elles ont pu améliorer leurs outils notamment parce que ce qui manquait jusque là c'était la donnée opérationnelle c'est à dire qu'on avait des prototypes des démonstrateurs technologiques mais qui n'avaient pas été utilisés en situation de combat en vrai exactement et à partir du moment où ces systèmes ont été combat proven en mauvais français et bien ils ont pu considérablement progresser et dans le même temps ça a aussi été un argument commercial puisque évidemment de pouvoir dire qu'un système a été expérimenté en Ukraine ça le rend très attractif aux yeux d'éventuels acquéreurs militaires et là aussi c'est une sorte de cercle vertueux dans un contexte évidemment malheureux mais où plus on utilise ces outils plus ils se perfectionnent et donc plus ils deviennent performants et donc indispensables et c'est ce qu'on a vu

lors en particulier dans la guerre menée par Israël à Gaza après le 7 octobre où là véritablement les outils de localisation les outils de reconnaissance faciale ont été utilisés à plein

tout à fait ce qui est particulier avec le cas de l'utilisation d'outils d'intelligence artificielle à Gaza c'est que c'était associé à un système de surveillance de masse qui préexistait finalement aux attaques du 7 octobre ça faisait un temps certain que Tzal avait d'une certaine manière cartographié les habitants de la bande de Gaza leur avait attribué une note de sécurité en fonction de la probabilité qu'ils soient des combattants du Hamas ou du djihad islamique et à partir de ce travail préalable il a été beaucoup plus facile d'utiliser des techniques d'intelligence artificielle pour traiter toutes ces données et aider notamment le ciblage et donc ça a été la partie qui a été révélée en particulier par Yuval Abraham qui est un journaliste du média d'investigation plus 972 et ces révélations ont montré que l'intelligence artificielle avait été utilisée de manière extrêmement variée mais en particulier pour faire du ciblage à la fois de bâtiments et de tunnels puisque c'était aussi un sujet très important dans le contexte post-7 octobre et aussi pour faire du ciblage d'individus faisant partie d'une branche armée soit du Hamas soit du djihad islamique c'est assez intéressant de constater que là aussi finalement l'amélioration quantitative même si c'est un peu macabre de le décrire comme ça mais du ciblage est considérable parce que ce qui a été communiqué par l'organe éditorial de Tsaal c'est que avant le recours à ce type d'outils ils étaient capables d'identifier une cinquantaine de cibles par an dans la bande de Gaza et à partir du moment où ils se sont mis à utiliser ces outils ils ont pu en identifier une centaine par jour donc on voit que c'est absolument incomparable et ça montre cette démultiplication des capacités de ciblage et ensuite des capacités de frappe

Général Palomero pour le militaire professionnel et vous l'avez été longtemps et de façon remarquable comment aménager à la fois la notion de décision je crois qu'il y a une boucle qui dans votre jargon s'intitule ODA orientation décision action est-ce que on a le sentiment bien évidemment que cette boucle est de plus en plus rétrécie et qu'en fait le moment de la décision est de plus en plus abrégé et est-ce qu'il existe encore à partir du moment où l'intelligence artificielle est enclenchée en quelque sorte c'est un sujet clé pour pour les décideurs militaires alors certains ne s'embarrassent pas trop de philosophie si je puis m'exprimer ainsi et appliquent effectivement des algorithmes pour faire de ce qui a été évoqué à l'instant pour faire du ciblage c'est extrêmement important parce que on est juste à un moment clé en la matière comme vous le disiez il y a cette fameuse boucle en fait il y a observer orienter décider agir qui est une boucle logique c'est-à-dire on prend l'avantage c'est un avantage cognitif aussi on parle aussi beaucoup de guerre cognitive aujourd'hui et c'est ce qu'amène quelque part ces moteurs ces algorithmes mais il faut qu'on soit extrêmement prudent et comme vous le disiez j'ai été confronté à ces sujets là en Bosnie et sur d'autres en Libye et d'autres théâtres sur la responsabilité où se situe la responsabilité de décréter la mort de décréter l'usage de la violence et dans quelles conditions et à force de vouloir accélérer cette boucle on risque de perdre cette lucidité cette éthique et de perdre un petit peu le sens même de l'action militaire qui doit répondre d'abord à une vision politique et qui doit s'inscrire malgré tout dans un cadre qu'on appelle comme on veut les règles de la guerre si tant est qu'elles soient encore appliquées quelque part mais pour nous je crois que ça correspond à des valeurs donc oui l'intelligence artificielle elle est très clairement parce que vous le direz mieux que moi mais l'intelligence artificielle c'est un mot très galvaudé c'est générique il faudrait être beaucoup et j'espère qu'on le deviendra beaucoup plus spécifique pour expliquer de quoi il s'agit aujourd'hui elle est très utile dans les systèmes d'armes eux-mêmes parce que ça leur permet d'être plus autonome je me souviens d'un temps où on achetait des drones et qu'on ne voulait pas monter d'armement dessus on a passé heureusement ce cap-là et ça veut dire qu'en particulier on avait pris beaucoup de retard on avait pris un retard phénoménal on était sous une contrainte il y a des tas de raisons mais ce que j'ai retenu surtout c'est que la contrainte la contrainte financière la contrainte budgétaire appauvrit le débat alors qu'au contraire si on regarde ce qui se passe en Ukraine ça doit l'enrichir la technologie aujourd'hui au sens le plus large elle a un pouvoir égalisateur et il ne faut pas à ce moment-là qu'on s'en prive y compris dans des pays avancés comme la France bien au contraire ou comme l'Europe mais l'intelligence artificielle qu'elle soit appliquée au système d'armes c'est vraiment une plus-value et c'est d'ailleurs le ministre de la défense ukrainien qui est un jeune je crois qu'il a 35 ans qui a tout compris il sait que si on rend les systèmes d'armes beaucoup plus efficients on gagne des vies humaines son objectif à lui c'est de sauver des vies humaines on sait ce que c'est que le front ukrainien aujourd'hui c'est un front qui fait des morts c'est un front de 40 kilomètres où il n'y a plus un homme c'est le no man's land parce que les drones répondent aux drones les mines répondent aux mines etc donc regardons bien je crois que l'Ukraine est un excellent révélateur de tout ça mais ne perdons pas de vue qu'à un moment donné il y a un homme et très honnêtement et même une femme enfin oui oui bien sûr pas aux Etats-Unis pas dans l'armée américaine franchement les femmes sont plaisantes à moitié mais vous comprendrez je suis assez dubitatif sur la méthode employée quand même à Gaza je le dis très ouvertement pour qu'il n'y ait aucune ambiguïté j'ai une grande admiration pour l'armée de l'air israélienne j'ai une grande admiration pour ce pays mais n'allons pas n'allons pas trop loin si on ne sait pas jusqu'où on veut aller c'est en gros c'est pour ça qu'il faut un travail je terminerai par là pour ne pas être trop long entre l'ensemble des acteurs qui aujourd'hui sont capables de générer des algorithmes et qui ont une puissance d'algorithmique extraordinaire et ceux qui ont à les utiliser et en particulier ceux qui ont le pouvoir de décision mais ne transférons pas ce pouvoir de décision à des systèmes qui de toute façon ne pourront pas refléter la réalité de ce que perçoit aujourd'hui un homme par rapport aux objectifs qui lui sont fixés la déshumanisation de la guerre c'est pas ce qui se passe en Ukraine la robotisation et la déshumanisation c'est pas la même chose la robotisation la contrôle on met ce qu'on veut et surtout on l'optimise pour justement sauver des vies humaines si on regarde bien ce que fait l'Ukraine aujourd'hui elle cible c'est assez extraordinaire elle n'a pas lancé une attaque massive contre la Russie non mais c'est ce que fait la Russie qui avant-hier a encore inondé la zone de Kiev de drones et de missiles la précision c'est vraiment un facteur majeur et l'intelligence artificielle amène justement on avait déjà des systèmes algorithmiques mais aujourd'hui ils sont très puissants encore faut-il savoir ce qu'on veut en faire donc prudence mais audace audace on est en train de revoir une loi de programmation militaire en France il faut avoir l'audace de remettre en quelque sorte à plat un certain nombre de visions capacitaires qu'on a développées au fin du temps et j'ai pris ma responsabilité là-dedans mais c'est sûr que la guerre change de camp et il y a cette idée d'efficience efficacité mais économie de la guerre aussi on ne peut pas mener une guerre comme mène aujourd'hui ni Israël ni les Etats-Unis c'est très bien on n'aura jamais cette capacité à générer autant d'armements il y a peut-être une autre manière de la mener cette guerre-là on verra l'histoire on nous la prendra mais en tout cas on est à un moment critique sur l'emploi de l'intelligence artificielle dans les cercles et dans les boucles de commandement précisément Isabelle Rille ce moment critique est-ce qu'il n'est pas déjà dépassé à partir du moment où l'automatisation qu'engendre l'intelligence artificielle pour simplifier elle existe des deux côtés donc si l'adversaire ou l'ennemi comme dirait Donald Trump il n'a pas d'adversaire il n'a que des ennemis si l'ennemi attaque de façon automatisée vous n'avez pas d'autre choix que de faire pareil et donc là cette fuite en avant que le général Palomero vient de décrire avec précaution elle est inéluctable alors je ne sais pas si elle est inéluctable mais effectivement c'est le problème de l'escalade après il faut différencier les différents niveaux donc effectivement comme ça vient d'être dit il y a plusieurs types d'intelligence artificielle il y a l'intelligence artificielle et l'intelligence artificielle qui sert à la décision quand vous utilisez de l'intelligence artificielle pour améliorer la capacité que vous avez à observer à distance via des satellites c'est très intéressant c'est très efficace mais ça n'est pas une prise de décision c'est bien amener à un humain de meilleures informations mieux traitées mieux présentées plus précises pour qu'il prenne sa décision là où on entre dans le débat que vous évoquez c'est quand on prend quand on a une arme qui devient autonome ou qu'on a une aide à la décision au plus haut niveau c'est-à-dire qu'on aurait un algorithme qui conseillerait au commandant d'une force ou d'une autre tiens tu devrais attaquer là voilà mais c'est ce que dénoncent un certain nombre d'enquêteurs dans le cas de la guerre contre l'Iran dans le ciblage de ce qui sait trouver être une école de filles dès les premiers jours de la guerre avec 175 victimes et donc un ciblage qui aurait été automatisé en quelque sorte à partir d'algorithmes ça c'est je pense le point où on ne veut pas aller en tous les cas où un certain nombre de gens en France en Europe ne veulent pas aller c'est-à-dire remplacer cette décision ultime le choix d'attaquer le choix par une machine là et ça je ne suis pas convaincue qu'on soit obligé d'entrer dans l'escalade non mais enfin là c'est la réalité de la guerre oui mais on peut on n'est pas obligé d'y répondre là où je pense qu'on peut ne pas se faire entraîner là-dedans c'est un niveau beaucoup plus bas c'est quand vous êtes vraiment au niveau de l'opérateur qui se voit face à un essai de drone et là l'humain n'a pas la même capacité de réaction mais on n'est pas dans la décision du chef d'état-major qui va attaquer il y a plusieurs niveaux on est dans le chou et est-ce que ce n'est pas encore plus grave d'une certaine manière donc on peut imaginer qu'il y a un homme ou une femme jeune qui est face à une console j'invente franchement honnêtement évidemment je n'y connais pas grand chose il est face à une console il voit une myriade de drones qui se précipitent vers une cible amie et donc qu'est-ce qu'il fait il déclenche la riposte alors général Palomero pardon on se lance dans un jeu François François Hezbourg pardon

d'abord moi je rejoins tout à fait ce qu'a dit général Palomero sur Gaza l'intelligence artificielle ne suffit pas à rendre le décideur intelligent ça peut l'aider à devenir plus intelligent mais ça ne remplace pas son intelligence ou son absence d'intelligence et bien entendu ce que Gaza rappelle aussi c'est que si l'intelligence artificielle a joué un rôle dans les combats ce qui a quand même joué le rôle primordial dans dans cette guerre ça a été le caractère du champ de bataille en zone urbaine des milieux non transparents utiliser l'intelligence artificielle pour repérer des tunnels qui sont à 70 mètres sous le sol c'est peut-être faisable dans un cadre universitaire ce n'est pas faisable dans le monde réel et donc là

l'utilisation de l'intelligence artificielle a été à la fois utile et légitime

elle est utile elle peut être légitime mais elle ne donne pas son intelligence ou son absence d'intelligence au combat que l'on conduit et on a retrouvé ça dans la guerre d'Iran où le fait d'avoir la capacité que donne l'intelligence artificielle et du renseignement d'excellente qualité de cibler des individus dispersés ça a été remarquable la décapitation pour employer le mot qu'utilise Trump la décapitation du régime iranien était quelque chose qui témoignait de la qualité du renseignement de la qualité de l'intelligence artificielle mais est-ce que c'était intelligent le résultat c'est que quand il faut discuter le moment venu avec un adversaire qui est en train de gagner puisque l'Iran pour l'instant est en train de gagner il n'est pas en train de perdre il a le pied sur l'artère jugulaire du monde avec les détroits d'Hormuz quand il s'agit de discuter est-ce que vous préférez discuter avec un abominable intelligent qui connaît qui sait comment fonctionne le monde comme l'était l'Arijani par exemple l'ancien chef iranien ou est-ce que vous préférez avoir à négocier avec des types qui ne sont que des tortionnaires comme les gens qui ont été désignés pour le remplacer la réponse est non ce n'était pas intelligent de détruire rien n'est plus

subjectif que l'intelligence

là pour le coup c'est totalement objectif lorsque pour utiliser encore les mots de monsieur Trump qui est le chef de la guerre du côté américain on ne parle pas de subjectivité là on parle de l'objectivité qu'est le fait que monsieur Trump est en charge de la guerre il a dit c'était peut-être un peu idiot parce qu'on ne sait plus avec qui on peut parler comme il a raison il aurait peut-être mieux fait d'y réfléchir un tout petit peu avant mais l'intelligence artificielle ne vous donne pas cette garantie là j'ajoute deux choses à ce qui a été dit l'Ukraine retour d'expérience Palantir a fait proprement son travail si je puis dire d'aller voir très vite ce qui se passait sur le terrain le fait que les pays membres de l'OTAN dont la France a dit dès le départ dès le début de la guerre même juste avant la guerre qu'il n'était pas question d'envoyer des militaires de nos pays ne serait-ce que pour voir je ne parle pas des combattants je parle des militaires pour voir ça a considérablement gêner l'exploitation du retour d'expérience par nos armées et ça je le constate dans mes propres discussions avec les responsables militaires ici on a vraiment souffert de notre incapacité à jouer dans les interstices comme ont su le faire les américains ou les britanniques pour apprendre il faut avoir des gens qui sont en mesure d'apprendre qui sont sur place la deuxième chose c'est que l'intelligence artificielle c'est une chose l'intelligence des organisations en est une autre les ukrainiens ont su combiner les deux parce que qu'est-ce qui se passe du côté ukrainien c'est pas simplement qu'effectivement vous avez une boucle Houda comme on appelle comme on a dit tout à l'heure très rétrécie et les ukrainiens utilisent ça à fond il faut aussi avoir des formes d'organisation qui vous permettent d'adapter constamment de mettre à jour constamment les armes que vous utilisez il faut être capable de changer un modèle de drone la logique de fonctionnement d'un drone tous les trois ou quatre semaines alors qu'en France on n'a pas été foutu de développer un drone national un tant soit peu conséquent en l'espace de 20 ans oui mais on n'a pas eu

fort heureusement la pression de la guerre

non certes certes mais au départ les pays qui ont développé les drones n'avaient pas forcément la pression de la guerre non plus ils avaient tout simplement analysé le fait qui risquaient d'y avoir une guerre en France comme dans d'autres pays européens on est resté sur des formes d'organisation qui correspondent aux armées d'hier on est comme les russes on était comme étaient les russes en 2022 on a tout à apprendre et je ne souhaite vraiment pas qu'on ait effectivement à passer par la case ukraine pour apprendre au moins essayons d'apprendre à partir de ce que les ukrainiens eux ont à la dure su apprendre on est très très en retard non pas technologiquement mais organisationnellement

lors de russes roche-gonde sur la façon dont le contrôle de la décision de l'action mais aussi le contrôle politique peuvent intervenir en plein conflit est-ce qu'il y a des leçons qu'une experte comme vous peut déjà tirer des conflits en cours

alors tout à fait et d'abord pour compléter sur ce qui a été dit sur effectivement cette opération de décapitation du régime iranien qui est on peut le dire impressionnante puisque 14 des 15 plus hautes autorités iraniennes ont été éliminées mais à mon sens il y a quand même une forme de biais qui a été peut-être pas permis mais en tous les cas accompagné par l'intelligence artificielle qui a consisté à penser que ça suffirait à ce que le régime iranien s'effondre or on l'a vu le régime iranien ne s'est pas effondré et je pense que c'est assez parlant pour voir le type de mauvaises interprétations qui peuvent être faites lorsqu'on utilise l'intelligence artificielle pour faire de la planification stratégique mais là

l'intelligence artificielle elle a été utilisée enfin et surtout de façon remarquable par le Mossad et c'était déjà pour décapiter le Hezbollah qui est néanmoins encore capable avec les gardiens de la révolution à la tête puisqu'ils sont eux-mêmes à Beyrouth encore capable de lancer des missiles sur Israël et aussi lors les outils les outils qui ont donc au Yémen qui eux sont en mesure d'encombrer sinon de bloquer un autre des trois à Babel Mandel qui est l'entrée Mer Rouge et c'est là

où je veux en venir c'est qu'en fait c'est transposer ce qui serait l'effondrement d'un régime occidental parce que si on élimine 14 des 15 plus hautes autorités américaines ou israéliennes effectivement là on peut craindre une forme d'effondrement ce n'est pas la manière dont fonctionnent les adversaires qui ont été ciblés donc ça c'est déjà une forme de biais ensuite pour revenir à la question finalement du contrôle humain et de la déshumanisation pardon parce qu'à mon avis ça va ensemble d'abord pour ce qui est du contrôle humain je pense que il ne faut pas voir de manière dichotomique la question de l'autonomie des systèmes d'armes et la question de l'aide à la décision parce que déjà quand on est dans l'aide à la décision on a des problèmes éthiques qui se posent puisque l'expérience qui a été tirée en particulier là encore des frappes contre Gaza c'est que le temps laissé aux opérateurs pour en réalité enteriner la proposition des systèmes était extrêmement court de l'ordre d'une vingtaine de secondes par ailleurs ces opérateurs étaient plongés dans un déluge de données donc ils n'avaient pas la compréhension réelle ni de ce qui avait permis la recommandation ni de ce qu'il y avait d'incriminant dans les données qui avaient été analysées et qui permettaient de justifier une élimination et donc on voit que le discernement humain ne peut pas être exercé dans ces conditions-là et dès lors que le discernement humain ne peut pas être exercé on a effectivement une question de responsabilité alors une responsabilité juridique bien sûr parce que c'est extrêmement difficile et d'ailleurs aujourd'hui il n'y a pas de consensus parmi les juristes pour dire comment est-ce qu'on pourrait établir les responsabilités dans ce genre de contexte mais aussi une responsabilité morale parce que dès lors que finalement on est juste en train d'exercer une forme de droit de veto et que par ailleurs on ne voit pas réellement les effets de sa frappe et bien on a une distanciation naturelle qui se crée c'est un peu le corollaire de l'expérience de Milgram quand on est à distance et qu'on ne voit pas celui qu'on fait souffrir souffrir on a tendance à le faire davantage souffrir et là où on en revient à la question de la déshumanisation c'est que en utilisant des moyens de combat déshumanisés puisque donc c'est même plus des drones où il y a quand même un pilote qui a voilà une vision par caméra là c'est une déshumanisation qui va plus loin puisqu'on peut imaginer non seulement un ciblage alimenté par intelligence artificielle et ensuite des frappes qui seraient menées par des drones qui auraient un certain niveau d'autonomie et en fait ce qui est intéressant c'est de relier ça dans le cas du conflit contre Gaza aux déclarations politiques qui ont pu être faites notamment par Yoav Galant qui avait parlé des animaux humains pour parler des palestiniens et donc en fait quand on déshumanise son adversaire ou son ennemi à ce point et bien c'est plus si grave d'être d'utiliser des moyens déshumanisés pour les éliminer ensuite et c'est pour ça que je rejoins tout à fait ce qui a été dit par le général Palomero et je retiens cette formule de ne pas aller trop loin si on ne sait pas jusqu'où on veut aller je pense que Gaza devrait être le contre-exemple de la manière d'utiliser l'intelligence artificielle en tous les cas pour les armées françaises qui sont encore attachées à une certaine retenue dans l'usage de la force à un certain nombre de principes de valeurs morales qui font partie non seulement de notre identité en tant que démocratie libérale mais aussi je pense de notre puissance en termes d'existence dans le système international

Isabelle Rille cette idée de barrière éthique dans l'utilisation de l'intelligence artificielle dans un contexte qui n'est pas celui de la guerre mais qui est celui du Patagone on a vu le conflit entre Anthropik qui est donc l'un des big tech qui a développé en particulier Claude et ce ministre qui veut désespérément se faire appeler ministre de la guerre excète qui considère que l'intelligence artificielle doit être au coeur de la guerre quelles qu'en soient les conséquences et le patron d'Anthropik a dit dans ce cas là moi je refuse que mes logiciels soient utilisés en fait des logiciels de reconnaissance faciale soient utilisés dans certains contextes est-ce que c'est déjà un combat d'arrière-garde parce qu'on a vu qu'Anthropik a quand même besoin des contrats du Pentagone ou est-ce que c'est un début en fait d'édification de barrières morales dans l'utilisation de l'intelligence artificielle c'est une question très importante et c'est une question très difficile parce que je fais partie des gens qui sont convaincus qu'il ne faut pas refuser de développer des technologies de maîtriser les technologies simplement parce que dans tous les cas qu'on évoque ici si vous ne maîtrisez pas une technologie que votre adversaire utilise vous ne la connaissez pas vous ne la comprenez pas vous ne pouvez pas la combattre le problème est qu'une fois que vous la possédez quand vous tombez dans un contexte politique ou avec un gouvernement des chefs qui n'ont pas les mêmes barrières c'est très difficile de leur refuser l'accès et donc c'est tout là l'enjeu de réussir à mettre des gardes fous dans les pays comme les nôtres qui souhaitent rester en tant guillemets du bon côté de la barrière mais surtout quand ils veulent rester en dehors de la guerre voilà c'est de de comprendre de savoir maîtriser ces technologies mais de se donner le cadre éthique le cadre de contrôle qui permet de refuser de les utiliser et ça c'est très difficile parce qu'encore une fois on a vu récemment que des pays des démocraties qu'on croyait absolument bien huilées avec des boucles de contrôle etc un peu plus à l'ouest par exemple ont perdu très rapidement tous ces systèmes de rétroaction et de contrôle et donc ça interroge quand même sur comment faire pour qu'on ne tombe pas un jour dans le même type d'engrenage comment faire général Palomero je pense qu'il faut prendre cette guerre cognitive pour ce qu'elle représente c'est à dire à la fois le présent mais surtout sur tout l'avenir la guerre cognitive c'est laisser penser à l'adversaire qu'on fait quelque chose c'est quelque part ne pas être capable d'imaginer le degré de résilience d'une organisation d'un pays là typiquement cette affaire de décapitation magnifique opération tactique mais ce n'est pas un succès stratégique c'est tactique pourquoi ?

parce que l'Iran s'est organisé pour faire repousser les têtes on a oublié que l'Iran s'était décentralisé que ce pays se prépare depuis des décennies avec intelligence à cette résilience contre un système un système très centralisé mais très décentralisé dans l'action donc il faut je crois que dans cette guerre cognitive il faut je vous rejoins totalement sans les compétences sans la connaissance très profonde et même avancée de tous les outils qui contribuent à cette guerre cognitive on ne pourra pas ni la contrer ni en tirer partie pour nous l'exemple de l'école maternelle ça me touche beaucoup parce que moi j'étais responsable du ciblage pendant qu'on a mené des opérations en Bosnie et c'était des sujets et on n'avait pas les outils d'aujourd'hui même si les américains survolaient déjà la Bosnie avec des drones qui envoyaient des images en 1995 ça m'a frappé je peux vous assurer et le problème qu'est-ce qu'il se passe vous avez effectivement une sorte d'école maternelle c'en est une sans doute qui est plantée au milieu d'une base militaire il y a peut-être même un radar à proximité d'après ce qu'on comprend là aussi on ne sait pas tout mais et donc là ça vous pose quand même la question de dire mais comment on peut sélectionner d'une manière générale comment je peux sélectionner le meilleur armement pour atteindre un objectif qui en soi n'est pas stratégique une base de plus une base de moins de commandement de vous savez j'aurais écouté les américains en Bosnie on aurait rasé la moitié de la Bosnie à un moment donné il faut il faut vraiment tirer parti de la capacité qu'on a de vérifier sur place de la pertinence un drone bien piloté et dans la mesure où la coalition a quasiment la maîtrise de l'air à quelque chose près vous avez le temps devant vous vous pouvez réfléchir et pourtant vous pouvez obtenir l'information vous faites passer un drone un Reaper n'importe quoi c'est relativement simple vous dites mais il y a un doute quand même est-ce qu'il y a parce que l'adversaire joue avec ça évidemment qu'il a intérêt à semer la confusion et donc derrière à engranger tout ça dans la guerre informationnelle en disant mais vous voyez bien il faut n'importe quoi mais pardonnez-moi général Palomero on voit bien quelle que soit évidemment l'importance des guerres anciennes on voit bien avec l'Iran la manière dont Israël et les Etats-Unis conduisent cette guerre on n'en est plus là d'une certaine manière on a l'impression François Hezbourg que ce type d'interrogation d'abord personne n'y procède ni l'exprime

l'intelligence artificielle en matière des défenses il faut la regarder un petit peu comme on a comme on a regardé d'autres percées technologiques la tentation est très forte de faire les choses parce qu'on sait les faire et que l'adversaire ne sait pas forcément et ça ça conduit dans l'histoire des guerres à l'ancienne comme dans les guerres modernes à ce qu'on peut appeler des succès catastrophiques un succès catastrophique par exemple c'est l'attaque des japonais contre l'arbre tous les objectifs étaient atteints c'était formidable les japonais étaient les rois du pacifique pendant trois ans

oui c'est ce que Donald Trump avec l'élégance qui le caractérise a rappelé à la première ministre japonaise ah vous nous avez surpris à ce moment là

c'est ce qu'on appelle un succès catastrophique l'intelligence artificielle donne aux décideurs en tout cas américains et israéliens l'illusion qu'il est possible d'obtenir des succès qu'on ne pourrait pas obtenir autrement et c'est ce qui s'est passé avec les frappes des décapitations encore une fois que je considère comme étant stratégiquement alors là pour le coup un succès un succès catastrophique là je voulais revenir sur un point que vous avez eu que madame c'est la maîtrise de la technologie je vous rejoins là dessus il faut savoir maîtriser les technologies en général mais aussi en particulier et en pratique et pas seulement en théorie ça veut dire quoi ça veut dire par exemple que les décideurs comme les effecteurs les militaires doivent jouer des jeux de guerre qui impliquent l'intelligence artificielle où on fait jouer où on fait jouer le rôle de l'adversaire et parfois son propre rôle par une intelligence artificielle ça se fait beaucoup en ce moment où donc on va inviter chat GPT où on va inviter les chinois du jour open source ou autre et là on a souvent des surprises l'intelligence artificielle dans ce que je peux entendre de la part des résultats de certains de ces jeux de guerre l'intelligence artificielle est moins prudente en termes d'escalade que les décideurs humains

oui ça ça on l'imagine c'est presque du bon sens

oui mais on le constate on le constate c'est-à-dire

elle est aussi bonne que ce qu'on lui a appris

exactement c'est elle a appris aussi au passage tous les succès catastrophiques qui ont pu être grattés pendant la phase d'apprentissage du LLM du modèle d'apprentissage de la de la dite intelligence artificielle il faut effectivement savoir maîtriser l'outil et être conscient de ce qu'on peut lui demander raisonnablement de faire ce qu'on peut lui demander raisonnablement de faire ce n'est pas de remplacer j'aime beaucoup le terme qui a été utilisé par l'ordre de Roussy c'est le discernement humain c'est l'humain qui va devoir discerner si ses buts de guerre sont en train d'être atteints ou pas c'est pas la machine qui va le faire

le mot de la fin véritablement et c'est une conclusion extrêmement provisoire d'autant que encore une fois ces guerres continuent en un mot un conseil le conseil que vous donneriez au président américain c'est peut-être d'écouter ceux qui savent c'est d'écouter les limoges le chef d'état-major de l'armée de terre qui vient d'être limogé il pourrait prendre sa retraite peut-être bien écoutez merci mille fois à vous quatre général Palomero vous avez publié un papier sur l'impact de la guerre en Ukraine sur la transformation de l'alliance dans la revue défense nationale Isabelle Rille vous avez co-écrit avec Jamal Latif et Peter Burgess un ouvrage au cavalier bleu réédité l'an dernier géopolitique de l'IA les relations internationales à l'ère de la mise en données du monde François Heisbourg votre très bon livre le suicide de l'Amérique chez Odile Jacob l'an dernier et l'ordre de Roussy-Roche-Gonde vous avez publié au PUF en 2024 la guerre à l'ère de l'intelligence artificielle quand les machines prennent les armes à la réalisation ce matin Luc-Jean Reynaud Alexandre Dang à la technique Théa Corler m'a aidé à préparer cette émission ainsi que Patricia Miura et la documentation de Radio France nous sommes samedi voici les carnets de santé de Marina Carrère d'Ankos joyeux Pâques bon week-end à samedi prochain