Financement, souveraineté, éthique : les enjeux de l'IA dans la défense française

France Culture, les matins d'été, Quentin l'a fait. Le 8 mars dernier, le ministre des armées, Sébastien Lecornu, annonçait la création d'une nouvelle agence ministérielle pour l'IA de défense. L'AMIAD, celle-ci, à terme, a pour but d'aider la France à devenir le leader mondial de l'IA militaire et constituant cela un enjeu de souveraineté décisif. A la tête de cette agence de défense, Bertrand Rondepierre, bonjour. Bonjour Quentin Laffet. Quel âge avez-vous Bertrand Rondepierre ?

Je vais avoir 34 ans.

Comment arrive-t-on à 34 ans à la tête d'une agence si stratégique pour le pays ?

C'est une question que je confesse me poser moi-même parfois. Je pense que ça s'explique grandement par mon parcours. J'ai commencé au ministère des armées, enfin pour la faire courte. Ensuite je suis allé chez Google, donc chez VoltingMind on en parlera probablement. Et quand on fait la somme des compétences et des connaissances qu'il fallait avoir pour un poste comme ça, il me semble que la liste n'était pas si développée que ça. Et accessoirement, quelques antécédents avec le sujet de l'intelligence artificielle pour le ministère ont fait que mon nom était dans la liste.

Vous êtes d'abord un spécialiste de l'intelligence artificielle, bien plus peut-être que de la chose militaire ?

Justement je pense que j'ai un bon équilibre, c'est-à-dire que par mes études j'ai commencé à travailler dans l'IA avant que ça s'appelle l'IA. D'ailleurs, en tout cas avant qu'on en parle dans le grand public comme de l'IA, à l'époque on disait data, big data, ça a évolué. Mais à l'époque c'était déjà un sujet de préoccupation pour la chose militaire, donc en tout cas tous ces parties data. Et c'est devenu l'IA qu'assez récemment, par les études l'intelligence artificielle, mais par le parcours la défense dès mes premières années en fait.

Vous avez mentionné Google, vous y avez travaillé un certain temps, plusieurs années même, qu'est-ce que vous y avez fait ?

Alors j'ai fait pas mal de choses en réalité, tous les 6 mois moi j'aimais bien dire que je changeais de boulot sans changer d'équipe ou de poste de façon très stricte. J'ai commencé quand en 2018 ils ouvraient le labo de Google Brain en France, donc il y avait toute une partie on va dire d'explication, de faire le lien entre Google qui n'est pas une boîte, qui est tournée essentiellement vers les Etats-Unis, donc expliquer un peu les particulières françaises, de la recherche française notamment.

Et au fur et à mesure je me suis tourné de plus en plus vers l'Europe, on a ouvert des bureaux à l'époque à Londres, au Ghana, à Accra, à Berlin, à Amsterdam, donc il y avait tout un enjeu au niveau européen. Et par la suite avec le Covid, la boîte s'est un peu reverticalisée, j'ai travaillé avec les Etats-Unis, essentiellement des projets de recherche et de l'organisation pour faire en sorte que tout ça fonctionne.

Quand on s'intéresse aujourd'hui à l'intelligence artificielle, est-ce qu'il faut travailler à Google ? Est-ce que c'est là que ça se passe si je puis dire ?

Alors c'est une bonne question, je pense que l'époque a changé également, c'est-à-dire que quand je suis parti du ministère en 2018, très clairement le sujet était en train d'émerger, mais moins que ce qu'on a vu ces dernières années bien évidemment. Et on ne va pas se mentir, à l'époque les GAFA c'était l'endroit où on avait les meilleurs chercheurs, on avait les meilleures technologies, les meilleurs moyens pour pouvoir travailler aussi. Et donc la réflexion qu'on pouvait se faire c'était pour apprendre en fait dans ce domaine-là, c'était un endroit assez naturel, chose qui a changé ces dernières années.

Bon, chez Google on imagine, à Google plutôt, on imagine le salaire élevé, les conditions de travail agréables, qu'est-ce qui fait que vous avez choisi de retourner dans le service public français ?

Alors de retourner effectivement, je pense que c'est un point important, c'est-à-dire que ce n'est pas une envie qui m'a prise en sortant de chez Google, c'était un fil dans ma carrière. Et surtout je suis parti chez Google en me disant que les compétences que j'allais acquérir pouvaient être remises au service de la France ou de l'industrie française, européenne plus largement. Donc grosso modo ce retour, il y a deux choses. Donc déjà, le ministre qui se saisit du sujet c'est quand même un signal assez significatif. La volonté d'accélérer, le contexte géopolitique qui est celui que vous connaissez, fait que l'IA en gros c'est maintenant ou jamais d'une certaine manière.

Et c'est vrai que quand vous vous retrouvez dans une situation comme moi, où en plus vous l'avez dit au départ, j'ai 34 ans, on vous dit finalement, on vous donne les clés du camion pour changer les choses pour le ministère des armées. C'est une proposition intéressante et moi c'est ce que je vois aussi, on en parlera probablement d'un point de vue ressources humaines, parce que j'embauche énormément, le sens de la mission, le contexte, le fait de faire de l'IA pour un sujet de souveraineté, pour le militaire, la défense, c'est quelque chose qui résonne et forcément je suis le premier à avoir ce discours et du coup à me la piquer à moi-même.

Aujourd'hui donc Bertrand Rondepierre, vous travaillez pour le ministère de la Défense, est-ce que vous êtes civil ou militaire ? Je suis civil. Est-ce que c'est compliqué d'être un civil dans un environnement militaire ? Est-ce que vous êtes accepté par vos collègues ?

C'est une bonne question, oui je suis accepté, je vous rassure, et justement je pense que c'est un des changements, parce que dans le sein de l'agence on va avoir essentiellement des civils, j'ai quelques militaires que je récupère cette année et les années suivantes, parce qu'on a besoin de faire le lien entre le militaire et le civil justement, et c'est justement tout cet enjeu d'arriver à faire coexister ces deux milieux et l'hybridité d'une certaine façon entre le militaire et le civil, c'est précisément ce qu'on a à construire en matière d'IA, parce que l'IA n'est pas une matière exclusivement militaire, bien au contraire.

Vous êtes donc à la tête de cette agence ministérielle pour l'IA de défense, l'AMIAD, à quoi ça sert l'AMIAD ?

Alors déjà à accélérer, en fait c'est le premier point et le plus important, et je le résume souvent, et qu'il est la mission de l'AMIAD, c'est de mettre de l'IA en production, c'est-à-dire de faire en sorte que nos forces armées, demain, et quand je dis demain c'est de préférence dans les mois qui arrivent, si ce n'est dans les semaines qui arrivent, disposent pour leurs besoins opérationnels d'applications d'IA. Qui leur permettent de faire tout un tas de choses, plus efficacement, meilleur accès à l'information, meilleure interrogation de base de données, renseignement, on pourra en reparler.

Faire en sorte que ces outils soient disponibles pour eux demain, et l'enjeu c'est que dans un ministère, on a beaucoup de complexité, j'aime bien dire qu'on a les mêmes problèmes qu'une entreprise moyenne, qu'une grosse boîte moyenne, parce que le ministère c'est quelques centaines de milliers de personnes, on a les mêmes problèmes que tout le monde, mais en plus compliqué du fait de la chose militaire. Et donc faire de l'IA dans ce contexte, ce n'est pas du tout natif, et c'est justement l'enjeu de l'agence, d'arriver à faire atterrir ça.

Il faut nous expliquer très concrètement à quoi sert l'intelligence artificielle appliquée au domaine de la défense.

Alors, le spectre est extrêmement large, on va prendre quelques exemples, et peut-être pour le dire, ça va de ce qu'on appelle l'organique, c'est-à-dire que, je l'ai dit le ministère, c'est une entreprise commune d'une certaine manière, donc les agents ont les besoins du quotidien que n'importe qui d'autre a, jusqu'à des choses très embarquées, donc par exemple, autodirecteur de missiles, il y a des choses où il y a déjà de l'IA, donc autodirecteur de missiles, c'est ce qui par exemple va faire le guidage terminal, post-tir pour affiner le point d'atterrissage, et en plein milieu, tout ce qui va être en temps réfléchi, le renseignement par exemple, donc ça c'est le spectre.

Peut-être pour donner deux exemples de natures différentes, il y en a un premier qui va être la maintenance, par exemple, on a, ça ne vous est pas échappé, des bateaux, des avions qui ont tous des modes d'emploi, des façons de faire la maintenance qui sont spécifiques et complexes, ce qui fait qu'aujourd'hui, un mécanicien sur le terrain, avoir un assistant qui lui permet d'interroger cette documentation efficacement et de savoir comment il doit réparer telle ou telle panne, ça c'est évidemment un premier cas d'application. Un deuxième qu'on a présenté à Vivatech, c'est ce qu'on a appelé le cas Oreille d'Or, on a, pour ceux qui ont regardé le champ du...

Vivatech a un grand salon des nouvelles technologies.

Tout à fait. Donc Oreille d'Or, on a des experts qui sont, c'est pour ceux qui ont vu le champ du loup, capables de repérer dans le bruit sous-marin, le bruit ambiant, les navires qui se baladent. Et donc le cas Oreille d'Or permet de prendre tout ce son sous-marin qui est perçu par des espèces de grands capteurs qu'on a dans les fonds marins et d'arriver à trouver les signaux d'intérêt, donc les petits morceaux du son qui s'associent à des bateaux et les aider du coup à isoler ces morceaux de signal et à identifier ce qu'ils peuvent potentiellement contenir.

Vous parliez de renseignements. Est-ce que ça permet, c'est vrai, dans ce brouillard de la guerre, c'est une expression récurrente dans le champ militaire, est-ce que ça permet de mieux connaître ce qui se passe concrètement sur le terrain, l'intelligence artificielle ?

Tout à fait. Alors, d'abord un sous-jacent parce que l'intelligence artificielle, c'est beaucoup de données, avant tout. Donc déjà, la donnée permet justement de mieux appréhender ce brouillard de guerre, comme vous le dites. L'intelligence artificielle, c'est qu'elle rajoute en plus, c'est la capacité à prendre toute cette masse de données qui peut venir des différents porteurs, les avions, les bateaux, les capteurs qu'on a sur le sol et prendre tout ça, en fait, pour ne pas avoir l'opérateur qui soit submergé de données, lui permettre non seulement de l'appréhender, de la naviguer, éventuellement de l'interroger.

C'est ça que l'IA permet de faire, mais avec, en sous-jacent, toujours cette donnée.

Pourquoi est-ce que c'est d'abord et avant tout un enjeu de souveraineté, l'IA de défense ?

Déjà, par la nature de l'application. On fait la défense, on fait du militaire, donc la question de la souveraineté se pose de façon assez spécifique, on peut en convenir. En revanche, ce qui fait souvent débat, c'est la nature de la souveraineté. Alors, on ne va pas le refaire ici, je pense que ce n'est pas le sujet. En tout cas, pour la partie qui concerne l'agence, il y a déjà un premier enjeu qui est celui de la compétence. C'est-à-dire que la souveraineté, avant tout, c'est être capable de faire, faire en autonomie, faire tout seul, quand le reste de l'industrie, des autres pays pourraient vous faire défaut. Donc, c'est pour ça que le chantier RH de l'Amiade, il est assez gigantesque.

Ce qu'on fait, on embauche des experts en IA, et c'est cette première composante, en fait, de reprendre une partie de la souveraineté en matière d'IA.

Oui, parce que, pardonnez-moi, je précise une chose, la souveraineté, c'est effectivement être capable de fabriquer nous-mêmes le matériel, les logiciels, les infrastructures. C'est aussi être capable de les faire fonctionner par nous-mêmes.

Exactement. Et si en parlant d'IA, il y a une notion de modèle. On a entendu parler pour certains de modèles de fondation, modèles de langage géant. Ceux-ci, aujourd'hui, sont essentiellement livrés par des entreprises privées. Il y en a françaises, Mistral, françaises, pour ne pas la citer, les GAFA, Google, on en a parlé. Et donc, tout l'enjeu, c'est justement d'être capable de s'approprier ces technologies, de les maîtriser, et à terme, éventuellement, même entraîner nos propres modèles pour la défense, pour les capes d'applications particulières que nous avons.

Je voudrais citer quelqu'un que vous connaissez bien. Vous avez travaillé avec lui. Il s'agit de Cédric Villani dans la revue de défense nationale. Les processeurs sont de conception majoritairement américaine aujourd'hui et produits par des fondeurs, tels que le taïwanais TSMC, en situation de quasi-monopole. La France, aujourd'hui, dans le domaine notamment des infrastructures en intelligence artificielle de défense, n'est pas souveraine ?

Alors, ça dépend effectivement de la notion de souveraineté qu'on y met. Donc, en matière de puces, on ne va pas se mentir, le marché est celui que vous avez décrit. Et donc, forcément, je n'ai pas de baguette magique, je ne peux pas y faire grand-chose. Pour autant, ça ne veut pas dire qu'on n'a pas des solutions européennes, voire françaises, qui sont en train d'émerger. Simplement, c'est un enjeu qui dépasse très largement le sujet de la défense. Et notamment pour tout ce qui va être embarqué. Il y a une entreprise qui s'appelle Calray, en l'occurrence, qui fait des choses assez intéressantes.

Donc, justement, parmi les enjeux de souveraineté de la miade, il y a dans faire atterrir le lien en prod. Également, c'est le parti hardware qui est à prendre en compte. Avec des gros...

Il faut nous expliquer de quoi il s'agit.

Pardon. Le hardware, donc en gros, tout ce qui va être les puces, les ordinateurs qui permettent de faire tourner ces algorithmes. Et donc, du plus gros, on va dire, le central, le supercalculateur que le ministre a annoncé, dont on pourra reparler, et du plus embarqué, sur un missile, des petites puces qui permettent de mettre des petits modèles d'IA, qui permettent de faire le travail sur le terrain.

Lorsque vous dites aujourd'hui que vous voulez faire de la France le numéro 1 en Europe de l'intelligence artificielle militaire, qu'est-ce que ça veut dire être numéro 1 dans ce domaine, concrètement ? Comment on mesure le fait d'être sur la première marche du podium ?

C'est une excellente question. J'avoue que je ne me l'étais pas posé en termes de métrique, mais effectivement, déjà, il y a deux métriques assez évidentes. Il y a les RH et les finances. En matière de RH, la miade, c'est 300 personnes d'ici 2026. Et puis, en plus, c'est des domaines sur lesquels...

On peut dépenser beaucoup d'argent et mettre beaucoup de monde et être tout à fait inefficace.

C'est tout à fait vrai. La nature du recrutement sur les 300 personnes, en gros, c'est des experts en IA pour au moins 75%. On reste une administration, donc on a forcément besoin de fonctions support, faire en sorte qu'on puisse acheter et vivre au quotidien. Mais l'idée, l'ambition, c'est bien de maintenir essentiellement une population d'experts. Et donc, effectivement, ça ne garantit pas l'efficacité, mais déjà, ça garantit qu'on a la matière pour travailler, ce qui est une première chose. Ensuite, du point de vue finance, le ministre l'a dit, 300 millions d'euros par an. Alors, je vous rassure, pardon, ce n'est pas mon budget annuel.

En revanche, c'est l'effort qui est consenti par un ministère dans son ensemble, sur les différents programmes, programmes d'armement, les programmes internes à la miade et beaucoup plus largement, en matière d'IA et sur les projets qui touchent à l'IA. Et donc ça, c'est des métriques sur lesquelles on est capable d'objectiver un petit peu, même si la compétition, c'est des sujets confidentiels, la compétition est toujours difficile à évaluer parfaitement.

Je cite votre ministre Sébastien Lecornu dans les échos le 8 mars dernier. Soit on prend date tout de suite à propos de l'intelligence artificielle de défense, soit on décroche. Pourquoi on pourrait décrocher ?

Parce qu'on voit bien qu'il y a une accélération depuis 2022 et un petit peu avant, Tchat, GPT et compagnie. Ce n'est pas qu'une question de défense. Si je reviens même à l'industrie civile, c'est quelque chose que j'ai vécu quand j'étais chez Google, le décrochage, l'accélération. Je l'ai vécu au tout premier plan et de voir une matière sur laquelle Google était pourtant en pointe, pas quasiment lui échapper, mais en tout cas voir qu'il y avait vraiment une accélération de l'ensemble. Donc évidemment, du point de vue défense, on l'a ressenti également. Et on l'a ressenti, comme je le disais, dans un domaine où tout est compliqué.

Parce que la sécurité, les opérations, tout ça fait que l'IA n'est pas un objet qui s'insère nativement dans le système de défense. Donc décrocher, ça voudrait dire une technologie des applications qui commence à être beaucoup trop loin dans le civil et pour lesquelles on n'est plus capable de suivre le rythme. Et donc c'est effectivement ça que le ministre voulait dire et c'est le sens de la stratégie qu'il a mis en place.

Est-ce qu'il y a un paradoxe selon vous Bertrand Rondepierre à vouloir cheminer de plus en plus vers la souveraineté nationale, vers la souveraineté du pays et dans le même temps de confier le développement de cette IA Défense à des petites entreprises, à des start-up, comme on dit, des jeunes pousses qui aujourd'hui innovent principalement dans ce domaine ?

Non, au contraire, je pense que c'est justement l'enjeu qui se pose. C'est-à-dire qu'aujourd'hui, on est sur un modèle en fait où on a des grands maîtres d'hommes industriels qui font des bateaux, des sous-marins, des systèmes d'information, tout ce que vous voulez. Et il faut prendre acte du fait que les entreprises en matière d'IA ne sont pas les entreprises habituelles du monde de la défense. Et donc tout l'enjeu pour l'AMIA, et pour le ministère plus largement, c'est justement d'arriver à travailler avec ces entreprises plus petites, start-up, PME, et de les prendre pour ce qu'elles sont.

On ne peut pas attendre d'une start-up qu'elle conduise son business comme un géant comme Thales, Naval Group, KNDS, ce qui vous voulez. Et donc c'est justement cette spécificité qu'il faut prendre en compte et arriver à construire, c'est l'ambition, une façon de travailler avec elles qui permette de les utiliser pour leurs compétences parce qu'elles sont en pointe sur ces sujets-là, et en même temps sans les assommer de processus comme le ministère peut le faire avec des maîtres d'oeuvre qui ont les reins plus solides et qui sont aptes à supporter cette charge.

Et dans le même temps, est-ce qu'il n'y a pas un risque que ces petites entreprises soient rachetées un jour par des, allez, utiliser un grand mot, des puissances étrangères ?

Alors c'est un sujet qui me dépasse très largement. Je n'ai pas de véhicule d'investissement. Mais de BPI France, France 2030, tout ce que vous voulez. Évidemment que c'est des sujets que nous on regarde et qui nous concernent parce qu'on a besoin de savoir ce qui peut se passer. Mais justement, dans cette nouvelle façon de travailler avec ces entreprises, il y a ce que j'appellerais une relation transactionnelle. C'est-à-dire finalement, ils ont un produit, je l'achète, merci, bonjour, au revoir.

C'est une façon de travailler ce qui fait qu'au-delà de la question de souveraineté qui se pose évidemment, mais qui n'est pas dans mes mains, ça fait qu'on sait vivre dans le cas où ces entreprises passent sous fonds, capitaux, contrôles étrangers, tout ce qu'on veut. Après, ce que c'est souhaitable, c'est autre chose et on met des moyens en place, y compris côté défense, pour s'assurer que les pépites avec lesquelles on travaille, en tout cas, aient les moyens de rester en France.

Vous nous avez parlé du supercalculateur. Il faut nous expliquer de quoi il s'agit concrètement, à quoi il sert.

Alors, un supercalculateur, c'est un gros mot pour dire un énorme ordinateur. Aujourd'hui, pour faire de l'IA, il faut ce qu'on appelle des GPU, donc le Graphico, le Processes Unite. En gros, c'est des cartes dans lesquelles on a plein de petits processeurs qui font beaucoup d'opérations en parallèle. L'IA, si on prend le terme mathématique, ça fait de la multiplication matricielle. Donc, en gros, on a des gros tableaux de nombre qu'on multiplie avec d'autres gros tableaux de nombre. Aujourd'hui, l'IA utilise ses GPU parce que c'est la puce la plus efficace pour faire ce genre d'opérations.

Ce qu'on a dans les ordinateurs classiques, les CPU, ne sont pas du tout adaptés à ces nouvelles opérations. Donc, un supercalculateur, c'est quoi ? C'est une machine dans laquelle on a beaucoup de ces cartes. Plusieurs centaines, plusieurs milliers, parfois plusieurs dizaines de milliers. Et c'est ça qu'on fait l'acquisition pour l'AMIAD, pour les cas d'usage de défense où on a besoin à la fois d'entraîner et de faire tourner ces algorithmes.

On va poursuivre cette discussion avec vous, Bertrand Rondepierre, à partir de 8h20, on va parler notamment d'éthique et des conflits contemporains. Ce sera dans une trentaine de minutes, un petit peu moins. 7h-9h, les matins d'été. Quentin l'a fait. Suite de notre discussion avec Bertrand Rondepierre, il est le tout nouveau directeur de la toute nouvelle agence ministérielle pour l'intelligence artificielle de défense. Et vous nous avez expliqué, Bertrand Rondepierre, dans une première partie, que cette intelligence appliquée, intelligence artificielle appliquée à la défense, permettait de mieux informer, de mieux réparer. Est-ce qu'elles permettent aussi de mieux tuer ?

Alors, in fine, il faut évidemment se dire les choses. Faire la guerre, ce n'est pas exactement ce qu'on fait dans le reste du monde. Donc, ce sont des applications qui ont une certaine gravité. Il faut en convenir. Donc, mieux tuer, je ne sais pas. Je pense qu'on pourrait s'attarder sur la définition de la chose. Par contre, mieux faire la guerre, oui. En tout cas, mieux faire la guerre d'un point de vue conduit des opérations, d'un point de vue efficience des différents vecteurs, en tout cas des différents objets qui sont employés. Oui, très clairement, ça fait partie du spectre de la chose.

On a souvent l'idée un peu nébuleuse que l'intelligence artificielle c'est un sujet d'avenir. Quelles sont concrètement déjà les applications contemporaines de cette intelligence artificielle ?

Alors, déjà en matière de renseignements militaires sur le terrain, on en a parlé un tout petit peu tout à l'heure, le brouillard de guerre, c'est vous qui l'avez mentionné. Sur le terrain, en fait, peut-être pour parler d'un, quelque chose qui revient souvent dans les esprits, l'intelligence artificielle versus l'humain, on y reviendra peut-être. Aujourd'hui, je ne pense pas que ce soit vraiment le sujet, aujourd'hui c'est mieux équiper le décideur sur le terrain.

Mieux équiper le décideur sur le terrain, ça veut dire lui donner accès à l'ensemble des informations dont il a besoin pour mieux appréhender une situation qui est complexe avec de plus en plus de vecteurs que ce soit dans nos armées ou celles des compétiteurs. Cette appréhension du terrain, c'est évidemment ça que l'intelligence artificielle va aider nos décideurs à accomplir. mais il finit justement pour outiller l'humain et pas l'inverse.

Mais donnez-nous un exemple concret comment on arme mieux le décideur militaire sur le terrain ?

Alors, vous allez prendre déjà une simple cartographie, arriver à voir en temps réel où sont les différents objets, par exemple dans des applications maritimes, arriver à voir sur la mer où sont les bateaux, enfin, quels sont les bateaux, où sont les bateaux, est-ce qu'il y a des anomalies de trajectoire notamment ? C'est-à-dire que vous avez plein de mobiles qui se baladent, vous avez des milliers d'objets que vous voyez sur une carte, ça ne vous dit pas grand-chose.

Donc, arriver à attirer l'attention, dire, tiens, en fait, l'objet qui est là, il a une trajectoire qui est bizarre ou l'AIS qui est, alors j'ai oublié l'acronyme, en tout cas, qui est ce qui permet de signaler la position des bateaux d'un point officiel. Quand vous avez un bateau qui éteint son AIS, qui le rallume, est-ce que c'est un dysfonctionnement, est-ce que c'est bizarre ? Ce genre de choses, si on vous met face à une carte avec des points qui clignotent, qui s'allument, qui s'éteignent, vous n'allez pas pouvoir le voir.

Donc, aider à appréhender, c'est justement être capable de montrer quelque chose à un décideur, pas seulement l'information brute, mais l'information travaillée, pour qu'il puisse voir éventuellement ce genre de signaux. Et donc, sur le terrain, sur un théâtre de guerre, c'est la même chose. Alors, ce n'est pas des bateaux, ça peut être un tas de choses, des chars, des humains, tout ce que vous voulez, mais le mécanisme est le même.

On dit, on lit, on raconte aujourd'hui que l'Ukraine, que la guerre en Ukraine est un terrain d'expérimentation, un laboratoire exceptionnel pour l'intelligence artificielle de défense. Est-ce que c'est vrai d'abord ? Et en quoi ça permet de progresser dans ce domaine ?

Alors, je citerai mes collègues, enfin, en tout cas, je reconnais la citation de certains de mes collègues, évidemment. Oui, l'Ukraine est un laboratoire assez intéressant, et assez intéressant parce qu'en fait, c'est une nouvelle façon de faire la guerre. Est-ce que c'est la façon moderne de la faire ? Je ne sais pas. Par contre, ce qu'on constate sur le terrain, c'est évidemment l'emploi de l'IA de façon assez récurrente. Pour donner un exemple, il y a ce qu'on appelle la navigation en JNSS denied, ce qui concrètement signifie...

Je ne sais pas ce que ça veut dire.

Voilà. Donc, on n'a pas de GPS, on n'a pas de signaux, tout est brouillé, grosso modo. Donc, par exemple, le pilotage de drone ne peut pas se faire par téléopération classique puisqu'il n'y a pas un signal qui passe pour relier l'opérateur à son drone. Donc, on comprend bien que dans une situation comme celle-ci, avoir des mécanismes d'automatisme qui permettent de faire en sorte que le drone, même brouillé, puisse continuer sa mission de reconnaissance, par exemple, c'est un enjeu. Et ça, c'est l'enjeu du quotidien. C'est-à-dire qu'aujourd'hui, la guerre en Ukraine, en tout cas, ce que j'en vois, il n'y a absolument aucun signal qui passe.

Donc, ça, c'est l'état de fait dans lequel on se situe. Le deuxième point qui va avec, c'est-à-dire qu'une fois qu'on a dit ça, il y a évidemment l'IA, l'autonomie pour assurer la continuité. Mais il y a aussi l'IA parce que dans ce contexte, on a des menaces qui évoluent et qui évoluent très très vite. C'est-à-dire que, je ne sais plus si je dis une bêtise, mais je crois que la durée de vie d'un drone sur le terrain, c'est six semaines, notamment d'un point de vue logiciel, ce qui signifie que si vous mettez en place des contre-mesures, du brouillage, ce genre de choses, si jamais vous n'êtes pas capable de suivre le rythme de six semaines, en fait, vos drones vont tomber.

Et donc, forcément, ce que ça implique, mais ce n'est pas spécifique à l'IA, mais c'est d'autant plus important quand on parle d'IA, c'est qu'on ne sort pas des drones avec une durée de vie d'un an sur le logiciel parce qu'en fait, on a des objets qui évoluent, qui évoluent en continu et qui évoluent en réponse à des menaces qui sont en face. Et donc ça, c'est le genre d'enseignement qu'on tire de la guerre en Ukraine, notamment sur ce rythme et l'usage de l'IA dans un contexte, encore une fois, brouillé et qui est celui qu'on connaît.

Antoine Borde, c'est le président d'Helsing, le leader européen de l'intelligence artificielle de défense. Il dit ce qu'on apprend de l'Ukraine, c'est que le logiciel devient primordial. Qu'est-ce que ça veut dire ?

Alors, je vais avoir des propos qui n'engagent que moi ou en tout cas mon avis propre. Alors allez-y. Je pense qu'en fait, on est dans un univers où ce qu'on a vu sur le web d'ailleurs, en fait, on est passé assez progressivement du physique, des machines à des objets centrés numériques. On a tous des smartphones dans nos poches, on voit bien l'importance de la chose numérique dans notre vie quotidienne et finalement, à mon avis, le système de défense est en train de subir une transformation un peu équivalente.

Ce que je disais à l'instant sur les logiciels qui ont une durée de vie de six semaines, on voit finalement votre smartphone, vous le mettez à jour, je ne sais pas, toutes les semaines, tous les jours peut-être, je ne sais pas si vous êtes rigoureux. C'est des modes de travail et d'opérations qui sont très classiques du civil. Donc en fait, je pense qu'on voit aujourd'hui une importation de ces cultures du numérique à l'intérieur du système de défense qui est moins habitué et qui est historiquement plus concentré sur les gros objets, les bateaux, les avions, comme on en a parlé.

Et donc, cette prépondérance, je pense, du numérique et du logiciel et du coup, in fine de l'IA, en fait, c'est ça la transformation qu'on a en train de vivre et de dire, en fait, c'est le numérique qui est au centre et tous ces objets viennent alimenter numérique ou en tout cas, s'y connecter.

Je voudrais qu'on parle d'un autre conflit actuel, Bertrand Rompierre, le conflit au Proche-Orient entre Israël et le Hamas. En juin 2022, la chercheuse Liran Antebi exposait dans les colonnes de la revue Vortex que l'État hébreu s'appuyait sur plusieurs logiciels dans ses opérations contre le Hamas. Carte, cible, armes à employer, tout était détecté, en gros, et si je comprends bien par l'intelligence artificielle de défense, on a évoqué cette idée que l'intelligence artificielle permettait d'être plus efficace pour éliminer des cibles, comme on dit dans le jargon militaire, en somme pour tuer. Quelles limites faut-il se fixer dans ce domaine ? Quelles limites éthiques ?

D'une part, c'est une réflexion qui est en construction et qui est évidemment mouvante en fonction de la technologie. C'est-à-dire que les discussions qu'on a aujourd'hui ne sont pas celles qu'on aurait eues il y a deux ans. Il peut y avoir quand même des grands principes. Alors, justement, les grands principes, ils ont cette vertu de normalement ne pas être trop dépendant de la technologie qu'on utilise. En France, on a un comité d'éthique dans le ministère qui réfléchit justement à l'usage de ces nouvelles armes et la position qui a été prise notamment vis-à-vis de l'autonomie, c'est toujours l'humain dans la boucle, l'humain en supervision de la boucle, comme on le dit.

Alors concrètement, ce que ça signifie, c'est que forcément, à un moment donné, il y a une décision qui est prise par un humain pour tuer ou en tout cas pour faire quelque opération que ce soit sur le terrain.

Ça veut dire que la technologie indépendante qui agirait sans prise de décision humaine, sans prise de décision directement militaire, pour l'instant, en France, ça n'existe pas ?

Alors ça n'existe pas, mais surtout, il faut s'enlever de la tête, je pense, le fait que l'IA est une chose un peu autonome qui vit toute seule. C'est-à-dire qu'il y a des décisions de conception qui sont prises aussi quand on construit ces algorithmes et évidemment qu'un humain, aujourd'hui, peut décider de tout somatiser. Mais c'est une décision humaine quand même. Ce n'est pas un fait imposé par la machine, par l'algorithme. C'est vraiment dans la conception du système que c'est imposé. Donc en France, aujourd'hui, non, ça n'existe pas et a priori, ça n'a pas vocation à exister.

Et justement, tout l'enjeu que j'ai moi en tant que patron de la miade, c'est de construire les systèmes d'armes de demain. Et du coup, justement, la bonne question à se poser, c'est à quel endroit on met le contrôle humain, jusqu'où on peut aller, quelles informations il faut présenter. Parce que même si on met l'humain dans la boucle de la prise de décision, si on ne lui présente pas les informations qu'il faut, il n'est pas capable de prendre une bonne décision. Donc non seulement il y a la prise de décision, mais en plus, il y a la capacité à prendre une bonne décision, ce qui n'est pas exactement la même chose.

Il y a un acronyme, une expression un peu en vogue en ce moment, les systèmes d'armes létales autonomes, en somme, des armes qui pourraient agir seules, sans intervention humaine, uniquement branchées à la fameuse intelligence artificielle. Est-ce que c'est une réalité aujourd'hui ? Est-ce que ça existe ou c'est un peu fantasmé ?

Alors, même chose, je vais dire que c'est des propos qui n'engagent que moi parce que dans la communauté scientifique, il y a des divergences. Vous regardez ce que raconte il y a une lettre de Yoshua Bengio qui est sortie il n'y a pas très longtemps sur les risques, alors pas les armes autonomes mais de l'IA, les risques systémiques. Ce n'est pas une réalité pour moi aujourd'hui et ça ne sera pas à court terme, ce qui ne signifie pas que ce soit un enjeu de long terme. Mais aujourd'hui, l'espèce d'IA nébuleuse qui peut tout faire n'importe comment, moi je trouve que c'est assez loin de la réalité technique de ce qu'est l'IA.

J'aime bien prendre l'exemple quand je donne quelques cours notamment de vulgarisation sur ces sujets. À l'école, pour ceux qui se souviennent, on a fait ce qu'on appelle des régressions linéaires, vous avez des points et vous faites passer une droite dedans. Je caricature à peine, mais vraiment à peine, l'IA, c'est une version extrêmement complexe de cette opération. Et je ne crois pas que quand votre prof de maths vous a expliqué ce que c'était qu'une régression, écoutez, mais en plus, je ne pense pas que vous ayez été particulièrement impressionné par l'autonomie et l'intelligence de la chose.

Et la réalité de la technologie de l'IA aujourd'hui, c'est qu'on a des machines très compliquées qui font des opérations très compliquées, mais in fine, vous leur rentrez un truc, elle vous sort autre chose. Le chat GPT, c'est un exemple, vous lui rentrez du texte, ça vous sort du texte. Génération d'images, même chose, vous rentrez du texte, ça sort une image.

L'autonomie là-dedans, vous m'accorderez qu'elle n'est pas évidente, ce qui ne signifie pas qu'on ne peut pas brancher les choses les unes avec les autres et faire en sorte que, mais aujourd'hui, l'IA vraiment, au sens de ce que les spécialistes appellent l'intelligence artificielle générale, ce n'est pas le sujet du moment, en tout cas, nous, ce n'est pas ça qu'on regarde là tout de suite parce que technologiquement, ça n'existe pas à ma connaissance.

Vous déconstruisez bien ce qu'est l'intelligence artificielle, on peut quand même vous rétorquer que l'intelligence artificielle a parfois une part d'autonomie. Tout le débat qu'il y a aujourd'hui, par exemple, sur les boîtes noires dans l'intelligence artificielle, cette idée qu'on entre des données dans l'intelligence artificielle, qu'il y a un processus qui se met en place et que les données qui sortent sont absolument différentes de celles qui sont entrées, c'est une première chose, mais surtout qu'on ne comprend plus aujourd'hui, la complexité est telle, qu'on ne comprend plus ce qui s'est fait grâce à cette intelligence artificielle.

J'exprime mal ce que je voulais dire, mais il y a une autonomie quand même dans le processus de ces intelligences artificielles.

Alors justement, je pense que c'est le mot autonomie qui n'est probablement pas adapté, c'est-à-dire qu'il se passe effectivement quelque chose à l'intérieur de ces algorithmes qu'on ne comprend plus, qu'on ne maîtrise plus. Et justement, c'est tout l'enjeu quand je parlais de prendre des bonnes décisions, ce n'est pas que ce n'est pas possible d'expliquer, mais par contre, c'est un vrai travail scientifique et technique d'arriver à appréhender ces modèles et à leur faire cracher peut-être pas des explications au sens strict du terme, mais en tout cas des facteurs explicatifs qui permettent de faire le lien entre ce qui est donné par le modèle en sortie et ce qui est donné en entrée.

Et vous l'avez mentionné aussi, c'est des points extrêmement importants sur la sécurité parce qu'en fait, on voit bien, on parle de prendre une décision parce qu'en fait, on se ramène comme un mal humain. On peut très bien demander à une machine comment faire la guerre demain, enfin, je vous le disais, vous pouvez poser la question si ça va sortir en n'importe quoi. Et donc, si jamais on prenait un truc comme ça, qu'on le mettait tel quel dans le ministère sans autre mesure et ensuite prise de décision juste à la part de ce que dit la machine, évidemment que ce serait n'importe quoi.

Mais moi, n'est qu'en faisant n'importe quoi d'un point de vue ingénierie, on est n'importe quoi en sortie ensuite. Donc, toutes ces questions, elles sont techniques, compliquées, mais pour autant, il existe des techniques, il existe des choses à faire, donc ça se travaille. Mais c'est pas inhérent, enfin, c'est inhérent au modèle et à la façon dont on construit les machines, mais c'est pas un désespoir de dire qu'on va pouvoir en extraire quelque chose.

Vous expliquez un peu plus tôt dans notre échange, Bertrand Rondepierre, que l'éthique dépendait des armes et de l'usage qu'on en fait. Pourquoi ?

Je ne sais pas si j'ai exactement dit ça, mais l'éthique, je ne suis pas un spécialiste de l'éthique, donc déjà, il faudra que je renvoie à des gens qui sont capables de faire ce genre de choses. Et puis, accessoirement, un truc que je tiens à dire, c'est qu'il ne faut pas être jugé parti. On m'a posé la question parfois est-ce que la miade va s'intéresser à l'éthique ? Évidemment qu'on va s'intéresser à l'éthique, notamment dans ce que je disais sur la prise de décision, comment on explique, etc.

On peut quand même se fixer des règles pour soi-même.

Alors, on peut se fixer des règles pour soi-même, mais il faut que ce soit en concertation avec les principes généraux que vous mentionniez un peu plus tôt. Ce n'est pas moi qui vais établir la politique éthique du ministère. C'est ça qu'il faut juste se dire. C'est une réflexion sérieuse qui doit être menée par autre chose. Mon agence, elle est constituée essentiellement de techniciens. Ce n'est pas eux qui ont vocation à piloter cette réflexion. Ils contribuaient, bien évidemment. Donc, l'usage des armes en porte... En fait, je dirais que l'IA n'est pas spécifique d'un point de vue éthique de la guerre. En fait, probablement, c'est ça le fond du sujet.

C'est-à-dire qu'évidemment que ça amène de nouvelles considérations qu'il faut prendre en compte, mais ce n'est pas une rupture au sens où demain, la guerre qu'on fait sera différente. Mais comme on a toujours fait avec de nouvelles armes, avec de nouveaux systèmes, ce sont des nouvelles réalités à prendre en compte dans cette réflexion.

Est-ce que l'armée française aujourd'hui est capée, si je puis dire, pour se servir de l'intelligence artificielle en matière de défense ?

Ça fait évidemment partie de la mission. C'est-à-dire que le pire qu'on puisse faire, c'est développer des algodias qui fassent des choses et les mettre dans les mains d'opérationnels en disant maintenant débrouillez-vous. Évidemment que ça ne va pas fonctionner. On voit déjà que ça ne fonctionne pas dans le civil, donc ça fonctionnera encore moins dans le militaire. Donc tout l'enjeu, c'est non seulement, je l'ai dit, de mettre de l'IA en production et d'arriver à développer tous ces algorithmes pour les besoins militaires, mais c'est surtout l'accompagner, ce changement, parce qu'en plus, il y a ces outils, il faut savoir les comprendre.

On parlait d'explicabilité des IA, il faut bien que les gens soient formés à comprendre comment ces IA prévenissent, comment elles fonctionnent. Donc ça, ça fait partie de notre mission, c'est une mission à part entière de l'AMIAD et qui nécessite... Les armées sont capées, mais ce n'est pas un chantier qu'on prend après coup, c'est inhérent à la conception et au déploiement de ces systèmes, d'affaires, l'accompagnement, de la transformation, du changement et l'explication de tous ces outils.

On l'a dit à plusieurs reprises, Bertrand Rondepierre, l'innovation aujourd'hui en matière d'IA défense, elle se fait dans le civil, elle se fait dans les petites entreprises, dans les start-up. Comment s'opère le transfert de compétences du civil vers le militaire ?

Alors, il y a, j'aimerais dire que c'est avant tout du jus de cerveau, c'est-à-dire que déjà, le transfert de compétences, il commence par avoir les bonnes personnes des deux côtés de la barrière. En externe du ministère, effectivement, entreprise, mais d'ailleurs, moi je dirais aussi les labos de recherche. La mienne a aussi un pôle recherche qui est à l'école polytechnique à Palaiso, avec lequel on a vocation à créer des partenariats, enfin on est en train de créer des partenariats avec INRIA, CNRS, CEA, pour ne pas les nommer, l'ONERA aussi. Donc déjà, ce transfert de compétences, il s'opère par les ressources humaines, ce transfert de technologies, il s'opère par les ressources humaines.

Et ensuite, d'un point de vue civil, je suis convaincu que pour utiliser les technologies qui sont développées en civil, il faut avoir cette compétence en interne et arriver à mettre les experts des PME start-up en face des experts de l'étatique. Ensuite, une fois qu'on sait faire ça, il y a évidemment des questions de contrat, de tout ce que vous voulez, mais le cœur n'est pas là. C'est-à-dire que du moment qu'on arrive à avoir des gens qui se parlent et qui sont capables de faire atterrir les technos de l'un dans l'environnement de l'autre, on a déjà gagné une grande partie du combat.

On lit sur le site du ministère des Armées, le ministère de la Défense, que l'une des fonctions qui légitime l'existence de l'AMIA, de cette agence que vous dirigez désormais, c'est de réintégrer des fonctions souveraines. Pourquoi réintégrer ? Est-ce que ça veut dire qu'à un moment, on les a perdus, on les a trop laissés soit à l'étranger, soit au secteur privé ?

Exactement. C'est-à-dire que, je ne sais pas si c'est une décennie ou plusieurs, mais en tout cas, on s'est progressivement tourné vers le tout industriel, ce qui a très bien fonctionné, mais on a constaté ces dernières années que dans le domaine du numérique, ce n'est pas une stratégie qui était toujours gagnante. Et justement, par rapport à ce qu'on disait juste avant, avoir des experts au bon niveau des deux côtés, c'est ça qui fait que les projets ont du succès. Donc oui, on a perdu en fait en interne du ministère une capacité à faire, c'est-à-dire à dire que nos experts soient capables de développer des choses en dehors de ce qu'ils pourraient être fait avec les industriels.

Une autre chose que je mentionnerais quand même, on a parlé un tout petit peu de données, en plus, on a des cas d'usage qui sont très confidentiels et pour lesquels on ne sortira pas les données du ministère. Donc là, le transfert de technologie ne se fait qu'en faisant et donc forcément pour faire ces opérations, on est bien obligé d'avoir du côté public des gens qui sont capables de faire et de faire ce dernier kilomètre en fait de l'IA pour faire en sorte qu'à la fin, ça atterrisse en production.

Et cette stratégie en matière de numérique, c'est encore un avis qui n'engage que moi mais j'y tiens, je ne vois pas comment on est bon en numérique si on n'internalise pas de la compétence à faire.

D'une façon très très courte en quelques mots, à quoi servent les collaborations avec nos alliés ? Est-ce qu'on travaille avec les Etats-Unis, avec la Grande-Bretagne, avec d'autres pays européens en matière de la défense ?

Alors moi je suis tout neuf, on est en train de le construire. L'idée c'est évidemment de dire qu'on est tous passés par à peu près le même cheminement et donc de s'inspirer de ce que les uns et les autres font.

Bertrand Rondepierre, merci beaucoup d'être venu ce matin au micro de France Culture. Vous êtes venu nous présenter cette nouvelle agence ministérielle pour l'intelligence artificielle de défense.