Table ronde sur les influences étrangères dans l'espace numérique

comme tuux bien mes chers collègues je vous propose de poursuivre notre nos travaux de cet après-midi avec cette table ronde qui euh réunit quatre spécialistes du sujet qui nous intéresse Monsieur Bernard Benamou vous êtes secrétaire général de l'Institut de la souveraineté numérique vous avez publié de nombreux travaux sur la géopolitique de l'Internet Monsieur David chalaveria vous êtes directeur de recherche au CNRS et directeur de l'Institut des systèmes complexes vos travaux portent notamment sur les dynamiques sociales et cognitives lié au numérique les algorithmes des plateformes nous le savons exploitent des biais qui sont ensuite utilisé par les auteurs d'opération d'influence malveillante monsieur tari Krim vous êtes fondateur du singsang cybernetica vous êtes également spécialiste des plateformes numériques et des enjeux politiques qui leur sont associés monsieur Julien noséti vous êtes chercheur au Centre d'analyse de prévision et stratégie du ministère des Affaires étrangère votre expertise porte sur la géopolitique des technologies numériques et vous êtes en particulier spécialiste de la Russie avant de vous donner la parole il me revient de rappeler qu'un faux témoignage devant notre commission d'enquête et passible des peines prévues aux articles 434 13 14 et 15 du code pénal je précise également qui vous appartient le cas échéant d'indiquer vos éventuels liens ou conflit d'intérêt en relation avec l'objet de notre commission je vous invite à prêter serment de dire toute la vérité rien que la vérité en levant la main droite et en disant je le jure je vous remercie cette audition fait l'objet d'une captation vidéo qui sera diffusée sur le site internet et le cas échéant les résaux sociaux du Sénat puis consultable en vidéo à la demande elle fera l'objet d'un cont de compte-rendu et je vous propose de vous donner à chacun 7 minutes pour faire un propos introductif parce que 4 x 7 ça fait 28 ça fait déjà une demiheure d'introduction pour nous à la suite de quoi le rapporteur et mes collègues ne manqueront pas de vous poser des questions pour approfondir tel ou tel point je vous propose de démarrer par un tirage au sort aléatoire qui fait que que nous allons retenir l'ordre alphabétique et donc donner la parole à Monsieur Benamou merci àur président merci monsieur le Président merci à vous tous c'est un plaisir que d'évoquer ces questions aujourd'hui je vais me présenter donc Bernard benamous je dirige et j'ai fondé donc l'Institut de la souverainté numérique en 2015 après avoir exercé des fonctions de délégué interministériel aux usages de l'Internet et de négociations européennes sur les questions de régulation du numérique ainsi qu'aux Nations Unies auparavant en tant que conseiller donc de la délégation française donc pour pour revenir effectivement sur le sujet qui nous occupe ah oui j'ai j'ai oublié de préciser que j'ai fait partie effectivement du comité de travail enfin du groupe de travail des états généraux de l'information dédiés à souveraineté et ingérence qui rendra ses travaux très bientôt et donc je pense que ça sera utile que de pouvoir les transmettre dans le cadre de l'élaboration de de votre commission d'enquête pour revenir effectivement sur l'actualité je dirais il n'y ait pas de sujet plus brûlant que le sujet de l'ingérance aujourd'hui j'ai eu le plaisir ici même dans cette salle d'intervenir lors deun précédente commission d'enquête cette fois-ci consacrée à TikTok dont on voit qu'il que l'actualité a voilà donc on voit que l'actualité rebondit et rebondit encore et je précise je dirais d'entré d'entré de jeu que j'avais eu l'occasion de dire que les risques d'ingérence n'étaient pas simplement hypothétiques mais qu'ils étaient d'autant plus réels que de la part des services chinois ne pas utiliser la manne que constituent les informations recueillies sur plus d'un milliard et demi d'utilisateurs de TikTok constituerit de leur part une faute professionnelle ce qui avaiit d'ailleurs été même repris par l'un de nos représentants des services de renseignement l lors de ces mêmes auditions euh il est clair aujourd'hui que nous arrivons à un point non pas de rupture mais mais un point je dirais d'apoger non seulement des risques mais des actions d'ingérence de pays hostile sur les réseaux numériques de manière générale qui prennent diverses formes dans un passé pas si lointain le les premiers auxquels on pensait étaient les Russes euh il se trouve effectivement que désormais ça nous a été confirmé récemment encore les Chinois prennent de plus en plus part à des mesures de désinformation dans le cadre électoral c'est le cas au unis et on l'a vu de manière pas toujours intuitive en soutenant d'ailleurs les groupes proches de Trump et et on l'a vu dans le passé effectivement mais on le voit aussi en Europe et et je dirais que l'année 2024 est l'année de tous les dangers puisque c'est l'année où plus de 4 milliards d'individus sont amenés à aller aux urnes et donc c'est un c'est un champ d'expérience comme jamais il en a été possible dans ce domaine et il est clair effectivement que à la fois les grandes plateformes et et les je dirais l'ensemble des acteurs de l'internet ont été là-dessus pour dire les choses clairement et franchement d'une coupable naïveté voire d'une coupable lâcheté ou d'une coupable complaisance par rapport à des acteurs potentiellement toxiques qu'il s'agisse de pays étrangers hostille mais aussi évidemment de groupes terroristes on le voit effectivement régulièrement où l'on a vu non pas une complicité de ces plateformes mais une convergence d'intérêt toxique entre les groupes extrémistes et le modèle de fonctionnement de ces plateformes sur lequel j'imagine mes voisins auront l'occasion de revenir le modèle de fonctionnement de ces plateforme qui privilégie les propos polarisants clivants parce qu'ils sont les plus vecteurs d'audience vecteur alors dans le dans ce métier on parle d'engagement vecteur de retweet on disait avant ou vecteur de partage et donc par définition il n'y a pas une convergence politique par exemple entre des groupes terroristes et des plateformes comme youtube ou Facebook non mais il y a une convergence d'intért toxique et et la nouveauté aujourd'hui c'est que au-delà même de telle de telle ou telle action ponctuel ces processus et on l'a vu dans le passé par exemple avec l'affaire Cambridge Analytica aux États-Unis qui n'était que la première du genre mais beaucoup d'autres ont suivi et malheureusement beaucoup d'autres risquent de suivre on voit bien effectivement que ça peut jouer aussi sur la formation des opinions publique d'où d'où les inquiétudes que l'on pouvait avoir et que l'on peut toujours avoir et on l'a vu avec la Nouvelle-Calédonie sur le le le la formation de l'opinion publique voir des réactions ou des ou des risques d'insurrection d'action violentes comme on l'a vu aux États-Unis là encore avec Cambridge Analytica où les groupes qui ont mené l'action au Capitol que moi j'appelle un coup d'État que certains appellent effectivement une insurrection peu importe le nom qu'on lui donne était coordonné et et avait pu grandir grâce aux algorithm le mot reviendra certainement beaucoup aujourd'hui aux algorithmes de ciblage on parle dans notre métier de microciiblage qui sont liés à toutes les données extraordinairement précises que l'on possède sur les individus données liées à leur goût à leur à leurs échanges à à l'ensemble des des captations que l'on peut avoir sur eux y compris les captations du domaine médical psychologique et donc on est capable effectivement de savoir et et Facebook jusqu'à une période récente ne l'empêchit pas euh qui se reconnaî comme raciste et donc envoyer de la part de ces groupes qui s'agissent de quanon ou d'autres proud Boys et quelques autres de d'envoyer des publicités ciblées pour recruter des personnes en fonction de leur euh profil politique et dans le cadre des campagnes électorales être en mesure de recommander euh de de créer des messages et ça c'est peut-être la nouveauté de ces de deux dernières années avec la montée en puissance de l'intelligence artificielle qui fait l'objet du rapport que nous rendrons bientôt euh être en mesure de créer des contenus spécifiquement conçus pour tel ou telle personne en fonction de son profil la nouveauté c'est qu'auparavant euh dans le cas de Cambridge Analytica vous aviez une série d'ingénieurs qui étaent capable de concevoir des contenus et de les diffuser vers des dizaines ou des centaines de millions de personnes aujourd'hui tout cela peut se faire entièrement automatiquement par un système d'intelligence artificielle à qui l' donne une feuille de route en disant il faut favoriser l'élection de telle personne dans tel pays et il va concevoir des contenus répondre en ligne à des personnes qui penseront de bonne fois que c'est une un humain qui leur répond inonder des créer et inonder des centaines de millions de comptes de façon très rapide j'avais l'occasion de dire lors de la commission d'enquête sur TikTok que que en année moyenne facebook efface tous les trimestres 15 milliards je dis bien milliards de faux comptes et donc plus de 6 millions 6 milliards sur l'année précédente donc on voit bien effectivement que que que les les les outils de la désinformation et donc de l'ingérence se sont démocratisés dans le plus mauvais sens du terme et constitue maintenant une véritable un véritable risque sur fonctionnement démocratique de nos sociétés comme le disent très bien d'ailleurs les les experts de ces pays l'ouverture des des démocraties libéral à des ingérences extérieur est est une Man est une est une est une merveille pour pour ces pour ces régimes autoritaires qui voit l'occasion d'interagir et il s'en vente la Russie s'en est venté encore il y a peu dans dans les temps à venir donc par définition je crois que un peu comme on peut le dire certains responsables européens euh nous devons effectivement abolir la naïveté par rapport à cela nous savons aujourd'hui que nos démocraties sont vulnérables qu'elles NT mis beaucoup trop de temps à réagir par rapport à à ces processus aujourd'hui seulement se pose des questions concernant effectivement les risques politiques et non plus simplement économique d'abus de position dominante ou autre non de risque politique sur le fonctionnement démocratique de nos société c'est c'est un réveil brutal parce qu'il s'inscrit dans une période de de tension internationale comme rarement en plus de la guerre en Ukraine on a maintenant une tension internationale liée à l'affrontement à la fois politique et industriel entre la Chine et les États-Unis avec effectivement là aussi la possibilité très claire de faire intervenir ces tension comme élément de débat dans le le processus démocratique et donc je dirais puisqueon m'a on m'a enjoint d'être bref je je dirais je dirais effectivement que je suis d'autant plus que cette commission d'enquête se réunisse aujourd'hui et qu'elle qu'elle effectue ses travaux en cette période qu'il y a urgence c'est-à-dire que ce n'est pas ce n'est pas pour une consommation lointaine vue du politique par rapport à vos travaux c'est c'est pour une mise en œuvre immédiate et et je crois effectivement que nous devrons collectivement réexaminer et je sais que mon voisin monsieur chavalarias a eu l'occasion de l'écrire dans son livre toxique data le modèle économique de ces sociétés que l'on a longtemps considéré comme étant inoffensif non leur modèle économique est je dirais à l'origine même du problème qui se pose aujourd'hui savoir comme le dit aussi madame chochanaazubov que ce modèle économique de ciblage extrême et donc d'extraction massive et de plus en plus massive des données personnelles constitue une impossibilité de fonctionnement pour les régimes démocratiques je fais partie de ceux qui le pense et je pense effectivement que nous Européens n'avons pas simplement vocation à réguler les plateformes exist ante mais à créer les conditions d'émergence d'un autre type de plateforme qui ne serait pas lié à l'extraction de plus en plus massive et de plus en plus toxique de plus en plus dangereuse de ces données au profit effectivement d'autres modèles économiques que nous Européens et je citerai là-dessus un autre ouvrage les empires numériques de Madame Anou Bradford professeur à Columbia qui disait que l'Europe doit effectivement être la source d'inspiration de l'ensemble des des grands blocs y compris les États-Unis donc c'est une Américaine qui qui réclame que les États-Unis s'inspirent davantage de nous ce qui n'est pas si fréquent et et je crois effectivement qu'il est important de penser que nous ne pouvons pas être uniquement sur un rôle défensif avec tout le respect que j'ai pour les textes importants auquels beaucoup d'entre vous ont été associés donc vous madame la Présidente DSA DMA DGA AIA pour l'intelligence artificielle non il faut être en mesure de développer une politique volontariste à l'échelle de l'Union pour effectivement développer sur les segments critiques dont l'intelligence artificielle qui deviendra notre je dirais notre enfin qui est déjà notre quotidien mais qui deviendra d'un point de vue industriel un élément central des des stratégies des différents blocs si nous ne le faisons pas les mesures et là je vous en parle en tant qu' ancien enfin ancien rédacteur du texte de régulation si nous ne le faisons pas toutes les mesures de régulation seront contournées donc moi je maintiens que la politique industrielle est un élément clé de la régulation de ce secteur voy ça ne paraî pas évident parce qu'on se dit il y a d'un côté l'industrie de l'autre côté non la régulation fait partie de la politique industrielle et la politique industrielle fera partie de la régulation voilà j'en ai terminé pour l'instant merci Monsieur c'est bon monsieur le Président Mesdames Messieurs les sénatrices et les sénateurs merci de me donner l'honneur de faire faire l'honneur de contribuer avec mon expertise à cette commission euh j'ai j'ai j'ai vu déjà ce que vous avez eu l'occasion d'écouter donc j'ai j'ai essayé de de me concentrer sur mon expertise et ce que je peux apporter de nouveau d'une part en vous montrant euh comment se s'opèent les opérations d'inurance et en essayant de vous faire sentir comment l'architecture même des plateformes la favorise et ensuite en proposant quelques pistes alors pour vous montrer euh on a lancé à l'Institut des systèmes complexes donc en 2016 un observatoire de l'espace numérique Twitter Twitter parce que c'était un endroit où il y avait beaucoup d'influenceurs notamment beaucoup de politiques et où se passaient des campagnes présidentielles notamment de manière à essayer de comprendre comment s'articuler les dynamiques d'opinion mais aussi comment on pouvait avoir des campagnes d'influence et de d'ingérance étrangère je vais vous montrer un petit film qui retrace une reconstitution par exemple de ce qui s'est passé au moment des gilets jaunes où on a pu voir donc des groupes gilets jaunes très actifs relayés sur Twitter donc des citoyens qui se sont fait en gros accompagn amplifier relayé par des groupes étrangers donc sur cette vidéo ici vous avez chaque point ici est un compte Twitter on reconstitue dans le temps donc une pulsation c'est c'est quelques jours et en jaune vous avez toutes les personnes qui relayaient le mouvement gilet jaune en marron vous avez les comptes étrangers et quand vous avez un lien c'est un un passage d'information donc là vous voyez bien la communauté très cohésive des gilets jaunes qui en fait relayé les informations au sens français qui se passait en France et puis donc toute une communauté internationale qui s'est mis autour pour amplifier ce mouvement là autre exemple au début de la guerre en Ukraine juste avant la guerre en Ukraine donc les quelques jours avant le 24 février vous avez tout un ensemble de comptes qui vont s'activé pour commencer à relayer la propagande du kremelin la beaucoup de ces comptes étaient des personnalités officielles françaises officiellement Prusse qui n'est évidemment pas pas un délit hein c'est la liberté d'expression et ils étaient entourés de tout un ensemble de relais également pour euh relayer ce genre de de propagande donc là vous avez un exemple de dynamique de relais d'amplification soit de division à l'intérieur de la France soit d' de d'installation d'un certain narratif en fait en France autour d'un conflit comme la guerre en Ukraine alors dans les différentes études qu'on a pu faire on a notamment par exemple montré le pu détecter quasiment en temps réel les macronx hein là où on a pu voir que c'était d'un côté l'extrême droite américaine et de l'autre côté l'extrême droite française qui avait essayé de relayer euh euh ce ce hashtag avec la la la désinformation qu'elle contenait euh je soulligne ici que cet événement soulligne en particulier le fait que les fausses informations restent en général à l'endroit où elles ont été euhh inséminées euh donc ici dans deux une communauté très particulière en France à moins qu'elle soit reprise par les médias ou par les algorithmes de recommandation et c'est notamment l'un des problèmes des algorithmes de recommandation autre chose euh qui est problématique sur la question de l'ingérance c'est que souvent elle se fait à travers des contenus qui n'ont pas de statut vrais faux par exemple des mêm des des contenus ironiques ou des des choses du type Vladimir Poutine va utiliser les armes nucléaairire pour l'instant ça a pas de statut vrai faux c'est une supposition mais en amplifiant une croyance vous pouvez aménager en fait modifier la perception des citoyens de l'environnement et donc amener à soutenir telle ou telle cause donc ça ça veut dire que la modération le fait d'enlever ou de retirer des contenus qui seraient faux n'est pas suffisante puisque là on a àire vraim un espèce d'encirclement informationnel où on va essayer de modifier la perception qu'ont les citoyens d'un problème mais même au-delà ce que l'on peut dire c'est que euh un un des buts on va dire long terme c'est de modifier la structure même des rapports sociaux et des groupes sociaux au sein d'un pays on a observé donc entre 2016 et 2022 l'espace politique français ici donc chaque point est un compte Twitter les petits filaments c'est les relais entre les compes Twitter vous en AZ à peu près 80000 sur cette image et vous avez deux euh images du paysage politique français entre 2016 et 2022 et on voit la restructuration du paysage politique français en 2016 on allait de LFI au rassemblement national en passant par les partis modérés PS etlr en 2022 PS etlr étaient complètement déstructuré et on a eu un gros bloc d'extrême droite qui a émergé avec notamment des nouvelles communautés reconquêtes et la nouvelle communauté numérique qui s'est formé pendant la pandémie autour de de Florient Philippo sur le thème antivax antivaccin résistance au système et donc là vous avez une nouvelle passerelle qui s'est formée entre en gros les spectre l'extrême du spectre gauche et l'extrême du spectre droit et qui a joué pour la circulation narrative bien au-delà de la pandémie par exemple en ce moment il y a une reconfiguration autour du climatodénialisme et c'est cette communauté donc qui s'est insérée entre les deux extrêmes qui est en train de le promouvoir euh si c genre de reconfiguration est possible bien sûr c'est pas que à cause des plateformes mais les plateformes et leur concep même euh les favorise pour la raison suivante je je vais vous donner un exemple euh alors bien sûr on ne peut pas euh euh je peux pas tout présenter mais je vis vous donner un exemple vous expliquer pourquoi notamment euh la conception même des plateformes amplifie les discours toxiques euh les plateformes euh donc ont mis en place depuis 2018 ce qu'on appelle le fil d'actualité qui est l'endroit où les personnes consultent la majorité de leur contenus ce que quelqu'un voit sur son fil d'actualité c'est qu'un petit pourcentage de ce que produit son environnement social hein c'est c'est c'est quelques pourcents he c'est moins de 10 %. ce qui veut dire qu'il y a un filtre qui est opéré entre ce que produisent les gens auxquels vous vous êtes abonnés et ce que vous voyez effectivement la question est comment se produit ce filtre là alors on a mesuré très précisément euh on a montré par exemple que euh entre ce que ce à quoi vous vous abonnez ce que vous recevez dans votre fil d'actualité il y a 50 % en plus de contenu toxique sur euh le le réseau Twitter c'est-à-dire de contenu avec des insultes du dénigrement des attaques personnelles et cetera et ça c'est quel que soit en gros ce à quoi vous vous abonnez si vous abonnez à des choses très toxiques vous aurez 50 % de toxicité encore plus et si vous avez des contenus peu toxiques vous aurez 50 % en plus ce qui fait que ça va déformer la perception des utilisateurs de millions d'utilisateurs et on a le même fonctionnement sur Facebook et sur Instagram et cetera parce qu'en fait à la base derrière il y a la question de l'optimisation de l'engagement vous modifiez la perception de millions d'utilisateurs vers un environnement plus hostile et vous hostilisez les débats ça c'est dû on a montré que dès que vous optimisez l'engagement c'està-dire que vous voulez mettre dans les fils d'actualité des utilisateurs les contenus qui ont le plus de clic de like de partage ce qui est fait depuis 2018 vous avez automatiquement ce genre de billet de négativité donc ça c'est un gros problème parce que donc ça va renforcer l'hostilité des échanges et notamment indirectement ça va renforcer les personnalités les comptes qui s'expriment de manière hostile on a pu montrer que que ça non seulement ça change la circulation d'information mais ça change la structure du réseau au sens où ça va mettre au centre du réseau au cœur du réseau les personnes qui s'exprime de la manière la plus polémique et la plus hostile avec une surreprésentation de 40 % dans le top 1 % des influenceurs de personnes qui s'occupe de manière qui s'exprime de manière hostile et ça donc c'est vraiment du design de plateformes le modèle économique par les plateformes utilisé par les plateforme donc là il faut bien comprendre que quand vous avez des plateformes comme Facebook ook plus de 3 milliards d'utilisateurs Twitter Instagram et cetera vous avez votre opinion publique qui se forme dans des environnements ou de manière centraliser vous changez une ligne de code et vous changez complètement la manière de l'information de circuler la manière des personnes de s'exprimer c'est que les journalistes et les politiques vont changer leur manière de s'exprimer parce que sinon leurs discours ne sont pas diffusés et cetera et cetera alors maintenant je je veux juste donner quelques piste en fait pour éviter ce genre de choses je reviens juste sur je je je je ti là les les visuels euh alors mon ma thèse comme on l'a dit aussi à côté et donc je suis vraiment pas le seul à la défendre c'est que il faut choisir entre le modèle économique des plateformes tel qu'il est actuellement et la démocratie on va pas pouvoir avoir les deux très longtemps donc pour cela il faut agir de manière systémique et rapidement et je vais vous donner un certain nombre de de pistes qui qui pourrai être appliqué vraiment en un temps assez court du genre moins de 12 mois la première c'est que il faut euh défendre les utilisateurs contre les clauses abusives les clauses actuellement des réseaux sociaux notamment par exemple Twitter que personne ne lit jamais sont abusives je vous fais le parallèle avec la Poste euh imaginez euh euh un service postal qui vous dit j'ai le droit de lire ce que vous écrivez j'ai le droit de modifier ce que vous écrivez j'ai le droit de le distribuer à ceux à qui au destinataires ou à d'autres personnes j'ai le droit de ne pas le distribuer j'ai le droit de mettre dans votre boîte aux lettres des gens qui vous écrivent ou d'autres personne et quand je souhaite je peux fermer votre boîte aux lettres et vous n'avez rien à à j'ai aucun compte vous rendre ça c'est exactement mot pour mot les conditions actuelles de Twitter et de beaucoup de de de nou de boîtes de ce genre-là qui sont abusives et qui donc laissent les utilisateurs à la mercie en fait des grands réseaux quand on sait que maintenant les jeunes ne donnent même plus leur 06 ou leur 07 mais leur Instagram ce qui veut dire que en fait ces personnes-là sont complètement captifs de ce genre de chos la deuxième chose c'est que par rapport aux ingérance étrangères euh on pourrait par exemple euh forcer les utilisateurs à per per mettre à un utilisateur de s'authentifier en tant que Français la solution technologique peut exister en tout en restant anonyme et sans donner autres d'information que que que que à la plateforme il suffit de passer par un un intermédiaire comme France Connect et et qui qui certifique la personn et français ce qui permettrait aussi utilisateurs de filtrer les contenus en disant je ne veux voir que les contenus émis par mes compatriotes ce qui permettrait d'éliminer pas mal de de d'ingérences qui se font justement à à partir de faux compte aussi toujours par rapport aux utilisateur on peut réguler et imposer la portabilité des données et de l'influence sociale avant par exemple quand vous aviez un numéro de téléphone vous pouvez pas changer d'opérateur et donc vous étiez captif et vous payez plus cher quand vous appeliez à un autre opérateur il y a eu une régulation maintenant vous pouvez repartir avec votre numéro pareil pour les réseaux sociaux la plupart des réseaux sociaux et des utilisateurs des réseaux sociaux sont captifs c'est ce qui se passe par exemple actuellement sur Twitter euh vous avez beaucoup de personnalités très influence qui restent sur Twitter parce qu' ils ont développé à la fois tous leur S et qu'ells y ont leur audience alors que le réseau devient toxique donc on pourrait tout à fait imposer le fait que un utilisateur puisse partir d'un réseau pour aller vers un autre sans perdre ni ses données ni son audience et il y a des réseaux comme par exemple Mastodon qui sont en fait des protocoles et qui permettent de faire ça euh sur la question d'atténuer la la l'ingérence donc il y a on a parlé tout à l'heure de la publicité ciblée he qui est vraiment une une catastrophe faut savoir que en ce moment même en en mai 2024 il y a euh des milliers de publicités russes euh qui ESS sur le territoire français en Italie euh en Pologne et en Allemagne on les a identifié dans le laboratoire c'est un un des docteurants Paul bouchot qui l'a fait et donc on est sous le feu alors même que Facebook est censé les modérer et euh on a mesuré que facebook modère à peine 20 % des publicités politiques sachant que c'est très difficile en fait de faire une publicité politique si vous dites en ce moment ils arrivent même pas à contrôler le caillou alors comment voulez-vous qu'ils assurent la la sécurité en France tout le monde sait à quoi on se réfère et c'est passera jamais identifié comme une publicité politique hein mais vous envoyez ça de manière massive au moment où il y a des problèmes en Nouvelle-Calédonie et vous avez un impact euh il y a un gros problème d'accès évidemment aux données euh les les les analyses que je vous ai fait tout à l'heure on l'a fait au moment où Twitter avec son App ouverte et c'était le la seule plateforme d'ailleurs à avoir ouvert ces données on a pu démontrer tout ensemble de billet des algorithmes et des failles des plateformes qui sont vrais aussi pour Facebook maintenant tout ça s fermé on a plus accès donc on est complètement aveugle et euh dans J'ai j'ai regardé beaucoup d'auditions où des plateformes vous disait on modère on enlève 90 % des contenu et cetera vous n'avez aucun moyen de le vérifier et nous non plus donc à partir du moment où quelque chose n'est pas vérifiable vous êtes pas tenu de le croire et a priori euh souvent aussi on vous parle de ce qu'on a détecté et parmi ce qu'on a détecté qu'est-ce qui est vrai ou faux mais qu'est-ce qu'on a pas détecté ça on le sait pas et ça on peut pas le vérifier euh on peut mettre en place des routines d'audit hein donc on a par exemple le billet de toxicité euh on peut tout à fait le vérifier en temps réel sur une plateforme pour autant qu'on ait les données et ça ça se fait en temps réel et comme ça on peut vérifier que les colalisation en gros du discours est bonne donc là encore une fois il s'agit pas d'agir sur les contenus mais de faire en sorte que certains types de contenus ne soient pas amplifiés par rapport à la ligne de référence on peut aussi appliquer des principes de réciprocité donc des plateformes qui interdisent le déploiement dans leur pays de des plateformes étrangères on ne devrait pas autoriser leur déploiement chez nous hein c'est comme si vous autorisiez votre voisin à garder vos enfants alors que que lui ne veut surtout pas que vous gardez les les leurs c'est c'est juste un principe de de de bon sens et ce côté institutionnel il y a également plusieurs pistes donc le fait de renforcer les Espaces Publics Numériques on pourrait comme le disait tout à l'heure monsieur Benamou euh renforcer l'émergence de plateformes alternative on on offre bien on subventionne bien les les journaux qui respectent et d'ailleurs les télévision aussi d'ailleurs qui respecte un c une certaine charte déontologique on pourrait le faire pour les réseaux sociaux qui respectent par exemple la portabilité et euh il faut savoir aussi que dans ce contexte- là on pourra le détailler tout à l'heure les élections sont très vulnérables par la conception même de nos élections actuellement c'est-à-dire que quelque chose qui m'a frappé c'est que en autant en 2017 qu'en 2022 on appelle de plus en plus à voter contre plutôt qu'à voter pour pourquoi parce que on a des campagnes très hostiles donc on a plusieurs candidats au premier tour dont la plupart donc ne passe pas au 2ème tour évidemment au deuxème tour il reste que deux candidats qui sont haïs par toutes les autres communautés et donc après il s'agit de manipuler de savoir VO qui est le moins pire or manipuler qui est le moins pire c'est très facile avec des campagnes de même ce qui veut dire que vous pouvez très bien avoir un candidat qui passe au premier tour avec 30 % de soutien ce qui est déjà beaucoup pour un premier tour qui est rejeté à 60 70 % par la population et qui passe le deuxè tour parce que suite à des manipulations et donc là ça veut dire que on a élu on va élir une personne qui a 70 % de rejet dans la population ce qui est pas vraiment démocratique il y a des modes de vote qui pe qui pourrai éviter ça le mode de scrutin actuel est un mode de scrutin archaïque qui date de 300 ans on sait qu'il a plein de failles il y a des modes de scrutin beaucoup plus récents et meilleurs moi je je je défends beaucoup le jugements majoritaires mais c'est pas le seul mais qui permettrait d'éviter tous ces travers on pourra y revenir voilà et dernièrement juste pour conclure ce que j'observe beaucoup sur les réseaux sociaux actuellement depuis la pandémie c'est une récupération des valeurs fondamentales de la République notamment par exemple le concept de liberté et si ce concept là est récupéré ainsi que fraternité égalité je pense qu'on aura perdu beaucoup et donc il faut vraiment veiller à ce que ces valeurs fondamentales soient remises à la bonne place dans le débat public merci beaucoup merci monsieur bonjour monsieur le Président Monsieur le rapporteur mesdames et messieurs les sénateurs merci de me de m'auditionner sur ces questions alors en préalable je vais peut-être dire que je ne suis pas forcément un spécialiste des questions d'ingérance moi j'ai plutôt un profil d'entrepreneur donc dans le numérique j'ai monté de start-up donc je connais bien la manière dont fonctionnent ces ces plateformes j'ai également suivi les questions de géopolitique du numérique depuis plus d'une trentaine d'années donc ce sont les sujets évidemment qui me sont familiers et j'ai été également à la fois au Conseil national du numérique et en tant que auteur d'une mission pour le gouvernement que j'avais faite qui a été une mission préalable à la création de la frenchtech un défenseur infatigable des questions de de souveraineté évidemment de de savoir-faire français dans le domaine du numérique alors peut-être pour prendre un peu plus de hauteur par rapport à cette cette question j'avais proposer de séparer mon propos limininaire en trois parties donc la première c'est peut-être comprendre plus généralement les enjeux de la géopolitique du numérique et dans quelle mesure les question de l'ingérence se positionne la deuxième c'est effidement soulever les nouvelles questions liées à l'a ce qu'on pourrait appeler ce qu'on commence à appeler aux États-Unis la sécurité épistémologique c'est-à-dire la capacité pour un pays de sauvegarder euh sa propre culture sa propre connaissance et son propre rapport au vrai la question également de l'autonomie cognitive comme vous le savez de plus en plus on utilise des plateformes extérieures à soi pour réfléchir et résoudre des problèmes et puis enfin si vousautorisez je parlerai un peu de la question de la souveraineté numérique plutôt à mon avis la fin de ce que ce qu'est la souveraineté numérique et les conséquences que ça aura sur ce sujet bien sûr mais je vais être assez rapide en fait sur les ce qui est intéressant c'est de comprendre qu'il y a trois choses qui se passent en même temps euh depuis à peu près une vingtaine d'années tout d'abord on est après une grande phase d'expansion de l'Internet on est aujourd'hui dans une phase de déglobalisation on appelle ça souvent le spinternet le je donne un exemple la Chine se connecte en 1994 à l'Internet 3 ans plus tard il décide que on va se déconnecter on va construire un une un réseau avec une for somme de firewall où on laissera passer tout le contenu du reste du monde mais nous on va gérer nous-même euh nos plateformes c'est d'ailleurs un des grands sujets vous parliez de TikTok tout à l'heure euh TikTok euh peut opérer sur le reste du monde mais le reste du monde ne peut pas opérer en Chine aujourd'hui ce qu'on voit c'est que ce réseau augmente on parle parfois ce qu'on appelle un dictatur net où on aurait la Russie la Corée du Nord l'Iran enfin un ensemble de d'acteurs donc on peut imaginer à terme que ce réseau va se euh séparé et donc ça pose d'énormes questions économiques géopolitiques la deuxième c'est quand on parle de ces fameuses guerre il y a aujourd'hui trois approches sur les trois types de guerr la première c'est ce qu'on appelle la cybergerre donc c'est l'attaque des infrastructure donc quand on entend à chaque fois que tel tel hôpital ou tel endroit était victime d'une cyberataque ça veut donc dire qu'on est dans cette logique de hacking des infrastructures la deuxième qui qui a plusieurs noms on peut parler de guerre cognitive narrative warfare like war c'est une guerre qui consiste à vouloir hacker les cerveaux donc à changer les ce qu'on a qui a été bien expliqué auparavant et ce qui nouveau en fait c'est que pendant très longtemps dans le domaine militaire on avait une forme de dualité où on avait clairement le domaine militaire de l'autre côté le domaine civil et puis les gens imaginent que c'était vers les vers la guerre en Afghanistan où en fait l'armée américaine a proposé à ses soldats d'avoir de pouvoir utiliser Facebook et soudain on s'est retrouvver avec des conversations entre d'un côté les talibans et de l'autre côté l'armée américaine qui communiquait sur Facebook passenger et donc soudain une plateforme commerciale se retrouvé au cœur d'une depuis on s'est bien rendu compte que les plateformes commerciales sont utilisé à la fois pour les opérations d'ingérance ou des des attaques militaires et puis la dernière qu' ne faut pas oublier c'est ce qu'on appelle la LOF faire c'est utiliser le droit euh alors ça tombe bien quand on contrôle l'Internet et qu'on a accès à l'ensemble de la du monde entier à travers des serveurs à travers des services on peut on peut en fait intégrer la loi que l'on veut notamment le Cloud Act le FISA enfin toutes ces lois extraterritoriales et la troisième chose c'est cette bataille de l'amplification qui est en train d'arriver donc on a tout ce dont on a parlé se basé sur la la question des réseaux sociaux sur le fait que on était dans un environnement où on avait des algorithmes et on est en train de basculer aujourd'hui dans un nouveau modèle en tout cas il y a une vision qui s'est mis en place qui consiste à dire que si demain on dispose de suffisamment de puissance de calcul on va pouvoir répondre à des problématiques très importantes et donc tout le monde estant course affolante là-dessus alors il y a à mon avis deux batailles qui se passent en même temps la première qui est la bataille la plus connue entre la Chine et les États-Unis qui est une bataille qui est un peu bizarre parce qu'en même temps la Chine et les États-Unis ont besoin l'une de l'autre pour leurs économies c'est la fameuse militarisation des interdépendances que mon voisin à à dont mon voisin parle souvent mais la deuxième chose qui à mon avis est une une guerre qu'on voit beaucoup ou moins c'est une guerre ou un accord plutôt aite entre les États-Unis et la Chine pour se dire que finalement la Chine va pouvoir utiliser les nouvelles technologies pour dépesser l'Europe de ces industries du 20e siècle nucléaire automobile 5G Télécom donc toutes les industries classiques dans lesquelles nous avons prospéré sont aujourd'hui ouvertes et donc quand on parle de de de cette configuration il faut comprendre que l'IA a aussi pour valeur à un moment ou un autre remplacer ou en tout cas prendre le le savoir-faire européen alors ce qui est intéressant c'est que euh on est dans une nouvelle un nouvel environnement depuis l'arrivée de liia il y a trois choses qu'il faut qu'il faut bien comprendre la première c'est qu'on est passé d'un monde déterministe les conditions initiales définissent les conditions de sortie on sait ce qu'on a en entrée ce qu'on a en sorti et avec l' générative on est en train d'entrer dans un ce qu'on appelle un monde non déterministe c'estàdire que finalement on est dans un environnement où en fonction de des points d'entrée on le voit sur quand vous tapez la même phrase sur ch GPT vous avez des réponses différentes et ça ça va être vrai dans plein de domaines dans les domaines créatifs et donc avec l' génératif ça veut dire qu'on peut faire quelque chose qui n'existait pas avant c'est et c'est ce qu'exliquait d'ailleurs très bien le fondateur de de d'oponi c'est que les techniques classiques qu'on connaissait c'était des messages qui étaient ensuite diffusés sur les réseaux sociaux aujourd'hui on est dans un monde où il a peut construire en fait une centaine des centaines de milliers d'agents traitants synthétique qui vont convaincre une par une chacun d'entre eux les personnes donc on est rentré dans une are où on va être non plus dans une personnalisation de de masse mais véritablement une massification de la personnalisation va être du One onOne avec des milliers des millions d'agent alors ça c'est un impact évidemment économique vous avez vous n'êtes pas sans savoir qu'il y a eu d'énormes annonces en France avec S France notamment des investissements de Microsoft de Google dans les Data Center pour cette bataille de Lia en fait il y a on a besoin de trois choses on a besoin de talent l'Europe en a beaucoup on a besoin de pu elles sont quasiment toutes fabriquées aujourd'hui par une entreprise qui s'appelle Nvidia à ceci près que pour que Nvidia puisse construire des puces elle a besoin de l'Europe les licences pour les puces viennent de l'Angleterre l'IP est en Hollande la machine qui fait la les ultraviolets pour imprimer les puces vient d'Hollande une partie des Technologies vient d'Allemagne les lasers viennent de Californie le coting c'est ce qu'on met par-dessus les puces vient du Japon donc en fait on est dans un système qui est quand même très globalisé donc on a besoin de l'Europe pour construire ça et puis la troisième chose qui est importante c'est d'avoir des Data Center et aujourd'hui ce que l'on voit depuis quelques peut-être moins d'un an c'est un changement complet de la stratégie des grandes plateformes qui jusqu'à maintenant ne voulait pas rentrer dans ces data center considérait qu'en fait on on est des vendeurs de pelle et de pioches mais on veut pas posséder les mines on va laisser ça à des acteurs tiers mais aujourd'hui la la pression financière est tellement importante on est quand même passé de société qui valait des milliards de dollars à des centaines de milliards aujourd'hui à des mil à des trillions le terme trilon c'est plutôt des 1000 milliards de dollars pour ça vous rappellera peut-être un film euh bien connu et qui parlait entre autres de ce sujet et donc on est dans une situation où on a tellement besoin de data center qu'on va acheter absolument tout alors nous on a eu 18 milliards d'investissement mais 18 milliards c'est le prix que amazon va payer uniquement en Espagne pour s'installer avec ce Data Center vous allez avoir des investissements colossaux pourquoi parce qu'à terme ce que l'on souhaite c'est évidemment contrôler l'ensemble des données l'ensemble des des choses parce que va permettre on l'espère en tout cas construire des environnements synthétiques construire de la du savoir-faire on est dans un changement radical aujourd'hui la question de savoir s'il y a remplace l'emploi est est à mon avis un faux sujet on a un problème démographique important et un effondrement du talent c'est vrai en Europe c'est vrai en Chine c'est vrai partout c'est plutôt de se demander si demain on va pouvoir utiliser l'IA pour résoudre des problèmes importants on le voit par exemple dans le domaine militaire si vous avez un un drone vous pouvez utiliser une personne personne pour le contrôler ce qu'on appelle les fameux drones FPV qu'on voit en en Ukraine si vous avez des millions de drones un être humain ne peut pas le faire donc on a besoin de lire et donc soudain tout le monde se dit on a besoin de ça et et donc d'une certaine manière ce ce c'est cet investissement va se faire à à à plusieurs dans plusieurs niveaux donc évidemment le domaine militaire mais également le domaine de la culture et ce qui est nouveau avec lia dit générative c'est qu'on on déjà on on est passé d'un on ne parle plus d'algorithme de modèle donc on napend pas avec on ne donne pas des paramètres on demande à la machine d'apprendre et donc la question qui se pose c'est qu'est-ce qu'elle apprend c'est comme quand l'éducation d'un enfant où va-t-il à l'école on saura ce qu'il a ce qu'il a appris l'autre chose qui est importante c'est que on ne s'intéresse plus à des données pures mais à de la culture et donc là on est dans une problématique qui est tout à fait nouvelle c'est qu'on a des appareils ou des outils qui ont une capacité d'acculturer de déculturer des populations entières on je parle souvent de d'autonomie cognitive quelle va être l'autonomie cognitive d'un pays et donc se pose évidemment la question de la prochaine génération d'ingérence aujourd'hui on utilise les réseaux sociaux on utilise d'une certaine manière on joue sur la stabilité émotionnelle d'un pays finalement ce que l'on voit c'est ce qu'on a vu pendant la la campagne américaine de Trump c'est tout le monde se déteste SAV pas pourquoi on s'insulte sur Twitter on ne sait plus vraiment pourquoi ça s'est maintenu mais aujourd'hui on va passer une étape d'après qui qui va être de convaincre les gens euh de vivre dans une réalité qui est un peu unique je sais pas si vous vous avez peut-être lu ce livre de Philippe cadi qui s'appelait le maître de haut château qui est un un chef-dœuvre qu'il a écrit il y a des années où il imaginait une Amérique qui est divisée en deux ceux qui pensent que les États-Unis il y a eu également une série euh où il imaginait qu'une une partie des États-Unis pensait que elle avait perdu la guerre et que Hitler avait gagnéc les Japonais et plus on a on s'approchait du centre des États-Unis on avait en fait l'inverse des gens qui qui s'approchaient de la vérité et donc on était dans un pays où on avait deux visions de la vérité en parallèle mais ce qui va se passer avec lya c'est qu'on va dans un dans un environnement où on aura des millions de versions de la vérité qui vont circuler avec des gens en fonction de leur groupe d'influence qui vont euh croire dur comme faire et avec il faut le rappeler parce qu'on a parlé de Cambridge Analytica il faut il faut se rappeler ce qui s'est passé avec le brexit c'est que le régulateur donc le régulateur des élections s'est rendu compte des publicités qui avaient été publiées sur le brexit des mois VO des années après les élections donc ça c'est c'est un vrai sujet qui m'amène très rapidement la à la trè partie qui est la question la souveraineté numérique évidemment la question qu'on doit se poser c'est si on veut agir dans cet environnement soit on utilise les outils des autres soit on utilise ses propres outils et si vous voulez le monde de l'informatique a toujours basculé entre deux types de de modèles modèles centralisés puis les modèles décentralisés dans les modèles centralisés on na jamais été très bon regardez Microsoft quand il y a Windows ou encore le Cloud et dans les modèles décentralisé on a toujours été plutôt pas mauvais parce qu'on a on arrivit à s'adapter et le problème c'est qu'aujourd'hui on a une nouvelle technologie qui s'appelle lia qui est probablement ultra centralisatrice peut-être même plus centralisatrice que tout ce qui a existé et donc on se trouve dans une situation qui est très complexe on parlait de politique mon de politique industrielle le problème est le suivant prenons la la fameuse taxe g FEM de de de le mer évidemment quand il proposent cette idée qui est une une bonne idée immédiatement les États-Unis vont dire nous allons faire retaillation sur l'agriculture les spiritueux le luxe et donc on est dans une situation finalement on a ce talon d'achile c'estd qu'on ne peut pas développer de nouvelles technologies les exporter parce que effectivement on a déjà no no nos industries existante et donc la question qui se pose c'est comment peut-on faire et est-ce qu'on a pas réussi à faire si vous prenez la culture l'agriculture tourne exclusivement quasiment exclusivement sur Microsoft on n' pas su en fait construire non seulement une politique publique d'achat small business mais également une politique de solidarité de façon à ce que les entreprises françaises qui exportent achètent des entreprises de technologie qui fabriquent localement qui demain vont exporter et donc on est dans un espèce de système qui fait que pour l'instant on n pas réussi à trouver la bonne approche et pour l'instant pour être très honnête je suis pas très très positif sur l'avenir mais c'est un c'est un des vrais sujets donc en glise de conclusion brève aujourd'hui on est dans un environnement complètement nouveau dans lequel nous avons une partie de la solution mais nous n'avons pas suffisamment d'argent pour investir dans ces domaines et surtout nous avons un autre vrai sujet c'est que aujourd'hui nos meilleurs talents partent travailler pour les grandes de ce monde qui savent leur les les attirer et une des questions c'est si on veut changer les choses et surtout si on veut à la fois dans le soft power et dans la dans le dans le cultural power de la France exister il faudra il faudra changer ça merci merci hop merci monsieur le Président Monsieur le rapporteur mesdames les sénatrices messieurs les les sénateurs merci beaucoup de de votre invitation à m'exprimer sur cette thématique passionnante avec peut-être un un un propos liminire de ma part qui euh vise d'abord vous dire que je m'exprime au nom du du Cap le centre d'analyse de prévision et de stratégie du ministère de l'Europe et Affaires étrangères que j'ai rejoin récemment euh qui a pour but depuis une cinquantaine d'années d'éclairer la la réflexion et la décision du du ministre c'est en quelque sorte le S tank du du ministère et qui assume aussi parfois son rôle de de poil à gratter tout ça pour vous dire que cette liberté a une contrepartie qui est que tout ce que je vais pouvoir vous dire n'engagera pas la parole du ministère ni du gouvernement donc c'est ma parole personnelle qui euh qui fera vois comment très bien euh précision importante mon propos je vais peut-être fonctionner fonctionner en anentonnoir en repartant de de mon expertise en relation internationale pour comment dirais je resituer l'enjeu dans sa perspective dans sa perspective une nouvelle fois interale européenne avec une thématique qui est traversée comme vous le savez par une une terminologie abondante et ce qui m'a surpris quand j'ai reçu votre invitation c'est ça été de voir que vous avez employé le terme d'influence étrangère donc je je je ne vais pas me lancer dans une digression sur différence entre influence et et ingérence mais mais l'enjeu est de taille hein et là de de récents travaux parlementaires dans la chambre basse sont revenus sur cette différence qui est qui est fondamentale hein avec l'idée d'ingérence qui est vraiment qui qui va vraiment viser à déstabiliser le pays quelle quelle cible ce sont des tactiques qui vont qui vont avoir pour objectif eu une malveillance une dissimulation voir voir voir une clandestinité dans dans ces dans ces modalités alors que l'influence va elle reposer sur euh la conviction la séduction la persuision et cetera donc il peut y avoir évidemment un fil conducteur entre ces différentes notions hein parce que l'influence peut dans certains cas être enfin peut paver la voix à à des à des tactiques de d'ingérence j'arrête ici cette comparaison mais pour le coup sur nos thématiques numériques elles ont vraiment une importance et euh pour revenir à à ma maison donc le rapport caps IRS de 2018 s'était arrêté déjà il y a il y a 6 ans sur cette sur sur cette différenciation et sur l'expression de de manipulation d'information pour catégoriser ce qui parfois fait l'objet d'un grand Gloubi buoulga dans dans le discours public et médiatique avec l'emploi de termes comme la désinformation la propagande la subversion les fake news les infox et cetera et cetera la guerre politique et cetera donc tout ça afin de souligner le caractère qui est à la fois malveillant donc l'intention de nuire et aussi clandestin de stratégie informationnelle hostile parce que vous êtes supposé ne pas être au courant évidemment des euh des des manœuvres qui vous qui vous visent l'autre point très très très limininaire et que je trouvais important de de mentionner devant vous c'est que cette cette thématique qui qui nous rassemble aujourd'hui euh au fond euh brasse une miriade de problématiques qui sont autant dangereux à traiter pour les décideurs euh parce que les ces ingérences numériques elles vont être à la fois un enjeu de de stratégie étatique d'acteur euh d' acteur hostile en l'occurrence quand on regarde l'enjeu évidemment de de Paris ce sera un enjeu aussi de confiance dans les médias un enjeu de modération des contenus des grandes plateformes et ça David chavalas notamment la l'a très bien abordé la question des infrastructures numériques et j'auraai peut-être l'occasion d'y revenir et enfin la politique des sanctions et et ça aussi depuis notamment depuis Février Mars 2022 on est bien placé pour pour savoir que euhil du du du du du législateur européen les les différentes initiatives qui peuvent qui peuvent se se être mise en place ont des impacts très concrets sur la réception de contenu eu hostile et manipulé donc tout tout ça pour pose une question très très concrète pour pour nous tous c'est que déjà quelle hauteur de vue peut-on avoir quand on a une une une telle une telle panoplie de de de sujets à traiter et comment comment décider dans dans un tel dans un tel contexte sachant que on peut difficilement être expert de de toutes ces thématiques alors évidemment je je ne vais pas aborder tous ces différents champs je me focaliser sur TR qu tro quatre enseignements relatifs à ces ingérences numériques en soulignant aussi quelques points d'attention très très particuliers notamment l'un d'entre eux sur la réception le le premier point c'est on l'a aussi un peu abordé c'est que c'est un enjeu qui est devenu vraiment un facteur structurant des relations interationales al c'est évidemment un maillot commun que que le dire mais quand vous allumez votre radio POS de télévision on est saisi d'un effet quasiment de saturation devant les nouvelles qui qui ont trait à ces sujets d'ingérence numérique informationnelle j'ai compilé juste deux trois exemples histoire de de vous donner un un aperçu de de cette densité et de cette complexité en avril donc il a quelques semaines meta a supprimé son outil de lutte contre contre la désinformation qui s'appelle Crow Tangle avant les élections américaines pour le coup dans une pe de campagne électorale euh et meta qui est une plateforme sur pour laquelle prolifère les propagandes ciblées affilié à la Russie et qui cible en amont d'élections européennes les pays pays comme la France l'Allemagne l'Italie et la Pologne ce qui avait été ce qui avait été rappelé tout à l'heure dans dans le même temps vous avez un pays comme comme le Brésil quifin la Cour suprême du Brésil qui a lancé une enquête contre Elon Musk pour instrumentalisation criminelle de X Twitter euh quelques quelques temps plus tard quelques jours plus tard open mais la maison mè de tajipiti reconnaissait dans un rapport que ces modèles ont été utilisés pour générer des contenus eu à la fois textuel et visuel dans plusieurs campagnes d'influence informationnelle dont l'opération russe rrn d'ppelganger et il y a quelques jours évidemment on l'a tous tous remarqué aisément sous couvert d'aider ces ressortissant à l'étranger praonde qui est une fondation du ministère russe des Affaires étrangères finance financer des projets de désinformation et euh et la défense légale de suspects d'espionnage notamment sur le sol européen pas seulement mais en particulier euh point qui est qui est lié donc c'est c'est c'est c'est évidemment une une une actualité qui qui est extrêmement dense et qui doit nous nous interpeller bien bien évidemment même si ça peut entraîner en retour une forme de lassitude mais ça c'est aussi un point de de vigilance qui qui est extrêmement important d'avoir à l'esprit quand on est en mesure d'agir dans ce dans ce champ dans une perspective peut-être plus plus macro ces manipulation formation elles sont une source majeure de déstabilisation euh classque par le le Forum éconique mondial he le le F parmi les les principaux risques mondiaux en 2024 au côté des risques climatiques et environmentaux et en fait de manière générale vous avez quasiment la totalité des des grandes enceintes internationales de débat qui ont ces dernières années réévaluer à la hausse le degré de de nocivité de corrosivité hein que font peser les manipulations interationelles sur nos systèmes à titre d'exemple prenez la conférence sur la sécurité de Munich dès 2017 proposé de considérer la démocratie comme étant une sorte d'infrastructure critique qu'il fallait à tout prix protéger des visés au style de nos compétiteurs dans une lecture tout aussi tout aussi macro puis j'emèerai ensuite un point de vigilance je voulais relever le le le le yatus qui est quand même assez formidable entre cette cet accès à la connaissance et à la transparence permis par la dissémination des moyens numériques et les capacités pour les états d'agir via ses manipulations l'information dans des dans des interstices de de conflictualité parce que c'est c'est bien ça dont on parle ce sont des interstices à la fois juridiques sociétau économique et cetera sous le seuil tout en masquant le responsabilité et c'est bien pour ça qu' qu'on est tout à fait en peine d'agir de façon satisfaisante dans ce domaine informationnel et et numérique autre point aussi qui est illustré par différents différents points d'actualité ces actions informationnelles euh elles ne font plus l'objet aujourd'hui de de d'aucun frein de type de type moral et qui visent aujourd'hui à instrumentaliser des des enjeux des visuels aussi régaliens on l'a tous vu ces derniers jours mais je je je je soulignerai peut-être davantage le le récit diffusé diffusé pardon selon lequel existerait un projet de partage de la dissuasion nucléaire française avec la conscience parfaite chez les adversaires que ce type de information sera repris par euh parti de la classe politique et des communautés affinitaires sur les réseaux sociaux donc là vous avez un comment dirais-je une une une continuité entre la la dimension internationale et et intérieure sur l'Océ intérieur étatique qui est tout à fait aujourd'hui évidente et qui qui mérite là aussi évidemment un regard beaucoup plus beaucoup plus beaucoup plus fouillé un point de de vigilance en fait et et c'est c'est à mon avis un point assez fondamental quand quand on cherche là aussi à à saisir toute la ENF en finesse toute l'importance de cet enjeu des des ingérences numériques c'est de de deessayer au fond la différence qu'il y a entre entre une partie de de la de la parole politique sur ces questions et et et le discours scientifique avec çaas aussi souligné hein avec l'enjeu d'aller déterminer des des métriques d'aller s'intéresser à la réception de différents types de discours et cetera hein donc la la la première la parle politique et pas seulement en France bien sûr a le souci désormais de plus en plus d'alerter les opinions publiques les concitoyens sur les menaces liées aux manipulation de l'information notamment en allant déclassifier en allant exposer de façon beaucoup plus offensive ces stratégies hostile le problème est que il y a il y a potentiellement un effet négatif euh à de de de porter des discours alarmistes sur cette menace que représente la désinformation euh en particulier sur les perceptions sur la perception qu'on peut avoir des médias de de leur rôle de responsabilité et des institutions la confiance qu' qu'on peut conserver vis-à-vis des institutions démocratiques donc ce que je ve dire ici c'est c'est que vous avez une ligne de crête euh très complexe sur C sur ces avertissements alarmistes euh qui est voilà de de de voir en fait si vous voulez entre la documentation de la de la présence d'une désinformation numérique et le fait de devoir rendre des des comptes de devoir rendre compte des limites de sa réception de son influence donc de son caractère persuisif et et corrosif et à cet égard vous avez une série de travaux académiques notamment aux États-Unis qui a commencé à à souligner cet impact à priori négatif des discours publics sur la lutte contre les manipulation de l'information et ça c'est c'est un prisme américain pour faire cours qui qui renvoie à la fois à la modélisation encore parcellaire de la réception de la désinformation est-ce que ça fonctionne vraiment euh à l'idée aussi que toutes les stratégies adverses ne se valent pas toutes et ne fonctionnent pas toujours au fond ici c'est c'est l'idée que euh met en avant des stratégies russes stratégies chinoises des stratégies iraniennes et cetera c'est pas pour autant que cette stratégie verticale aura des effet de nature stratégique vis-à-vis des cibles de de ces de ces états et dernièrement et ça ça mériterait d'être de faire l'objet de travaux sociologiqu en particulier hein c'est que ce C ces discours alarmistes peuvent susciter une forme d'anxiété au sein de la population dit dit autrement vous avez toute une toute une pollution tout un bruit médiatique autour de ces sujets qui est également l'un des objectifs des acteurs qui vont propager des manipulations d'information et pour forcer le trait on risque d'offrir une chambre d'écho au manur hosyle en l'occurrence dans l'actualité médiate la Russie souvent souvent russe voire en plus de favoriser une forme de soutien vis-à-vis de la vis-à-vis de la restriction de la liberté d'expression en ligne euh et à plus long terme d'aller contribuer à à ce fameux désenchantement vis-à-vis de la de la démocratie donc si vous voulez vous avez une une forme d'hypervigilance qui va certes capter notre attention mais exposer des campagnes informationnelles sans apporter d'éléments nourris sur leur impact euh ne va pas forcément contribuer à à si vous voulez l'efficacité des réponses qu'on pourra mettre en œuvre par par la suite donc je sais bien que c'est une problématique extrêmement difficile et sensible mais mais ça renvoie aussi chez nos décideurs à toute une série de biais qui est à la fois le mythe du public nécessairement attentif et réceptif à ces discours hostiles un autre biais qui est celui de de l'effet magique de la propagande et qui nécessairement va va fonctionner bon je m'arrête ici pour le coup mais mais mais mais ça pose des questions tout à fait tout à fait tout à fait concrètes un dernier point qui qui est lié à ça et ensuite je m'arrêterai monsieur le Président c'est de de de souligner les risques liés à la fération aujourd'hui d'une industrie privée de lutte contre contre les manipulations de de de l'information pardon vous avez une attention médiatique aujourd'hui qui qui est assez importante vis-à-vis de de différentes études de différents rapports qui qui émanent d'acteurs privés des question ce matin quand quand on a tous allumé la la radio sauf que ça peut d'une part aggraver la crise de confiance qui qui peut y avoir entre no nos différentes institutions à la fois publi les concitoyens le secteur privé qui obéira avant tout on sait tous à des à des à des motifs à des motifs mercantiles est-ce qu'il faut laisser aujourd'hui la réponse la quasi attribution de campagne informationnelle hostile à des à de grands acteurs technologiques j'en suis pas certain euh est-ce qu'il faut pas favoriser le l'éclosion le développement de d'une industrie qui qui est européenne vous avez aujourd'hui tout un tissu startup qui extrêmement compétent performant pour aller justement euh tisser des fils essayer de de de de de travailler en particulier sur la réception de de cette fameuse désinformation euh mais pour le coup l'empreinte l'empreinte médiatique des grands acteurs extraeuropéens est tel que ça met entre parenthèses très largement leur leurs travaux tout à fait tout à fait passionnant je vais peut-être m'arrêter m'arrêter ici mais juste pour souligner que vous avez des tendances aussi de fond notamment sur la la la la clandestinisation de plus en plus marquée de ces stratégies informationnelles hostiles euh et et une autre tendance qui est celle de s'attaquer aux infrastructures numériques pour ensuite viser la réception que des populations entière auront vis-à-vis de de l'information qu'ils vont qu'ils vont recevoir merci merci à vous merci à vous quatre je vais laisser la parole à notre rapporteur peut-être une première série de questions si tu on est d'accord et puis après on pourra laisser la parole aux autres collègues sachant que pour l'instant j'ai Sylvie Robert qui a sollicité mais peut-être d'autres Nathalie aussi voilà merci monsieur le Président d'abord je vous remerci pour la très grande qualité de vos interventions de vos analyses croisé et puis de vos propositions peut-être un un commentaire puis après pour une question vous évoquez le le le stade on va dire le stade 1 de la naïveté j'ai envie dire le Stade 2 de la défense et le le stade 3 de la de de l'ofens enfinêtre offensif en fait peut-être que c'est d'abord un des sujets de cette commissionê une des raisons c'est effectivement de voir le rôle croissant des ingérences dans la sphère politique et donc dans l'ensemble des sphères c'est pour ça que nousons fait un en place avec une idée qui dit moment il faut sortir de la naïveté sur les structures étatiques on peut dire que globalement on en est sorti globalement j'ai dit globalement même si on fera des précisations là où ça devient plus compliqué c'est aussi peut-être sur la on va dire en dehors société civile on voit bien que là on est peut-être encore dans la naveté et peut-être que aussi dire que c'est vrai que vous évoquez plusieurs sujets alors je vais vous évoquez le modèle économique de ces plateformes avec leur puissance on y ajoutant quand même que dans sur la dualité on voit bien que dans les les bigtech sont aussi parfois aussi très puissants dans les dispositifs d'ailleurs civil et militaires notamment sur aux États-Unis donc ils ont aussi un rôle aujourd'hui de béquy ou de de l'État donc ce ça renforce les diffés que vous évoquez avec la question démocratique vous l'avez mis l'industrie également la question des concurrences de vérité et du rôle d'une puissance publique dans justement où sa parole est d'orénavant soit contestée soit en tout cas remise en doute une fois que j'ai dit tout cela ma question elle est relativement simple c'est est-ce qu'il est trop tard ou pas est-ce qu'il est possible ou pas parce que quand je vous entends je ne suis pas un expert comme vous vous avez plein de solutions je demand deme qu'elle est croire ma question c'est vous vous avez vousmême dire parfois et c'est Monsieur CRIM qui disait d'ailleurs oui mais est-ce que on a les moyens financiers oui mais est-ce que en face il y a de la il y a de la il y a la capacité de de pas est-ce qu'il y a les talents et cetera donc moi ma question simple monsieur le Président c'est est-ce que réellement il peut-être le mode opératoire puisque nous sommes en fin de commission nous rendrons les conclusions début debjet donc ma question est-ce que si c'est pas trop tard et si c'est encore possible comment pons-nous actionner les choses faire en sorte que justement que ce rapport là via vos préconisations permett de dire nous avons compris qu'il fallait il fallait plus être naïf il faut continuer la défense notamment vi s d'outil améliorer et cetera et on a déjà des propositions mais il y a aussi l'offensive je sais que Madame Robert évoquera le narratif elle a raison et moi là je m'intéresse surtout aux infrastructures c'est comment créer un autre système d'infrastructure qui soit justement en capacité d'être moins moins sujet à l'économie de la tension et donc à ce que ça veut dire leur modèle économique algorithmi donc voilà ma seule question je crois qui me permettra d'avancer je vais je sens que Monsieur Benamour a envie de réagir ou de répondre à la question donc je vais lui donner la parole mais faudrait pas que ça gêne ou empêche ses collègues de pouvoir également intervenir et dire un mot s'il le souhaite Monsieur benamoun Je je n'ai pas abusé de votre temps la de j'étais j'ai été économe de mon temps pour pour l'introduction et donc je vais essayer de l'êre sur la réponse je crois que vous posez la seule véritable question qui vaille c'est-à-dire effectivement sommes-nous déjà trop tard alors sur sur les moyens financiers je vais tout de suite répondre je pense que les quatre dernières années nous montrent que ce qui était des dogmes européens et moi je l'ai vécu quand justement bien avant cela on parlait effectivement de programmes européens nos voisins allemands quand il est question quand il était question d'un endettement européen répondait n quelle était la question c'est-à-dire c'était même pas envisageable même pas en rêve aujourd'hui on l'a vu avec 800 ard pour le plan covid un investissement et donc un emprunt européen la même chose risque d'avoir lieu par rapport à la guerre en Ukraine et je pense et je sais même que ça fait partie de certaines des préconisations de certains candidats aux élections européennes on sait très bien qu'un qu'un qu'un emprunt massif européen sur des objectifs stratégiques est non seulement possible mais il est souhaitable donc quant quant au fait de savoir si on peut débloquer des milliards de milliards donc des trillions alors je sais qu'il y a tout un doute sur les les unités mais peu importe euh oui c'est possible et c'est souhaitable et je dirais que ce que font les Américains avec leurs plans sur l' re donc inflation reduction Act c'est effectivement un exemple sachant qu'il s'agit déjà pour eux d'une distorsion de concurrence vis-à-vis de nous et on le voit effectivement de manière claire là-dessus je pense que c'est c'est ces dernières années nous montrent que que le le schéma est possible sur sur la guerre perdue de de la vérité alors certains chercheurs se sont répandus en en disant c'est trop tard euh je considère que c'est dangereux que de que d'envisager une forme de résignation morale par rapport effectivement aux narratifs adverses qui sont multiples ça a été dit euh et qui peuvent effectivement être d'autant plus dangereux qu'ils ont des instruments et des leviers d'instrumentation qui sont extraordinairement puissant donc je pense qu'il nous faut là-dessus nous inspirer d'un autre ouvrage que je vous recommande dont la lecture est éclairante dans ce domaine c'est les ingénieurs du chaos de Monsieur Juliano daempoli qui avant de parler du mage du cremmelin parlait effectivement des mouvements extrémistes qui ont qui ont tendance à se regrouper ce que disait très bien monsieur Chaval Arias dans son schéma on voit effectivement que la politique devient centrifuge là où auparavant on gagnit la politique au centre maintenant ce sont les extrêmes qui se qui s'agrègent pour constituer effectivement un mouvement majoritaire et je rappellerai et c'est l'actualité qui nous occupe ces derniers temps que vous parliez des instruments de l'État en matière de défense euh c'est vrai dans les démocraties ça devrait l'être aujourd'hui un un grand journal de ce secteur W évoquit effectivement les les plans d'un certain Monsieur Donald Trump s'il a le pouvoir donc son agenda agenda 47 c'est comme ça présidence 47e par rapport effectivement à ces domaines et qui est tout simplement de mettre en coupe régler l'ensemble des instruments de surveillance de de l'administration américaine pour en faire un outil de répression politique de contrôle et de répression politique c'est je veux dire vous parlez de la naïveté notre naïveté a été de penser que la démocratie était un fait inéluctable dans les démocraties nous avons nous préoccuper de ce que seront nos instruments de contrôle si un gouvernement extrémiste venait au pouvoir y compris en France et ce n'est pas malheureusement de la politique fiction donc c'est c'est un un dernier point sur sur les instruments de régulation il a été très brièvement évoqué le Small Business Act qui est un instrument qui existe depuis 70 ans aux États-Unis 1953 et que nous nous refusons par le biais d'une influence et d'un lobbying forcené de certains grands acteurs industriels à mettre en place en Europe je pense qu'il n'est que temps de la mre manière des mots qui étaient auparavant tabou sur la le protectionnisme et que pratiquent massivement les les Américains et plus encore massivement les Chinois c'est l'Europan by Act EBA on parle de SBA et de EBA il nous faut effectivement limiter moi j'ai eu l'occasion dans un dans le casadre d'un rapport dont je ferai communication dans peu dans peu de temps sur le numérique et le développement durable de dire qu'il faudrait une taxe carbone aux frontières sachant que nos interlocuteurs chinois ont une énergie 10 ou 15 fois plus carbonée que la nôtre et queon les laisse vendre des voitures dont le bilan carbone global est délirant parce que dans dans la réalité elles ne seront jamais carbone neutre et et encore moins carbone positif du fait de l'énergie qui est faite pour les pour sans parler des matières premières et de l'extraction des matières premières terres rares et métocritiques en question je je pense en avoir terminé mais en gros le propos est de dire si une volonté politique il y a en matière de politique industrielle l'idée suivant laquelle nous serions nécessaire incapable de la mettre en œuvre est une idée défétiste je parlais de résignation dans ces domaines et je pense effectivement que les les échecs nombreux et les scandales nombreux donc enrialtica dont on parlait mais d'autres je veux dire montre que une voix et c'est ce que dit très bien je vous parla d'Anou Bradford dans son livre Les les les empires numériques ces échecs nombreux conduisent l'ensemble des pays qui observent les différentes plateformes de régulation en bloc de régulation a considéré que la vision européenne est la bonne et c'est aussi le cas des des r enfin de vos collègues parlementaires américains qui savent qu'une régulation devrait avoir lieu dans ces domaines depuis au moins 10 ans depuis l'administration Obama qu'elle n'a pas eu lieu du fait là encore d'un lobbying forcené de ces plateforme et qui qu'il est temps effectivement et et on remarque même la Chine c'est assez étrange le texte de régulation sur les données chinoises empreunte au rgpd alors évidemment en en ayant une grosse exception sur l'état qui se permet à peu près toute et n'importe quoi en terme d'accès aux données personnelles mais globalement on voit bien que nous avons un rôle à la fois industriel à développer un muscle industriel à développer avec une commande publique dont le Small Business Act pourrait être l'un des l'un des vecteurs et avec un exemple une exemplarité de l'État dans le choix des plateformes ce qui nous a occupé avec certains certains de vous ici par rapport à certains acteurs publics qui effectivement considèrent de façon je dirais là encore naïve la participation des des des grandes plateformes américaines à ce qui dev des mississions de l'État en particulier sur les données médicales on en avait sur la sûreté nucléaire sur les données médicales sur sur l'ensemble des données sensibles nous là là on peut parler d'e naïveté historique qui qui confine à la complaisance il est temps et il ESTs encore temps d'y veiller pour changer les choses euh oui voulez Alley si vous voulez euh alors moi je je suis d'accord sur le fait qu'il est encore temps d'ailleurs les les différentes propositions que j'ai mentionné qui sont absolument pas exhaustives et et pas forcément tout le temps de mois je pense peuvent être mis en place en moins d'un an savoir que oui oui ben je bien sûr vous les avez dans le rapport mais mais il y a beaucoup de choses qui peuvent être faites très rapidement et notamment par exemple il faut quand même se rendre compte que si vous si vous pensez à Facebook he nous de nous en 2017 on a dé on a on a identifié plein deésinformations sur facebook d'autres évidment l'ont fait avant nous au jour d'aujourd'hui dans notre laboratoire une seule personne cert très intelligente mais une seule personne a montré que facebook rater 20 % de ces de ces des des des désinformations sur la campagne politique européenne maintenant ça veut dire que une entreprise comme ça ne met tout simplement pas les moyens et ça fait plusieurs années donc là c'est un pays est souverain il peut légiférer il peut imposer des amendes il il est temps de faire des choses sur des des choses à mettre en place de manière très conrè concrète euh on a beaucoup parlé de de Lia tout à l'heure faut savoir que donc c'est aussi c'est un peu une course hein euh et par exemple le fait que lia va créer de la désinformation massive c'est vrai euh mais euh on peut aussi essayer de changer les espaces informationnels et par exemple le jour où vous arrivez à filtrer à à ce à imposer le fait que un utilisateur puisse filtrer ses interlocuteurs par Citoyenneté bah en fait vous avez plus de d'interférence avec les IA parce que les les IA elles vont pas se connecter à France Connect pour obtenir un un badge comme quoi ils sont français hein donc donc en fait il faut aussi penser il y a pas mal de solutions qui sont pas forcément très coûteuses qui peuvent avoir des des résultats immédiats enfin quasi immédiat et d'autres solutions qui effectivement vont demander un peu plus d'argent mais qui demandent surtout une volonté politique et ce qu'il faut savoir et c'est pas pour être àamiste mais c'est que si vous n'avez pas de volonté politique aujourd'hui personne ne pourra en avoir demain parce que c'est de ça dont il s'agit alors très brièvement euh on parlait tout à l'heure j'ai j'ai bien compris naïveté défense offensif euh l'offensif est toujours possible il faut après l'assumer c'est un c'est un c'est un sujet important c'est vrai qu'il est limité par le fait que l'on n' pas accès à des réseaux locaux on dit souvent l'opinion russe n'existe pas ou l'opinion iranienne nexexiste pas mais c'est évidemment faux on a plein de moyens de le faire euh ce qui ce ce qui me semble important c'est qu'on parlait beaucoup des modèles économiques et et il y a deux choses que je voulais préciser la première c'est pourquoi Facebook est développé de la manière dont il est développé ou n'importe quelle application en fait évidemment aucun des acteurs n'a envie d'avoir un produit qui soit fondamentalement biaisé mais dans la manière même dont ces produits sont construits ils le sont pour les raisons très simples vous avez plusieurs équipes la première équipe qui est la l'équipe la plus importante c'est l'équipe qui développe le produit son bonus est basé sur la capacité à faire un produit qui est à la fois très addictif mais aussi qui est capable de Cro de croître le plus vite on parle de growth il y a même des techniques qui ont été inventées par facebook a une équipe qui a certaines personnes que je connais c'est Facebook qui sont qui ont fait passer Facebook de 100 à 1 milliard et avec des stratégies pour grandir dans les pays qui étaient réputés difficiles pour les réseaux sociaux notamment le Japon juste pour exemple la Norvège était intégralement enfin on considère intégralement 50 personnes sur Facebook en une demi-journée donc ça a été très rapide la croissance ensuite vous avez une deuxième équipe qui s'occupe de la monétisation et donc ces bonus puce que à un moment donné ce sont des êtres humains qui sont payer en fonction de fonction précise c'est alors on a fait quelque chose de gigantesque et donc vous devez trouver une façon de payer de de monétiser l'espace le plus possible donc à partir de là on leur donne toutes les possibilités et puis enfin vous avez une troisème équipe qu'on appelle souvent en anglais trust and safety donc s'occupe de vérifier que le produit respecte les règles respecte et cette équipe elle arrive après et et donc elle évidemment elle elle arrive après qu'on est demandé en injonction qui est une injonction aussi du marché de grandir le plus vite possible et de ramener le plus d'argent possible et donc elle arrive véritablement dans un troème point et donc c'est vrai que fondamentalement ces questions arrive toujours à la fin et donc c'est aussi une des raisons pour lesquelles on a la situation dans laquelle on est maintenant ce qu'il faut comprendre c'est que le modèle économique est en train de changer il a changé d'ailleurs avec TikTok qui a vraiment inquiété Facebook parce que si vous regardez le modèle de Facebook c'éit un modèle de socialisation on parle ou Instagram on parle à ses amis on se compare à ses amis on fait des choses avec ses amis on se connecte à ses amis et cetera ce qui a créé d'ailleurs des problèmes chez les les jeunes puisqueen général quand vous êtes à l'école et que vous êtes le vilain petit canard vous avez pas envie d'aller sur Facebook parce qu'on va passer ou Instagram parce qu'on va passer son temps à vous à à vous bouler à vous à vous faire à à s'attaquer à à à vous et donc ce qui est génial avec TikTok c'est que soudain on a un système automatisé on n pas besoin de parler aux autres ça vient tout seul et Facebook est dans une poursuite depuis des années pour ils ont embuché d'ailleurs plusieurs personnes notamment des Français pour construire une intelligence artificielle qui soit aussi bonne que TikTok pour le faire mais pour l'instant ça a pas marché et avec l'arrivée de liya on a un risque non seulement on est des gens qui parlent à des flux flux unique mais que ces flux soient totalement synthétiques et donc n'est plus aucune phase avec la réalité et donc on rentre dans un nouvel univers donc ce qui ce qui est important c'est que la valorisation actuelle de ces entreprises elle est basée exclusivement sur l'exécution d'un projet ila depuis 1 an 2 ans à peu près et que tout ce qui existait avant d'une certaine manière est mis sur le côté et donc tout le travail quand on quand on se pose la question de savoir comme tu le disais est-ce que l'équipe de Facebook a quitté euh ne s'occupe plus de ça elle a été rebasculée sur les questions d'IA parce que c'est là que facebook imagine Facebook Google et tous les autres imagine les revenus futurs donc on est on est aussi dans un domaine très opportuniste où en fait on doit créer des narratifs le narratif des réseaux sociaux est est terminé ça n'attire plus personne ça n'excite plus personne les investisseurs ne veulent pas en entendre parler le Cloud lui-même est d'ailleurs maintenant moins intéressant ce qui est nouveau c'est li a et c'est comment construire ces fameux services qui vont être utilisés par des milliards de personnes et dont on espère que les revenus seront évidemment importants oui un mot très très rapide je je reviens à votre votre question initiale sur la la rhétorique du retard qui qui au fond nous nous fige et et on la retrouve d'ailleurs dans dans une échelle européenne si vous voulez sur sur toutes les problématiques de de régulation et cetera du du numérique euh pour pour revenir sur sur cette sur cette sur cet enjeu du du retard enfin de la temporalité euh il faut bien voir ici peut-être de deux paramètres là aussi à très grand trait le le premier c'est qu'on a sur ces problématiques d'ingérance numérique tendance à nous focaliser sur des épisodes de crise manifestation cycle électorau éruption de violence localisé et cetera le problème c'est que chez nos compétiteurs il y a une conception du temps long voire du temps très long de ces sujets donc il faut être en mesure de penser et d'agir en retour sur une échelle de temps à laquelle nous ne sommes pas habitués donc ça c'est une difficulté conceptuelle qui est qui est à mon sens éminente euh et et au sujet de laquelle il est à mon sens très important de réfléchir vraiment urgemment le deuxième point c'est que sur sur les réponses euh différencié qu'on peut qu'on peut apporter vous avez aujourd'hui une tendance de plus en plus en Europe aux États-Unis euh à penser euh des réponses de de façon plus plus offensive dans ce domaine informationnel c'est-à-dire que euh ça consisterait à les diffuser euh avec le même niveau d'intensité que les adversaires euh notre récit en jouant sur les mêmes leviers émotionnels euh idéologiques et cetera donc en l'occurrence si on prend si on prend le le cas de la Russie une nouvelle fois pas une surprise ou des des états révisionnistes ça considera aller exposer leur leur hypocrisie dans certains types de récit qu'il qu'ils mettront en avant et ce serait de cette manière-là que nous serion en mesure d'aller renforcer d'aller promouvoir nos valeurs démocratiques bon ça c'est c'est un premier point qui qui pose aussi toute une série de de questions très très politique et la deuxième c'est de de mettre sur un piédestal la défense de nos valeurs avant tout hein qui consiste à dire globalement que nous ne devons pas jouer sur le même terrain que nos compétiteurs parce que nos adversaires ne souhaitent qu'une seule chose c'est que nous remettions définitivement en cause notre notre modèle démocratique et tout tous les différents piliers le vote la confiance et cetera donc c'est voilà ce sont différents différents différentes échelles de répones qu'il faut aussi être en mesure de de de voilà te bien distinguer et aussi d'articuler merci monsieur le Président merci beaucoup messieur alors je va pas parler du narratif parce que mes collègues m'entendre parler c'est c'est devenu obsessionnel mais je vais quand même reprendre je vais reprendre les propos de Monsieur CRIM qui m'ont beaucoup intéressé vous avez dit monsieur que finalement la période des algorithmes était terminée et que dans le passage avec l'intelligence artificielle on allait se retrouver euh dans un champ que l'on connaît mais qui est beaucoup plus difficile et en même temps peut-être intéressant à appréhender c'est un environnement culturel au sens cognitif on parle de Gard de perception c'est-àd la construction vraiment et du coup peut-être beaucoup plus cohérente que le simple fait d'avoir des données algorithmiques qui profilent et qui permettent de cibler et puis de de de créer du du récit mais là de créer des histoires et et et que peut-être dans cette périodel nous allons devoir finalement prendre conscience que on voilà on va passer à à à ce stade là alors moi j'avais deux questions euh puisque notre commission d'enquête c'est euh on vous avez parler en fait d'ingérence he c'est une commission d'enquête sur la question des influences est-ce que juste ce qui n'est pas tout à fait la même chose et je reprends vos propos c'est-à-dire que notre offensive ne doit pas être de même nature est-ce que justement ou alors peut-être ça c'est mais on peut en tout cas utiliser les mêmes outils mais à d'autres finalités puisque on on avec d'autres finalités est-ce que cette question de Lia génératif qui va finalement acculturer vous l'avez dit hein monsieur cririm voir même déculturé c'est-à-dire c'est ça qui est je trouve extrêmement préoccupant et en même temps effrayant ne va pas être pour nous la possibilité euh justement de peser si on s'en donne les moyens financiers technologiques euh politique je le dis de pouvoir euh vraiment travailler à une stratégie d'influence via les médias via alors vous vous avez dit euh je crois on n'a pas accès obligatoirement aux médias locaux mais on a aussi des outils hein d'influence euh est-ce que pour vous c'est possible aujourd'hui alors vous avez dit Monsieur Benamou on on a encore le temps enfin en tout cas on peut le faire un petit peu voilà est-ce qu'on est aujourd'hui on peut le faire et qui peut le faire merci bien alors on a compris que la question de la présidente Robert sesser surtout à Monsieur CRIM mais aussi à Monsieur Benamou je leur propose de de le retenir et je vais donner la parole à Madame Goulet et après à Madame Maurin de sa comme ça on essaiera de répartir les les réponse entre vos quatre oui merci merci monsieur le Président un constat d'abord lorsqu'on a alerté et vous étiez présents les uns et les autres en tous les cas beaucoup d'entre vous sur Microsoft euh qui équipé le Data hub hein els juillet 2020 voilà nous avons largement nous avons largement alerté Catherine Morin de saill moi-même lorsque Microsoft a été choisi euh pour les données de BPI France pour euh les prêts garantis par l'État au moment du covid pouvant ainsi aspirer les données de milliers d'entreprises euh lorsque Microsoft équipe le ministère de la Défense nous alertons et puis il ne se passe rien donc il est pas monsieur noséti vous nous avez dit finalement c'est quand il y a une crise mais pas du tout parce que même à froid si j'ose dire euh nous sommes très nombreux ici et Catherine Morin de C en tête à alerter sur des sujets de souveraineté numérique donc venir nous nous expliquer après que que finalement tout ça est compliqué et que peut-être que c'est un peu tard en tous les cas ici dans cette maison et encore une fois il faut rendre à César ce qui appartient à César Catherine Morin de sailli a mené ce combat depuis longtemps elle n'a pas été toute seu on a quand même été un certain nombre donc de ce point de vue-là c'est un peu compliqué alors comme il y a des prévisions et des stratégies au ministère euh monsieur nosetti c'est ça me rappelle une phrase du du Doyen Vedel qui disait le plan parle à l'indicatif présent et futur parfois au conditionnel jamais à l'impératif bon donc on est quand même dans une difficulté donc ma première question c'est comment est-ce que vous expliquz cette naïveté finalement itérative parce que c'est pas une seule fois et c'est pas une seule fois qu'il y a eu des mises en garde donc si vous voulez quand on demande aujourd'hui dans cette commission d'enquête les moyens qui appartiennent à l'État et les pouvoirs publics fent au au aux influences on a été on on est quand même face à une difficulté ça c'est la première chose la seconde chose c'est votre appréciation puisque le responsable de TikTok était avant vous d'après vous quelle est sa marge de manœuvre dans la réponse est-ce que est-ce qu'il a vraiment non mais justement mais c'est bien que vous si vous voulez l'intérêt de poser des questions c'est quand on pressend les réponses en même temps bon donc voilà quelle est la marge de manœuvre des des responsables de TikTok face à une stratégie qui manifestement euh n'est pas n'est pas uniquement de leur fait et puis la troisième chose qui est quand même importante et je presque fini c'est la coordination des différents outils viginum et les autres la défense le ministère des Affaires étrangères et cetera quand le budget de de la diplomatie d'influence diminue parce que ça c'est aussi un c'est aussi un sujet et enfin la fiscalité parce que finalement la fiscalité de ces gfemes est est aussi importante et c'est aussi aussi et c'est aussi un outil donc la première la première question c'est comment vous expliquez cette naïveté itérative la deuxième question c'est quel est d'après vous la marge de manœuvre de TikTok enfin des responsables de TikTok ici dans les réponses qu'il nous donnent euh puisque d'après eux tout va très bien et euh et Monsieur nosetti plutôt pour vous comment comment est-ce que fonctionne la la coordination entre les les différents outils et tenez-vous compte de du travail du Parlement quelques mots en complément de ce qui a déjà été dit moi je dois dire messieurs en vous entendant je suis consternée non pas par les propos que vous tenez parce que ils sont toujours plus pertinents que que que d'habitude c'est pas la première fois que vous exprimez devant le le Sénat au moins pour trois d'entre vous mais on a l'impression que rien ne se passe depuis 10 ans ce que vous avez dit aujourd'hui vous le disiez déjà il y a 10 ans en 2013 quand vous avez été auditionné sur ce fameux rapport l'Union européenne colonie du monde numérique puis en 2015 devant la commission qui s'était mis en place qui sont commun d'information sur ce que quel pourrait être le rôle de l'Europe dans la gouvernance mondiale de de l'Internet peut-être c'est une question je Prz tout à l'heure d'ailleurs cette gouvernance mondiale de l'Internet et vous nous alertiez déjà sur sortir d'une naïveté compllaisante donc la question de Nathalie Goulet est tout à fait pertinente pour moi ce n'est même plus de la naïveté c'est de la complaisance se voir de la complicité à certains égards à vous de nous éclairer sur ce sur ce sujet euh parce que vous nous alertiez sur les plateformes ont abusé fiscalement puis les plateformes ont abusé économiquement verrouillant tous les système d'où le DMA qui s'est mis en place par la suite les plateformes ont abusé sur les réseaux sociaux les services en manipulant les opinions en pratiquant toutes sortes de de malversations des fausses nouvelles harcèlement et cetera et vous nous alertiez en disant attention maintenant affaire cambrige éti cas suite à l'affaire Snowdown les opinions occidental vont être manipulés c'est la guerre cognitive qui est en route il faut faire quelque chose c'est déjà il y a 2 ans c'est déjà il y a 2 ans que certains d'entre vous nous alerter ici même donc que faut-il faire en effet pour réveiller les opinions publiques mais avant les opinions publiques réveiller nos gouvernants parce que c'est bien ça le sujet en France le sujet était clairement identique des propositions par le Sénat ont été faites je reprends les intitulés de nos propositions de résolution pour une stratégie globale et offensive de la gouvernance de l'Internet qui énoncait toutes les propositions jusqu'aux dernières proposition que vous avez formulé monsieur qui se trouve dans les les rapports que nous avons fait à la commission des affaires européennes à l'occasion à la fois du DSA de l'IA Act et du Data Act sur la portabilité et l'interopérabilité donc que faut-il faire pour que les gouvernants prennent en compte ce que nous disons et qui ne fait des phénomènes qui nous font que s'agrafer s'amplifier et qui vont nous laisser bientôt dans l'impossibilité de réagir parce que il est pas trop tard certes mais quand on voit la force de frappe de ces entreprises qui sont venu les monstres qui avalent tout sur leur passage moi j'ai été frappé à nouveau par le discours très fort que vous nous avez tenu sur les modèles toxiques de ces plateformes c'est un sujet queon narrête pas de mettre sur la table et personne ne semble prendre en compte ce modèle économique toxi est pervers très identifié des des des des plateformes alors que faut-il faire et puis aussi vous demandez il y a un sujet que vous n'avez pas traité abordé c'est la gouvernance mondiale de l'Internet Antonio guterrez évoque en fait une instance mondiale à la manière de ce qui régule en fait la question de l'énergie atomique je vois que pour l'intelligence artificiel il a pris position il dit qu'il est nécessaire de de réguler collectivement sur ce sujet que pouvez-vous nous dire à l'heure actuelle la gouvernance mondiale de l'Internet des instances techniques aecan IETF dans quel sens ça a évolué est-ce que ça a bien évolué est-ce qu'on est toujours dans le multi partie prenante de l'ensemble des opérateurs et compris les entreprises qui ont leurs propres intérêts à participer à cette gouvernance que faut-il faire aussi parce que je pense que c'est à l'échelle de la planète qu'il faut aussi se poser sérieusement ces questions et mettre des gardesfous merci avant de de vous redonner la parole messieurs dans le sens inverse de celui que nous avons observé pour démarrer donc je démarraai par Monsieur nosetti je vais donner la parole à André richchard qui a aussi une intervention à faire vous avez des questions relativement précises donc elles doivent pouvoir rappeler des réponses relativement précises André oui merci président en fait merci merci pour pour cette participation à nos travaux messieurs et moi j'ai beaucoup appris parce que j'ai pas participé à tous les travaux précédents où vous étiez intervenus les uns et les autres si j'ai bien compris et donc j'étais véritablement sous sous le charme de de de ces de ces discours successifs moi je voudrais poser une question concernant plus particulièrement le travail de Monsieur Chaval Arias et et en le remerciant pour les pistes d'intervention qui figurent dans ce document dont on nous a donné un exemplaire euh euh je voulais euh vous à partir de de la de cette de cette piste concernant la la mise en place de routine d'audit des plateforme si j'ai bien compris ce que disait tout à l'heure monsieur tari CRIM trois trois étapes vous disiez conception euh euh euh mise en place mise en place enfin non conception vous disiez après pardon ation voilà et puis moi ce qui m'intéresse c'est la trè la 3è étape la 3ème étape sur la la vous appelez vous appelez la security de c'est trust say trust safetyy mais en Fran voà moi ce qui m'intéresse c'est ça et vous disiez que le le bonus ces gens étaient étai rémunérés au bonus est-ce que vous pourriz vous nous avez dit quels étaient les critères de bonus des deux premières phases vous nous avez pas précisé le critère du bonus de la 3è phase alors ça ça m'intéresse vraiment dans la mesure où euh notamment sur TikTok on voit bien que c'est c'est c'est c'est fondamental hein le trust and safety dont vous parlez c'est pour une plateforme comme TikTok c'est c'est c'est fondamental il nous raconte naturellement comment fonctionne leur trust and safety et puis nous on a une appréciation totalement différente de ce que de ce qu'ils font donc quels quels sont les les les critères de bonus de ces gens parce que lorsque c'est bien réussi vous avez bien compris qu'on peut retrouver les mêmes dans la dans dans la mise en place de routines d'audit de ces plateformes pour justement contrecarrer les éventuels euh dérives qui peuvent être mis en place par ces plateformes donc moi ça m'intéresserait de voir dans notre proposition de lutte en la matière euh comment il fonctionne véritablement quels sont les critères qui sont pour suivi de telle façon àce qu'effectivement vous l'avez compris avec l'utilisation de ces critères on puisse y faire face dans la lutte voilà enfin vous pouvez peut-être monsieur chavalarias nous nous dire aussi qu'est-ce que vous entendez par l'évolution des des institutions vulnérables aux manipulations d'opinion et tout particulièrement vous avez mis entre parenthèses le mode de scrutin est-ce que vous pouvez nous en dire plus à cet égard si vous pouvez être être un peu plus concret en la matière ça m'intéresse beaucoup je vous remercie merci André donc nous avons une vingtaine de minutes vous êtes quat vous pouvez faire la division rapidement on va commencer par Monsieur nosetti qui va répondre à l'ensemble des questions mais plus particulièrement à celle de Madame Goulet exactement merci monsieur le Président j'ai pas prétention à être pertinent sur l'ensemble des questions dont certaines d'ailleurs déborde du du du cadre des des sujets li aux influences et ingéren numérique donc je vais essayer de rester dans dans un créneau qui qui n'est pas forcément confortable d'ailleurs mais pour répondre à votre question madame la sénatrice sur euh déjà prenez-vous compte du travail du Parlement oui effectivement oui oui puis j'ai j'ai eu la chance à titre personnel de d'avoir été consulté lors lors de différentes missions d'information commissions d'enquête sur cette thématique là au sens large et et c'est évidemment d'une d'une d'une très grande utilité évidemment à chaque fois euh sur la coordination des différents outils de réponse que que la France a mis a mis en œuvre euh alors là-dessus je n'urais pas une une lecture franco-française c'est-à-dire que que je vais revenir j'ai associe aussi l'Union européenne dans ce qu'elle a pu mettre en place ces ces dernières années et ce sont des moyens qui d'ailleurs se renforcent depuis 2022 2023 mais tout simplement pour pour revenir sur sur le cas de la France et ça dans dans les différentes auditions que vous avez pu mener jusqu'à présent ce qui ce qui doit ressortir j'imagine c'est c'est effectivement d'une part un contexte de de foisonnement doctrinal alors le mot doctrine est peut-être un petit peu fort mais mais je l'emploie je ycian sachant qu'on est dans un contexte où vous l'avez vous l'avez rappelé je crois donc la diplomatie d'influence certes qui pourrait être mieux dotée financièrement a a été est en cours de de de révision que du côté des armées la lutte informatique d'influence la l2i et est aussi particulièrement rodé aujourd'hui et et déployé évidemment tout un champ d'action qui est qui est évidemment très très très pertinent que la création de de viginum en 2022 euh à a donné lieu à euh à un intérêt très poussé de la part des des des partenaires et et euh et allié de de la France avec pour le coup l'idée que c'est c'est un un nouvel objet institutionnel dans ce champ des manipulationformation qu'il faut non pas forcément imiter tel quel mais du moins àer consulter euh et et ça pour le coup dans dans mes fonction actuelle c'est c'est quelque chose qui qui qui qui est extrêmement frappant de voir que il y a une forme de de modèle entre guillemets français sur ces sujets-là de de lutte contre lainformation qui qui prend forme euh qui n'a pas été soudain mais mais qui se renforce au fil des ans évidemment euh cette coordination institutionnelle elle se fait notamment via le sdsn que que vous avez également dû dû consulter mais globalement le le le contexte dans dans lequel nous évoluons à ce niveau-là en France est tout à fait tout à fait rodé et une nouvelle fois la la toute la séquence qui qui qui s'est qui s'est produite en 2017 à partir de 2017 a a permis aussi de à la fois de renforcer la la prise de conscience et puis de de tester différents modes de réaction sur sur l'échelle l'échelle d'action européenne que je ne sous-estimerai pas à titre personnel vous avez la la bousole stratégique qui qui a été qui a été adopté il y a quelques quelques années et qui a tout un tout un tout un passage sur sur ce que les comment dir les décideurs européens appellent les les Fimi donc donc les les manipulations de l'information et les ingérences étrangères avec une une boîte à outils qui qui est inclue dans dans cette dans cette boussole vous voyez que législateur européen est toujours assez taacin on parle de boussole de bac à sable de de de boîte à outil donc c'est c'est c'est toujours un vocable assez assez curieux mais très concret lorsqu'il s'agit de de de ces de ces menaces informationnelles avec un système d'Allat rapide qui a été mis en place dès 2019 donc avant le avant le covid et qui associe à la fois les États-membres et les institutions européenne donc Commission le Parlement principalement euh ce mécanisme de rapide aujourd'hui il va être particulièrement mobilisé depuis quelques mois par le format de vaimmar tri vamar qui associe Allemagne France et Pologne et vous vous vous auditionnerai je pense le ministre affffaires étrangères monsieur ses journé dans quelques dans quelques semaines et c'est probablement quelques quelque chose qui ressortira de de son propos à savoir une une mobilisation de ce format précis pour allit montrer une une une cohésion entre entre pays affinitair sur ces sur ces sujets et vis-à-vis de la Russie et pas et pas seulement encore une fois donc cette interaction permanente Union européenne France elle se fait aussi à mon sens de de mieux en mieux même si on peut pas évidemment euh voilà porter une seule voix à 27 de de façon de façon de façon constante évidemment sur ces enjeux extrêmement évolutifs euh sur très rapidement sur la notion sur la naïveté bon ça j'ai pas prétention de de répondre de façon exhaustive à cet enjeu-là je relèverai juste que quand on parle de souveraineté c'est vrai que euh vu vu des des États-Unis à la fois de de l'État fédéral et des acteurs privés euh il y a il y a cette idée que euh on vit dans une aire numérique qui est totalement déspécialisée donc que le la la souveraineté vesphalienne telle qu'on a pu la penser euh depuis depuis des siècles ne s'applique pas ou extrêmement partiellement à cette à cet univers numérique et de là les incompréhensions évidemment qu'on qu'on peut avoir de part et d'autrre de de de de de l'Atlantique donc c'est c'est une réponse évidemment très insatisfaisante et et très partial mais euh nos nos nos conceptions au-delà des intérêts politiques nationaux sont quand même globalement très très très divergente malgré les travaux d'universitaires comme Bradford mais euh Bernard relevait qu'elle était américaine mais en fait elle est elle est née finlandaise donc elle a elle elle a quand même euh une une identité comment une identité européenne aussi quand même qu'elle ne qu'elle ne cache pas je m'arrêterai peut-être ici merci Monsieur cri vous répondrez surtout à Madame Robert oui absolument je voulais juste peut-être faire un point sur le le 3ème modèle dont on avait parlé qui est le le trust and safety en fait la raison pour laquelle je n'ai pas vraiment parlé de bonus c'est qu'en fait en général les gens qui s'occupent de ce champ de tâches ne font pas partie des entreprises ce sont souvent des des gens qu'on qu'on on utilise des entreprises extérieures alors ça peut être aux Philippines ça peut être dans le centre des États-Unis et ce sont des gens qui en général se retrouveve à voir les immondices de la planète c'est-à-dire tout ce que personne ne doit voir qui sont des gens qui ont souvent d'ailleurs des des chocs psychologiques on dit souvent que il y a certaines images qui a deux types de gens voient ces images les gens qui font le trust and safety donc T c gens qui doivent naviguer dans les égouts de l'Internet et les forces spéciales qui analysent les fameuses vidéo terroriste euh et donc une des une des stratégies de ces plateformes a été de dire on va utiliser l'intelligence artificiel pour limiter ce travail ça marche mais ça marche pas complètement et donc c'est vrai que ça pose un un une vraie question c'est que très souvent on a ça c'est une stratégie que les grandes entreprises ont c'est qu'elles travaillent avec des prestataires qu'on peut changer dont on peut changer euh qui n'ont pas forcément les mêmes droits qui n'ont pas accès au même soutien psychologique et donc c'est vrai que c'est un c'est un un sujet alors il y a beaucoup de gens qui travaillent aussi en interne mais je pense que pendant très longtemps euh si vous voulez si la régulation le règle le résultat d'une régulation c'est une amende qui correspond à à quelques centaines d'euros pour un particulier B on continue donc il y a aussi il y ai une sorte de vision de assez cynique sur combien va nous coûter la régulation si on ne respecte pas les règles et combien va nous ça va nous coûter c'est là où le il faut le dire le DMA et DSA vont être un un un changement puisque là on commence à à toucher à au portefeuille pour revenir sur la sur la question donc que vous aviez posé euh en fait ce qui est intéressant c'est qu'il y a un véritable à mon avis une véritable évolution dans le monde des réseaux sociaux le problème c'était le rapport à la vérité on est Souain inondé de narratifs divergents on ne sait plus où aller on ne sait plus qui croire euh que croire euh et ça c'est un vrai sujet qu'on qu'on a qu'on a vu depuis les depuis les élection depuis le brexit où finalement une partie des gens ont cru des choses qui étaient qui s avéré totalement fauses constru évidemment aux États-Unis également et et ce qui se passe avec lia c'est à mon avis assez différent et c'est intéressant parce que récemment il y avait des un article extraordinaire de je crois de W sur sur cette question si vous cherchez en Chine sur l'Internet chinois des informations sur Jack ma qui est l'équivalent de Jeff Bezos donc le le l'un des entrepreneurs les plus connus il n'y a plus aucune occurrence il a disparu c'est-à-dire qu'en fait on est dans un monde en permanence avec la censure où il n'y a pas de mémoire et ça pose un problème sur lien puisque l'une des vraies forces de lien c'est de pouvoir cataloguer les choses avoir une évolution des points de vue à les 10 20 50 100 ans c'est pour ça qu'une partie de la littérature a été utilisée alors pas toujours légalement parce qu'elle est cette mémoire de l'humanité et donc la question qui se pose avec Len c'est V veritablement une question du rapport à la mémoire et et moi ce qui m'inquiète et ce qui me pose des questions c'est qu'effectivement aujourd'hui la mémoire du web français c'est Archive.org aux États-Unis que se passe-t-il si demain Wikipédia donc wikiméia disparaît et qu'on a plus que les IA génératives pour répondre à tel ou quelle question prenons le référendum sur sur mastrich si ça disparaît la date change on a on est on s'est tous ému de voir des que les que la jeune génération n'était plus capable de se rappeler des dates essentielles parmi lesquelles malheureusement la révion française Marignon et et d'autres mais que se passe-t-il si effectivement ce rapport à la mémoire change donc il a à mon avis un des une des un des antidotes c'est de s'assurer euh que l'on conserve c'est un projet qui m'a toujours passionné j'en ai parlé à à différentes différents gouvernements c'est de s'assurer qu'on a une archive numérique de qualité et également dans un monde où la culture devient le nouveau pétrole alors soit vous considérez que c'est une matière fossile et qu'elle a aucune valeur ce que les grandes plateformes américaines imaginent soit vous considérez que c'est une matière vitale et et dans ce cas-là elle a une valeur et moi ce qui me gêne dans les discours que l'on peut avoir au niveau de l'Europe sur l'IA y compris sur la régulation de l'IA c'est que le principal avantage de l'Europe est toujours effacé la question culturelle l'archive culturelle la vision culturelle le futur de de la la créativité et et ça va être un des vrais enjeux pour moi la la question de la mémoire va être fondamentale puisque désormais les images générées le le monde synthétique peut-être que dans 10 ans le monde réel ce que j'appelle parfois l'Internet à logique qui est en lien avec une réalité du monde sera ultra minoritaire dans ce nouvel Internet et que dans Internet cet internet analogique la vérité sera finalement un petit point et et que rechercher la vérité ce sera finalement comme des fouill ologique aujourd'hui c'est-à-dire aller chercher dans des milliards de milliards de données synthétiques les données qui sont des données réelles et dans lesquelles une partie d'entre elles correspondra à la vérité donc il y a un vrai sujet qui consiste à savoir préserver la mémoire préserver les archives parce qu'on sera dans un débat permanent entre des archives physiques ou des archives numériques qui correspondent aux textes de les textes premier et des systèmes compressés donc les vous savez les les les Z ce qu'on appelle les LLM sont en fait une sorte de compression du savoir c'estàd qu'on a une machine qui a appris et qui est capable plus ou moins de nous répéter de nous ressortir les choses mais on n'est pas toujours sûr qu'elle dit que ce qu'elle dit est vrai elle peut elle peut avoir des des hallucinations et donc ça ça va être une question clé à mon avis qui est dans la question de la de l'ingérance évidemment essentiel c'est que si on on n plus les Français n'ont plus la capacité d'avoir d'être certain d'éléments qui sont factuellement vrais là je parle dans quelques années alors on aura des des ingérences d'une un placable efficacité voilà alors par rapport à la question des des audits euh donc juste pour pour préciser il y a y a il y a deux il y a en gros deux grandes manières d'auditer des plateformes c'est d'une part c'est demander à accès à leur code mais ça c'est très difficile et pour des raisons de secret des affaires souvent il refusent et cetera et l'autre c'est de d'arriver à calculer que en fonction de ce qui rentre c'estd les messages que produisent les gens et de ce qui sort il y a pas de trop de distorsion donc par exemple le billet de toxicité dont je vous parlais tout à l'heure est une distorsion qui qui doit être mesuré et qui qui doit don pour laquelle on faut demander une correction puisque ça fait partie d'un risque systémique donc mettre des des sondes qui permettent de en gros mesurer le décalage entre l'entrée et la sortie ça c'est peu coûteux c'est facile à faire pour autant qu'on a accès et c'est et l'accès est pas coûteux plus pour les plateformes Twitter on avait accès avant tout le monde avait accès et on pouvait faire ces mesures maintenant ils ont coupé justement parce qu'ils ne veulent pas qu'on vérifie hein mais en tout cas pouvoir faire des mesures comme ça pour moi c'est indispensable on j'ai parlé de la toxicité il faut savoir aussi que par exemple Twitter adapte les contenus en fonction de votre opinion politique ça aussi on l'a mesuré ça c'est interdit en France he vous pouvez pas adapter le produit à l'opinion politique d'une personne Twitter le fait Facebook le fait probablement donc il faut que des instances indépendantes et aussi la recherche académique pu puisse facilement parce que là le DSA est en train de le mettre en place un accès mais en fait c'est très compliqué on peut pas faire de la recherche avec ça c'est impossible de faire des audits donc puisse facilement faire ce genre d'audit et encore une fois c'est pas quelque chose ni de coûeux ni de très compliqué on peut le faire c'est d'autant plus important que il y a tout un débat sur la liberté d'expression sur les plateformes est-ce que c'est de la censure et cetera là je ne parle pas de censure je parle justement de de d'agir en faveur de la liberté d'expression puisque sur ces plateforme ce qui se passe c'est que la modulation du discours est un en fait une atteinte d'une certaine manière à la liberté d'expression même si sur ces plateformes ça n'a aucun sens puisque sur une plateforme privée tout ce qui compte c'est les conditions d'utilisation he la liberté d'expression c'est c'est pour l'espace public mais les plateformes privé si grande devenant de fait des espaces publics on peut se poser cette question là et ce qui se passe actuellement c'est que par exemple à un moment donné Twitter a décidé que le mot Mastodon devait être banni parce que il voulait éviter que ces utilisateurs migrent vers une autre plateforme donc là il concurrence déloyale donc en fait en défendant le fait que la diffusion d'information se fait de manière neutre c'est-à-dire pas en AMP certaines caractéristiques c'est défendre la liberté d'expression c'est n'est pas du tout de la censure hein et en ce moment les plateformes font la différence entre freedom of speech et freedom of REACH donc la liberté de parler et la liberté d'être entendu nous on parle de liberté d'expression ce qui veut dire qu'on peut s'exprimer et être entendu sans avoir de de de de de mesures de de répression ça si si vous avez l'ité de parler mais que personne peut vous entendre en fait c'est une atteinte à la liberté d'expression excusez-moi donc ça c'est pour les les questions de des des des audits sur la question de l'évolution des institutions euh donc ce que ce que ce que j'ai expliquis tout à l'heure c'est que vous êtes dans un dans un monde donc où euh beaucoup de d'opinions se forment d'ailleurs la majorité des opinions se forment notamment en ligne il faut savoir que le le le réseaux sociaux c'est la taux de pénétration en France c'est plus de 80 % hein donc c'est c'est énorme he et euh et donc il y a des opérations d'influence ou des acteurs qui ont intérêt à en gros extrémiser les débats euh quand vous extrémisez les les débats ça veut dire que en gros vous fractionnez euh l'opinion publique donc par exemple pour les les les les les élections vous vous empêchez les ralliments vous vous vous vous empêchez le le le le débat normal ce qui fait que avec le mode de scrutin actuel où on a une voix donnée à une personne vous avez les phénomènes par exemple de vote utile qui peuvent être instrumentalisés pour diviser des voix et faire passer au au deème tour des candidats qui n'auraiit jamais qui ne seraiit jamais passé au 2è tour ensuite donc au 2e tour vous avez deux candidats euh donc qui étant donné les campagnes d'avant c'est ce que je disais tout à l'heure sont souvent détestés par tous les autres partis à T a raison mais enfin c'est les campagnes font ça ce qui fait queaprès donc il faut voter pour le moins pire et comme j'expliquéis tout à l'heure manipuler qui est le moins pire c'est assez facile avec des campagnes de même des campagnes de robot et cetera ce qui fait que le vote qui est censé lire quelqu'un qui en gros a la préférence majoritaire euh peut tout à fait finir par élir quelqu'un qui finalement est rejeté par une partie de la population les méthodes de vote actuell ne tiennent pas pas compte du rejet par exemple non plus euh quand on regarde le le grand débat un des grands thèmes qui ressortait c'est la question du vote blanc et cetera ça a jamais été discuté je je suis pas là pour défendre ça mais juste pour expliquer que le le le vote actuel en fait est très manipulable parce que extrémisation premier tour et après manipulation de la perception du du du du moins pire au deuxème tour c'est facile avec le les environnements numériques qu'on a hein et donc il y a des méthodes de vote je parlais tout à l'heure du jugement majoritaire dont il est démontré que mathématiquement par par rapport à la structure ils sont moins sensibles à à la manipulation par extrémisation des préférences c'estàd que le résultat change moins si vous cherchez à à à à pousser les gens à à extrémiser leurs préférences et il a aussi plein d'autres avantages notamment qui a plus le vote utile et qu'il permet des débats amont plus intéressants mais ça ça ça ça irait j' ça prendrait trop de temps pour pour détailler ça enfin en tout cas juste pour expliquer que les modes de scrutin actuels sont archaïques la la démocratie est malade de son mode de scrutin or les théories du choix social ont fait beaucoup de travail depuis et il y a énormément de solutions qui ont été proposées ces 10 20 dernières années qui sont très très intéressantes qu'il faudrait vraiment regarder he parce que à ce moment c'est comme si on roulait en carrosse alors qu'on a la Ferrari et juste pour terminer je j'insiste sur le fait que on a beaucoup parlé d'IA à mon sens un des grands dangers de l'IA c'est d'avoir trop d'espérance en l'IA c'estd que si tout le monde se met à croire que l'IA va résoudre plein de choses et cetera on part dans une fuite en avant notamment consommation énergétique mais pas que qui va nous amener dans des fausses solutions je vous rappelle que par exle chat GPT aussi intelligent soit-il ne sait pas ce que c'est que la lettre E vous lui demandez d'écrire un texte sans la lettre E il n'y arrive pas il ne sait pas ce que c'est que la lettre E donc faut pas lui pretter trop de choses et ça ça peut aussi divertir notre éthique il y a un un journal israélien qui a fait sortir que l'armée américaine donc utilise lia pour ses drones mais que pour pouvoir utiliser ces drones elle aurait augmenté le taux de de de dégâts collatéraux admissibles c'est-à-dire qu'on utilise une technologie en pensant qu'elle qu'elle est très efficace mais en fait elle est pas si efficace elle tue beaucoup de elle fait beaucoup de dégâts collatéraux et pour pouvoir l'utiliser on remonte en fait on abaisse nos standards éthiques et ce qui risque de se passer c'est qu'on risque par fausse espérance abaisser les standards éthiques dans plein de domaines à cause de l'IA euh et euh voilà donc attention un des grands dangers je pense c'est de euh lui faire penser qu'elle peut faire plus que ce qu'elle ne fait vraiment pour le moment en tout cas monur merci alors j'ai j'ai effectivement quelques éléments à à tenter de de répondre alors déjà j'ai j'ai beaucoup apprécié l'expression de naïveté itérative qui donne le bénéfice du doute à nos interlocuteurs là où certains sont plus sévères et pensent qu'il y a une complaisance volontaire et que lorsque effectivement un même fait se produit de manière répétée en l'occurrence un même choix politique par rapport à ces plateformes euh ça ne peut pas être totalement lié au hasard et que lorsque la pièce retombe toujours systématiquement du même côté on finit par se poser la question donc oui je pense qu'il y a un aveuglement idéologique une sorte de fascination ultra libéral par rapport à ces plateformes celle qui a le plus fasciné nos élites il y a peu c'était uber effectivement avec ce côté disruptif par rapport au travail par rapport effectivement aux situations anciennes et je pense effectivement qu'on n pas sorti de ce de ce modèle- làà de sur croix quand d'un côté je dirais la main gauche de de de de régulation euh dit exactement le contraire de la main droite de prescription c'est-à-dire de choix pour l'État il y a à s'interroger dans les plateformes ou dans les passerelle qui n'existe pas entre les deux quelque part vous êtes l'une de ces plateformes et et d'une certaine manière vous me disiez que peut-on faire euh je pense effectivement qu'il y a une alerte que que vous avez euh conduit bien souvent et bien avant tout les autres euh mais il y a aussi effectivement des des euh des messages issus de structure et de et d'institutions comme les vôtres autour effectivement de l'opacité je on citait tout à l'heure le la plateforme des données de santé un de vos collègue parlementaire député la tomombe a demandé à ce que soit transmis le plan de migration qui avait été annoncé par le gouvernement puisque monsieur verrant ministre de la Santé à l'époque s'était engagé à faire il y a 3 ans à ce que cette migration se passe sous les 18 mois donc on est déjà dépassé de beaucoup votre collègue parlementaire a demandé transmission de ces données qui ne lui ont jamais été transmises pour l'excellente raison me semble-t-il qu'elle n'existe pas ce qui est la meilleure raison pour laquelle on ne pourrait pas les lui transmettre mais à un moment donné il faudra dire les choses de la même manière que le la DGSI puisque je citais tout à l'heure les services de renseignement c'est longuement mobiliser pour essayer de se départir de palentir palentir je précise le logiciel sur la Big Data sur le terrorisme qui était une création de la CIA c'est dire et qui équipe tous les services de renseignement américains mais vraiment tous compris tous les état-majors militaires bien par définition c'est encore en cours 10 ans plus tard après avoir été annoncé tambour et trompette depuis longtemps donc voilà je je je maintiens que là-dessus voilà vous me parliez de TikTok et de son et et de sa de ses responsables locaux une chose amusante de la commission d'enquête qui qui s'était réunie donc il y a quelques il y a un an je crois c'est pas compliqué il il ne savait même pas qui était le véritable responsable de TikTok il a fait fallu effectivement que que qu'il fasse pression pour obtenir le nom et au départ c'était un nom français en fait c'était une une dame chinoise qui en fait exercer ses responsabilités et donc ils ont en toute dernière minute changé pour mettre quelqu'un à la place en lier place il y a une opacité absolue de TikTok je maintiens effectivement que contrairement aux autres réseaux on peut avoir des métriques auprès des chercheurs et je précise que T Twitter enfin X est extrêmement méfiant par rapport aux chercheurs ils ont même rendu payant l'accès aux API là o enfin pardon aux interfaces de programmation euh là où auparavant c'était gratuit donc je pense que ce serait une légitime demande requête que de d'obliger ces plateformes à ce que les les données soient accessibles gratuitement aux chercheurs et non pas en plus leur obliger à dépenser de l'argent mais mais dans le cas de TikTok on n'a pas tout simplement la possibilité de savoir qui a vu quoi vous voyez c'est ça qui est très particulier et donc par définition des des modifications des amplifications tout à l'heure il était question du Freedom of REACH c'est-à-dire qu'un propos de comptoir tenu entre 10 entre deux personnes puisse avoir 100 millions de de de vues est une anomalie et penser effectivement que eux-mêm peuvent rendre visible auprès effectivement des personnes des messages en apparence destinés à un tout petit cercle pour justement leur donner une amplification et donc leur faire porter un message politique c'est effectivement dangereux madame la sén madame la Présidente vous me posiez la question sur le la gouvernance mondiale de l'Internet qui fut l'un de mes anciens métiers donc je je suis sensible à la question oui il y a des écrits très intéressants dans ces domaines à l'heure actuelle je ne vous cacherai pas que les organismes dont vous parliez dont nous avions longuement parl en autre temps Lacan et quelques autres structures internationales n'ont qu'un rôle totalement mineur parce que le pouvoir est détenu par ces quelques sociétés dans ces domaines on a vu par exemple sur les organismes de régulation du web le pouvoir est totalement dévié vers les Apple Google au détriment de tous les autres donc par des définition aujourd'hui le côté multipartenaire je vais pas vous CIT le terme anglais c'est multi stakeholder euh c'est c'est un vœux pieux dans la réalité il y a une reprise en main du pouvoir par ces grands acteurs point qu'il faille développer et je vous invite à lire l'excellent ouvrage al je sais que je ne fais pas souvent la publicité de de de de l'un de ces coauteurs à savoir l'excellent ouvrage coécrit par Monsieur Henry Kissinger avant son décès et Eric Schmith qui s'appelle age of ei donc l'âge de de de de liya euh dans lequel il décrit là c'est vraiment un propos de de Kissinger il décrit la nécessité de calquer les mécanismes de régulation de l'IA sur les mécanisme de la limitation des armements nucléaires et c'est passionnant alors il dit c'est compliqué mais même par rapport à la Chine et même par rapport à la Russie à un moment donné leur intérêt sera de se mettre autour d'une table et de négocier et ça c'est c'est véritablement un élément intéressant c'estàd que le risque sera trop grand y compris pour eux parce que à l'heure qu'il est on pourrait penser que c'est nous qui sommes dans la seringue et eux qui agitent le piston c'est un peu plus compliqué que ça alors il a été question tout à l'heure de du patron d'Alibaba il faut quand même rappeler une chose Alibaba qui est un peu l'équivalent la la copie carbonene de de d'Amazon en autre temps euh il a été rayé des cadres déporté mis sous résidence surveillé maintenant exilé au Japon parce qu'il a osé s'en prendre à la politique non pas fiscal de financement des des petites entreprises en Chine et là il est devenu un paria et lui lui-même qui était venu si vous me permettez l'expression se pavaner à vivateek il y a quelques années en disant les Européens ne savent que réguler nous quand on a un problème on cherche d'abord à le résoudre mais eux on eux ont un problème que tous nos amis spécialistes de la Chine et qui ont des des activités industrielles dans ce pays reconnaissent ils n'ont pas de justice indépendante et donc ce qui lui manquait à ce monsieur jackma c'est une justice indépendante qui ne le metent pas littéralement en en situation de devenir un paria exclu de sa propre société démis de ses fonctions et mis en résidence surveillé à un moment donné il a été question du long terme que pourrai avoir les les dictatures par rapport aux démocratie c'est un long terme relatif parce que dans la réalité ce que me disent mes amis experts dont un que nous connaissons bien Jean-Paul sm quand quand il est question des des des feuilles sur les des journaux financiers en Chine 75 % des gens finissent par être en prison pourquoi parce qu'ils atteignent un un seuil critique de dangerosité et ils sont littéralement éjecté par le Parti communiste chinois donc l'idée suivant laquelle et on l'a vu avec le le la politique zéro covid en Chine qui était une catastrophe un un régime a plus le temps parce qu'il est effectivement en en situation de dictature ou de ou d'autoritarisme c'est plus compliqué que ça n'en all l'air et je dirais que mieux encore l'un des problèmes que nous avons pu remarquer dans ces pays c'est que les signaux faibles ne leur remonte pas ne remonte pas au sommet de peur de déplaire c'est ce qu'on a vu avec le covid au départ c'est que les gouverneurs locaux n'osaient pas faire état d'un risque et donc il y a eu un retard à l'allumage de quelques semaines qui a conduit à l'extension que l'on sait donc voyez je crois que que le le jugement atti sur la démocratie obsédée par le le la prochaine échéance électorale et les dictatures ce quiessaie de nous faire croire un Poutine par rapport à son régime c'est plus compliqué je terminerai enfin par en disant que je crois beaucoup à à je veux dire à la législation par exemple c'est-à-dire que ce que nota effectivement à N bratford finlandoaméricaine c'est qu'effectivement l'Europe attire effectivement une une forme de sympathie mondiale par rapport à la régulation dans ce domaine et je crois beaucoup un mouvement du bas vers le haut c'est-à-dire de la France vers l'Europe de l'Europe vers le monde et je crois qu'il ne faut pas essayer d'aller et c'est un ancien négociateur aux Nations Unies qui vous le dit il faut pas essayer d'aller d'abord au Nations-Unis ça ne marchera pas je crois qu'il faut sur les sur les terrains sur lequels nous considérons qu'il y a urgence en particulier sur la sur sur la régulation des plateformes sur la régulation des données et aussi sur la régulation de l'IA je crois qu'il nous faut commencer par une action française et européennees pour après être en mesure de l'étendre au-delà merci à vous merci messieurs de vos contributions merci de nous avoir tenu en haleine pendant de bonnes heures et je suis sûr que notre rapporteur qui a pris beaucoup de notes s'inspirera de vos suggestions pour la rédaction du rapport donc je vous remercie en son nom et et aussi au NRE parce que ça nous importe d'avoir un un bon rapporteur et un bon rapport merci à vous