Intelligence artificielle et coopération interparlementaire

Bien mesdames et messieurs, madame la présidente Christine Lavarde, monsieur le président Stéphane Piednoir, chers collègues, mesdames et messieurs les intervenants, mesdames et messieurs, permettez-moi avant toute chose de partager le mot de bienvenue du président du Sénat, Gérard Larch qui parène cette table rondre et qui a souhaité vous adresser de manière tout à fait particulière ce matin. Je cite monsieur le vice-président du Sénat en charge de la coopération interparlementaire des groupes interparlementaires d'amitié Charloï Hervé Madame la présidente de la délégation à la prospective cher Christine Lavarde monsieur le président de l'office parlementaire d'évaluation des choix scientifiques et technologiques cher Stéphane Piedénoir monsieur le coprésident du groupe de travail du Parlement européen sur la mise en œuvre et l'application de la loi européenne sur l'intelligence artificielle madame la vice-présidente de l'Assemblée parlementaire du Conseil de l'Europe Mesdames et messieurs les parlementaires, chers collègues, mesdames et messieurs les intervenants, mesdames et messieurs, malgré une incompatibilité d'agenda, j'ai tenu à vous adresser un message en introduction à vos travaux par la voix du président Loï Hervé que je remercie car vous traitez aujourd'hui d'un enjeu essentiel pour notre avenir commun. On témoigne l'appel lancé il y a quelques jours par des universitaires et des cadres d'entreprise de l'IA pour établir des lignes rouges en la matière.

Et je suis très heureux que cet événement se tienne ici au palais du Luxembourg alors que nous célébrons cette année les 150 ans du Sénat de la République. Au Sénat ces dernières années, l'Office parlementaire d'évaluation des choix scientifiques et technologiques, la délégation à la prospective, la délégation collectivité territoriale ou encore les commissions législatives ont publié d'importants rapports sur la stratégie nationale en IA. les services publics, les collectivités territoriales, les professions du droit ou encore les enjeux de création.

Toute la pertinence de cette journée d'échange et de prolonger ses réflexions dans un cadre international. Il est en effet vital de traiter de ce sujet porteur d'espoir comme de risque dans le cadre d'une approche collective. Si l'Union européenne a adopté une loi pionnière en la matière qui a fait couler beaucoup d'ancre, la capacité du continent à faire émerger des leaders en la matière reste interrogé.

Je pense notamment à l'important rapport de Mario Dragy. Je suis convaincu qu'entre le réflexe des Ludites et l'optimisme BA, il y a une voie, celle qui consiste à soutenir l'innovation tout en évitant un développement anarchique. Notre continent doit prendre ce chemin et ne pas rattraer la marche de l'IA.

Vos travaux de ce jour y contribueront, j'en suis certain. Car la coopération parlementaire à laquelle je suis très attaché est l'une des voies les plus prometteuses à la fois pour inciter les gouvernement à adopter les mesures adéquates et dicter des normes partagées, s'approprier les enjeux, bref avancer ensemble en particulier au sein de l'Union européenne. Oui, la coopération parlementaire est à même de jouer un rôle de prise de conscience et d'accélérateur.

Avec cette journée, nous en assumons collectivement la responsabilité. Je vous souhaite donc à tous et à toutes d'excellents travaux et je tiens à en féliciter les organisateurs qui ont fait ici œuvre d'intérêt général. Gérard Larchet, président du Sénat.

Mesdames et messieurs, je me joins naturellement à notre président et je suis moi aussi particulièrement heureux de vous accueillir ici au palais du Luxembourg pour cette table ronde consacrée à l'IA. La haute assemblée particulièrement impliquée dans cette question. En premier lieu, Li technologie en plein développement donne lieu à d'importants travaux parlementaires.

Je salue moi aussi ceux de mes collègues Stéphane Piernoir et Christine Lavarde qui président l'OPEXT et la délégation à la prospective du Sénat. Donc les travaux sur chat GPT et sur les usages de l'IA dans différentes politiques publiques, je cite l'environnement, l'éducation, la santé, les territoires, la fiscalité ou la protection sociale ont été remarqué. Je les remercie pour leur participation active.

à cette table ronde qu'ils animeront et puis et clôtureront tous les deux en fin de matinée. Le Sénat joue ici pleinement son rôle constitutionnel d'évaluateur des politiques publiques et d'acteur de la réflexion prospective à laquelle il est très attaché. En second lieu, le Sénat qui célèbre cette année ses 150 ans d'histoire n'en est pas moins un utilisateur de l'IA.

Sous l'autorité de mon collègue Alain Marc qui préside la délégation du bureau en charge des technologies numériques de la cybersécurité et de l'intelligence artificielle, le Sénat s'est doté en mai dernier d'une charte d'utilisation de l'IA visant un usage éthique et l'efficacité de son administration. Il utilise aussi l'IA et développe des outils par exemple pour optimiser le classement des amendements en vu de l'organisation des débats en sciences publiques ou pour la rédaction des compte-rendus. Il contribue aussi à alimenter la réflexion au sein des assemblées parlementaires internationales.

Je pense par exemple aux ligne directrices pour l'IA dans les parlements de l'Union interparlementaire adopté en décembre dernier. L'usage de l'IA est enfin un objet de coopération interparlementaire au sujet duquel le Sénat est régulièrement sollicité par des chambres d'autres pays. Nous le savons, les potentialités de l'IA sont immenses mais elles comportent des risques.

En outre, son encadrement est fait l'objet de d'approches qui sont à cette heure divergente. La conception européenne est axée sur la régulation, l'éthique, la protection des données et le souci de souveraineté numérique. L'Union européenne a d'ailleurs mise en place une réglementation complète sur l'IA, entrée en vigueur en août 2024.

Je sais que notre Commission des affaires européennes est particulièrement attentive à ce sujet. D'autres acteurs priorisent davantage l'innovation, le rôle du marché et la compétitivité de leurs entreprises. Les débats autour de l'IA et de ses usages sont bien sûr nationaux mais également internationaux.

Cette dimension contribue sans doute au fait que qu'ils sont largement animés par les gouvernements et trop peu abordés dans les par les parlements. C'est pourquoi j'ai pris l'initiative d'organiser cet échange aujourd'hui au Sénat qui comprendra deux sessions. La première modérée par Stéphane Piednoir sera consacrée à la façon dont nous pouvons porter un agenda commun en faveur d'une gouvernance renforcée dans un contexte géopolitique particulièrement troublé.

À ce titre, nos échanges bénéficieront d'un éclairage à la fois européen et international fort, illustrant la dimension transfront transfrontière des problématiques contemporaines dont l'IA fait indubitablement partie. Cet éclairage est rapporté par mon collègue député Michel Mnamara qui copréside le groupe de travail du Parlement européen sur la mise en œuvre et l'application de la loi européenne sur l'IA par Mretta Kumpou Natri député finise et vice-présidente de l'Assemblée parlementaire du Conseil de l'Europe. Bonjour madame, soyez soyez la bienvenue qui prome les droits fondamentaux sur la quasi-totalité du continent européen et par Audre Plong directrice adjointe de la technologie et de l'innovation de le CDE organisation très investi dans l'IA.

La seconde session modérée par Christine Lavarde sera relative à la mise de l'IA au service de la sécurité. Le débat sera nourri par plusieurs intervenants dont Étienne Grâce, membre du conseil de l'IA et du numérique, par ailleurs directeur global de de l'IA chez CapG Invent, Henric Blidal, secrétaire général adjoint de l'assemblée parlementaire de l'OTAN, Maria Rosa Tadeo, professeur d'éthique numérique et des technologies militaires à l'université d'Oxford, Gaitan Poncelin de Recours, sous-directeur de la stratégie Alenci, agence nationale de la sécurité des systèmes d'information. Je remercie chaleureusement l'ensemble des participants dont je soulligne la diversité des profils et des expériences qui ont accepté de venir débattre au Sénat sur ce sujet du présent mais surtout sur un sujet d'avenir.

Je forme le vœu que cet échange participe à une appropriation croissante des problématiques de l'UA par les parlements et par les parlementaires, y compris dans leur dimension internationale européenne. La table ronde organisée aujourd'hui au Sénat se tient dans le contexte du sommet de Paris pour l'action sur l'IA de février dernier et qui précède l'édition 2026 du même sommet qui devrait avoir lieu en Inde. Des convergences permettent permettant d'affirmer nos valeurs sur la gouvernance et l'usage éthique de l'IA au niveau international sont attendus de ces sommets.

Je souhaite que notre table ronde contribue à l'élaboration collective de normes et de régulations justes et efficientes qui ne fasse pas obstacle à l'innovation tout en évitant de saper la confiance collective et de remettre en cause les principes qui régissent nos sociétés démocratiques. Je cède désormais la parole à notre collègue Michael Mcnamara qui, je le rappelle copréside le groupe de travail du Parlement européen sur la mise en œuvre et l'application de la loi européenne sur l'IA. The floor is yours. [Applaudissements] Euh, c'est bon.

Euh monsieur le vice-président, madame la vice-présidente, euh permettez-moi tout d'abord de de me d'exprimer ma gratitude au Sénat français d'avoir convoqué le table ronde d'aujourd'hui et en particulière au sénateur Louis Hervé pour son initiative et son invitation. C'est un grand honneur de me tenir devant vous au palais de Luxembourg sur le patronage du président Gérard Lar et de prendre la parole au côté au côté de mes très chers collègues au tout début de nos discussions. J'ai eu le privilège d'être député du parlement irlandais moné au cours duquel j'ai également été membre de la délégation irlandaise à l'assemblée parlementaire du Conseil de l'Europe.

Aujourd'hui, je suis député au Parlement européen. Grâce à ces parcours, j'ai constaté par moi-même l'importance de la coopération interreparlementaire pour répondre à des problématiques qu'aucune législature ne pas résoudre seul. Le sujet que nous occupe est à la fois opportune et urgent.

Comment les parlements grâce à la coopération pouvil définir position commune face à l'intelligence artificielle ? L'intelligence artificielle n'est pas un simple n'est pas une simple évolution technologique. C'est une force qui redéfinera nos économies, notre sécurité et nos sociétés selon unire qui nous est encore en que nous.

Son potentiel est considérable tout comme les risques qu'elle comporte. La question n'est pas de savoir si le euh I va euh remodéler euh notre monde. C'est déjà le cas.

Mais si les institutions démocratiques peuvent faire en sorte que cette transformation renforce nos économie, protège nos citoyens et témoine de nos valeurs. En Europe, nous avons déjà pris des mesures importants. Le règlement sur le IA est le premier cadre législatif complet de ce type au niveau mondial.

Il s'appuie sur la tradition européenne consistant à stimuler l'innovation et favorise la confiance grâce à la sécurité, aux protections et aux droits légaux comme nous l'avons fait en matière de protection des données, des droits de des consommateurs et des normes environnementales. Cette législation n'est pas un aboutissement, c'est un bas, c'est un également à gérer le IA euh dans une manière qui servve les citoyens, protège les droits et favorise la confiance dans l'innovation. Mais la législation droit aller de part avec ambition politique vise à garantir sa bonne exécution sa bonne exécution.

Tout en reste axé sur l'évolution de les enjouents les groupes de travail du Parlement européenne sur la mise en offre de de l'application du règlement sur l'intelligence artificielle que je que je coprécide joue un rôle essentiel joue un rôle essentiel de contrôle des travaux de la commission européenne à la suite de l'entrée en vigueur des règlements. Dans le même temps, il est tout aussi important de continuer à dialoguer avec des experts sur les tendances les tendance future tel que développe euh développement de la superintelligence artificielle et de l'intelligence artificielle générale afin de pouvoir anticiper les réponses politiques adaptées. Les parlements doivent reconnaître l'importance centrale de la IA dans notre société et l'inscrire à l'ordre du jour politique.

À cet égard, la France a montré le voix en nommant un secrétaire d'État chargé de l'intelligence artificielle en la personne de Clar Chapè en organisant un sommet pour l'action sur le IA à Paris euh en début d'année et en en et en encouragement les champions local euh tel que Mistral. L'Irlanda a également pris mesures précoces pour désigner des autorités nationales conformant au règlement sur le IA et notre parlement a mis en place une commission chargée du développement de la IA en Irlande. Ces exemples sont incorrigants mais ils doivent être euh conjugu des efforts proportionnels proportionnés euh dans l'ensemble de l'Union et même dans le monde entier pour que le gouvernement de EAS so cohérent, efficace et fidèle à nos valeurs.

Toutefois, le seul euh législation législation ne suffisent pas, le rôle des parlements ne se limite pas. euh adoption des lois. Nous sommes le voie des citoyens et les garant de l'obligation de rendre des comptes.

Nous veillons ce qui ce que les institutions chargées de l'application de loi disposent des ressources et contrôle de légitimité de la légitimité nécessaire et ça nous nous amène à la coopération interparlementaire. Le EA ne s'arrête pas aux frontières. Ces systèmes sont développés, déployés et utilisés dans l'ensemble des jurisdictions.

Les risques et les possibilités auxquelles nous sommes exposés sont partagés. Si chacun de nos parlements travaille sur son coin, nous risque de subir une fragmentation et des doublons et de passer à côté des possibilités de convergence sur la priorité commune. Mais si nous travaillons ensemble, nous pouvons apprendre à l'une des autres, amplifier notre influence collective et faire sorte de l'Europe parle d'une voix plus forte au niveau international.

Bien sûr, les perspectives différent existent. Certains euh mettent l'accent sur l'éthique, la dignité humaine et les droits fondamentaux. D'autres concentrant sur les compétiv compétitivité, les politiques industrielles et la course mondiale de l'innovation.

Ces deux points de vue sont importants mais sans coopération. Les le risque est celui de polarisation des débats grâce au dialogue entre les Parlements nationaux européennes et internationaux. Nous pouvons trouver un terrain euh d'entente et définir des stratégies équilibrées pour préserver pour pour préservant les droits et valorise l'innovation.

Le palais de Luxembourg est depuis longtemps un lieu propice pour débat sur la démocratie, la liberté et l'avenir de l'Europe. Aujourd'hui, nous élargissons cette tradition et dans est l'une des questions les plus importantes de notre époque. Chers collègues, je me réjouis de découvrir euh vos idées et vos enseignements tout au long des sessions aujourd'hui.

Ensemble réaffirmons que la gouvernance de la EA doit être guidée par les institutions démocratiques par la coopération entre les Parlements et par des valeurs qui nous unissent en tant que l'européenne. Je vous remercie. [Applaudissements] Tu remettre les cavaliers.

Oui. Bien mesdames et messieurs les parlementaires, chers collègues, c'est le vice-président Loï Hervé, madame la présidente Christine Lavarde. Mesdames et messieurs, c'est peu de dire évidemment que l'intelligence artificielle occupe pas mal d'activité de nos de nos instances que l'intelligence artificielle nous nous facile, nous interpelle, nous questionne sur plein de sujets.

Il suffit d'ailleurs de compter le nombre de de rapports de de d'articles de dossiers de conférences sur ce sujet pour comprendre à quel point c'est un c'est un sujet qui s'impose. L'intelligence artificielle nous effrait tout à la fois puisque elle met sur le devant de la 7 une crainte qui est en fait assez ancienne qui est plutôt ancestral, celle que que l'homme soit petit à petit remplacé et voir dominé par l'outil par la machine qu'il a lui-même conçue que nous serions devenus petit à petit des esclaves de cette machine. Cette crainte n'est pas nouvelle donc mais la capacité qu'on atteint aujourd'hui les la puissance des microprocesseurs de dernière génération et d'algorithme sophistiqué qui nous échappent un peu un peu obscur pour le le commun des mortels peut laisser penser que pour la première fois nous serions battus par dans le traitement d'information complexe comme l'illustre d'ailleurs les victoires de l'intelligence artificielle sur le des champions d'échec ou de jeux de go par exemple on a tous en tête ces ces des exemples.

Alors à cette crainte s'ajoute une autre crainte qui touche à la géopolitique mondiale, c'est évoqué à l'instant, celle de voir les nouvelles technologies maîtrisé par un petit nombre d'acteurs, par quelques acteurs puissants et et non contrôlés, les GU, on pense au Gafam américain bien sûr, les BATX chinois qui auraient la main sur des masses d'informations et qui pourraient nous rendre finalement totalement dépendant d'eux et donc imposer leurs règles au reste du monde. C'est bien de cela que nous devons débattre aujourd'hui. Alors, quelle habitude adoptée devant ce progrès, devant les progrès de l'intelligence artificielle des des dernières années ?

Combattre l'interd par l'interdiction ne semble pas pertinent. On se souvient d'ailleurs du moratoire envisagé par Elon Musk pendant quelques temps avec d'autres sans doute d'autres choses en tête. C'est à mon avis illusoire et cela nous priverait de des atouts que que l'on peut attendre. on renoncerait à au progrès que l'intelligence artificielle permet dans plein de domaines, dans le domaine médical, dans la recherche, dans l'enseignement, dans la formation, nous renoncerions à des gains de de productivité et serions tout simplement dépassés par nos concurrents économiques qui vont à tout allure.

Alors, ça a été dit, l'Office parlementaire d'évaluation des choix scientifiques et technologiques, l'OPEXT, pour faire un peu plus court, que je que je préside, rassemble 18 députés, 18 sénateurs euh lorsque tout le monde est en poste en tout cas. Donc, l'OPEC s'est penché sur cette question dans un rapport que je vous conseille adopté en la fin de l'année dernière intitulé chat GPT et après bilan et perspective de l'intelligence artificielle. Il mettait en évidence des évolutions rapides des technologies et la nécessité de de régulation mais en plaidant pour une gouvernance mondiale de l'IA.

En attendant que cette hypothétique gouvernance mondiale se mette en place, l'approche européenne existe. Elle n'est pas celle de l'interdiction comme je l'ai dit tout à l'heure, mais elle n'est pas non plus celle d'une d'une naïveté, d'une confiance absolue faite à la technologie et aux acteurs de l'intelligence artificielle. Li acte de juillet 2024.

Avec cela, nous avons choisi la voie de la de la régulation en posant certains principes. D'abord, l'IA doit respecter les droits des individus. J'ajouterai aussi les droits des auteurs.

Elle ne doit pas nous induire en erreur ou nous manipuler. Or, on a un certain nombre de faits qui sont troublants de ce point de vue-là et nous devons être protégés comme consommateur mais aussi comme citoyen. Alors bien sûr, cette volonté de de réguler l'intelligence artificielle ne plaît pas et ne correspond pas à tout le monde.

On commence à voir les les géants du secteur rechigner à mettre en œuvre cette régulation, nos réglementations européennes. pression américaine notamment à revoir notre cadre législatif veut revoir donc ça à la baisse voir le démanteler pour mieux laisser des opérateurs de ce pays déployer en j'allais dire en toute impunité en tout cas leur solution sur le territoire de l'Union européenne et ça s'est accentué ces derniers mois nous avons tous ça bien en tête alors allons-nous céder abandonner toute volonté de régulation serait sans doute une erreur nous allons en débattre mais pour résister au risque de démontellement qui est bien réel. Nous devons trouver des outils de gouvernance de l'IA au moins à l'échelle d'abord de l'Union européenne pour nous de nous harmoniser avant de d'envisager autre chose.

C'est tout l'objet donc de nos échanges sur cette première table ronde que je vais modérer comme on dit mettre comment mettre l'intelligence artificielle au service de l'intérêt général. Discutons discutons-en et progresserons sur la voie d'une intelligence artificielle à la fois performante et digne de confiance. Pour cela, je vais commencer par laisser la parole à monsieur Michael McNamera, député européen qui nous fait l'honneur d'être parmi nous, coprésident d'un groupe de travail adoc, un groupe de travail du Parlement européen sur la mise en œuvre et l'application de la loi européenne sur l'intelligence artificielle.

Donc a été adoptée fin en juillet 2024. Je vous laisse monsieur Mcnamara une nouvelle fois la parole pour votre intervention. Thank you monsieur vice président madame leprésidente moderators je vais faire beaucoup de choses que vous avez dit dans ma préparation et vous serez ravi d'entendre que je le ferai en anglais plutôt que de mon mauvais français.

C'est un honneur de m'adresser à vous et je vous remercie d'avoir modéré nos discussions. Merci à le carv d'avoir organisé cette conférence. La question est donc de savoir comment les parlements peuvent mettre en place ce gend commun pour la gouvernance de l'intelligence artificielle et ce dans un contexte géopolitique incertain, ce qui est quelque chose de urgent et fondamental pour nos sociétés.

L'année dernière, l'Union européenne a adopté la loi sur l'intelligence artificielle, premier cadre juridique international complet sur l'intelligence artificielle qui commence à s'impliquer depuis cet été et va se mettre en œuvre par phase. C'est un exemple de gouvernance mondiale avec message clair, l'innovation doit se respecter les droits, la rédition de compte et les valeurs démocratiques. Cette loi, elle approche elle adopte une approche fondée sur le risque avec certaines pratiques comme les scor qui sont interdits et certaines pratiques sont sujetes à des des restrictions strictes, des exigences de transparence et il y a quand même une possibilité d'innover.

Cela reflète l'équilibre important en Union européenne entre l'approche pragmatique et la prise en compte des des enjeux futurs. Cette loi, ce n'est que le début, le véritable test sera sa mise en œuvre et la gouvernance. Ça crée une architecture architecture qui permettra de faire un suivi euh des modèles les plus avancés, mettre en place euh une application de la loi.

Un code d'éthique va servir et un conseil va corréguler avec l'industrie et le Parlement va permettre une certaine flexibilité au fur et à mesure que la technologie évolue. Pendant ce temps-là, les autorités nationales seront les régulateurs de premier rang et servir échanger avec les citoyens. Alors, ce système, il prend compte des questions et des défis.

Est-ce que déjà l'interprétation des priorités et des principes sera les mêmes dans tous les pays ? Qu'en est-il de l'expertise qui est nécessaire ? et va-t-on trouver un équilibre entre les droits et l'innovation notamment pour les PME et pour les chercheurs dans nos différentes universités européennes ?

Trois défis. Le premier, la conformité entre tous les Étatsmembres. Si ce n'est pas la même application dans tous les Étatsmembres, cela va étioler la confiance des entreprises.

Il faut donc jouer un rôle pour renforcer cette conférence et une application cohérente à travers tous les Étatsmembres. Ensuite la la les capacités, il faut d'expertise de l'indépendance pour réguler l'intelligence artificielle sinon ce ne sera que trop symbolique. Le Parlement européen demande une augmentation importante du budget des bureaux sur l'IA et c'est pour ça que les parlements nationaux devraient répéter ça au niveau national.

Et le troisème défi, c'est l'équilibre. Les réglementations doivent protéger les droits fondamentaux tout en soutenant l'innovation et les l'innovation et les écosystèmes d'évaluation. Il faut pas écraser les petites entreprises, les laboratoires de recherche et donc les parlements vont devoir jouer un rôle de supervision pour cela.

Un parlement seul ne peut pas résoudre ça. Lia ne connaît pas de frontière et donc la réglementation doit être internationale. La coopération interparlementaire n'est pas une option, ce n'est pas un luxe, elle est essentielle.

La coopération nous permettra d'échanger des bonnes pratiques, d'apprendre comment les différentes communautés surveillent les politiques d'IA et comparer face nos évaluations risques et les travaux de nos experts dans les différents États-mes. nous permettra de coordonner notre supervision sur les questions telles que la surveillance biométrique, la désinformation et la transformation des grands modèles LLM et s'assurer que l'UE participe au forums internationaux euh le Conseil de l'Europe, le CDE, le G20, les Nations- Unies et que nous y intervenions avec une voie commune. Les parlements euh doivent superviser la loi, pas que l'exécutif.

Et donc, il faut s'associer que la gouvernement que la gouvernance se fait de manière transparente et légitime en droite ligne des attentes et des besoins des citoyens. Les gouvernements doivent également euh jouer un rôle de pour façonner l'IA aussi, s'assurer que son déploement est sûr et qu'elle respecte la dignité humaine, l'équité, la solidarité. Si l'Europe veut façoler l'avenir, elle doit établir des normes à l'international.

En renforçant son autonomité stratégique, notamment en investissant dans le développement du lia, nous posons en faire un moteur de prospérité, d'inclusivité et de sécurité. Cela impliquera des effets stratégiques. Nous devons construire des giga factory d'IA et permettre les investissements à grande échelle, créer des exercices de réglementation. de mettre en place des projets stratégiques avec des modèles de pointe et encourager l'adoption de cette technologie dans des secteur stratégique comme avec notamment des dernières stratégies de la Commission européenne qui vise à soutenir le déploiement de l'IA dans l'instrcture et notamment dans la santé publique.

Il faut avoir une supervision du risque systémique s'assurer que l'Union européenne fait preuve est exemplaire en terme de surveillance. La gouvernance c'est pas qu'une question de garde fou. C'est aussi donner à l'Europe les outils pour innover conformément à ces valeurs et s'assurer que la souveraineté technologique vient renfer souveraineté démocratique.

Ce qui m'en amène à la à l'horizon long terme. Comme dit dans le dernier rapport, la super intelligence est un des défis les plus importants auxquels nous faisons face. Nous ne parlons plus de science-fiction ici.

C'est une véritable possibilité que un système qui est plus puissant qu'un être humain vienne à exister. Le risque c'est que ce système superintelligent ne soit pas aligné sur nos valeurs et que cela cause des dommages irréparables sur nos économies, notre sécurité, voir la survie même de la race humaine. Ce ne sont pas des peurs abstraites.

Elles sont reconnues par des prix Nobels et des leaders mondiaux. Nous ne pouvons pas être spectateurs. Si nous abandonnons notre leadership, les règles seront déterminées sans nous et peut-être qu'elle le prior qu'elles donneront priorité au bénéfices plutôt qu'au droit.

Il faut donc gouverner tout en adoptant une approche de précaution et de solidarité. Donc, il faut aussi investir dans la recherche sur la sécurité de l'IA, renforcer nos capacités de tester les risques des modèles les plus avancés, s'assurer que tout développement de système de super intelligent euh reste surveillé par l'autorité démocratique et s'aligne sur les principes de dignité humaine, de démocratie responsable et de bien commun. Les défis de la superintelligence sera peut-être la question la plus importante en terme de gouvernance de notre siècle.

L'innovation et la responsabilité doivent travailler ensemble pour que l'avenir de l'IA soit bien placé sous le contrôle de l'humain. Ce n'est pas qu'une question technologique et éthique de l'intelligence artificielle, c'est aussi une question de pouvoir et de politique. Les États-Unis et la Chine sont en train d'avoir l'influence principale sur le domaine, mais l'Europe ne doit pas se retrouver coincée entre les deux et jouer son rôle face à ces superpuissances de l'IA, tout en encourageant la coopération et en insistant sur l'éthique et la rédition de compte démocratique.

Notre force, c'est que euh nous avons cette force de réglementation. Nous pouvons pas agir seul. Il faut avoir des alliances avec nos partenaires qui partagent nos valeurs et qui ont cette même peur d'être laissé de côté.

Par exemple, le Royaume-Uni, le Canada, le Japon et nos autres partenaires démocratiques à travers le monde. La Corée du Sud par exemple me vient à l'esprit. Ces partenaires, ils peuvent être renforcés au niveau du dialogue interparlementaire, ce qui permet un meilleur dialogue et il faut aussi se fonder sur les travaux déjà lancés au G7 avec le processus des regima et les principes sur l'IA de l'OCDE.

Mais les alliances ne suffisent pas. Les rapports des Nations- Unies sur la gouvernance de l'IA pour l'humanité montrent qu'il y a un déficit de gouvernance mondiale avec trop de pays qui sont exclus des débats mondiaux sur l'intelligence artificielle, notamment des pays du sud et trop de capacités se concentrent dans trop peu d'entreprises avec un manque de coordination. Tout cela donc représente des défis importants.

Que faire ? Donc nous aurons besoin de renforcement des capacités, des échanges de personnel, d'expertise de connaissance technologique entre différents partenaires pour que nos institutions dispose des outils pour surveiller cette technologie. Il nous faut un engagement mondial coordonné pour s'assurer que les valeurs de transparence de rétion de compte et de et de démocratie sont respecté reflété dans les normes internationales.

L'IA avance très vite et les la gouvernance doit suivre ce rythme ce qui implique une coopération interplementaire. Il faut réglementer sur les risques aussi mais permettre les opportunités. Si nous y parvenons, nous serons non seulement le premier continent à euh réguler l'IA, mais aussi le premier à montrer que les sociétés démocratiques peuvent gouverner la technologie de manière sage, investir de manière stratégique dans des partenariats mondiaux et se préparer face au défis de la superintelligence pour s'assurer que l'IA soit un moteur de prospérité, de sécurité et de confiance.

Merci. [Applaudissements] Merci beaucoup monsieur Mcdamara pour votre intervention, ce retour d'expérience précieux sur bah sur votre activité riche. L'Union européenne, vous l'avez dit, elle est l'une des premières organisations à avoir défini un cadre cohérent d'usage de de l'intelligence artificielle.

Il s'agit de d'une étape évidemment significatif sur le déploiement d'une gouvernance de l'IA. on on mesure encore le chemin qu'il reste à parcourir, mais à l'échelle de l'Union européenne, là ça affirme la singularité de l'Union européenne sur ce sujet et le rôle du le rôle clé du Parlement européen et vous l'avez dit de la coopération interparlementaire qui me semble voilà c'est un on ouvre un champ où la coopération interparlementaire peut vraiment montrer toute sa toute sa force. Vous l'avez dit, il ne s'agit pas de de ralentir l'innovation qui est précieuse pour tous les pays hein, mais de poser des gardes fous clairs et partagés.

Il revient maintenant aux Étatsmembres de déterminer la façon de dont ils souhaitent organiser cette cette gouvernance qui leur paraît le plus à même de permettre une bonne application des normes européennes et de converger donc vers une pratique commune en terme de régulation. Les alors les parlements nationaux auront bien sûr leur rôle à jouer d'abord en tant qu'autorité démocratique qui aurait conféré et puis comme relais des préoccupations des concitoyens qui peuvent être différentes d'un pays à l'autre. Pour poursuivre notre discussion sur le rôle des parlementaires dans la régulation de l'intelligence artificielle, je vais céder la parole à madame Miapretta Kumpou Natri.

J'espère que je n'écorge pas trop le le nom, vice-présidente de l'Assemblée parlementaire du Conseil de l'Europe et députée finlandaise. Vous avez été également député européenne pendant 10 ans de 2014 à 2024. Euh madame, vous êtes très impliqué sur ces questions de régulation de l'usage de l'intelligence artificielle.

Les alors les fondateurs du Conseil de l'Europe à l'époque n'avaient sans doute pas imaginé l'avèement d'une telle technologie de l'intelligence artificielle. Mais les valeurs et les principes qui ont présidé à la à la création du Conseil de l'Europe n'en demeurent pas moins d'actualité et toujours aussi pertinent pour garantir le développement d'une respectueuse des droits de l'homme, de la démocratie et de l'état de droit. La convention cadre du Conseil de l'Europe sur l'intelligence artificielle ouverte à la signature des États depuis le 5 septembre 2024, donc juste après l'IA acte, pose des principes clairs pour s'assurer que les systèmes d'IA seront utilisés dans le respect de la dignité de la personne humaine, paliant donc des des vides juridiques qui pourraient résulter des avancées technologiques rapides, plus rapides que l'évolution législative.

Vous êtes vous pourriez peut-être nous présenter plus en détail les travaux de l'assemblée parlementaire du Conseil de l'Europe en matière d'IA et votre vision du rôle des parlements pour contribuer à la régulation de cette nouvelle technologie. Madame Kumpulanatrice, je vous laisse la parole. Merci beaucoup.

Je suis très content que je écoute bien un français mais pour parler c'est c'est pas mon je aujourd'hui tenir à l'anglais malheureusement je ne parle pas suffisamment bien français pour m'exprimer dans cette langue à l'occasion de cette table rond merci beaucoup d'avoir organisé cette conférence au Sénat français merci de m'y avoir invité J'entends que monsieur McNamara a était au conseil de l'Europe par le passé et moi j'étais au Parlement européen. Donc finalement, on a un peu échangé nos places. L'Union européenne, je dois le dire, est un acteur important.

Je suis de très près ce qui se passe aux Nations- Unies notamment tout et tout ce qui est fait au niveau national. Et je me réjouis que l'Union européenne suive. on aura besoin de ces ressources, de ces stratégies et il peut aussi jouer un rôle d'application des des règles.

Comme l'a dit le président, le le conseil de l'Europe a adopté une convention cadre en en 2004 et je regardais récemment combien de pays l'avait signé. Euh il nous faut il faut cinq signatures dont trois euh membres du conseil de l'Europe. Et la bonne chose avec cette convention 4 du conseil d'Europe qui pays, c'est que c'est le premier euh premier cadre législatif international qui est ouvert à tous les pays euh du monde.

Ce qui est une bonne chose actuellement dire que cette convention, elle a été signée par des pays de l'Union européenne. l'Union européenne ayant participé elle-même aux négociations et nous avons donc parmi les signataires le Canada, le Japon, les États-Unis mais également le Rugay, l'Ukraine, le Royaume-Uni et bien d'autres. Ce n'est pas donc que des pays pays de de l'Union européenne, mais euh c'est ouvert aux autres pays du monde.

Nous avons organisé un un un sommet sur l'IA l'année dernière et nous avons des euh aux Nations- Unies, il y a des groupes d'experts et et d'initiatives mais ils ont leur propre propre défi. Mais ça vaut la peine quand même de mentionner les travaux de l'ONU avec différentes organisations notamment l'UNICEF qui était un des premiers acteur dans dans le domaine notamment en terme d'interaction entre l'IA et les enfants et donc ils ont publié des lignes directrices depuis quelques années déjà. au niveau du Conseil de l'Europe et de son assemblée parlementaire, nous avons participé très rapidement par exemple dès 2020 et nous avons plié différents rapports qui insistent sur le fait que l'intelligence artificielle doivent respecter les valeurs du conseil d'Europs, la démocratie et l'état de droit.

Je je dois souvent expliquer pourquoi il faut réguler réglementer face aux grosses entreprises de la ter. Pourquoi ? Et bien pour les mêmes raisons qu'on peut réglementer sur l'environnement, sur la sécurité, sur la santé, l'alimentation des enfants.

L'intelligence artificielle lorsqu'elle est utilisée par et pour les personnes, elle doit être digne de confiance. Elle doit être sûre. Ça c'est un nom principe au l'assemblée parlementaire, c'est le design centré sur l'humane.

Voilà. Évidemment, aucune industrie va venir nous voir dire régulez-moi appliquer ceci ou cela. Euh demand rendez obligatoire les ceintures de sécurité dans les voitures.

Tout ça ça coûte de l'argent. Euh c'est pour ça que je me bats pour que les démocratés euh fassent valoir le droit de réglementer euh l'intelligence artificiel et qu'elle développe leur propre cadre. Moi, je suis pas très fan de du concept de responsabilité individuelle.

Quand je vais à la pharmacie, je je signe pas un contrat à chaque fois que je demande un médicament parce que je peux faire confiance au système de gouvernance de la sécurité et de la sûreté des médicaments. Voilà ce qui me ce qui me motive à travailler aussi sur le secteur de l'intelligence artificielle. Nous voulons s'assurer que les produits sont sûrs et qu'ils sont dignes de confiance et que cela s'applique au système d'intelligence artificielle.

Lieu a adopté cette loi contraignante au niveau de son marché interne, mais il faut maintenant aller plus loin. Ce qui m'intéresse tout particulement, ce sont les données. Les données puis les les réseaux d'ordinateur, les capacités de calcul.

Si on a une IA de qualité, il faut pour avoir une IA de qualité, il faut puissance de calcul ordinateur, des réseaux et le trème point du triangle, c'est les données. Nous établissons des politiques de données mais pour l'instant c'est un peu en marge, perçu comme un sujet très technique. Est-ce que c'est que technique quand on est dans une situation sur internet, 30 % du contenu est produit par des intelligences artificielles ou ou faux 30 %.

Et si on entraîne ensuite les systèmes d'intelligence artificielle sur les données qui sont disponibles sur l'internet, le résultat va être tout aussi imparfait que que les données qui qu'on trouve sur internet et cela va répéter des biaiss. Je vois donc beaucoup d'opportunités de mettre en place des politiques sur les données pour qu'elles soient fiable et pour qu'elle respecte la loi européenne sur l'intelligence artificielle. Ce sont des systèmes qui présentent des risques et donc qui doivent être surveillés et c'est le cas notamment concernant les données qui sont utilisés pour entraîner ces modèles.

C'est important de de parler des données qui qui sont un peu derrière ces ces modèles. Ensuite, en ma capacité de représentés du parlement finlandais, nous avons aussi un comité sur l'avenir qui, contrairement aux autres comités commission, n'adopte pas de loi ou de budget, mais prépare un rapport approfondi avec des spécialistes selon différents sujets. En 2022, il y a eu un rapport sur l'intelligence artificielle et puis dernièrement ce mois-ci un rapport sur les robot humanoïdes entre maintenant et 2015 rentre analyse de l'IA, son impact social.

Les parlementaires, je le crois, doivent être impliqués dans la prospective et c'est une très bonne chose que vous fassiez cela. Ici en Finlande, nous avons un think tong au niveau du parlement indépendant du gouvernement et du parlement d'ailleurs qui est autofinancé et nous y avons eu recours pour la prospective sur l'IA et la gouvernance de l'IA et ils sont en train de lancer un projet sur la mise en œuvre de l'intelligence artificielle. et pour aider les autorités gouvernementales à utiliser l'IA de manière adéquate.

Il regarde donc ce qui se passe et euh et le fait est que l'intelligence artificielle, elle est déjà là notamment dans les interfaces des services publics avec ces chatbot qui sont un peu la version facile. Donc ça c'est un peu les anciennes pratiques déjà. Euh maintenant, la question est de savoir comment on peut euh faciliter l'accès aux services publics.

Euh et puis il y a des systèmes par exemple en Ukraine avec un système qui offre la possibilité aux citoyens ukrainiens de télécharger une application avec une interface très simple où ils peuvent se connecter et avoir accès à des documents officiels numérisés, les passeports des systèmes éducatifs numérisés. par exemple s'ils veulent demander un permis de construire pour pour faire des travaux ou construire une maison et bien ils peuvent l'obtenir rapidement sur l'anglais permis de construire de l'application et puis voilà chaque semaine cette application elle évolue selon les besoins. J'ai lu récemment que ce mois-ci les le gouvernement ukrainien euh a commencé à utiliser des agents IA.

Donc ça c'est dans la catégorie bientôt ou ou demain en tout cas. Mais en Ukraine ça a déjà commencé. Euh il y a d'autres défis pour le secteur public et les parlementaires.

Euh mais le fait est que ces agents y a ils vont arriver et vont euh manipuler les données de nos citoyens. Donc comment euh est-ce que ces agents vont interagir avec les services publics ? C'est une question de timing.

Évidemment, si on fait ça trop vite, trop tôt, le système ne sera pas bien en place. Mais si on le fait trop tard, et bien les services publics vont être vont prendre du retard et les citoyens vont se tourner vers des services privés, commerciaux. et des systèmes qui ont été développés hors Europe.

Comment peut-on donc développer une société avec des services pour les citoyens où il y a des agents IA qui répondent aux demandes et aux besoins des citoyens ? Tout cela implique que nous ayons accès à des données et à des métadonnées de qualité, ce qui est une grande question de de gouvernance publique et de données publiques. Sur cela, nous sommes nous sommes robustes.

Enfin, nous sommes 5 millions avec euh une langue spécifique qui fait que euh c'est facile de détecter si la traduction a été faite par Ria et si c'est une arnaque que si c'est en anglais ou en français. C'est moins facile de détecter cela. Mais ensuite il vient la question du de l'Apinois.

Nous avons développé notre système qui s'appelle Polo qui veut dire ser en dans notre lot à partir des données en langue finois donc des des chaînes télévisées des différents acteurs dans le pays et dont la qualité est bonne parce que les données utilisées sont connues et il en de même pour le travail législatif du parlement. Je sais pas pourquoi on doit toujours expliquer aux citoyens que la législation prend autant de temps. Une fois qu'elle est ouverte à la consultation publique, il y a des milliers de commentaires.

Bon, ça prendra peut-être 5 minutes il n'y a de de trier et d'analyser ces commentaires pour en faire un retour au au législateur. Un de mes amis qui était ministre taïwanais pendant 7 ans avait son propre avait dans son ordinateur tous ses discours, ces ces textes, ses projets de loi, tout cela était sur son ordinateur et il pouvait produire un nouveau discours en une minute à partir de ses propres données. Taiwan a aussi un système de de sondage public.

Par exemple, le mariage le mariage homosexuel, je suis controversiel en à Taiwan et il peut poser des questions, commencer une analyse et envoyer un sondage aussi ces citoyens qui sont d'ailleurs rémunérés à répondre à ces questionnaires qui dont les données servent ensuite à savoir quelle est l'opinion publique Et c'est comme ça qu'on a su qu' a qui avait une acceptation. C'est donc suivi de l'opinion publique par l'IA et c'est un système qui existe, qui est utilisé et qui est bénéfique au processus politique. Ce genre d'application de de l'intelligence sont là pour le mieux comme pour la la santé, l'environnement, l'énergie et cetera.

Euh tout cela n'est même pas toujours couvert par la loi sur l'intelligence artificielle. Vous savez que je défends cet ACT depuis depuis longtemps. Je le défends auprès des des acteurs privés.

Tous celles et ceux qui disent que c'est trop compliqué, trop difficile. La vérité c'est que 90 % de l'IA n'est pas couverte et concernée par les parce qu'il ne présente pas des risques à notre santé, notre sécurité, notre démocratie. Et puis il faut savoir écouter aussi les technologies se développent si rapidement que aucun parlement seul ne pourra agir.

Quand je dit, j'ai travaillé 10 ans au Parlement européen euh beaucoup plus gros que le Parlement finlandais, même si nous on avait le on avait Nokia qui nous donne des avantages en terme de réseau avec des systèmes qui ont été mis en place dans notre secteur éducatif. Euh j'avais échangé aussi avec les États-Unis sur la question. Si j'étais monsieur Mcnamara, je me concentrais sur l'Eurostac.

Euh là, j'ai de grands espoirs pour ce système. Euh je pense que avec cela, l'Union européenne va pouvoir rassembler euh les acteurs sans oublier bien sûr les acteurs étrangers. Nous ne disons pas que nous aurons un réseau de d'ordinateurs européens, de propagateur d'entreprise et ça, mais il s'agit que euh ces acteurs européens existent aussi, ne serait-ce que voilà par des questions de langue comme je le disais plus tôt, mais aussi de spécialisation à partir des données de données par exemple que une entreprise n'ose pas mettre en en utilisation.

J'ai été rappeur spécial pour le différents projets de loi européens sur la technologie et sur les données. On parle toujours d' mais il faut pas oublier les données et différents mécanismes qui existent. Il faut pas toujours détruire et ou conserver toutes les données.

Les services en nuuagique ça consomme beaucoup. Les centres de données consomment énormément d'énergie aussi. J'avais visité la France quand j'étais eurodéputé. et c'est une consommation qui augmente énormément.

Al bien sûr, elles sont de plus en plus efficients avec euh les puces qui sont de de plus en plus puissantes, mais tout de même ça soulève euh des questions et euh par exemple euh dans mon d'une entreprise à l'autre, on va utiliser plus ou moins de données. Il y a des entreprises qui existent et qu'il faut reconnaître qui peuvent nous aider sur le traitement des données. Il y a eu une conférence internationale la semaine dernière à Helsinki et un peu de frustration sur le fait que certaines entreprises n'arrivent pas encore à démarrer et avoir un marché.

Donc il y a des entreprises qui font attention aux données qui font qui vraiment euh voilà veulent que la technologie avance et dans l'assemblée, on leur posait des questions sur leur utilisation de Google ou de Microsoft et on leur demandait si elles avaient des backup pour leur données. et ont et en retour ils ont demandé aux participants mais qui ici sécurise ces données ? Qui a des backup et cetera ?

On sait qu'il y a des solutions meilleures qui peuvent exister. Mon père était cuisinier et il m'a demandé si je savais faire un un burger meilleur que celui de McDo et j'ai dit "Oui, évidemment, je sais faire un un burger au Rockfort puisque j'ai habité en France." Mais le fait est que euh les gens continuent à manger chez McDo.

Donc ce que je veux dire c'est que on continue à utiliser des solutions technologique qui ne sont pas très bonnes alors qu'on pourrait faire beaucoup mieux. Merci. [Applaudissements] Merci.

Merci chers collègues pour votre intervention très riche avec et très illustré. Merci beaucoup. Nous perçons bien combien l'effort de de régulation finalement est un est un combat.

Ça s'inscrit sur un temps long et dans un cadre international qui dépasse évidemment le seul cadre de de l'Union européenne. On voit se multiplier les initiatives pour définir une gouvernance mondiale et avec les la collaboration des des parlements qui doivent évidemment tenir leur place avec un rôle de pédagogie aussi. que je pense euh ça me semble évident à citer notamment auprès du jeune public pour dire que l'utilisation, l'usage de de l'intelligence artificielle, c'est peut-être un peu l'ancien professeur qui qui s'exprime, mais ça n'est pas euh comment dire, ça n'est pas sans risque et qu'il faut qu'il faut éduquer le jeune public sur l'usage qu'ils font de de l'intelligence artificielle.

En tout cas, il faut un il faut un cadre même lorsque l'industrie ne réclame pas ce cadre. On vous a bien entendu sur ce point. Il faut aller parfois au devant de certaines demandes.

Alors, les travaux de l'OCDE en la matière sont aussi particulièrement intéressants puisqu'ils prennent en compte l'ensemble de la chaîne de valeur de de l'intelligence artificielle de cette industrie et de ces usages. Et c'est cette approche multidimensionnelle que va maintenant nous présenter madame Audrey Plom qui est directrice adjointe à la direction de la de la science, de la technologie et de l'innovation de de l'OCDE. Dès 2018, le CDE a mis en place un groupe d'experts chargés donc de de formuler des principes pour il n'y a de confiance au service des concitoyens et en préservant l'intérêt général.

Ces travaux ont conduit à l'adoption de recommandation de l'OCDS sur l'intelligence artificielle dès 2019. Donc vous voyez qu'on on s'en on s'en préoccupe depuis un certain nombre d'années. Recommandations qui ont ensuite directement inspiré les principes adoptés par le G20. preuve de la portée mondiale donc des de ces travaux.

Plusieurs initiatives ont été lancées depuis pour structurer la réflexion, l'action des parties prenantes en matière d'intelligence artificielle. C'est donc madame Plan ce que vous allez pouvoir nous expliquer et je vous cède sans tarder la parole. Merci beaucoup.

Merci monsieur le président. Merci à madame le vice-président et euh monsieur le coprésident. Euh madames, monsieur, c'est vraiment un honneur d'être ici aujourd'hui avec vous pour discuter de l'avancement d'un agenda comment euh de gouvernance de l'IF d'intelligence artificielle.

Je vous remercie de me permettre de contribuer à cette conversation essentielle en apportant la perspective de l'OCDE. Le terme même gouvernance de l'IA est entré dans notre discours ces dernières années. On parlait de l'adoption rapide de li génératif par nos sociétés et la multiplication des réponses réglementaires et politiques au niveau national et international.

Les chiffres parlent d'eux même. En 2016, lorsque nous avons commencé notre travail à l'de seul quelques pays avaient des initiatives euh nationales en matière de politique d'IA. Aujourd'hui, l'observatoire des politiques de l'IA de l'DE, la plus grande base de données vérifiées par les gouvernement sur les politiques de DIA, au monde suit plus de 100 stratégies nationale en matière d'IA dans celle de 24 pays membres de l'Union européenne, ainsi que plus que 1300 initiatives dans 80 jurisdictions.

Notamment la loi sur l'IA de l'Union européenne a ouvert la voie à une approche réglementaire fondée sur la gestion des risques qui influence la législation sur l'IA à travers le M y compris la loi fondamentale sur l'IA en Corée et la proposition de réglementation ce li au Brésil. L'Union Europen a également publié un code de bonne pratique qui a qui a été déjà évoqué tout à l'heure euh euh pour li à l'usage général en juillet élaboré à travers processus corlementaire multiparti innovant afin de fournir des orientations aux entreprises sur le respect des obligations de sécurité de transparence et de propriétés intellectuelles prévues par la loi sur l'A à de l'Union européenne. L'augmentation rapide des politiques et des initiatives réglementaires en matière de di témoigne d'une dynamique importante mais relève également une risque de fragmentation.

Dans un monde où nos entreprises opèrent à l'international par défaut, des normes et des cadres interoparables sont essentiel pour offrir la stabilité et la prévisibilité nécessaire qui félicite l'utilisation de l'IA par les entreprises toutes en protégeant les personnes. Bien que les pays et les jurisdictions adoptent le des approches diverses pour établir les règles pour l'IA à faire progresser le gouvernance de cette technologie, il est essentiel qu'il maintiennent un engagement commun envers des valeurs centrées sur l'humain dans le développement et le déploiement de l'IA. C'est là euh l'élément central de l'agenda commence l'IA tel que nous voyons à l'OCDA.

Il s'agit de promouvoir une IA innovante et digne de confiance respectueuse des doigts d'humain et des valeurs démocratiques en maximisant les bénéfices que les sociétés peuvent en tirer tout en minimisant les risques. La question est de savoir comment faire avancer cet agenda, comment assurer un alignement des valeurs dans un contexte de tension perçu entre innovation et régulation et où un consensus véritable entre des parties prenants semble de plus en plus difficiles à attendre malgré la multiplication des forums sur l'IA. Je vous offre une réponse repose sur trois piliers.

Le premier consiste à élaborer et mettre en œuvre des normes qui permettent d'oriser des différents éléments de gouvernance d'IA inclu en la terminologie les approches fondées sur les risques et le respect des droits humains. Les principes de pardon de l'OCDA qui a été évoqué tout à l'heure sont un exemple clé. Il s'agit de de la première norme intergouvernementale en manière d'IA adoptée en 2019 et mise à jour l'année dernière.

Les principes offrent un cadre commun au gouvernement pour structurer leur politique, stratégie et législation nationale sur l'IA. Avec 49 adhérents et une portée générale qui garantit leur pertinence dans le monde entier, ces principes montre que la confiance dans l'IA et l'innovation vont de perdre. Il consacre des valeurs telles que la transparence, explicibilité, l'équité, la vie privée, la sécurité, la sérité et la responsabilité tout en encourageant les gouvernements investir dans la recherche et le développement de l'IA.

Il favorise en plus un écosystème inclussif propice à façonner un cadre d'action et de gouvernance interopérable à renforcer des capacités humains et à favoriser la coopération internationale. Pour aider à mettre ses principes en œuvre, nous développons actuellement une boîte à utile sur les politiques d'IA dont le lancement est prévu pour le début de l'année prochaine afin de soutenir les pays dans la conception et mise en œuvre des politiques d'IA euh qui reflète les priorités et capacités locales toutes en s'alignant sur les valeurs et les principes. Le deuxième piller consiste à renforcer la coopération internationale et le dialogue multiparti en s'appuyant sur des forums qui réunissent des partis prenants et des pays aux besoins de capacités différents afin de mener un dialogue inclussif sur l'IA.

L'année dernière, le CDE a uni forces avec le partenaire mondial sur l'intelligence l'intelligence artificielle PMI. Une initiative lancée en 2020 à l'issue d'une proposition conjointe de la France et du Canada. La PMIA rassemble 44 pays sur un pied d'égalité pour façonner l'agenda mondial de l'IA.

Et nous espérons élargir le nombre de ces membres sur la base d'un engagement partagé envers les principes de l'OCDA Seria. Au-delà des gouvernements, les organisations des initiatives internationales doivent également travailler ensemble pour favoriser des synergie et éviter la duplication. à l'OCDA, nous collaborons avec les les Nations unies, j'étais à New York la semaine dernière, le G20, le G7, ainsi que des initiatives telles que les sommets de l'IA organisé par le Royaume-Uni, la Corée, la France et l'Indande euh l'année prochaine tireront partie des ajouts uniques de chacun de ces formes.

L'engagement du secteur privé est également une condition préalable de succès de la gouvernance de l'IA. Le cadre de reporting du processus stéroima qui a été évoqué aussi tout à l'heure sur l'IA, lancé plutôt cette année dans le cadre du sommet de l'IA ici à Paris euh est un excellent exemple et moi je suis très fière d'avoir fait partie de de ce projet. Ce cadre qui est appuyé sur les efforts d'un groupe de travail composé des principaux développeurs de DIA permet aux organisations de partager des informations sur leurs pratiques de gestion de risque lié à IA favorisant ainsi la transparence et la responsabilité.

Jeudi dernier, il y a 4 jours, 5 jours, le CDA a publié le bilan des 20 premières entreprises qui ont soumis le rapport. Enfin, le troisème pilier concerne la base factuelle permettant aux décideurs politiques et au législateurs de fonder les politiques initiatives et législation relatives à sur des données solides et un travail analytique guidé par les valeurs centrées sur l'humain. C'est là le corps de ce qu'on faisant à l'OCDE.

En plus de maintenir de d'élargir la base de données de l'observatoire des politiques de l'IA, nous faisons progresser les travaux analytiques pour informer la l'élaboration des politiques en matière d'IA. Pour citer quelques exemples dans le cadre d'un projet conjurin avec la Commission européenne qui s'est publié d'ici la fin de l'année, nous avons passé en revue des stratégies nationales euh en matière d'IA et les initiatives politiques des États membres de l'Union européenne afin de soutenir le développement euh du et l'adoption de l'IA. Cela comprend également des analyses de l'état de l'adoption de l'IA dans les secteurs tels que la santé, l'industrie de la fabrication, la mobilité et l'agriculture.

La semaine dernière, nous avons également publié une nouvelle méthodologie permettant d'estimer des les investissements de en IA et l'avant appliqué aux 27 États membres de l'Union européen. Ce rapport montre que l'investissement dans les logiciels d'IA et les bases de données augmenté de près des 40 milliards d'euros au cours des 10 années derniers. Avec des normes la coopération internationale, le dialogue multiparties, des données fiables et une analyse rigoureuse des politiques sont essentielles pour alimenter et faire progresser le débat sur la gouvernance de l'IA.

Les législateurs ont un rôle essentiel à jouer dans cet effort bien sûr en élaborant les lois claires ancré dans les valeurs démocratiques qui résistent à l'épreuve du temps en aidant à prévenir la fragmentation réglementaire entre des les jurisdictions et en institutant les mécanismes robustes pour suivre le déploiement de l'IA et son impact social. À l'OCDE, nous collaborons régulièrement avec les législateurs pour identifier des bonnes pratiques euh à travers le monde, notamment par un groupe, un réseau euh euh parlementaire mondial de l'OCDA qui dispose d'un groupe dédié à l'IA. Je vous invite à vous engager avec ce réseau qui est ouvert à tout parlementaire en fonction euh qu'il soit un issu de paiement l'OCD ou pas, afin d' échanger sur les questions clés de politique publique en matière d'IA avec vos homologues à l'IA est une technologie véritablement mondiale.

Son développement, son déploiement, son impact transcendant des frontières nationales. Bien que cela représente des défis indéniables en matière de coordination des efforts de gouvernance, cela offre aussi une opportunité formidable d'apprendre des approches réglementaires des autres, partager des bonnes pratiques et favoriser une compréhension plus complète de l'impact l'IA sur nos sociétés et nos économies. Je vous remercie et je me réjouis de participer à cette discussion.

Merci monsieur le président. C'est nous qui nous réjouissons de d'avoir des interventions de de ce niveau-là. Merci beaucoup pour à tous les trois pour pour vos apports et on a bien compris enfin on le sait hein que l'intelligence artificielle, vous venez de le dire, a un impact mondial sans frontière.

Monsieur McNamara le disait aussi dans son dans son propos et pourtant évidemment ça ça bute sur une réglementation sur une uniform uniformité de d'une réglementation mondiale et c'est là qu'on on trouve les limites de notre action. Alors je donne pour ce ce deuxième temps, je donne la parole au public pour savoir s'il y a des des des réactions ou des questions par rapport aux interventions que nous venons de d'entendre. Alors, je crois qu'il y a des micros qui vont circuler pour que tout le monde puisse vous entendre avec éventuellement la traduction simultanée si besoin était une intervention ici et ici.

Je demande juste de peut-être de vous présenter avant de poser votre question. Oui, bonjour. Bonjour et merci.

Bernard Benamou, ancien délégué interministériel aux usages de l'internet et actuellement secrétaire général de l'Institut de la souveraineté numérique. J'aurais une question directe, je ne sais pas à qui je dois la poser, sur le fait que mes anciens interlocuteurs diplomates du du département d'État ont reçu instruction de bloquer tous les textes de régulation européen et en particulier la IACT, évidemment aussi le DSA et le DMA. Et j'aimerais demander effectivement quel est pour vous le le chemin le chemin de crète que doit effectivement suivre l'Union pour éviter que ces textes ne soient amoindr, affaiblis comme et je le dis en tant que militant européen comme malheureusement les récentes négociations transattentiques ont pu montrer effectivement une certaine timidité de l'Union européenne en matière de négociation.

Al qui veut répondre à cette monsieuramara peut-être. Alors évidemment, il y a eu des tentatives de bloquer l'Act. J'étais pas au parlement à cette époque quand ça a été passé, mais le texte est passé, il y a un énorme lobby en ce moment qui agit à Bruxelles, à Strasbourg, toutes les capitales européennes.

Le but étant de repousser le plus possible l'application. Commission a déjà dit qu'il y aura beaucoup de simplification. Je ne sais pas ce que ça veut dire exactement.

Il ils insistent sur le fait qu'ils ne vont pas démanteler l'AI act et j'espère vraiment que c'est le cas parce que pour l'intégrité de l'UE et sa capacité à réglementer certains domaines, ce serait euh complètement inattendu qu'un texte législatif qui vient d'être passé soit démantelé avant même d'être mis en application. Enfin, alors la commission insiste sur le fait que ce ne sera pas le cas. D'un autre côté, il y a un retard dans l'élaboration des normes.

Les experts qui doivent définir ces normes ont pris du retard. Peut-être que la loi était trop ambitieuse, peut-être qu'il n'y avait pas assez de ressources au niveau des institutions. Il y a un retard et on peut pas demander à l'industrie de de respecter des normes qui n'ont pas encore été établies.

Évidemment. Bon, en même temps, je suis pas convaincu que l'industrie fasse tout ce qu'elle peut pour soutenir l'élaboration de ces normes. Donc voilà, c'est un peu un cercle vicieux.

Il peut y avoir du retard mais ce qui compte c'est que ce soit maintenu. Ce qu'on peut faire en tant que citoyen, c'est exiger que nos gouvernements expliquent ce qu'ils font et qu'on leur demande pourquoi ils soutiennent un éventuel retard. Voilà, voilà ce que je peux vous dire.

Il y a beaucoup de lobbying en ce moment. J'étais à Washington euh il y a de semaines. L'impression que j'ai eu.

Bon et j'ai eu j'ai parlé à peu de personnes mais quand mais ce qui en est ressorti que l'idée de la réglementation n'est pas forcément complètement rejeté par le système politique contrairement à ce qu'on peut entendre. Même certains soutiens de l'administration euh actuelle ne sont pas complètement contre l'idée d'une réglementation. Je pense, excusez-moi, je pense que il commence à se dire que peut-être ils ne peuvent pas réguler ces immenses ces immenses entreprises.

Donc c'est peut-être pas qu'ils ne veulent pas, mais peut-être qu'ils se disent qu'ils ne peuvent pas, je ne sais pas. Alors, je veux dire que le McDo n'a pas le même goût au aux US et beaucoup de mes collègues me diraient vous direz la même chose. Donc, peut-être que les entreprises américaines de façon générale agissent différemment en Europe et aux États-Unis et peut-être qu'elles le feront sur le sujet qui nous intéresse.

Voilà. J'étais vice-président de la délégation européenne aux États-Unis et j'ai fait beaucoup de visites sur le sujet de l'IA et ils avaient une législation qui était quasiment prête. [Musique] Puis Biden a signé un projet qui contenait beaucoup de choses similairire à l'act.

Et c'était intéressant de voir quand Trump est arrivé qu'il a voulu montrer son pouvoir, et bien il a complètement enlevé certaines de ces parties. Il a même dit qu'on éétait pas obligé dans le secteur public et même ailleurs [Musique] de tenir en compte le changement climatique ou l'égalité des genres par exemple. C'est pas quelque chose à prendre en compte quand on développe l'IA.

Donc c'est pour vous montrer que l'IA est vraiment partie intégrante de notre société. Et trop souvent, je le regrette, on a l'impression que Lia c'est un silo. Il y a des gens qui n'ont jamais entendu parler de Lia alors qu'ils l'utilisent.

Il y a des universitaires qui n'ont jamais rencontré de gens qui travaillent dans l'industrie et qui n'ont jamais rencontré d'hommes politiques qui travaillent sur ce sujet. Donc voilà, c'est l'intéressant, c'est intéressant dans les tables rondes qu'on a aujourd'hui ou le travail de l'OCDE par exemple. Il faut pas oublier les parlements.

Le problème c'est que si sur tous les fronts on recule et j'ai été rapporteur sur des questions d'IA, et la question va se poser c'est qu'est-ce que vous voulez faire qui n'est pas qui n'est pas couvert par les textes législatifs qu'on a aujourd'hui ? On veut des on veut on ne veut pas de solutions qui ne nous informent pas des risques qu'elles contiennent pour nos démocraties. Donc en pratique, qu'est-ce que ça veut dire ?

Moi ce que j'entends c'est que les lobby veulent moins de reporting. Quand des grandes entreprises viennent me voir et me disent "Les petites entreprises ne veulent pas ça, alors je vais directement voir les petites entreprises. Je ne crois pas, je ne prends pas pour argent compant ce que ces grandes corporations me disent." Donc on peut toujours améliorer les textes.

On peut se poser la question de du retard pris par les normes. On a peut-être été trop ambitieux. C'est vrai.

On voulait tenir compte de l' générative. Et c'est très difficile parce que la technologie change tout le temps. Mais en même temps, est-ce qu'on peut avoir un texte législatif qui ne s'attaque qu'aux petites entreprises et qui oublie les grandes corporations notamment sur liage générative, donc des entreprises qui sont hors réglementation finalement.

Donc, j'espère toujours que ces normes seront mises en place et que pas à pas, il y aura une réglementation autour de l'IA. au Conseil de l'Europe. Je rappelle régulièrement que des pays membres de lieu ont signé notre convention cadre et elle dit état de droit, droit humain et démocratie doivent être respecté par l'IA.

Ça marche ça je sais pas. Oui, ça y est, c'est bon. Bonjour à tous, merci à tous les intervenants.

Je suis Chloé Tousé, je suis en je travaille dans une organisation gouvernementale basée à Paris qui s'appelle Seher et qui travaille à l'amélioration de la gestion des risques de l'intelligence artificielle. J'ai j'ai deux deux questions. La première maybe ça va toucher particulièrement le monsieur Mcnamara quand il parle de l'autonomie stratégique de l'Europe sur la recherche sur l'IA.

Vous avez dit que l'Ivait pionnière en terme d'alignement autour de l'IA. Donc la question que j'ai c'est comment on fait en sorte que ça devienne réalité ? Comment dans ce contexte vous voyez le lancement du conseil sur la recherche de l'IA qui doit être lancé en novembre qui doit mettre en commun des ressources autour de l'IA.

Est-ce que c'est une façon d'avoir une autonomie stratégique européenne ? Ma deuxième question, c'est en lien avec ce que vous avez dit sur les entreprises américaines et leur volonté de se plier aux normes européennes. Beaucoup de ces entreprises ont signé le code de conduite européen, mais beaucoup d'entreprises chinoises ne l'ont pas fait.

Est-ce que ça va être un problème à l'avenir ? Est-ce que ça pourrait mettre à risque la crédibilité de la réglementation européenne ? bienvenue.

La question donc elle me semble être plus une question de ressources au niveau européen et je n'ai pas de réponse faciles à y donner. Le mantra, il est clair. Réglementation, régulation et alors je ne veux pas mal citer Mario Dragui dans son premier parler de ce double problème de manque de ressources, manque de d'union de capitaux et réglementation.

On n pas beaucoup progressé ces 12 derniers mois surtout en terme d'union des marchés des capitaux et je n'ai pas beaucoup vu de critique de ça dans son intervention la plus récente aussi concentrant sur le régulation sans montrer que c'était un problème. Toutes les entreprises sauf MTA ont signé ce code de bonne pratique de X X de sont seulement partiellement signés. Donc il semble pas.

Donc voilà, il y avait des alarmes qui étaient lancées par les plus grosses entreprises qui ne pourraient pas signer. D'accord. Il y a eu une tentative de rendre ce code de pratique plus simple, plus rationalisé, plus aligné avec la lettre de la loi plutôt que ce que voulaient les groupes de travail qui l'ont développé.

Mais finalement, voilà, ces entreprises, elles l'ont signé ce code, ce qui montre bien qu'elles le peuvent. Oui, c'est une question de ressources et je n'ai pas de réponse facile. Il faut jamais perdre de vie cet aspect et conséquences que cela aurait de ne pas réglementer.

Là, je crois que lui on a très bien conscience. Je ne sais pas s'il y aura l'impact révolutionnaire que tout le monde prétend. Alors, je devrais peut-être pas le dire à voix haute hein, mais tout le monde n'est pas d'accord sur ce sur ce point.

On voit des rapports qui suggère que euh beaucoup d'emplois de l'IA n'améliorent pas véritablement l'efficacité mais pour d'autres entreprises, l'intégration de l'IA a l'air d'augmenter leur productivité. Je j'ai échangé avec certaines des entreprises la semaine dernière, mais si les prédictions sont les bonnes, il faut garder un rythme. Et ça ça ensuite la question de l'intelligence artificielle générative qui a une influence importante.

Mais ouais, en fait tout ça le nerf de la guerre c'est les ressources. Alors on a encore une question ici au milieu et ici derrière. Merci euh Raja Chatila.

Je suis professeur émérite à Sobon université, spécialiste d'intelligence artificielle. J'ai fait partie du groupe d'experts de haut niveau européen sur l'IA en 2018-2020 qui a jeté certaines bases sur lesquelles s'est fondé le act et actuellement je suis aussi membre de certains groupes de l'OCDE et membre du comité consultatif national d'éthique du numérique en France. Euh ma question, alors je suis universitaire mais ma question est relative à l'industrie en fait euh qui est dans cette question de LIA euh un point central euh un peu trop souvent à mon avis négligé.

Euh donc le on a parlé du rapport Dragiy euh qui parle de la faiblesse européenne en matière de d'investissement industriel en particulier dans le domaine de l'IA qui rend l'Europe dépendante de des grands acteurs internationaux en particulier des grands acteurs américains. Et nous nous je parle donc pas au nom mais comme le sentiment exprimé par tous les collègues du groupe d'experts à l'époque, la réglementation européenne pour nous était un cadre d'encouragement de l'industrie européenne de l'intelligence artificielle et non pas un obstacle à son développement comme parfois il est dit en imposant éthique et et industrie et Maintenant, ce qui est tout ce qui a été dit sur la mise en cause, le ralentissement de la mise en application de règlement résulte de lobbying ou de d'impression ou de volonté de ne pas gêner l'industrie. N'est-il pas, donc c'est ma question, excusez-moi pour cette longue introduction, n'est-il pas envisageable que les Parlements européens et nationaux prennent une initiative d'encouragement des gouvernements à soutenir l'industrie européenne de l'intelligence artificielle en utilisant le règlement comme un moyen euh qui est un moyen vertueux pour encourager cette industrie.

Et et bien sûr, ça signifie que la la le respect du règlement devient un peu plus positif que comme parfois il est ressenti ou prétendu un obstacle. Merci. Je vous propose tout de suite de poser une autre question.

Je suis aussi chargé de de respecter un petit peu le timing. Bonjour Tar Crim, ancien vice-président du Conseil national du numérique, entrepreneur en ce moment sur un projet dans l'ish principalement des des narratifs et récit actuels. Je me demande si il n'est pas venu le moment de changer ces ces récits.

La banque nlandaise par exemple To plutôt a a publié un document qui a dit que sans l'intelligence artificielle l'économie américaine serait en récession actuellement. 80 % des entreprises d'intelligence artificielle ont recours à des modèles ouverts chinois. Donc quand on voit la monétisation euh rapide et ambitieuse des start-ups d'IA, euh aujourd'hui les entreprises de capital risque euh les plus importantes aux Américaines expliquent que ces chiffres, ils sont artificiels.

Sans oublier le fait que Nvidia a investi aujourd'hui 100 milliards, pas 100 millions, 100 milliards euh dans Open AI pour que Open AI leur achète des puces. Et c'est ce qui se passe un peu partout dans le monde actuellement. On a ce le capital qui en fait qui qui circule en boucle et àendre très grosse échelle.

Et quelqu'un a dit que si il fallait récupérer tous les investissements de 202324, il faudrait en gros un retour sur l'investissement de 800 milliards. Donc on a une une situation, on est allé très vite loin avec des des narratifs qui disaient qu' on prenait du retard, qu'on allait pas pouvoir le rattraper. Mais maintenant, si on regarde les Chinois qui utilisent des des sources de des trucs open source, quand on voit tout ce qui a été investi en Europe, pas grand-chose derrière a été produit.

Bon, il y a il y a Mistral mais qui est même pas dans le top 10 au niveau mondial. Et donc maintenant, on a un problème de stratégie. Donc au-delà de ça, maintenant, je me demande euh quel type d'A est-ce qu'on veut ?

Bien sûr, on veut quelque chose digne de confiance. et cetera. Euh, j'ai bien aimé votre ce que vous disiez sur sur McDo.

Elle était certes les tomates et les patates sont françaises, mais la recette elle elle est américaine. Donc comment est-ce qu'on on équilibre ça avec le fait que il y a 3 ans, les choses tout avait l'air incroyable. Le potentiel était immense. 3 ans plus tard, on se rend compte que pas grandchose finalement a changé.

Est-ce qu'on n'est pas en train de donner trop aux autres par rapport à ce qu'on pourrait obtenir nous-même si on investissait dans nos capacités ? Bon, finalement des questions qui se rejoignent un petit peu. Qui veut répondre alors sur le le fait qu'on pourrait considérer le la réglementation comme un outil pour encourager l'industrie européenne ?

Pour la natrie peut-être réclamation pas seule. seul n'est pas parê. C'est pour ça qu'on a des stratégies euh notamment les supercalculateurs européens pour soutenir les PME, les plus petits acteurs à développer des outils qui ne pourraient pas faire par eux-même.

Donc nous avons des ressources qui sont à disposition. Donc pour le le conseil de recherche solaire, toutes ces choses-là, on les on les sait. On sait que a plus de de d'armes à sa disposition que n'importe quel autre cotisant, mais c'est juste qu'ils sont elles sont réparties en 27 armées.

Je crois que la la comparaison, elle est elle est pertinente ici. Pareil pour l' si on pouvait rassembler les les plus grands esprits, les les plus grandes entreprises avec les réseaux notamment notamment le réseau d'ice de chercheurs, la la Finlande en fait partie. Et puis parfois je vois des gens qui travaillent pour une université européenne et pour Nvidia en même temps.

Voilà, la science elle elle se déroule au niveau mondial, tout le monde le sait. Je ne suis pas contre le fait qu'une entreprise étrangère travaille en Union européenne. Il faut juste qu'il respecte nos lois et que on fasse un lobby pour les Européens.

Moi je les les petites entreprises de la tech européenne, elles ne se sont pas plein de ça. Par exemple, la loi sur ou la réglementation sur les données DSA, elle offre des plétant de nouvelles opportunités pour le développement des petites entreprises. Peut-être pas si bien connu que ça.

Donc finalement, c'est une question de ce que peut faire le secteur public aussi. auprès de qui s prévisionne. Et la question c'est de savoir quand vous avez entendu que le le juge de la ICC n'avait plus accès de n'avait plus accès à ses propres emails parce que c'est une entreprise américaine.

Bien sûr, on imagine que ça n'arrivera pas à tout le monde, que c'est une exception, mais quand même, il faudrait peut-être qu'il y ait des des alternatives euh supplémentaires pour le le la finance, le capital et cetera. Moi, j'ai tendance à penser de manière simple si on développe plus de startup euh par exemple en en Finland, il y en a beaucoup. Euh maintenant les diplômés, ils font ils font différent.

Ils vont dans des grosses entre pistes ils réfléchissent parce que vous développe de nouveaux matériaux euh alimentaires, non biologique et cetera et 4 ans après, ils ont des ils s'assurent qu'ils n'ont pas de clause de non concurrence pour pouvoir travailler par exemple pour l'armée américaine 4 ans après. Donc ça c'est une question pour la réglementation mais aussi nos capacités. Quand on lance une start-up ou quand on développe une innovation, c'est trop facile pour les Américains ensuite de le racheter pour l'intégrer dans leur propre écosystème, voir pour le détruire.

Ça si ça pouvait changer et alors il y aura plus de capital et plus d'emploi qui restera en Europe. Merci. Alors sur les chiffres, alors il y a des investissements qui vont la Chine, les États-Unis, la l'Europe, ça rattrape.

Il y a clairement un problème de de flux de capitaux là d'un point de vue pragmatique, c'est une évidence. OK. En terme de recherche, c'est vrai qu'il y a beaucoup de de recherches qui ont été effectué, mais la euh la création de de produits et d'entreprises, il y a pas autant d'incitations à rester en Europe pour ça.

Donc oui, il y a une certaine fuite des cerveaux depuis l'Europe post éducation, post recherche. Il y a des données sur notre observatoire où vous pouvez comparer d'un pays à l'autre pour voir les les flux de connaissance d'un pays à l'autre notamment sur l'intelligence artificielle qui vous permettront d'observer qu'en effet on a quelques problèmes de ce côté-là. Je pour répondre à la question de Rage, on aimerait beaucoup que la réglementation encourage et incite soit un outil d'incitation à l'innovation et ce en offrant prévisibilité et stabilité pour les entreprises.

C'est ça qu'elles aiment. Dans l'IA, c'est plus compliqué. On en parle que comme comme une seule grande entité monolithique, mais finalement c'est un écosystème extrêmement diversifié de technologie et d'acteurs qui euh auront des incitations différentes pour des raisons différentes dans des objectifs différents. et la la réglementation.

Finalement, voilà, il y a ce que fait l'AI qui essaie de réglementer le développement et l'utilisation de certains types de modèles. Et ensuite, il y a la question du déploiement de ces technologies, la façon dont ça va se mettre en place et les réglementations et règles qui existent déjà dans le secteur de la santé, de la finance et toutes ces choses qui nous restent encore à déterminer. Donc en tout cas, de notre point de vue à l'OCD, ce n'est pas euh une question fermée.

Est-ce que oui ou non règlement, il y a tout un éventail de réponse entre les deux. Il va falloir réglementer plus ou moins à travers ce spectre. Et je crois qu'il va falloir commencer à être un peu plus spécifique sur ce qu'on essaie de changer, où est-ce que l'on essaie d'avoir un impact.

Pour revenir Safer AI qui a qui a beaucoup participé à nos travaux sur le processus d'Hiroshima et le cadre de reporting, on voit qu'on a pour les entreprises, il y a un problème de transparence. Les autorités ont de mal à obtenir les informations parce que il y a pas cette incitation, il y a pas de bonne raison voir il y a pas même de mécanisme en place pour obtenir ces informations de la part des entreprises. Et donc on a créé ce système de mécanisme à harmonisé. euh pour regarder ce que dit euh Microsoft euh au Japon, on regarde les les les méthodologie de récolte des informations.

On a publié ça la semaine dernière où on a une comparaison des modèles de transparence et ce à échelle internationale parce qu'on ne peut pas oublier le reste du monde. Alors, les entreprises chinoises n'y auront jamais recours, mais les Japonais, les Américains, les Canadiens devrait l'utiliser. Et si on peut encourager ça pas à la place de la réglementation, mais pendant qu'on qu'on développe la réglementation, il faut des systèmes en place en attendant.

Donc, merci à à Safia pour leur participation à ce processus. en l'absence de de comprendre tout ce qui se passe partout, ça peut être difficile de de cibler ces informations et je crois qu'il faut donc commencer par régler ce problème ce que fait Impact en Europe, mettre en lumière ces pratiques pour ensuite les ajuster, les adapter aux besoins des petites entreprises pour que ça soit pas une approche descendante où tous les acteurs sont euh sont traités de la même manière pour que l'entrepreneuriat et l'innovation soit permise. Merci pour vos réponses. on va être obligé de mettre fin à cette première table ronde avec euh je vais faire acte de de régulation également de mon côté en vous demandant de d'économiser le le temps et d'être de retour ici au plus tard à 11h10 pour qu'on puisse prendre la deuxième table ronde qui sera elle plus plutôt axée sur la les enjeux de la la sécurité l'intelligence artificielle.

Donc une petite pause pour chacun et euh donc on reprend notre notre conférence à 11h10 précise. Merci Mesdames et messieurs, bonjour mesdames et messieurs les parlementaires. Donc la délégation à la prospective du Sénat donc comme vous l'avez compris a terminé un cycle de travaux sur l'intelligence artificielle qui cette fois-ci n'était pas orienté pour comprendre comment fonctionne l' gérence artificielle mais plutôt comment elle allait être déployée dans les services publics et au service aussi de l'action publique.

Et donc effectivement, nous avons regardé aussi bien les domaines de la des finances publiques que de la santé, que de l'éducation, de l'environnement ou encore la gestion des territoires. Et nous nous sommes aperçus que l'adoption de solutions d'intelligence artificielle présente un potentiel considérable mais encore peu exploité. Nous l'avons mis en évidence au travers de de cinq rapports qui ont été réalisés par une douzaine de collègues sénateurs.

Alors, le domaine de la sécurité est un sujet que nous avons finalement peu adressé dans nos dans nos travaux euh mais qui peut être un des plus fertiles en tout cas pour les applications d'intelligence artificielle. Mais c'est aussi, on l'a déjà entendu ce matin, un domaine où l'artelligence artificielle peut faire peser de nouvelles menaces. Ainsi, en matière de cybersécurité, l'intelligence artificielle peut aider autant les attaquants que les défenseurs.

En matière de sécurité physique, l'intelligence artificielle apporte des gains de temps et de fiabilité dans les contrôles, ce qui est appréciable. Mais la vidéosurveillance peut aussi être largement automatisée. Mais jusqu'où aller dans la reconnaissance faciale, la désanonymation de l'espace public ou encore l'anticipation des actes de délinquence ?

Va-t-on pouvoir repérer les intentions avant les actions ? Jusqu'à présent, nous nous sommes refusés à généraliser les outils de surveillance algorithmique au nom de la protection de la vie privée des individus. Mais ce cadre pourra-t-il tenir alors que la demande sociétale de sécurité est sans cesse plus forte et que les moyens humains eux sont limités dans le domaine militaire ?

Enfin, l'artelligence artificielle peut être utile et rendre les armes que nous détenons plus performantes et réduire les risques pris par nos soldats parfois au détriment des populations civiles. Mais là aussi, jusqu'où peut-on aller ? Peut-on laisser un algorithme le choix de choisir une cible à éliminer et combattre à notre place ?

Et on voit bien que toutes ces questions, elles sont au cœur de ce qu'on peut lire euh quasiment quotidiennement dans le conflit euh entre euh la Russie euh et l'Ukraine ou entre d'autres guerres aussi très technologiques, par exemple entre Israël et la Palestine. Alors, l'intelligence artificielle est sans nul doute un outil de sécurisation dans de nombreux domaines et pour de nombreux processus, pas seulement dans le champ de la sécurité publique au sens strict. Ainsi, l'utilisation de l'IA dans la santé permet de fiabiliser un diagnostic, de traiter des données en laissant de côté qu'on laisser jusqu'à présent de côté faute de temps.

C'est aussi un outil de sécurisation des matériels à travers la maintenance prédictive. Mais quel que soit le domaine, attention à ne pas nous en remettre systématiquement à la machine pour décider de nos actions. L'intelligence artificielle doit rester un outil et non pas un prescripteur.

Et c'est vraiment ce qu'on montrait tous les travaux de la délégation à la prospective. tout d'où la nécessité de comprendre sa portée et ses limites, de former les opérateurs de l'intelligence artificielle qui devront être à la fois efficaces et responsable. Et donc c'est dans ce cadre que s'inscrit cette deuxième table ronde.

Comment faire pour que l'intelligence artificielle améliore notre sécurité tout en nous permettant de rester maître de nos actions et de notre décision ? Alors en français, nous avons de la chance parce que sécurité c'est à la fois security et safety et on sent bien qu'on est à la fois entre entre ces deux domaines dans toutes les les problématiques que nous voulons questionner. Alors, notre premier intervenant pour cette seconde session est monsieur Étienne Grass.

Il est membre du conseil de l'intelligence artificielle et du numérique dont il va nous dire quelques mots. Il est également directeur global de l'intelligence artificielle de CAP Gemini Invent. Alors, monsieur Gras, quelques questions.

Le développement des usages de l'IA tient-il compte de l'enjeu de protection des utilisateurs, qu'il soient des citoyens, des administrations ou encore des entreprises ? et quels pourraient être les prérequis pour bâtir une offre nationale, européenne voire internationale respectant cette impératif de sécurité ? Merci madame la présidente et bonjour à tous.

Je suis très heureux, très honoré d'être ici. Je représente une institution qui est nouvelle, même si elle existait déjà sous un autre nom qui est le Conseil national d'intelligence artificielle et du numérique qui a la responsabilité de conseiller le gouvernement sur les questions liées à l'intelligence artificielle, de proposer un regard indépendant, lucide, exigeant, multidisciplinaire sur les enjeux de lien euh et de nourrir le débat démocratique et dans un cadre privé, mais je m'exprimerai au titre du du Sian aujourd'hui. Je donc je dirige les questions de d'intelligence artificielle pour une grande entreprise française qui s'appelle CapGini Invent.

J'ai j'ai trois convictions à vous partager en réponse à à ces questions qui seront à mon avis clé. Euh la première, c'est euh oublier ou refuser une notion qui est en train de s'installer dans le débat public qui est celle d'IA souveraine. Euh il y a un malentendu dans la notion d'IA souveraine.

Je pense que personne veut d'une IA souveraine. Une technologie souveraine est une technologie qui détermine elle-même ses opérations. D'accord ?

C'est un problème mal posé. Une technologie pour être souveraine dans le sens où vous voulez entendre, elle doit simplement respecter la loi. La souveraineté d'une technologie, c'est la la compliance, le respect, la législation.

Et c'est pas plus compliqué que ça. Donc je vais essayer de pas référer à cette notion de di souveraine. Je pense qu'un problème mal posé augmente malheur du monde.

Euh et vous dire ce qui est derrière la législation sur les intelligences artificielles à mon avis et les enjeux de recomposition de la chaîne de valeur qui sont derrière. La question si une loi s'adapte suffisamment vite et je pense que l'Act a été adopté très rapidement. Les législations européenne l'ont été également.

La chaîne de valeur dans le domaine de l'IA évolue à une vitesse sans précédent. Je voudrais que vous reteniez deux chiffres. Le coût par token pour déployer un modèle d'IA depuis 18 mois a été diminué par 90 %. il était quasiment divisé par de c'estàd le le le la capacité de déployer un modèle d'IA se fait à un coût deux fois moins cher à usage similaire à type d'utilisation similaire que c'était le cas il y a il y a 18 mois le les banques d'investissement je donne d'un chiffre qui est celui de Barkle considèrent que les capacités dites d'intelligence à service mises à disposition de de d'infrastructure permettant de prendre en compte des modèles d' vous représentez à peu près 70 % des infrastructures numériques donc du cloud, du marché du cloud euh d'ici 2027, 70 % d'ici 2027.

Il faut comprendre le niveau d'investissement et de transformation que ça représente. Euh dernier chiffre, c'est 550 milliards de dollars qui ont été investis par les acteurs du cloud pour acquérir ses capacités. J'étais il y a 15 jours à Boston dans une conférence du MIT avec un acteur d'un des grands acteurs du cloud euh américain, je vais pas le citer, il disait il indiquait comment ses capacités extraordinaires de calcul étaient en train d'être acquises et il disait on a un écart par rapport aux besoins.

On n jamais simulé les besoins. Ça veut dire qu'on va se retrouver avec des capacités non utilisées dans les prochaines années et massivement. Je vais je vais y revenir.

Dans cette chaîne de valeur des modèles d'IA, il y a quatre niveaux et aucune des batailles n'est perdue pour le continent européen. Et je voudrais insister là-dessus, c'est c'est c'est une conviction très forte du SAN, c'est aussi une conviction très forte de mon entreprise. Le premier niveau est celui des semi-conducteurs, les GPU.

Ayez toujours à l'esprit que les GPU ou ce qu'on appelait les les cartes graphiques ne sont pas éternelles. C'est une technologie qui est intervenue qui est qui a émergé dans le monde de l'IA un peu par hasard. Et il y a des alternatives au GPU qui a qui émergent, ce qu'on appelle les puces assic.

La capacité à faire émerger ces puces ou ces nouveaux semiconducteurs est un problème de production. C'est pas un problème d'invention. On sait produire ces puces, on sait pas les produire à l'échelle.

Et il y a l'esprit aussi que dans la production de pré-entraînement de modèle qui est un autre l'autre dimension de la chaîne de valeur des modèles d'A, les acteurs européens sont très bien positionnés. Mistral en est un, ALF Alpha en est un autre. Le il y a pas de barrière à l'entrée dans le pré-entraînement des modèles d'IA qui empêcherait des des entreprises européennes d'être présent.

Il y en a d'autant plus pas que la ce qui fait la performance des modèles d'prises, c'est pas tellement le pré-entraînement que le post-raînement. C'est les services d'ingénierie qui sont réalisés sur ces modèles. Technologie de prompting, les technologies de context engineering, l'utilisation de la mémoire, des fenêtres de contexte.

En fait, dans les modèles euh Dipsic un parfait exemple que dans ces savoirs de l'ingénierie des modèles, il y a une capacité à rattraper les modèles larges qui sont font l'objet d'énormes investissements aux États-Unis. Euh le service, ce ingénierie ou ce poste-entraînement des modèles DI est quelque chose qui est accessible pour toutes les entreprises de services de grandes grandes entreprises de services digitaux européens et elles se prent pas de d'utiliser ces technologies. Le problème est plutôt qu'il y a pas de barrière à l'entrée pour les grands acteurs de l'A que le fait de la question de savoir si les entreprises européennes vont pouvoir recoller. 4è point, ce qui fait l'utilisation de l'IA, ce qui fera la souveraineté européenne, la souveraineté des États dans le monde de l'IA, c'est l'adoption.

C'est l'utilisation des technologies de l'IA. Il y a une très belle tribune du PDG de SAP dans économie sur ce sujet. Moi, on j'en partage toutes les conclusions.

La moitié de ce qui fait la valeur des des modèles DIAD quand ils sont déployés dans les entreprises, c'est la qualité du software, des interfaces euh des de la capacité à y accéder. Euh la plupart des modèles d'IA qu'on déploie dans les entreprises, les de tiers en l'occurrence, ce sont des modèles qu'on dit rag. C'est des modèles qui tapent dans des bases de connaissances préconstituées.

Si on tape dans des bases de connaissances préconstituées, ce qui va faire l'adoption, c'est la qualité de ces bases de connaissance. de ces bases de données plus que le modèle d'IA qui est qui est déployé. Donc oui, la question de la souveraineté européenne dans le domaine de l'IA est posé.

Oui, c'est je reprendrai un terme qui est un terme de l'économiste d'Aronasimoglou qui parle de course de la Reine Rouge. Je sais pas si vous avez déjà croisé ce cette notion. C'est un passage de les whis carol qui décrit cette course de la reine rouge qui doit attraper une reine rouge qui court toujours plus vite qu'elle et donc elle court, elle court, elle n'arrive à jamais à toucher la reine rouge.

Et c'est une course qui est perdue d'avance. On arrivera jamais à atteindre la souveraineté parfaite mais c'est l'esprit même la notion de souveraineté que d'être toujours imparfaite. C'est une notion téléologique.

La notion de souveraineté quand elle a été inventée par Jean-Baudin. C'était pour pacifier l'Europe. Et on a jamais pensé qu'il y aurait un domaine, une façon pure de définir la souveraineté.

Il faut courir la course de la reine rouge. Mais l'Europe a des armes en main et des atouts très significatifs pour cette course là. C'est je pense c'est on n'est pas dans un domaine comparable à celui qui a été le cloud il y a quelques passés.

Mon deuxième message, c'est quand il s'agit de regarder les lisques de l'IA, je me recente sur votre question. Oubliez ce qu'on appelle le pidoom ou le risque de super intelligence. Vous savez, tous les chercheurs dans le domaine de l'IA sont interrogés sur leur calcul du PIDOM.

Donc, je sais pas si vous avez déjà croisé ce pidom, c'est le risque que l'humanité euh soit prise d'assaut par une IA qui serait super intelligente. Donc, vous avez plein de chercheurs en IA qui dit "Moi, je suis à 30 % de PIDOM, je suis à 40 % de PIDom et puis les gens sérieux répondent pas à cette question." Moi je pense qu'il faut pas répondre à cette question.

C'est une question qui n'a pas de sens à partir du moment où il est clairement prouvé, une étude qui a été publiée dans Nature l'année dernière que l'IA n'a pas de faculté émergente. L'IA n'a pas de faculté émergente aujourd'hui. C'est les modèles d'IA ne pensent pas par eux-mêmes.

Ils reproduisent des systèmes de pensée, ils reproduisent des façons de parler, ils reproduisent des images mais ils n'ont pas de faculté émergente et ils sont très loin d'en avoir. On peut vivre dans le fantasme des des facultés émergentes. Mais si on se focalise sur ce mirage, on va oublier les vrais risques.

Les vrais risques pour moi, quels sont-ils ? Ils sont au nombre de 5. Un premier risque, un risque de sécurité sérieux et à mon avis, il sera rapidement pervasifé au déploiement dans les software de de technologie DEIA.

On parle de prompt injection. C'est le le risque et la vulnérabilité qui vient dans nos suites logicielles par le fait qu'on combine trois choses. L'accès à des données privés ouvertes à des modèles DI extérieurs, l'ouverture à des inputs extérieurs, les promptes et la capacité à prendre des tâches dans ces software qui sont ouverts à des requêtes extérieures.

Ce qui fait pour dire les choses très simplement que si vous mettez un PDF dans un modèle d'IA, il peut générer un prompt qui va faire sortir l'ensemble de la base client euh d'une société du CA CAC 40. et c'est pas quelque chose de fictif. Énormément de démonstrations qui ont été faites en ligne par les acteurs de l'IA que il y a une impossibilité en anglais on dit letal trefecta le tierscal qui fait quand vous avez ces trois paramètres l'accès à des données privées l'ouverture à des inputs extérieurs et la capacité à prendre des actions, vous ne pouvez pas sécuriser un software.

Donc à la fin vous êtes dans une situation de vulnérabilité. et je pense que c'est un c'est un gros sujet pour mon voisin. Il y a un deuxième risque qui à mon avis est absolument majeur qui qui est un sujet clé euh pour le sian euh qui est le risque de réduction cognitive ou d'effondrement cognitif et je pense c'est un risque de sécurité.

Euh le je je donne deux chiffres et c'était votre question sur la démocratie. l'Oxford Oxford et le Reuters Institute ont publié l'année dernière un chiffre qui dit que les Français s'informaient via les journaux pour 43 % d'entre eux il y a 10 ans, pour 10 % d'entre eux aujourd'hui. La principale source d'information des Français était la presse écrite pour 43 % d'entre eux il y a 10 ans.

Pour 10 % d'entre eux aujourd'hui. Le nombre de personnes qui lisent pour le plaisir aux États-Unis a été divisé par 2 dans les 10 dernières années. Il est plus que de 11 %. il était de 22 %. ce qui a été bien documenté en 2005 lors de l'arrivée d'Internet sous le nom d'effet Google qui est quand vous utilisez une technologie liée à Google, vous avez une régression importante de vos capacités cognitives et naturellement démultiplié avec les modèles d' Il y a un problème de stimuler les capacités cognitives différemment quand on vit dans un monde lielle étude du trésor français qui montre que à peu près 3 % de de PIB qui risquent d'être perdu dans l'économie française à long terme.

à long terme, c'est après 2030. Du fait de cette régression cognitive et des risques liés à la santé mentale dans la diffusion des modèles d'IA, j'allais dire 3 % c'est pas beaucoup au regard du risque de régression cognitive qui est là, mais 3 % c'est ça change totalement la trajectoire de vos simulations dans le domaine des retraites, dans le domaine euh voilà. Donc deuxème risque, ne prenez prenez au sérieux le risque de réduction cognitive. 3è risque euh on a fait une étude 11 c'est le groupe CAPG mini euh pour le sommet de Paris sur les risques environnementaux ou de non soutenabilité des modèles d'IA liés au déploiement on en parlait tout à l'heure de de des modèles agentic des modèles qui sollicitent plusieurs modèles d'IA de façon consécutive en moyenne un modèle agent il il sollicite cin ou six fois un modèle d'IA pour réaliser une opération qui va durer 4 à 5 minutes. et on considère ces modèles avec la charge computationnelle qui qu'il représente et leur trajectoire de diffusion actuelle.

On a montré dans cette étude qui est publiée sur Archive et qui est qui est actuellement en revue que le bilan carbone de l'IA euh dans le total du du bilan carbone de la planète va passer de 3 à 4 % à 7,5 % d'ici 2030. Ce poids, le poids de l'IA dans le bilan carbone de la planète va doubler. On a tendance à dire dans le domaine de l'écologie, il y a pas de repas gratuit.

There is no free lunch. C'est un repas qu'on peut pas dont on ne peut pas se permettre. Donc le le sujet de la sobriété dans l'utilisation des modèles d'IA est un risque et un risque qui est majeur pour notre planète puisque c'est un des rares domaines dans lequel le j'allais dire le bilan carbone est en train de s'aggraver.

Et puis je viens aux deux questions qui sont un peu plus cœur par rapport à votre question. le risque pour la démocratie ou le risque lié à l'émergence de fausses nouvelles. Moi, je crois pas beaucoup à la régulation des modèles d'IA au regard des exigences de vérité.

Pourquoi est-ce que les modèles d'IA et les modèles langage en particulier utilisent du langage naturel et vous trouverez pas un seul linguiste dans la planète sur la planète qui vous dira que le langage naturel ne prétend jamais à la vérité ? Vous pouvez relire après Babel de George Steiner, il vous dira que la vérité et le langage naturel sont deux choses séparées. Euh le sujet est le biais de psychopency, le biais de de de de flatterie qui est inclu dans les modèles d'IA.

C'est le fait que quand on interroge un modèle d'IA, il va naturellement vous répondre ce que vous voulez entendre. Ce qui fait que les modèles d'IA sont d'autant plus biaisés que des personnes les interrogent. Donc vous aviez une belle publication il y a 15 jours dans Économist, ça va parler à certaines personnes dans la salle qui montrent que les modèles d'IA ont un bia politique très net en faveur des personnes démocrates.

Dans la démocratie américaine, les modèles d'IA privilégient des opinions démocrates par rapport à des opinions républicaines. Il y a quasiment 10 points d'écart quand on analyse les réponses qui sont réalisées. Ces bien, on pourra pas les traiter à la racine.

On peut pas débiaiser des modèles d'IA. Si vous cherchez à débiaiser des modèles d'IA, vous allez les appauvrir et vous allez encore réduire les capacités cognitives des gens qui les utilisent. Le vrai sujet, c'est deux choses.

C'est de créer une transparence sur ces effets et c'est de créer un cadre qui fait que certains modèles d'IA seront programmés pour améliorer le débat public, pour rentrer dans l'espace public. Donc il y a un projet que personnellement j'aime beaucoup qui s'appelle le projet Abermas qui est conduit par Deepmine, l'entreprise Deepmine qui crée une capacité à créer de la contradiction dans un débat, à proposer des synthèses, à automatiser en fait les les les grands éléments du du débat public. Je pense que c'est absolument clé de de aussi se doter de ce type d'outil.

Un réseau social, un modèle DI peut aussi être programmé pour faire s'exprimer des opinions contradictoires. Il faut juste le décider. Euh le biais géopolitique ou de sécurité qui me paraît le plus lourd, je suis allé par ordre d'importance, c'est le biais qu'on appelle lié à l'explosion de l'intelligence.

Si je reviens sur les chiffres lié à l'émergence d'infrastructure à service, on peut considérer que le volume de GPU de la planète à efficacité conjointe est multiplié par 10 tous les ans depuis cette année. 10 par an. Si vous ajoutez à ça l'amélioration des capacités de post training, le volume d'intelligence artificielle euh généré pour la planète est multiplié par un facteur 25 tous les ans.

Ce facteur 25, il est pas c'est pas une courbe exponentielle, c'est beaucoup plus qu'une courbe exponentielle. C'est une accélération sans précédent. Aujourd'hui, le dans le groupe CAG Gemini, il y a une entreprise s'appelle Cambridge Consultant qui qui fait de l'ingénierie de pointe.

Euh on peut euh chez Cambridge Consultant, on l'a fait, on l'a prouvé, on l'a communiqué, entraîner un modèle pour générer des protéines nouvelles pour moins d'un million de livres. Moins d'un million de livres pour faire la génération de protéines à l'échelle. Donc les risques euh dans le domaine scientifique, dans le domaine du risque NRBC, de génération de nouvelles molécules sont extrêmement importants et je pense que là on est dans une sorte d'impensée de la situation actuelle.

Je voudrais me concentrer sur quelques recommandations. J'en ferai cinq. Voilà, c'est et elles sont liées à ce que j'ai dit donc je peux le faire très rapidement.

Je pense la première chose et c'est un élément de layer act qui à mon avis est important mais qui est difficile à mettre en place, c'est la traçabilité des modèles DI. L'obligation water marking de de retracer qu'un modèle d'IA est passé sur cette image, est passé sur ce texte. Euh elle ne reposera jamais sur des solutions purement technologiques.

Le water marking reposera sur une forme d'obligation. euh la solution purement technologique euh ne ne suffit pas. Je pense que même si le la Yayact est amené à évoluer, il faut garder le modèle de stratification du risque qui est sa définition même qui est un apport euh sans précédent.

Et il faut surtout pas oublier l'impensée de l'AI act qui est liée à la compétence de l'Union européenne. On n'a pas régulé l'utilisation d'IA dans la défense avec la act. Euh la défense n'est pas dans le périmètre de l'Éc, je le redis pour que les choses soient claires.

Ça veut dire que le principe selon lequel il y a un contrôle humain sur tout dans le domaine de la défense, l'armée française se l'applique. Je pense qu' il n'est pas généralisé dans d'autres acteurs européens. Je pense qu'il y a la place pour une décision intergouvernementale sur ces sujets.

Il y a une collaboration internationale qui s'est installée entre Open AI et un certain nombre de de fournisseurs de modèles pour traiter la puissance de calcul les le le GPU comme de l'uranium enrichi. Alors ça appelle une longue réflexion. vous amène à vous poser sur cette la réflexion en ces termes.

Est-ce que finalement on serait pas une révolution qui est contenue des risques, compte tenu de ce qui est en jeu, ben amène à réguler la circulation de la puissance de calcul à travers la planète comme on l'a fait pour l'uranium enrichi avec succès puisqu'on a régulé ce ce ris par le passé. Dernier point, je pense qu'il y a un agenda de recherche sur les complémentarités de l'IA dans le domaine éducatif qui est très loin d'être épuisé. Toutes les semaines, il y a une étude qui paraît qui est extrêmement contestable dans le domaine de l'IA, le le celle du MIT récente qui a été très commentée, qui montre beaucoup de projets d'IA échou, elle a été très commentée parce qu'elle est intéressante, elle est juste bidon.

Euh je pense qu'il y a un vrai sujet de créer un agenda de recherche partagé, c'est sans doute une des fonctions des des organismes interparlementaires qui permettent de documenter l'impact de l'IA dans le monde cognitif et dans le monde du travail. et ne négligeons pas le poids que peut avoir ce ce type de publication. Je vous remercie.

Merci beaucoup et vous on vous invitera peut-être à venir parler devant la délégation à la prospective parce que après l'intelligence artificielle, nous allons travailler sur qu'est-ce qui sera par exemple la notion de vérité et de main dans un monde où effectivement l'intelligence artificielle peut peut tout changer. Euh je vais sans plus tarder céder la parole à monsieur Henric Blidar qui est secrétaire général adjoint de l'assemblée parlementaire de l'OTAN, ancien directeur du comité scientifique et technologique de cette assemblée. Et donc par ses travaux et activités, l'Assemblée parlementaire de l'OTAN contribue à sensibiliser les milieux parlementaires aux principaux enjeux liés à la sécurité de la zone euroatlantique et près de son concours au contrôle par les parlements nationaux du secteur de la défense et de la sécurité.

Du processus décisionnel aux missions militaires sur le terrain. L'intelligence artificielle, j'ai dit tout à l'heure, transforme la façon dont sont conduites les guerre. Nous percevons déjà combien les champs d'utilisation de l'IA au sein des armées sont vastes.

Enfin, l'adoption généralisée de l'IA par les applications militaires soulève d'importantes questions éthiques et juridiques, notamment en terme de responsabilité, de respect du droit international humanitaire et plus généralement des principes qui régissent la conduite des hostilités. Donc monsieur Bidal, l'Assemblée parlementaire de l'OTAN a publié trois rapports sur l'IA depuis 2019. Est-ce que vous pourriez nous en partager les principales conclusions ?

Bien sû madame la présente, merci et monsieur Grâce aussi euh pour l'introduction très très attention. Euh et je tiens à à remercier le sénateurs français de de de m'avoir invité à cet événement important je pense. Et euh avant de commencer, je tiens à préciser que mon propos euh reflète mon opinion personnelle et c'est pas l'opinion des assemblées parlementaires.

Et dans ce cadre parlementaire, beaucoup d'entre vous connaissent sans doute la paix au temp qui construit depuis septembre an maintenant un forum unique réunissant les législateurs de pays membres de l'OTAN et nous assurons les liens les liens entre l'OTAN et le Parlement. Euh et cela favorise entre autres une plus grande transparence et une meilleure compréhension de l'OTAN. Et nous avons aussi une formidable délégation française mais n'est pas le sénateur Christian Capon et son adjointe Nathalie Bref, membre de l'Assemblée nationale.

Et maintenant, permettez-moi de passer en anglais parce que je dois avouer que la l'intelligence artificielle c'est un sujet que c'est plus compliqué de de exprimer en français. Donc il y a un change de façon très rapide la façon dont les gens vivent, dont les gens travaillent. On en a beaucoup entendu parler dans la première session, mais ça a également des implications énormes en terme de défense et de sécurité.

On a entendu différents exemples et on pense tous que les guerres seront transformées. La façon dont on fait la guerre et dont on gagne une guerre grâce à l'IA. l'Amérique du Nord et l'Europe face à de nombreux défis en terme de sécurité.

Donc il faut qu'on maintienne notre avance technologique et scientifique et qu'on s'assure que l'IA soit utilisé de façon responsable. Donc il y a vraiment deux enjeux différents. Là l'organisation sciences et technologie de l'OTAN pense que ça sera un des gros enjeux des 20 années à venir.

Donc il faut vraiment s'attacher à comprendre les défis et les opportunités de l'IA dans le domaine de la défense. La assemblée parlementaire de de l'OTAN a adopté sa première résolution sur l'IA en 2019. Ça a été fait par un parlementaire qui fait maintenant partie du Parlement européen.

Notre dernier effort sur le sujet date de l'année dernière grâce à un parlementaire luxembourgeois qui a proposé une résolution sur ce sujet. Je vais donc partager avec vous quelques points clés, quelques recommandations issues de nos travaux. Tout d'abord, la plus grosse difficulté et on le voit tous les jours, il y a des enjeux autour de la paix, autour de la sécurité.

Euh d'une part, il y a l'objectif d'aller vite et l'objectif de respecter nos valeurs démocratiques partagées. Il y a un risque qui pèse sur nos démocraties. Il faut y faire face, la subversion systématique et on ne peut pas se permettre d'être en retard sur les questions d'IA.

Nos adversaires eux ne sont pas en retard, ça je peux vous le dire. Il faut également qu'il y ait des solutions il y a qui ne soient pas en contradiction avec nos valeurs. Ça veut dire une supervision de civil sur toutes les questions éthiques notamment.

Un problème qu'on a dans le domaine militaire, c'est que beaucoup des législations en place ne s'appliquent pas au domaine militaire et ça ça doit changer. Ce que tu ce que a fait l'OTAN, c'est que nous avons développé une stratégie hier en 2021 à laquelle j'ai participé et elle s'adresse aux 32 alliés et elle réaffirme les respons les principes d'utilisation responsable donc légal responsable rédition de compte explicabilité traçabilité fiabilité gouvernabilité et la lutte contre les biaiss. Il faut également garder notre rythme car l'Inde, la Chine accélère leurs efforts et eux seront beaucoup moins constraints par des règles et normes internationales.

Ils n'utilisont pas forcément l'IA de manière éthique du tout et il faut se préparer à cela. Voilà notre voilà la tâche qui nous incombe. Donc il faut agir vite mais je suis d'accord avec l'organisation de sciences et technologie de l'UT qu'il faut une transformation rapide en se concentrer sur la formation de talent et la rétention et la mise en commun entre alliés et partenaires d'expertise et de ressources. [Musique] Les engagements de la de dépenses à 5 % et de développement industriel qui pourront également soutenir les start-up devrait nous donner les moyens d'avancer sur ce point.

Donc pour nous assurer que nous maintenant notre élan, nous l'assemblée a déterminé qu'il fallait continuer à investir pour l'écosystème d'innovation IA, que ce soit en Europe ou via des instruments de l'OTAN. Il faut aussi renforcer nos efforts d'utilisation de l'IA pour les armées, y compris donc l'utilisation des applications à double usage pour notre arm essayer d'intégrer ces technologies sur le terrain. C'est une question de développement de normes communes pour faire face au problèmes d'opérabilité et d'interopérabilité.

Il y aura clairement des opérations militaires à l'avenir. Je l'espère pas des guerres, mais nous devrons pouvoir nous battre sur le même champ de bataille. Et donc nos armiers, nos opérateurs doivent pouvoir utiliser des outils DI compatibles.

Il faut aussi un niveau minimum d'adaptation I et permettre à nos alliés de plus petite taille à contribuer. La bonne nouvelle sur cela, c'est que certains de nos plus petits alliés, par exemple la Slovénie, ont des écosystèmes de technologie très actifs où ils peuvent investir une partie de ces 5 % et qui pourra être utilisé par tous les autres alliés. Ensuite, d'un point de vue des défis juridiques et éthiques, nos parlementaires ont tout à fait conscience que nous devons sensibiliser pour euh améliorer la confiance, la fiabilité, la légitimité pour les citoyens, mais aussi pour les soldats sur le terrain.

Car s'ils ne peuvent pas faire confiance à leurs outils de combat, alors ils ne vont pas s'en servir. Donc c'est quelque chose qu'il faut garder à l'esprit. Nous devons également travailler sur des cadres de de gouvernance cohérents qui trouvent un équilibre entre le besoin d'agir vite et le besoin de réglementer.

Il faut se fonder sur des approches existantes. Il y a les outils donc en Europe, les outils de l'OCDE et cetera et les appliquer au monde militaire avec les ajustements nécessaires. secteur privé promotion de la diversité du de la main d'œuvre pour lutter contre les biais financement pour les start-ups qui respecte nos valeurs plutôt que les start-ups chinoises et ça c'est quelque chose qui sera traité l'année prochaine à l'assemblée la question de la sécurité de la recherche. même les États-Unis ont un problème de logiciel chinois.

Euh même au Patagon, ils ne savent même pas quel logiciel utilisent. Donc c'est quelque chose qu'il va falloir regarder en détail. Les alliés donc doivent soutenir les efforts au niveau national international pour développer des normes internationales.

Alors, qu'est-ce que l'on apporte du point de vue de l'assemblée avec les rapports, les résolutions, les audiences et les travaux interparlementaires comme ceux d'aujourd'hui, nous participons au débat public en encourageant une meilleure compréhension des défis et opportunités, ce qui aide les membres nationaux dans leurs parlements nationaux parce qu'on a tous des lois à écrire, des une supervision à exercer C'est par exemple, monsieur Tony quand il a rédigé le rapport l'a traduit euh pour qu'il soit mis en œuvre également en Slovénie. Toutes ces mesures renforcent le dialogue entre les parlementaires, ce qui est aussi important. Le Sénat français parle de l'IA, de son utilisation pour la défense de la sécurité.

D'accord. Mais ça c'est euh surtout du point de vue français. Donc si on rassemble des des parlementaires sur américain européens les perspectives vont varier face à un même problème.

Et c'est ça notre avantage. notre collègue du Luxembourg qui aurait aimé être ici aujourd'hui mais qui a dû participer à une autre réunion euh partage notre voix dès qu'il le peut et puis bien sûr les investissements et les décisions qui sont prises dans les capitales et après par exemple selon un rapport Eric Larson américain est retourné dans son pays pour défendre un projet de loi concret qui a été adopté d'ailleurs pour renforcer l'utilisation de l'IA de l'éducation à l'IA du personnel militaire. Comme vous voyez les échanges au sein de l'assemblée, elles sont elles se feront en profondeur et nous allons continuer à développer ce sujet et échanger avec les parlementaires notamment français.

Et donc j'ai hâte de voir la suite de nos efforts. Merci beaucoup et c'est très intéressant de nous avoir montré que au-delà de faire discuter au sein d'une même assemblée des gens qui partagent déjà un système de valeur, le véritable enjeu était ensuite entre des gens qui n'ont pas forcément le même système de valeur de savoir où est-ce qu'on doit fixer la limite aux utilisations de l'intelligence artificielle. ce qui fait un peu écho avec la première table ronde et d'une gouvernance partagée dans un environnement géopolitique de plus en plus incertain.

Madame Tadeo, vous allez justement poursuivre cette réflexion puisque vous êtes professeur d'éthique numérique et des technologies militaires à l'université d'Oxford. Euh vos travaux récents portent d'ailleurs sur l'éthique et la gouvernance des technologies numériques. Donc comment pouvons-nous arriver à concilier éthique et utilisation de l'IA dans le domaine de la défense et de la sécurité ?

La gouvernance des cybercflits est-elle possible et comment les parlements peuvent-ils y contribuer ? Merci beaucoup de la parole qui travaille généralement en anglais. Je ne vais pas me risquer à parler votre très belle langue donc je m'excuse par avance de m'exprimer entièrement en anglais.

Voyez que que je suis universitaire et donc je ne peux pas euh faire de présentations sans diapositive derrière moi. Je vais profiter de la position avantageuse des universitaires pour faire et quoi ce qui vient de dire. Quand on parle d'intelligence artificielle, il faut s'éloigner de la science-fiction.

Il y a pas de super intelligence qui arrive. Pas de robots qui qui combattont nos guerres. Pas de conscience de créativité, d'intuition.

Rien de ce type n'existera si on veut s'accorder d'ailleurs sur la base, l'intelligence artificielle qui est très diverse, très technique n'est finalement que une source d'agents qui agissent de manière autonome dans un environnement et qui apprennent de ces interactions pour faire des choses qui si nous les faisions impliqueront d'avoir l'intelligence. Ce qui est beau dans l'intelligence, c'est qu'elle fait ce que ce qu'on fait mais avec moins de ressources et sans véritable intelligence. C'est pour ça qu'il faut se concentrer.

Le reste c'est des distractions et on se fait distraire par des choses qui ont fait des très belles choses dans l'IA et qui ont eu des des prix Nobel mais ensuite se perdent dans leur métaphore. [Musique] Maintenant que j'ai dit ça, je reviens sur le sujet donc de l' défense contre par et de défense en fait on parle d'une transformation à plus long terme. C'est la numérisation en fait de la défense.

Ça ne s'est pas fait du jour au lendemain. on peut remonter ne serait-ce qu'en 1991 la guerre du golf où les technologies de l'information et la communication devenent de plus en plus importante notamment en terme de communication au sein d'une armée. Ensuite, on passe à 2007 avec la cyberattaque contre l'Estonie qui a marqué un peu la le début des cyberguerres.

Et puis ensuite, on peut avancer à 2014-2 2016 avec les sommets de l'OTAN où on a dit qu'on allait approuver l'utilisation des offensiv des cyber offensive. On en parlait encore il y a quelques jours et puis ensuite il y a eu la guerre en Ukraine qui a vraiment poussé la réflexion sur la défense par l'IA ou augmenté par l'IA. Et ça c'était vraiment un moment charnière et historique stratégiquement, technologiquement mais aussi philosophiquement.

Pourquoi ? parce que toutes ces dates précédentes, elles venaient ajouter des possibilités aux défenseures, des nouveaux domaines cyber, des nouvelles capacités cyber. Voilà, c'était des extensions de domaines où agissait déjà on agissait déjà dans la défense.

La guerre en Ukraine, ça a été une transformation plutôt qu'un ajout. Chaque centimètre carré de du secteur est maintenant permis par toutes les opérations, tout tout se caractérise par l'utilisation de l' une image à l'écran, c'est une entreprise ma fois fort controversée Clear AI qui a développé une technologie de reconnaissance faciale. quelque chose qui n'est pas autorisé par le législation européenne qui pas éthique mais qui est utilisé en Ukraine pour identifier les soldats russes capturés ou tuer pour informer leur famille et lutter contre la propagande russe.

Ça c'est une utilisation de DI. Donc pendant si longtemps, quand on parlait d'IA dans la défense, on parlait de de robots qui tuaient des systèmes d'armes autonomes qui certes existent et on s'en sert en Ukraine, j'y reviendrai, mais ce n'est pas euh que ça. Ce n'est plus que ça.

Maintenant, c'est une panoplie beaucoup plus large pour simplifier les choses. En terme de décision, d'opération de défense, on peut les diffuser en trois catégories. euh le soutien approvisionnement et puis ensuite les usages non cinétiques et les usages offensif cinétiques.

Euh l'IA peut être appliqué dans ces trois catégories. La logistique, combien de bouteilles d'eau est-ce que on a besoin d'envoyer euh sur le front ou une question de renseignement ? Comment est-ce qu'on peut utiliser l'intelligence open source pour identifier la prochaine menace ou la prochaine situation dont j'ai besoin d'avoir conscience ? et aussi dans le cyber, c'est un outil de nouveau virus d'attaque et aussi ça peut une question de cible.

C'est une technologie qui est extrêmement fragile. Donc quand on réfléchit à où on intègre, c'est ça ça nous rend vulnérable. Et puis bien sûr les armes cinétiques, les armes autonomes par qui parfois peuvent être mal utilisés dans l'identification de cible.

Toutes ces informations et toutes ces transformations, elles ne sont pas réversibles. Il ne faut pas les considérer comme tel et tout, il ne faudrait pas vouloir les les inverser parce que les sociétés sont devenues numériques et donc cela implique euh des guerres numériques. Qu'est-ce que j'entends parler ?

Euh cette année, on aura produit 200 établies de données. Bon, pour les gens qui a mon âge, ça veut rien dire. Mais si on imprimer ça, ça serait euh 42000 milliards de DVD.

On compare ça au au au pétrole, c'est leur numérique et cetera, peu importe. Mais dans cet océan de données, il y a certains certaines informations dont on a besoin pour comprendre le mot, que ce soit en en militaire, en environnement, en médecine et cetera. l'intelligence artificielle cherche de cas à pêche pour obtenir ces informations.

Et donc cette transformation de la défense qui est extrêmement radicale, elle se fait dans un dans un cadre de d'absence de règles juridiques. Finalement, l'éthique et le juridique, ça va ensemble. Le droit humanitaire international en fait c'est la version juridique légale de la théorie de la guerre juste et il y a des lacune importante.

La guerre, elle est extrêmement réglementée par le droit magicien international mais il y a beaucoup de choses qui changent actuellement et actuellement il y a aucune orientation aucune ligne directrice. On ne sait pas ce qui est acceptable. Par exemple, est-ce qu' un taux d'erreur de 10 % dans l'identification de cible ?

Est-ce que c'est acceptable ? Est-ce que c'est moral ? 10 10 secondes.

Est-ce que c'est suffisant pour donner le temps à quelqu'un de comprendre et valider la décision ? C'est pas qu'on sait pas, c'est qu'on a pas de réglementation qui nous dit si c'est suffisant ou pas. Donc les questions éthiques, elles sont éthiques et juridiques et elles sont larges.

Elles vont de la question des biais à la confiance, la question de responsabilité, de rédition de compte et aussi d'application des principes éthiques, des principes droit humanitaires, international. euh tel que la discrimination, la proportionnalité euh que que tous ces principes soient appliqués encore dans cette nouvelle version de la guerre. Un peu de philosophie.

Toutes ces questions, tous ces problèmes, [Musique] on peut les comprendre en divisant les choses en deux catégories. D'abord, il y a le problème moral de et la responsabilité personnelle. On peut pas attribuer à des hommes à des des personnes la responsabilité d'action d'IA.

À Nurbert, on avait commencé par dire qu'il faut attribuer la responsabilité aux individus, non pas aux euh aux organisations. Ici, là les choses sont différentes. Ensuite, les questions de respect de la théorie de la guerre juste et de droit humanitaire international.

Et ces questions, elles n'arrivent pas de nulle part. Elle ressort des caractéristiques techniques même de l'IA qui est la prévisibilité limitée. Un système qui apprend de ces interaction avec l'environnement va apprendre des choses auxquelles on ne s'assend pas.

Or cela soulève les questions de responsabilité et ça ça nous fait perdre le contrôle. Et donc voilà les questions techniques sur lesquelles il nous faut nous concentrer. Si nous continuons à intégrer l'intelligence officielle dans la défense sans résoudre ce problème à l'écran, il va y avoir une érion systémique de euh du droit humanitaire international parce qu'on voilà la proportionnalité, la nécessité, tout cela va passer au second plan. la distinction.

Tout ça va passer au second plan à cause d'un problème technique. Voilà pourquoi il est urgent de bien comprendre que la réglementation de l'utilisation d'ol dans la garde doit être une priorité absolue puisque nous l'intégrons de fait dans nos opérations militaires. Alors, il y a quelques projets dans le monde avec des principes éthiques qui sont rédigés.

Euh et si on regarde à l'écran, la bonne nouvelle c'est qu'il y a un accord. Il y a pour une fois on est plus ou moins d'accord qu'il faut faire mais la mauvaise nouvelle c'est que ces principes ils s'impliquent pas, ils sont bien pour tout en fait que ça soit pour la pub en ligne que ça soit pour faire des conseils financiers ou pour faire la guerre. Et où est la guere juste ?

Où est les risques d'utilisation de l'intelligence artificielle dans dans l'emploi de la force ? J'ai bien peur qu'il y ait encore un peu plus de travail à faire dans ce domaine. La question qu'on m'a demandé, c'est qu'est-ce qu'on peut faire pour améliorer les choses ?

La défense, c'est un sujet généralement tabou. On parle pas de défense sauf si on est dans l'industrie de la défense. Et ça c'est problématique étant donné euh les transformations importantes dont nous sommes témoins.

Il faut donc encourager un débat politique et public sur l'utilisation de l'IA dans la défense. Il faut changer la portée du développement. Euh pour l'instant on parle surtout de système d'armes autonome et en fait ça tout ça ça ne couvre pas 80 % des choses.

Le public doit savoir ce qui se passe et ils doivent pouvoir exprimer son opinion. Sinon, dans une démocratie, comment on choisit la direction que l'on emprunte ? Et il faut réfléchir sur quoi on se on se concentre.

Les armes autonomes, c'est problématique. Il y a un groupe aux Nations- Unies qui travaille sur la question depuis 30 ans et on a toujours pas de définition formelle de ce que un système d'armes autonome. Voilà où où on en est.

Et c'est aussi très problématique parce que c'est un débat qui repose sur beaucoup de principes. La question de la dignité humaine. C'est une violation de la dignité des personnes de déléguer la décision de les tuer à une machine.

D'accord. Très bien. Tout le monde est d'accord avec ça.

Mais le fait est que cette approche, elle a créé deux camps, les pour et les contre. Et la seule chose qui est ressortie euh de cette opposition, c'est un vi juridique dans lesquels c'est inscrit la guerre en Ukraine où les systèmes d'armes autonomes se sont employés. Donc il faut changer la perspective, comprendre qu'il y a des cas limite on va pas permettre tout et n'importe quoi, mais il faut aussi des restrictions, des norme, des arbitrages et peut-être, je vais m'arrêter là, peut-être qu'il faut s'éloigner un peu de de trouver un consensus mondial et trouver un consensus régional.

C'est une un combat qui est mené par les démocraties libérales et les autres n'auront qu'à suivre. Merci. Merci beaucoup madame Tadeo pour ce regard un peu différent mais qui je pense va susciter en tout cas de ma part des questions à monsieur Poncelin Drecours qui travaille à l'ANC donc pour nos interlocut nos auditeurs pardon étrangers c'est la structure en France qui est responsable de la sécurité notamment de nos systèmes d'information et donc justement comment est-ce qu'aujourd'hui vous pouvez arriver à répondre à ces défis qu'on connaît les sujets technologiques mais aussi à anti anticiper ceux de demain qui sont aussi à la frontière de jusqu'où est-ce qu'on ira dans l'usage de de l'intelligence artificielle pour aller déstabiliser aujourd'hui des démocraties he puisquon le voit bien c'est c'est les risques auxquels nous sommes confrontés tous les jours.

Merci madame la présidente. Merci tout d'abord pour cette invitation à cette cette table ronde. L'ANCI en tant qu'autorité nationale de cybersécurité et de cyberdéfense s'intéresse à la problématique de l'IA sous trois aspects.

Première, c'est la cybersécurité de l'IA en elle-même. L'IA correspond non pas à une nouvelle technologie au sens strict, mais à une évolution d'un certain nombre de technologies qui préexistaient. Et donc à ce titre-là, euh l'agence est amenée à se pencher sur cette technologie pour soit rappeler un certain nombre de bonnes pratiques général d'utilisation d'un certain nombre de technologies, soit proposer un certain nombre de recommandations particulières sur l'utilisation de cette technologie.

Deuxième aspect, c'est l'utilisation de l'intelligence artificielle pour la cybersécurité. L'intelligence artificielle est une promesse du côté de la défense, du côté des défenseurs. Promesse de réaction plus rapide, promesse de traitement plus rapide également, promesse de meilleure connaissance d'un certain nombre de et meilleure utilisation d'un certain nombre de signaux faibles.

Le troisème point, c'est la cybersécurité face à l'IA. Quand on regarde la problématique de la sécurité au sens cybersécurité et de l'IA, on a vraiment ces trois aspects là, ces trois angles d'attaque. Je vais commencer par le dernier puisque je pense que ça ça fera le lien aussi avec la la présentation précédente.

La question de l'utilisation de l'intelligence artificielle pour le dire simplement pour l'attaque, pour attaquer un système pour attaquer des systèmes d'information au sens système d'information numérique. Je mettrai de côté la problématique de l'utilisation de l'IA pour biaiser un certain nombre de discussions, pour soit créer des fake news, soit pour les amplifier. Euh en l'occurrence, c'est le rôle d'une de nos agences cousines Viginum euh qui a déjà commencé à regarder ce type de cas de figure.

En ce qui concerne l'ANC est donc l'utilisation de l'IA, de l'intelligence artificielle pour attaquer. Le premier cas de figure qu'on a tous vu depuis maintenant quelques années. On n pas eu besoin des LLM.

Je sais pas si vous avez remarqué quand vous recevez un mail de fishing, il y a plus de faute d'orthographe. Il y a plus de faute d'orthographe tout simplement parce qu'on a en général maintenant des attaquants qui utilisent des systèmes qui parlent quasiment aussi bien français que que vous et moi, voire même dans certains cas, on peut se poser la question si ne pas avoir de faute d'orthographe dans un mail, c'est pas un problème en soi, c'est pas un indicateur. Donc ça c'est le premier point.

Le deuxième point mais ça on parle on parle d'un niveau d'attaque très peu sophistiqué. On parle d'attaque qui relève plutôt de l'escroquerie. Le deuxième point, ça va être l'utilisation de d'intelligence artificielle pour bénéficier à des attaques par ingénierie sociale.

Vous avez un certain nombre de traces sur internet et c'est normal, on en a tous à partir du moment où nous sommes exposés sur internet. Nous avons également des traces sur internet que nous ne souhaitions pas avoir. En l'occurrence tout ce qui correspond à des vols de données.

Vols de données qui sont de plus en plus répétitif. Tout cela permet de créer une forme de profil vous concernant et avec l'intelligence artificielle, ça permet d'affiginer un peu plus ce profilage. Ce profilage, il va être ensuite utilisé soit directement par l'utilisateur, soit vendu pour chercher à là encore proposer des escroqueries plus sophistiquées.

L'une les plus classiques dont on parle depuis assez longtemps correspondent aux arnaques au président. Aujourd'hui, en particulier avec des intelligences artificielles génératives qui vont utiliser de la voix et de la donnée image. Vous pouvez très facilement avoir un président d'entreprise qui appelle son comptable et qui lui explique qu'effectivement il doit procéder à un virement avec une voie sur lequelle il n'est pas possible d'exercer une vérification dans l'urgence.

On peut mettre en place un certain nombre de dispositifs de traitement interne, de contrôle interne pour avoir une confirmation par exemple. Mais pour autant, on reste dans le champ général de l'escroquerie. Et puis après, on a tout ce qui est le plus haut du spectre.

Aujourd'hui, au niveau de l'ANC, on commence à observer effectivement des attaques qui utilisent un certain nombre de dispositifs d'IA. Pour autant, ça ne révolutionne pas à date ce type d'attaque. Une partie de notre travail, ça va être de capitaliser sur cette menace que nous observons, soit que nous observons parce que dans le cadre de colloques qui sont organisés avec un certain nombre de nos collègues, d'autres autorités nationales ou des hackurs éthiques, nous voyons des cas d'usage qui ont été pensés par des laboratoires, soit malheureusement dans le cas de certaines de certains incidents ou de certaines opérations sur lesquelles nous accompagnons des victimes qui ont fait l'objet d'une attaque.

Dès lors, le rôle de l'agence, ce sera de continuer à communiquer sur des modes opératoires particuliers dans des cercles plus ou moins restreints en fonction de la cricité, en fonction du type d'attaquant qu'on va avoir en face, mais donc de continuer à faire œuvre de pédagogie pour démontrer les cas particuliers dans lequels l'intelligence artificielle peut être utilisée. Si on regarde les deux autres aspects que sont la cybersécurité de l'IA et la cybersécurité par l'IA, en ce qui concerne l'agence, nous cherchons à nous inscrire dans la stratégie nationale pour l'IA et nous cherchons comme pour d'autres dispositifs, comme pour d'autres technologies à apporter un maximum d'éclairage pour permettre une utilisation la plus cohérente et la plus raisonnée possible des technologies d'intelligence artificielle. À titre d'exemple, nous fournissons un appui technique à la FNOR dans le cadre des travaux du CNC l'Élec pour la mise en œuvre du règlement pour l'intelligence artificielle.

Nous accompagnons un certain nombre d'administrations qui souhaitent développer des intelligences artificielles. À titre d'exemple, par exemple, nous avons nous travaillons régulièrement avec la direction interministérielle pour le Numérique qui déploie Albert de manière à ce qu'on ait un Albert sécurisé intelligence artificielle pour les administrations. Nous émettons également un certain nombre de de recommandations à destination des offreurs et des acquéreurs de solutions qui cherchent à intégrer de l'IA dans leurs offres cyber ou qui cherchent à cybersécuriser leur projet d'IA.

Là encore à titre d'illustration, nous travaillons avec le SGPI afin d'assurer que les projets d'intelligence artificielle qui sont accompagnés dès le stade de la recherche et développement intègre by design la problématique de la cybersécurité. Et puis plus généralement, nous cherchons à sensibiliser aux enjeux derrière l'IA. En début d'année, lors du sommet de de Paris pour pour l'IA, nous avons cherché à répondre à une à une question qui nous était posée qui était d'arrêter de parler de menaces et plutôt de parler d'opportunités.

La réponse de l'ANC a donc été de publier une analyse de risque parce qu'on est incapable de parler d'opportunités sans parler un minimum de risque derrière. Mais ces risques ne doivent pas être des fantasmes. Ces risques doivent être objectivés.

Et à ce titre-là, nous avons mené un travail avec un grand nombre de d'autorités nationales de pays étrangers. Nous avons 19 cosignataires étrangers pour publier une première analyse de risque cyber de l'utilisation de l'intelligence artificielle. Cette analyse de risque évidemment a mobilisé certains de nos partenaires européens.

Je pense en particulier aux Italiens, aux Allemands avec lesquels nous publions régulièrement, également aux Finlandais avec lesquels nous avons nous avons été amenés à publier, mais également le Canada, la Corée du Sud, Singapour ou encore l'Inde. L'objectif est justement d'objectiver le risque. À partir du moment où on arrive à objectiver un risque, on est capable de formuler un certain nombre de recommandations.

Nous avons également été amenés à organiser un exercice de crise cyber sur de l'IA. L'objectif là était de mettre dans une même pièce des spécialistes de l'intelligence artificielle, des spécialistes de la cybersécurité. C'est à peu près ce qu'on faisait il y a 30 ans avec l'industrie du logiciel au sens large pour qu'il se parle.

Alors c'est pas toujours simple mais quand on est dans un contexte de crise et qu'on est dans une pièce dont la porte est fermée à clé, on finit par réussir à se parler un minimum. On a publié un certain nombre de recommandations et notamment le retour d'exercice qui a démontré qu'on était capable d'intégrer très en amont dans la problématique de l'IA, la problématique de la cybersécurité. Et puis plus généralement, nous appuyons un certain nombre de travaux de certains de nos partenaires étrangers.

Nous avons publié avec le BSI allemand des recommandations de sécurité à destination des assistants de programmation par l'IA. Nous avons endossé dans le cadre du groupe de travail cyber du G7 un travail mené par nos camarades allemands et italiens sur la problématique du software Bill of Material de l'IA. L'objectif là encore sur la problématique de la cybersécurité est d'apporter un maximum d'éclairage pour que la prise en compte de la cybersécurité dans l'IA se fasse le plus tôt possible et la prise en compte de l'IA au sein des risques de cybersécurité se fasse de la manière la plus éclairée possible.

Pour terminer, pour parler d'avenir, c'est compliqué de définir dès aujourd'hui tout ce qu'on va avoir comme cas d'usage. Pour autant, à travers des travaux prospectif qui peuvent être mené au niveau des assemblées, également au niveau du nouvel institut national d'évaluation de la sécurité euh de l'IA qui est copiloté par le le secrétaire général de la défense et de la sécurité nationale et la direction générale des entreprises. Nous travaillons avec un certain nombre d'acteurs publics et privés justement pour définir quels pourraient être les cas d'usage à l'avenir et comment s'assurer que ces cas d'usage sont à la fois évaluables en terme de dispositif et de mise en œuvre mais également sécurisé.

Voilà les principaux points que nous mettons en œuvre aujourd'hui que ce soit dans une déclinaison de régulation ou dans une volonté d'éclairer le décideur qu'il soit public ou privé dans le choix d'une solution d'IA ou dans le choix de la cybersécurisation de sa proprié. Merci beaucoup. Alors, je vois qu'il est déjà l'heure auquelle nous devrions avoir terminé le temps des questions-réponses.

Donc, je propose avec Stéphane Perénoir, nous réduions notre temps de conclusion de manière à vous laisser la parole. Est-ce que quelqu'un souhaite se adresser à nos intervenants ? Alors, ne pensez pas que parce que j'ai dit qu'on était déjà arrivé au terme, la parole est brimée.

Pas du tout. Voilà, madame se lance. Bonjour.

Bonjour. Je suis médecin et ingénieur spécialiste en intelligence artificielle à l'assistance publique hôpitaux de Paris et je ma question s'adresse à monsieur Gaetan Penselin de recours sur la dernière intervention. Nous, on essae à la PHP de se mettre tous en offre de marche avec une gouvernance globale pour savoir quels sont les meilleurs logiciels d'intelligence d'intelligence artificielle qu'on pourrait utiliser.

Et dans ce sens, je voulais savoir si sur vos évaluations vous aviez déjà publié des grilles types et cetera. Est-ce qu'il y a vraiment des avec toute une suite de performance attendue parce que on se rend compte qu'il y a beaucoup de dimensions qui sont souvent présente dont cell majeure de la cybersécurité. Mais euh voilà, au-delà de ça, je voulais savoir s'il y avait voilà des grilles qui étaient déjà publiés au-delà des recommandations fixes.

Alors, malheureusement la réponse est non. Aujourd'hui, c'est une des tâches qui va relever de Linésia justement de donner des grilles de lecture. Alors pas forcément avec l'intégralité des résultats.

En ce qui concerne les problématiques plus spécifiques de la de la santé, il sera probablement opportun de vous tourner vers le ministère et vers la l'Agence nationale ou la DNS qui pourront vous accompagner sur un certain nombre de de points. Pour autant, vous aurez effectivement la possibilité de à travers cette grille de poser les questions aux différents aux différents fournisseurs étant entendu qu'il y a toujours la possibilité dès lors qu'on n'est pas sur un fonctionnement en boîte noire, est-ce qui va être une question en soi de pouvoir demander à un audit de la solution et vérifier qu'on a pas de dépendance particulière par exemple ? Bien sûr.

Chinese as kind of you know expression you if we have to fight then weight on peut pas le faire. Nous sommes des démocraties libérales. On a des valeurs éthiques.

Si on laisse tomber ces valeurs pour gagner une guerre, alors on n'est plus des démocraties libérales. Et dans ce cas-là, à quoi bon se battre ? À quoi bon faire la guerre pour pour défendre nos démocraties ?

Une question que je me pose, c'est comment on s'assure que tout le monde se met d'accord ? En fait, non, on mettra jamais tout le monde d'accord. Il y a des mécanismes répressifs, par exemple la Cour de justice internationale pour les gens qui dérogent à nos règles.

L'éthique, c'est pas juste interdire, c'est aussi coordonner, c'est aussi savoir où sont les opportunités. et les Européens, on a vraiment besoin de ça. Il y a eu un exercice fait par la France dans le cadre de l'OTAN il y a quelques années.

L'idée c'était de transférer euh des trains de France jusqu'à la Roumanie et ça n'a pas marché parce que à un moment il y avait un problème d'interoporabilité avec l'Allemagne. Vous voyez des choses basiques. Donc se coordonner, c'est quand même très crucial et d'autant plus quand on parle d'intelligence artificielle.

Pour ce qui est de la réglementation, il faut que nous soyons forts, mais il ne faut pas qu'on oublie tout ce qui est opportunité, tout ce qui est stratégie. Et puis je voudrais juste dire, il ne faut pas ce ne sont pas toujours ceux qui ont le plus de pouvoir à leur disposition qui finissent par gagner. une guerre.

Parfois, c'est juste une question d'intelligence. Merci. Je voudrais juste dire que je suis entièrement d'accord.

Nos membres sont tous d'accord euh à gauche, à droite, en haut, en bas pour dire que ce qui fait la différence entre nous et les Chinois ou les Russes, c'est qu'on a des valeurs et qu'on doit pas les perdre de vue. On n'est pas juste un bloc militaire contre la Russie, contre la Chine. un bloc militaire qui se bat pour quelque chose, pour on pourrait appeler ça les valeurs occidentales.

Ce que vous voulez ce que vous voulez dire. Mais quand on parle de l'Ukraine par exemple, c'est intéressant. On a une formation au sein de l'OTAN pour les renseignement polonais et ukrainien.

Et l'objectif, c'est de tirer les leçons du conflit ukrainien, pas juste pour se battre contre les Russes. Euh savoir si on veut en fait entrer dans ce type de guerre, savoir comment on va le faire. Vous n'avez pas envie de réaliser que vos vos valeurs morales sont un problème au moment où vous entrez en guerre.

C'est le genre de choses auxquelles il faut réfléchir à l'avance et l'aut s'est engagé dans ce type de réflexion. Voilà, vous ne pouvez pas faire ça la dernière minute. Malheureusement, l'interprète n'entend toujours pas.

On a une délégation américaine bipartisane qui est très forte. Alors, est-ce que tout le spectre politique américain est représenté ? Je je ne sais pas mais je m'en tiendrai là.

Merci. Ben, je vais peut-être inviter Stéphane Piedénoir à à me rejoindre et peut-être moi au terme de ces deux tables ronde, je repartirai quand même avec une question que finalement nous avons discuté entre nous avec nous partageons un système de réflexion commun, un système de valeur commune et les questions que nous avons partagé finalement, je pense que si nous devions nous mettre autour d'une table, nous trouverions une réponse sur laquelle nous pourrions nous accorder. Et demain, on le voit bien dans nos instances tout à l'heure dans la première table ronde, l'ONU est arrivé est arrivé sur la table.

Est-ce qu'aujourd'hui l'ONU sera encore capable sur ces questions d'utilisation de l'intelligence artificielle de jouer le rôle qu'elle a eu dans le passé pour essayer de définir les règles d'une guerre éthique si tentait bien qu'une qu'une guerre puisse être éthique ? Voilà la question avec laquelle je repars ce matin. Je sais pas si Stéphane Non mais on voit bien qu'on est on est confronté à l'ampleur du du sujet.

En réalité, on parlait de régulation sur la la première table ronde. On voit à quel point depuis déjà 6 7 ans les notamment les instance européenne progressent et font des propositions et prennent des décisions en réalité mais que c'est c'est un travail de de temps long et que ça se heurte à des à des oppositions souvent mercantiles en fait, il faut il faut bien le dire. Et puis aussi de conception des des libertés d'une manière générale et on n pas tous la même conception de de la liberté d'expression. dans à travers les continents.

Donc on voit combien ce travail est complexe et est gigantesque même et j'ai envie de dire alors là on a abordé un système enfin un sujet sur la sécurité qui nous parle parce qu'on on mesure peut-être plus facilement les dangers que ça représente les dangers concrets que ça représente pour le pour les les citoyens que nous sommes. Je pense qu'il y a des dangers qui sont probablement du même ordre lorsqu'on parle de régulation. Je parlais d'usage pour les jeunes générations de de l'intelligence artificielle.

Euh on j'ai entendu ce matin que 30 % des données qui sont aujourd'hui sur internet sont déjà générées par intelligence artificielle et c'est les jeunes générations ne se méfient pas de de la réutilisation de données qui sont ainsi produites. Il y a il y a vraiment une éducation et c'est enfin ce sont des armes différentes mais sont des des périls dont il faut mesurer l'impact sur sur les générations qui qui arrivent. Voilà.

Donc on va repartir avec une note d'optimisme en disant que quand même on va on est là aussi pour favoriser la coopération interparlementaire entre les pays européens et et au-delà. Donc c'est c'est en ce sens qu'on voulait on voulait modérer avec Christine cette ces deux tables rondes. [Applaudissements] Et pour finir vraiment par une note d'optimisme, je vous invite bien sûr au cocktail destoires qui a lieu à Salle Coti.