🔴 Intelligence artificielle : présentation d'une communication et d’un avis politique

je vais commencer peut-être l'ordre du jour si vous êtes d'accord avec la nomination d'un rapporteur d'information sur le projet de loi pour contrôler l'immigration améliorer l'intégration et et plus particulièrement sur le projet de de loi pour contrôler l'immigration et améliorer l'intégration un texte qui a été déposé et donc pour l'information de tous je précise que le bureau de la commission a est convenu en début de la législature justement d'une règle d'alternance souvenez-vous majorité opposition dans la répartition de ces rapports et qu l'application de cette règle le bureau a décidé de d'attribuer le rapport sur ce projet de loi sous réserve de qui pas de son dépôt mais qui a été déposé depuis au groupe les républicains et dans ce cadre donc j'ai reçu la candidature de Pierre-Henri Dumont et et sauf obligation objection de votre part je vous propose d'acter et de procéder à cette nomination pour l'examen de de l'avis sur cette cette ce projet de loi vous êtes d'accord c'est bon oui voilà alors tout de suite sans sans tarder je je vais euh passer la parole à notre rapporteur ici présente sur l'intelligence artificielle une communication donc de Constance le grip pour présenter un avis politique comme nous avons l'habitude de le faire eu cher constan euh je vous passe la parole pour présenter un petit peu les les les conclusions l'analyse les conclusions de ce rapport et puis nous après nous allons partager les les différentes prises de parole des différents groupes et députés individuellement merci madame la Présidente bonjour à à tous et à toutes chers collègues j'ai effectivement le plaisir et l'honneur de de présenter aujourd'hui un projet d'avis politique sur le projet de règlement européen établissement des règles harmonisées en matière d' intelligence artificielle et la présentation de ce projet d'avis politique je la précède d'une communication celle que je vais maintenant développer devant vous alors si les origines de l'intelligence artificielle remontent au aux années 50 ce n'est que ces dernières années sommes tout assez récemment que son usage et son évocation même dans les débats publics politiques journalistique scientifique ont pris une telle ampleur ont pris une telle portée les potentialités de ces usages et des bouleversements que les technologies intelligence artificielle introduisent dans la société dans nos vies dans tous les domaines de de notre vie de l'action personnelle et et publique en fond la principale et la plus forte innovation de cette 4e révolution industrielle que nous vivons alors il convient tout d'abord de s'entendre sur ce qu'est une intelligence artificielle il y a pas à ce stade encore de définition définitivement reconnu même si les travaux de l'OCDE sont sur le point d'aboutir pour une définition commune qui pourrait être assez largement partagée mais dans le langage courant si je pe dire euh tel qu'on on l'entend l'intelligence artificielle se définit comme un ensemble d'algorithmes basé sur des techniques d'apprentissage dont les instructions à exécuter sont généré par la machine qui apprend ainsi à partir des données qui lui sont fournies qui lui sont Fournes par l'être humain nous sommes donc très clairement dans le sujet très sensible du travail de l'être humain avec les machines des machines apprenantes et de la capacité du pouvoir qui sa point d'interrogation que ces machines ont pour répliquer les comportements humains à ce stade répliquer les comportements humains peut-être pas peut-être pourquoi pas un jour les devan c'est les inventés qui c'est en en tout cas se pose clairement la nécessité de savoir si l'on va vers une régulation une gouvernance de ces technologies d'intelligence artificielle ou pas encore une fois et c'est une question qui se pose au niveau mondial avec votre autorisation madame Président je voudrais quand même ouvrir un peu le le scope parce que il y a depuis euh 2020 très précisément à l'initiative du Canada et de de la France une instance de coopération internationale que l'on appelle le Partenariat mondial pour l'intelligence artificielle ou le partenariat global global partnership qui vise à organiser la coopération internationale pour une gouvernance mondiale de l'IA reposant sur le développement responsable de l'IA et son utilisation centrée sur l'humain et le prochain sommet de ce partenariat global sur l'intelligence artificielle se réunira d'ailleurs à New Delhi en Inde c'est intéressant à noter du 12 au 14 décembre prochain plus près de nous c'est tenu tout à fait récemment les 1ers et 2 novembre dernier au Royaume-Uni la première édition du sommet pour la sécurité de l'intelligence artificielle à initiative des Britanniques la France était représentée par Bruno leemire dont le portefeuille ministériel inclut la souveraineté industrielle et numérique et le ministre Jean-Noël Barot et c'est d'ailleurs la France qui organisera au cours de l'année 2024 la 2e édition de ce sommet pour la sécurité de l'intelligence artificielle à à Paris alors l'idée générale de ce sommet et de considérer que les technologies de l'intelligence artificielle sont des vecteurs de progrès considérables des vecteurs de progrès considérables mais qu'ell comportent aussi des risques d'où l'idée d'une gouvernance de ces technologies et de leurs usages d'ailleurs déjà avant la tenue de ce sommet au Royaume-Uni les chefs d'État et les gouvernement réunis en en G7 au au Japon avaient lancé le processus d'Hiroshima c'est-à-dire dans la suite de ce qui avait d'ailleurs été initié par la présidence française de l'Union européenne un processus visant à mettre en place des principes directeurs des des guidelines et un code de conduite un code de bonne conduite pour les développeurs des technologies de l'intelligence artificielle alors ce préambule un peu long madame la Présidente c'est vraiment pour éclairer les les membres de notre commission des affaires européennes sur le contexte géopolitique dans lequel nous nous trouvons et et dans lequel s'incère le le sujet de la gouvernance de la régulation des technologies d'intelligence artificielle et dans lequel s'insère la démarche européenne et j'en arrive à ce projet de règlement européen qui a été proposé par la Commission européenne en avril 2021 c'est donc un règlement une initiative législative sous forme de règlement nous verrons pourquoi la Commission européenne a préconn le choix du règlement plutôt que de la directive afin de doter l'Union européenne d'un cadre juridique harmonisé pour l'intelligence artificielle la base juridique c'est l'article 114 du traité donc c'est permettre un meilleur fonctionnement du marché intérieur lutter contre la fragmentation juridique à l'intérieur du marché intérieur ce que une démarche d'autorégulation ne pourrait pas à elle seul suffire à garantir et donc c'est également non seulement en vertu de cet article 114 pour un meilleur fonctionnement du marché intérieur et la volonté de d'aller contre la fragmentation juridique source d'insécurité et d'inégalité et d'inéquité mais également parce que elle a fait le choix à la fois de l'efficacité et du pragmatisme que la Commission européenne propose l'outil du règlement plutôt que celui de la directive et ce projet de règlement sur l'intelligence artificielle cherche donc à créer c'est assez ambitieux c'est même très ambitieux une intelligence artificiel centré sur l'humain durable sûr éthique et digne de confiance alors l'approche choisie par la Commission européenne par le commissaire Thierry Breton est une approche basé sur les risques opportunités progrès compétitivité fois en l'avenir en le progrès en la capacité de l'Union européenne à être et garder sa souveraineté industrielle on en parlera tout à l'heure et numérique mais aussi prise en compte d'une réalité qui s'est invité et s'invite tous les jours dans dans les débats publics dans les débats juridiques dans les débats politiques les risques les menaces et les risques et donc c'est une approche basée sur le risque qu'a choisi la Commission européenne comme l'avait d'ailleurs déjà envisagé le Parlement européen dans une résolution qu'il avait euh voté en 2020 à la suite de la publication du Livre Blanc sur l'intelligence artificielle qui avait produit cette même année la Commission européenne et donc puisqu'on est dans cette approche de risque la proposition de règlement européen distingue en gros trois types de risques le risque inacceptable qui va donc entraîner l'interdiction du recours à des technologies d'intelligence artificielle le risque élevé et le risque euh limité ou faible rapidement le risque inacceptable donc là où l'usage le recours à des technologies d'intelligence officielle n'est pas possible risque inacceptable désigne toute une série d'usage lorsque les technologies d'intelligence artificielle peuvent par exemple présenter une menace manifeste pour la sécurité lorsque elles peuvent porter une une menace pour les droits des personnes ça peut par exemple alors on pourrait peut-être en réponse à quelques questions quelques interventions plus tard les détaillés sont concernés par exemple dans cette catégorie de risque inacceptable les systèmes manipulant les comportements humains les systèmes de reconnaissance des émotions par exemple ou entraînant une notation sociale comme par exemple une notation aux examen ou ou à d'autres étapes de la vie ça c'est pour le premier risque inacceptable pas de recours aux technologies dia le risque élevé il recouvre les technologies d' qui traitent d'infrastructure critique mais qui traitent aussi d'éducation de formation professionnel des composants de sécurité d'un produit par exemple pour le recours à certains robot en matière de chirurgie par exemple lorsqu'il y a des ris risque d'interférence avec les droits fondamentaux d'une personne ou alors des technologies sur les sujets au sens large relevant des migrations de l'asile et les contrôles aux frontières enfin 3ème et dernière catégorie encore une fois assez large le risque limité ou faible qui a trait par exemple par exemple au jeux vidéo au système anti-spam il y a beaucoup d'autres usages des intelligences artificielles euh qui euh sont assez majoritaires en réalité en tout cas dans les produits tels qu'on les connaît à l'heure actuelle sur le marché et qui donc euh sont euh classés dans cette catégorie de risque limité euh ou faible et donc c'est en fonction de l'appartenance à telle ou telle catégorie de de risque plus ou moins élevé voire inacceptable que des contraintes et des obligations des obligations de publication de déclarations en amont de de respect d'un nombre de normes et euh de de conditions euh sont euh décliné de manière je dirais assez euh proportionnalisée hein bien sûr et on peut trouver euh à ce stade dans une annexe euh au projet de de règlement la liste des IA interdites par exemple pour lesquels donc le risque est jugé parfaitement euh inacceptable il va s'en dire que l'établissement euh la finalisation de ces liste notamment s'agissant des i interdites fait l'objet d'intense tractation à l'heure actuelle vu la la situation de de de développement des des négociations au au sein du trilogue sur ce projet de de de de texte européen donc les systèmes dia à haut risque à risque élevé se voi encadré par tout un ensemble d'obligations qui tiennent compte des mésusages possibles justement c'est une approche encore une fois cette approche basée sur le risque qui me semble être à la fois pertinente et euh bien venue dans cette catégorie d'intelligence artificielle à haut risque se trouveent certaines certains recours à des technologies d' pour des impératifs de sécurité je tiens à dire que l'exclusion des usages euh ila à des fin militaire ou de défense nationale est interdite dans le le texte en l'état actuel et que personnellement je soutiens cette exclusion pour les usages à des fins militaires ou de défense nationale mais cela ne veut pas dire qu'il faille s'interdire d'envisager de créer un espace pour l'utilisation de ces technologies d'intelligence artificielle pour des impératifs de sécurité et donc pour les services de sécurité pour nos forces de police et de gendarmerie par exemple s'agissant de notre pays mais tout cela de manière très encadrée et d'ailleurs c'est ce que prévoit la proposition de texte européen avec la l'obligation d'un contrôle par les autorités judiciaires pour le recours assez technique on aura peut-être l'occasion d'y revenir parce que c'est un sujet extrêmement sensible qui fait l'objet d'ailleurs à l'heure actuelle de d'intense et et laborieus discussion entre les représent du Parlement européen et les représentants du du Conseil parce qu'au départ les points de vue sur cette affaire de recours aux technologies d'intelligence artificielle en matière de sécurité hein je fais ça au sens large n'était pas d'emblé convergente et nous verrons comment les choses évolue compte tenu de l'accélération des travaux du trilogue un autre sujet très important à mes yeux très important je pense aux yeux de beaucoup de nos concitoyens en France comme ailleurs et qui a été est jugé aussi essentiel par les collègues du Parlement européen et le sujet de la protection des données personnelles vous le savez l'Union européenne bénéficie du rgpd règlement général sur la protection des données que nous considérons comme un cadre très protecteur très structurant et crucial pour notre souveraineté en matière de protection de de nos données et il est évident c'est un point souligné par tous les différents acteurs que j'ai pu auditionner mais aussi par les les collègues du Parlement européen que j'ai pu auditionner que la la bonne articulation entre d'un côté le rgpd et de l'autre le futur règlement européen euh régulant les usages de l'intelligence artificielle est un point tout à fait essentiel à ce stade cette bonne articulation entre rgpd d'un côté et règlement Ia de l'autre me semble assurée une fois évoqué mais parce que c'est l'approche choisie par le commissaire breton la démarche euh de prise en compte des risques et des garanties apportées s'agissant notamment des IA avec euh potentiel de risque de menace élevé il nous faut euh venir euh à euh parce que c'est cohérent également avec le le contexte géopolitique d'extrême compétition euh mondiale que je décrivais à ce qui me semble être au cœur de ce que nous devons porter comme Union européenne voulant euh travailler euh au renforcement de de sa souveraineté industrielle et numérique le soutien à l'innovation et à la compétitivité il me semble euh important c'est en tout cas ce que j'écrit dans le projet d'avis politique que j'ai l'honneur de vous soumettre d'affirmer que l'intelligence artificielle constitue un formidable levier d'innovation de progrès de mieux-être pour nos systèmes économiques pour nos concitoyens pour les systèmes de santé par exemple pour nos entreprises en termes de développement en terme de compétitivité en terme de production de richesse et qu'il est absolument vital que l'Union européenne s'inscrive avec je dirais optimisme et persévérance dans cette approche de soutien à l'innovation à la recherche et au développement nous sommes mais nous devons absolument rester une terre d'innovation et de progrès une terre de recherche ne pas avoir de craintte déraisonnables et voir clairement par-delà les menaces et risques auquels il est important il est responsable pour tenir compte des attentes de nos concitoyens d'apporter des garanties d'apporter des réponses de bien voir les opportunités et les progrès encore une fois qu'offre l'intelligence artificielle surtout dans un contexte encore une fois de très grande concurrenceces internationale où nous savons très bien que le développement des technologies d'intelligence artificielle se fera et se fait aux États-Unis en Chine en Inde ou encore ailleurs et et donc cette approche soucieuse de l'innovation de la recherche du développement soucieuse des acteurs entrepreneuriaux du numérique me semble être une absolue nécessité je dirais une ardente obligation nous devons non seulement euh effectivement opter résolument et avec confiance dans le choix de la régulation et nous sommes le premier ensemble je dirais démocratique au au monde a opter pour la régulation mais le faire sans alourdir entraver mettre des contraintes inutiles mettre des freins inutiles et qui seraiit tout à fait dommageable dans la course international et freiné que nous savons pour nos entreprises européennes petites moyennes et grandes et qui les exposeraiit à des risques de on va dire ça comme ça distorion de concurrence et des Loyauté par rapport à leurs concurrents extra euh européen et donc il est important que nous ayons toujours présent à l'esprit dans l'élaboration des normes donc des obligations donné aux euh développeurs aux systèmes d'intelligence artificielle contenu du risque élevé et cetera et cetera d'avoir cette idée-là en tête de soutien à l'innovation et à la euh recherche par exemple la régulation des euh très grands euh systèmes d'intelligence artificielle des systèmes d'intelligence AR de très grande taille qu'on appelle les modèles de euh fondation doit se faire avec cette idée-là une prise en compte des risques avérés bien évidemment mais également l'idée de ne pas euh ajouter des contraintes excessives qui seraient euh défavorable et qui empêcherait l'émergence et la consolidation d'un système de tout un système économique et industriel autour de nos euh entreprises qui euh ont euh besoin d'avoir non seulement un cadre juridique stabilisé sécurisé mais également quand même porteur qui les porent à aller vers le développement et est toujours plus loin en matière d'innovation c'est pour ça que par exemple la distinction entre les grands géant du numérique et les jeunes pouss donc les les les la dimension taille modeste versus grande taille pour l'attribution d'un sbre d'obligation me semble être une euh démarche euh tout à fait importante pour continuer à porter et renforcer même le portage de nos capacités de recherche d'innovation et de euh développement je veux pas rentrer trop dans les détails parce que je crois que j'ai un petit peu abusé déjà de mon temps de parole mais c'est un autre aspect du projet de de règlement encore une fois pour permettre un meilleur fonctionnement du marché intérieur que de prévoir un système de de gouvernance à à deux niveau une gouvernance nationale le projet de règlement européen prévoit d'attribuer au au euh à des autorités nationales dans chacun des états- membres les compétences de contrôle de de la bonne effectivité des des obligations et et de la bonne conformité des des acteurs des opérateurs développeurs aux obligations qui qui qui leur sont imposé en matière de transparence encore une fois par exemple et cetera d'éthique et cetera et cetera mais également prévoit donc double niveau un système de supervision au plan euh euh européen sous forme d'un d'un bureau européen de l'intelligence artificielle bon là on entre c'est pas forcément peut-être le cœur du débat ça ça ça a passionné bien sûr les les négociateurs du Parlement européen et de la et de la Commission européenne l'articulation effective de du double niveau de de gouvernance échelon européen échelon national je pense important de de considérer qu'il peut y avoir bien évidemment toujours des marges de manœuvre nonobstant le le le choix du du règlement euh laisser au aux état-membres dans la mise en place de ces autorités nationales de euh contrôle il y a deux trois sujets qu'on aura peut-être l'occasion de de d'aborder euh plus tard celui de des intelligences artificielles génératives et des euh menaces et et craintes qu'elles font naître pour je dirais le secteur de la création et de la culture au sens large droit de propriété intellectuelle droit d'auteur et cetera et cetera c'est un sujet que nous ne pouvons absolument pas méconnaître ou considérer comme moins essentiel que d'autres bien au contraire le Parlement européen notamment à travers sa commission culture s'y est penché avec beaucoup de sérieux et de d'engagement on va dire j'y fait allusion dans notre avis politique on s'en était fait l'écho d'ailleurs également à la faveur de la discussion ici à l'Assemblée nationale mais je crois aussi au Sénat du du projet de loi sécuriser l'espace numérique porté par Jean-Noël barreot il y a là euh un débat un sujet qui n'est pas totalement euh clos et pas encore je dirais totalement satisfaisant la compatibilité entre le futur règlement européen intelligence artificielle et la directive droit d'auteur je je termine vraiment cette foisci madame la Présidente sur le fait qu'il me semble que les les négociations encore une fois très dens hein il y a il y a des jusqu'à la fin de de de cette année des des calendriers très serrés de de rencontre informel technique donc au niveau des négociateurs techniques et puis un futur round de de trilogue officiel programmé pour le le 6 décembre je crois qu'il y a vraiment la volonté de toutes les parties prenantes en tout cas Conseil des ministres c'est sûr et et Parlement européen également euh d'arriver à un un accord hein de ne pas s'arrêter au milieu du gay d'être conscient de l'urgence à pouvoir être le premier espace au monde le premier espace démocratique en tout cas euh qui euh euh régulera et et et mettra en place un système de gouvernance qui pourrait pourquoi pas inspirer euh le reste du monde nos travaux européens sont regardés avec beaucoup beaucoup beaucoup d'attention notamment euh aux États-Unis également au Royaume-Uni et donc il y a là une obligation de de résultat encore une fois et les négociations avancent plutôt dans le sens je dirais d'avancée constructive inspirée par un esprit de compromis où euh chaque arrive à faire prévaloir son ou ses lignes rouges de manière à les faire prendre en compte donc je voulais terminer sur cette note positive on risque fort d'avoir une bonne nouvelle d'ici à la fin de l'année d'avoir un texte équilibré qui convienne à tout le monde et qui puisse vraiment porter je crois la souveraineté industrielle et et numérique européenne en la matière de manière tout à fait éclairante je vous remercie madame la Présidente merci Madame la rapporteur pour cette présentation tion C enthousiasme que vous partagez dans l'issue vers l'issue de des travaux sans tarder moi je vais passer la parole aux représentants des groupes politiques ici présent et pas sans tarder je commence par Laurence chistol pour le groupe Renaissance merci madame la Présidente chers collègues chers constance au nom des députés Renaissance je tiens à te remercier pour la qualité de ton travail et pour la proposition de cette avis politique sur l'intelligence artificielle sais d'abord me féliciter de l'action résolue de l'Union en faveur de l'innovation qui se traduit notamment par le programme Horizon Europe et qui soutient la recherche et innovation sur notre continent dans l'intelligence artificielle sur laquelle nous devons affirmer de façon forte une approche européenne nous connaissons bien l'engagement du président de la République et du commissaire Thierry beuton sur ce sujet l'intelligence artificielle renvoie nécessairement à une question de compétitivité et à la nécessité de fixer un cadre clair pour nos entreprises sans régulation il n'y a pas de sécurité juridique pourtant nécessaire au développement de nos start-up c'est pourquoi la démarche de la commission fondée sur les risques sans entraver le développement technologique et prenant en compte la concurrence internationale d'autres acteurs comme les États-Unis ou la Chine nous apparaît fort adéquate ces règles c'est aussi une condition de la confiance envers ces nouveaux outils émergents c'est un impératif démocratique d'une Europe qui protège je profite d'ailleurs de cette intervention pour saluer l'initiative de la métropole de Montpellier qui a ouvert ce weekend la première convention citoyenne permettant à nos concitoyens de se servir de cet enjeu compétitivité confiance régulation je crois que cet avis politique exprime bien ce triptique équilibré et c'est pourquoi le groupe Renaissance le votea je vous remercie je passe sans tarder la parole au rassemblement national Alexandre SABATOU merci madame la présidente Madame la rapporteur écoutez je suis très content que le sujet de l' intelligence artificielle soit abordé au sein de la commission parce que c'est quand même j'estime un sujet stratégique pour les décennies à venir et d'autant plus important qu'aujourd'hui la France et l'Union européenne sont quand même assez en retard par rapport à la Chine et les États-Unis donc l'artificial intelligence Act que N notre groupe a voté au Parlement européen en juin dernier est un progrès mais pour répondre à ce défi la France et l'U doivent arrêter d'être obsédé par la réglementation et surtout s'orienter vers l'investissement car pendant que nous philosopons sur l'intelligence artificiel sur son encadrement sur sa réglementation les Américains et les Chinois peu soucieux de ces sujets nous distancent de plus en plus et si nous prenons trop de retard nous prenons le risque d'être obligé d'utiliser leurs Ia plus performantes et qui ne respectent pas notre carde c'est le risque de perdre sur les deux tableaux or lia relève du domaine stratégique de par la collecte des données personnelles et par la puissance de calcul il est donc important que ces données restent sur le sol français afin d'assoir notre souveraineté pour se faire la France peut agir sur plusieurs leviers notamment en augmentant le financement de la recherche et développement favoriser l'investissement dans la recherche privée sur ce sujet mieux former les générations futures et rémunérer à leur juste valeur les chercheurs et les professeurs et j'aimerais insister sur ces deux derniers points car à lopex l'Office Parlementaire choix technologique et scientifique un rapport a été fait sur l'IA il y a il y a 5 ans et à cette occasion le responsable de formation de l'IA à l'enss hulm donc pour ceux qui ne connaissent pas c'est l'école française la plus prestigieuse pour vous donner un titre pour bien comprendre sur le concours en Polytechnique qui est proposé enfin des classes préparatoires il propose 10 places par filière et la personne la plus mal classé à intégrer le ns est classé 11e donc il n'y a qu'une seule personne qui se désiste donc on parle ici de l'élite de l'élite et donc lors de l'audition de ce professeur en IA à l'enss euh nos collègues il y a 5 ans ont posé une question toute simple où sont ces élèves que vous avez formés sur l'IA et là là il y a eu un blanc de 20 à 30 secondes 20 à 30 secondes de blanc ce professeur a réfléchi et il n'a trouvé aucun élève issu de notre formation qui est resté sur le territoire et ça le point positif de cette histoire c'est de savoir que nous sommes capables en France de former de très grands esprits sur ces nouvelles technologies mais il va falloir réussir à ramener ces talents qui ont été formés grâce ne l'oublions pas grâce à nos impôts et et pour cela il faudrait s'interroger sur les raisons qui pour moi il y en a deux la première c'est que les États-Unis font finalement des pont d'or à nos ingénieurs avec des salaires équivalents voire supérieurs parfois à ceux des TR tradeers de la finance et tellement nos compatriotes sont nombreux dans la Silicon Valley on parle de French mafia là-bas c'est dire l'importance en nombre de nos compatriotes la deuxième raison c'est que cette technologie dans un marché libre mondial répond à une logique de the winner titall ou à minima the winner take most je je finis je conclus rapidement madame la président la Chine a réussi par exemple à développer son moteur de recherche performant en interdisant Google son son territoire il y a peut-être un juste milieu à trouver dans dans les réactions à prendre mais malheureusement si l'on ne fait rien on risque on risque de perdre tout ça je vous remercie merci Monsieur le collègue je passe la parole immédiatement à Monsieur bonpard pour le groupe la francesmise merciad ah pardon excusez-moi merci madame la Présidente merci Madame la rapporteur pour cet avis politique sur l'intelligence artificielle qui me paraît le bienvenu en effet le développement exponentiel de l'IA appelle l'adoption d'une réglementation par la puissance publique et ce au niveau national comme au niveau européen et international avec l'objectif de garantir un cadre de développement éthique le respect des droits et des libertés la protection des données qu'elles soi individuel économique ou d'intérêt stratégique néanmoins votre avis comporte selon nous quelques zones d'inquiétudes et des manques et c'est la raison pour laquelle nous avons fait un certain nombre de propos une certain nombre d'amendements que nous avons proposé pardon je commencerai par les zones d'inquiétude la première porte sur votre paragraphe 28 et les impératifs de sécurité justifiant l'utilisation de Lia à des fins de police euh cette utilisation présente selon nous deux inconvénients premièrement elle tend à instaurer une société de surveillance généralisée deuxièmement sont loin d'être efficaces sur le premier point je vous renvoie aux études des principales associations compé tente sur le sujet l'avis de laacnil de juillet 2022 qui soulignait que des risques importants pour les libertés individuelles et collectives existent du simple fait de la multiplication actuelle et anticipée des dispositifs de vidéo augmenté qui pourrai aboutir à un sentiment de surveillance généralisée je vous renvoie également à l'avis du Défenseur des droits de mai 2020 ou encore à l'alerte envoyée par le Haut commissariat de l'ONU en 2021 qui avait appelé un moratoire sur les technologies biométriques et les systèmes euh de surveillance opérée par Ia sur le deuxème point je rentrerai pas dans les détails mais l'actualité dramatique au Proche-Orient illustre les limites des systèmes de surveillance reposant exclusivement sur l'intelligence artificielle et à mon avis devrait sonner pour chacun d'entre nous comme un avertissement sur les mirages du solutionnisme technologique la deuxième zone d'inquiétude de votre avis porte sur le paragraphe 30 et la demande d'un cadre souple pour les entreprises européennes il ne s'agit aucunement de nier l'intérêt stratégique de ne pas laisser lia façonner une uniquement par la rivalité entre la Chine et les États-Unis mais votre paragraphe répond à cet enjeu de notre point de vue de la mauvaise manière et inverse la priorité la priorité c'est d'avoir un cadre éthique un cadre protecteur pour les droits et les libertés pas d'avoir un cadre réglementaire au Rabé enfin il existe un manque dans votre avis c'est la question des travailleurs de la collecte de la conservation et de l'utilisation de leurs données en effet dans un nombre croissant de contexte les travailleurs du clic interagissent avec des technologies des applications des logiciels des dispositifs de traçage des médias sociaux des dispositifs embarqués qui peut les mettre en danger et pose donc des questions relatifes au droit du travail or à l'heure actuelle la rgpd ne contient qu'un seul article consacré à à l'emploi l'article 88 relatif au traitement des données à caractère personnel et donc c'est la raison pour laquelle nous avons proposé un amendement pour prendre en compte ce sujet il y aurait d'autres sujets relatifs au développement de l'intelligence artificielle qui nécessiteraiit davantage de mais je m'arrêterai là pour respecter mon temps de parole je vous remercie merci merci Monsieur Bompard je passe la parole immédiatement au groupe les républicains par vincenteng merci madame la présidente Madame la rapporteur merci pour votre avis poétique sur l'intelligence artificielle mais qui est le fruit d'une intelligence qui elle n'est pas artificielle au nom du groupe les républicains nous ne pouvons que saluer la volonté de réglementer l'intelligence artifici iici donc au niveau européen et saluer le fait que l'Union européenne soit la première entité politique au niveau mondial qui souhaite réglementer inelligence artificielle j'aurais cependant une question à vous poser madame la rapporteur aujourd'hui nous utilisons beaucoup de services qui sont qui proviennent des États-Unis pour certains de Chine par conséquent même si un cadre européen était adopté pour réguler l'intelligence artificielle cette réglementation n'aurait aucune prise sur ces services venant d'étattiers dans ces conditions madame la rapporteur comment faire pour que cette réglementation européenne est une réelle utilité concrète pour nos concitoyens étant donné donc cette importance d'acteur extérieur à l'Union européenne ma deuxème question concerne la mise en œuvre de cette réglementation la crainte de certains acteurs numériques et celle d'une surcharge administrative pour les entreprises concernées par le développement de l'intelligence artificielle euh suite à l'adoption donc de cette réglementation ce qui pourrait pousser euh certaines sociétés à développer les services liés à l'intelligence artificielle dans des état matière de façon à ne pas être entravé par les règles européennes par conséquent des emplois pourraent être perdus en Europe au profit des États-Unis ou de la Chine donc bien que cette réglementation pose des questions le groupe les républicains votera donc en faveur de cet avis politique merci merci chers collègu donc je prends je retiens un peu la parole pour présenter un petit peu aussi la position du groupe socialiste et apparenté et pour dire d'abord saluer le travail de Madame la rapporteur sur un sujet qui est très important à la fois par le sujet lui-même qui est qui concerernit l'intelligence artificielle mais aussi par la nécessité que l'Union régule et intervienne dans ce domaine comme le souligne le projet d'avis donc la définition de l'IA est la est lâche comme on a dit et le périmètre un peu large mais par ailleurs il y a aussi une absence de législation européenne harmonisée sous l'intelligence artificielle et et donc la nécessité d'apporter de la sécurité juridique aux citoyens et aux entreprises je voudrais juste insister sur deux points le premier qui était finalement un ensemble sur la définition parce que c'est un ensemble donc des de techniques au périmètrre un petit peu comme on disait large elle utilise pour ce fait trois composants jugés nécessaires dans des dans des systèmes informatiques et des données avec des systèmes de gestion et des algorithmes de Lia avancé ou code et cette définition n'est ni unique ni définitive et donc donc c'est pour cette raison-là qu'il faut continuer à travailler sur cette définition et au quotidien les mots il a sont considérés comme des mots justement valise ou le sens où chacun peut y mettre et y donner un sens propre le deuxième point qui a été soulevé dans cet avis c'est aussi des appréciations contrastées sur les bénéfices et et les risques et donc les experts aujourd'hui estiment que il y a réelle de des possibilités euh de progrès et des risques aussi comme ça a été bien bien signalé et face à ces enjeux justement et c'est un travail important a été engagé par les institutions au plan international comme ça a été souligné par notre collègue rapporteur la conclusion est provisoire et donc cette conclusion provisoire sur ces travaux et entre autres aussi la mise en œuvre de l'IA qui a des effets importants sur les droits de l'homme qui sont proclamés par par la Convention européenne des droits de l'homme mais aussi sur la démocratie et n'oublions pas qui fonctionne et qui repose sur un discours social et politique ouvert ainsi que sur l'absence de l'influence indu je dirais des électeurs ou de leur manipulation donc c'est pour cette raison-là c'est aussi identifier ce risque d'une appropriation privée de sa conception et de sa gestion voire aussi même de son accès c'est évidemment un enjeu et un défi pour l'Union européenne euh il est important de réfléchir donc et d'arrêter des principes devant accompagner euh son développement et guider donc ses applications notre groupe soutient cet avis politique mais alerte aussi sur la cette continuité cette nécessité de d'approfondir ce cette cet examen et cette analyse et on voit d'ailleurs un certain nombre d'amendements des collègues de la France soumise qu'on aura l'occasion de de de débattre tout à l'heure qui pointe quelques éléments qui méritent peut-être aussi être intégrés dans la réflexion en prolongé que vous aurez à faire madame la rapporteur et on connaît votre tenacité sur ces questions il a deux autres orateurs émi donc à deux autres orateurs pour poser des questions je commence par Madame la Ministre Brigitte cliner et puis ensuite à Charles merci madame la Présidente merci chère constance je voudrais vous remercier pour ce projet d'avis politique sur l'intelligence artificiel je tiens à attirer votre attention sur l'importance de réguler le dével devveloppement de l'intelligence artificielle générative au sein de l'Union européenne l'avènement de cette technologie révolutionnaire soulève des défis éthiques et juridiques qui sont considérables et qui nécessitent une approche coordonnée au niveau européen car elle soulève des préoccupations légitimes en matière de sécurité de protection de la vie privée et de la manipulation de l'information le texte que je viens de vous dire n'a pas été écrit par moi chers collègues mais par le logici chat GPT aurions-nous pu penser qu'il y a encore un an il y a encore un an qu'un robot pouvait écrire un tel texte l'intelligence artificielle s'insère dans nos vies quotidiennes façonne les interactions sociales l'emploi et même nos prises de décisions personnelles ce qui suscite des craintes lia soulève des inquiétudes qui sont sérieuses en matière de droits fondamentaux des citoyens en matière de créativité artistique le non respect de la vie priv privé ou au regard du principe de non discrimination ainsi dans ce contexte d'innovation et d'interrogation éthique croissante comment trouver un équilibre viable entre le soutien au droits d'auteur et la protection des données personnel en particulier face aux avancées de l'IA générative je vous remercie merci merci madame la Présidente ch collègue euh je salue également ce travail c'est effectivement important et il est de de l'honneur et sûrement aussi de de l'avenir de la singularité de l'Europe de pouvoir contrôler l'intelligence artificielle à l'européenne je ne seraai pas plus long parce que j'ai juste une petite question qui concerne plus l'écriture du texte alors vous allez peut-être me répondre que j'aurais dû déposer un amendement mais j'ai pas eu le temps de le faire laalinéa 34 tout à la fin j'ai trouvé que voilà le le terme alors certes qui est entre guillum mais bah cassable réglementaire et on peut voir ça tout à l'heure pas très pas très pas très très pas très lgistique enfin c'est un peu étonnant ouais donc je je sais pas s'il y avait un moyen peut-être d'écrire ça avec un autre terme c'est c'est quand même un peu voilà dans une résolution qui qui n'a pas valeur législative mais qui émane quand même du Parlement j'ai trouvais que le terme de bakassab réglementaire voilà détonnait un petit peu donc je ne sais pas trop d'ailleurs comment est-ce qu'on pourrait le traduire autrement qu'est-ce que et qu'est-ce que ça veut dire concrètement merci merci alors tout de suite donc Madame la rapporteur la parole est à vous pour pouvoir d'abord répondre aux différents intervenants et puis après nous allons procéder au à l'examen des différents amendements euh merci madame la Présidente je tiens à remercier très sincèrement tous les collègues qui se sonentent exprimés et et qui montrent l'intérêt de notre commission des affaires européennes pour ce projet d'acte européen important au Parlement européen ce ne sont pas moins de trois commissions qui se penchent depuis des mois et des mois sur ce projet d'acte européen la Commission des affaires juridiques la Commission des marché intérieurs et la commission culture nous nous essayons de de de faire bonne figure et et je crois que l'intérêt et la diversité des des des sujets et des questions euh que vous venez euh de me faire savoir atteste du fait que nous tenons tout à fait euh notre rang si si si je puis dire et et et c'est heureux je voulais remercier Madame Christol pris au nom du groupe députés renaissance du du du soutien qu'elle apporte très très im modestement à à mon projet d'avis politique mais de de manière plus générale à à la nécessité vitale encore une fois pour l'Union européenne que d'avoir au cœur de de sa démarche le soutien à l'innovation à la recherche et à au développement c'est tout à fait essentiel encore une fois et et et d'avoir également souligné l'équilibre que cette euh acte européen ce projet d'acte européen tente de maintenir tout au long de ces dispositions entre innovation recherche et développement d'un côté et puis euh sécurité et garantie de l'autre hein la ligne de crête est étroite comme souvent quand on cherche l'équilibre par définition mais mais mais je pense que euh la finalisation du du texte permet euh permettra certainement de considérer que cette ligne de crête et cet équilibre essentiel est assuré s'agissant de de l'intervention du collègue Alexandre SABATOU je je je constate que vous soullignez qu'effectivement il s'agit là d'un sujet stratégique et que il était temps que notre commission des affaires européennes s'en empare à un moment où on peut encore passer des messages on peut encore passer des messages tant c'est notre rôle de commission des affaires européennes de l'Assemblé nationale à notre exécutif que à nos collègues du Parlement européen et et et et au-delà [Musique] euh je crois que euh réguler tenter d'introduire de de la gouvernance introduire le respect des valeurs des normes et des textes fondamentaux de l'Union européenne dans le développement de ces nouvelles technologies c'est essentiel ça n'est pas euh de la réglementation excessive et ça ne porte pas préjudice au contraire à euh la possibilité de continuer à être une terre d'innovation et de et et de progrès et c'est parce que justement d'autres régions du monde à commencé par la République populaire de Chine n que faire euh des enjeux de gouvernance de respect des droits fondamentaux d'équilibre entre les grands et les petits et cetera et cetera sans même parler la protection des des données personnelles que nous devons nous avoir cette démarche et en tirer en tout cas c'est ce que nous avons fait avec le rgpd en tirer un avantage compétitif réel aujourd'hui euh et euh euh demain voilà je pense que c'est à ce c'est ce que je je voulais dire encore une fois je trouve qu'effectivement euh le montant des investissements européens alors là j'avais j'avais sorti quelques chiffres mais je les je les retrouve plus euh depuis plusieurs années dans le secteur du numérique de manière général et dans le domaine de de l'intelligence artificielle euh est conséquent qu'on peut certain toujours envisager de de faire plus pour ça il faut avoir des instruments budgétaires par exemple des ressources propres qui permettrait d'abonder le budget de l'Union européenne de manière plus conséquente ou bien la possibilité de de de de créer par exemple un fond souverain enfin voilà les investissements budgétaires et et en terme de de compét est très très important encore faut-il pour cela être véritablement je pense inspiré par l'envie d'avoir une approche européenne conséquente de faire les choses ensemble de manière je dirais concertée et et d'en tirer toutes les conséquences ensuite en en en terme de de de position politique dans dans le conser européen des des nations et au sein de de l'Union européenne donc effectivement si l'on veut plus de ressources ben il faut se donner donner les moyens si on veut plus d'investissement menés ensemble que ce soit dans les programmes recherche ou ailleurs et bien il faut les voter par exemple au Parlement européen quand c'est proposé voilà c'est juste une question de de de de cohérence monsieur bonp par là aussi je je vous ai écouté avec beaucoup d'attention je je prends acte du fait que vous estimez tout à fait bienvenu et pertinent l'approche d'une régulation effectivement par par l'Union européenne tant le le le le sujet mérite que nous ayons une approche concertée et et qui fait exister nos nos valeurs fondamentales et notre espace de droit commun à l'ensemble des 27 et et nous si sommes très très euh attachés je je pense avoir quand même aussi bien dans mon propos que dans la vie politique relier quand même les les les les les risques et les inquiétudes que que que j'ai entendu alors c'est vrai que j'ai souhaité porter un message je dirais optimiste de de de de soutien à l'innovation et au progrès mais euh j'entends ce que vous dites sur les usages en terme de de de de de ité je je pense qu'il y a là quelque chose qui est en train d'être dénoué de manière assez comment dire satisfaisante dans la négociation entre les parties prenantes et notamment entre le Parlement européen et et et le et le Conseil des ministre je suis attaché à ce que certaines spécificités régaliennes puissent continuer à bénéficier d'un nombre d'avancé mais de manière très encadrée très expressément dite écrite dans la future loi européenne et sous le contrôle des autorités euh judiciaires et nous avons bon espoir même le Parlement européen a entendu cela que les choses évoluent dans dans ce sens encore une fois euh euh il s'agit pas euh euh de de de faire de la surveillance généralisée certainement pas et et et personne ne toperait là-dessus me semble-t-il encore une fois euh voilà on est dans un espace de de droit et c'est notre spécificité mais euh de trouver quelque chose qui permette quand même euh d'avoir une approche pragmatique je dirais pragmatique mais on aura l'occasion d'y revenir certainement à la faveur des amendements que votre groupe a déposé je remercie Monsieur zetlinger de de ces commentaires très élogieux tout à fait enthousiaste voilà je je je jure sur l'honneur de n'avoir en rien été aidé par quelque intelligence artificielle générative que ce soit pour l'écriture comme pe en a testé voilà les les scrbouilis manuscrit que j'ai j'ai j'ai j'ai mis un point d'honneur effectivement à fonctionner de de manière un petit peu old school sur ce sujet mais en même temps je je je je partage votre votre souhait de nous assurer tout le temps tout le temps d'avoir bien présent à l'esprit que la régulation les les obligations que nous donnons aux uns et aux autres parce que nous prenons en compte les risques nous prenons en compte les menaces nous prenons en compte des potentialités de de mes usages ne se traduisent jamais par de la surcharge administrative ou de la surréglementation ou de la surcontrainte ce serait parfaitement euh je dirais contre-productif et et et et tout à fait dommageable pour l'Union européenne je partage tout à fait cette volonté là euh c'est bien pour ça que la démarche par risque adoptée par Thierry Breton et que personne n'a remis en cause ni le Parlement européen ni aucun pays et cetera et cetera de de de de l'Union européenne distingue bien trois catégories de risque et en réalité la catégorie risque limité ou faible et et et numériquement la plus la plus importante c'est c'est par définition celle où il y aura le moins d'obligation le moins de contraintte le moins de de de déclaration à faire au préalable en terme de de transparence de de confiance et cetera et cetera mais voilà je rebondis par rapport au mots qu'avait employé Laurence crristol je crois qu'effectivement euh la confiance est essentiel dans dans ce domaine comme dans peut-être tous les autres tous les autres domaines s'agissant des données abrêé par les états-tiers alors il se trouve que le rgpd s'applique le rgpd s'applique et il y a quelque chose comme alors il faut peut-être pas le dire c'est pas politiquement correct mais comme un principe d'extraterritorialité du droit européen et et donc je pense que si on arrive à finaliser ce ce règlement européen sur l'intellig ence artificielle quelle que soit la nationalité des entreprises pour peu qu'ell opèrent sur notre territoire ou en lien avec des activités se basant sur notre territoire de l'Union européenne les règles européennes s'appliqueront à ell alors je suis conscient du fait que une chose est de le dire une chose est d'y arriver on le voit avec le DSA et le DMA c'est compliqué la vie est un combat hein y compris l'application des règles européennes au grandes entreprises de de de pays-tiers c'est un combat mais en en même temps c'est un combat qui en vaut euh la peine madame la la présidente vous vous êtes exprimé je je remercie là aussi d'avoir réservé un un accueil favorable sur le principe à à à ce travail et à ce projet d'avis politique je suis consciente du du fait que nous n'avons fait que survoler je pardon n'est fait que survoler de manière peut-être un petit peu rapide certains enjeux mais on peut pas refaire voilà sur un il est là le projet de règlement il fait il fait quand même un nombre substantielle de page euh on ne peut pas refaire tout le travail des députés européens qui qui par ailleurs ont très bien travaillé de leur côté et avait des années et des années hein parce depuis depuis depuis 2020 que un de de de de collègues européens travaillent sur le sur le sujet bien avant la la publication du projet d'acte la question de la définition est effectivement cruciale he on est sur le point d'aboutir à une définition dans le cadre des travaux de l'OCDE moi je souhaite qu'elle puisse effectivement enfin qu'il ait une concordance de temps et qu'on puisse l'insérer dans le le corp pu législatif européen ça va peut-être être possible he quelques semaines près ça va peut-être être possible si si le CDE termine à temps son son son son travail par ailleurs je crois qu'on a pas encore parlé mais dans la vie politique j'ai souhaité introduire l'idée d'une clause de revoyure ENF un espèce de bornage dans le temps tant je suis consciente du fait que les technologies il a avance extraordinairement vite et que nous risquons toujours d'être en en en retard il faut une clause de revoyure il faut un bonnage dans le temps parce que clairement sur ce sujet plus encore que sur le droit d'auteur ou je sais pas quoi je sais pas quoi il y aura besoin d'évaluer de de voir si on est bien en capacité de de faire prévaloir les les choix politique qu'on a fait ou ou ou si on est à côté de de la plaque donc ça c voilà le côté voilà provisoire de de ce travail législatif je je crois ça n'enlève rien à son ambition mais doit pouvoir être clairement envisagé il faudra certainement remettre l'ouvrage sur le métier vous avez pointer à juste titre madame la Présidente la la question du respect des des droits humains de de la Charte des droits fondamentaux tout tout tout notre corpus politique et et juridique en matière de de de droits fondamentaux de de droits humains c'est absolument essentiel c'est c'est évident je pense que c'est ce qui fait voilà un grand voilà de notre espace européen un un un un grand espace démocratique contrairement à d'autres régions du monde et et que nous devons trouver là encore le bon la bonne la bonne adéquation alors madame kincart a pointé du Doig plusieurs euh sujets notamment celui de la de la compatibilité entre le respect et la protection des droits d'auteur et l'intelligence artificielle générative notamment euh voilà je fais un peu vite mais tout cela est bien présent à l'esprit les collègues du Parlement européen de la commission culture en on par en parl il y a des dispositifs qui sont introduit à ce stade de de ce que nous disent les les les juristes qu'on a rencontré des professeurs de de droit de la propriété intellectuel qui travaill dans les différents comités mis en place par le gouvernement autour de Bruno Le Maire autour de madame la Première ministre et cetera et cetera il nous assure que le le texte s'il aboutit comme nous pensons qu' qu'il aboutit contendu de ce qu'on voit se dessiner comme accord politique global sera parfaitement bien articulé parfaitement compatible avec le plein et entier respect de la directive droit d'auteur mais là aussi clause de revoyure clause de revoyure certainement bonâge dans le temps en tout cas c'est ce que je souhaiterais pas impossible qu'on y arrive parce que comme pour la compatibilité la bonne articulation avec le rgpd on on sent qu'il y a un vrai il y a vrai un vrai enjeu pour tout le le secteur culturel et enfin tout le domaine de la création au sens large quand dit se culturel c'est aussi pardon c'est aussi la Mode enfin c'est aussi le design c'est beaucoup beaucoup beaucoup de de secteurs qui pèsent très très lourd en terme économique et et et et en terme d'emploi dans dans notre Union européenne alors pour en venir à la dernière question celle posée par notre collègue Charles zstol effectivement l'expression bac àble est une trad une traduction un peu littérale de de sandboxes les bacs à sables réglementaires je veux bien réfléchir dans les dans les 4 minutes et demi qui rest c'est entre guillemets à une meilleure appellation je me suis peut-être effectivement un peu laissé emporter par ma ma pratique ancienne fort ancienne du du jargon communautaire pour ne pas avoir pardon mais les bacs à sables réglementaires les sandbox effectivement c'est ce qu'on retrouve trouve y compris dans dans dans dans le texte de projet de de règlement élaboré par la par la commission encore une fois sandboxes bacassable c'est cet espace de dérogation possible à la réglementation hein c'est un point très très important parce que c'est un règlement mais qui en même temps si je puux dire en même temps prévoit dans à l'intérieur même de ce son corpus de de dispositions les dérogations possibles à titre temporaire mais fortes dans les États qui qui le souhaiterait pour permettre à un sbre d'entreprises d'innover d'aller chercher et de très temporairement déroger à certaines obligations et certaines contraintes entre guillemets voilà donc moi je veux bien qu'on trouve un autre oui voilà un espace de un espace de de de jeu mais encore une fois sur la base du volontariat où l'on mettrait dispositif d'expérimentation me propose l'excellente administrateur mis à disposition de de votre rapporteur pour pour ce travail mais effectiv l'idée c'est d'avoir je vis pas trop insister mais c'est quelque chose auquel par exemple il se trouve que par exemple notre exécutif est très attaché mais d'autres pays européens également qu'il y ait cette faculté pour les États qui le souhaiteraient d'avoir un espace de d'expérimentation et des dérogations très temporaires tout cela vu voilà en bonne intelligence avec l'autorité qui qui essait vaguement de superviser voilà ce que feraient les autorités nationales de contrôle mais qui permettrait d'avoir voir un peu de de de stimulation et de et de et de liberté donc peut-être qu'on peut écrire dispositif d'expérimentation au lieu de sandboxes à la française je vous remercie chers collègu très bien Madame la rapporteur vous avez donc finalement aussi répondu à cette suggggestion de d'amélioration de l'écriture de l'espace finalement de jeu commun alors on passe sans tarder finalement aux amendements que notre collègue bonpart a présenté au nom de de la Françis soumise et peut-être pour gagner du temps vous voulez madame la Présidente que je présente les trois d'un seul coup rapidement hein puisque le le le premier en fait je l'ai déjà présenté en quelque sorte dans mon propos introductif c'est pour supprimer l'alinéa 28 sur qui qui qui dit rappelle les impératifs de sécurité justifiant l'utilisation de l'IA à défendre police de manière encadré sous contrôle des autorités judiciaires je vous ai dit mes inquiétudes sur le sujet donc il me semble et même si j'ai bien noté les précautions apportées par la rapportrice il me semble qu'il serait plus prudent à ce stade en tout cas de ne pas évoquer cette possibilité au regard des différentes mises en garde qui ont été effectuées à la fois par le le le le Haut commissariat de l'ONU sur le sujet la Défenseur des droits et cetera l'amendement numéro 2 précise un deuxième point une deuxième alerte sur lequel je vous ai lancé tout à l'heure c'est-à-dire propose de remplacer d'un cadre souple plutôt par soutenir parce que je je pense et en fait en quelque sorte dans votre réponse que vous avez fait avec notre collègue du rassemblement national en vérité je me retrouvais plutôt dans votre réponse c'est-à-dire le fait que la réglementation n'est pas ne doit pas être considéré comme un objectif contradictoire de la nécessité de soutenir l'écosystème et l'utilisation de l'intelligence artificielle donc le le risque du terme de cadre souple donne justement le sentiment qu'en quelque sorte il faudrait en en R réduire sur le cadre et sur les exigences de respect des droits et des libertés pour favoriser le développement ce que je ne crois pas et c'est le sens de ce deuxème amendement sens du 3è amendement je m' je m'arrête 2 minutes sur le sujet même pas 2 minutes 30 secondes sur le sujet c'est parce que vous avez vous avez pas répondu là par contre madame la rapporteur c'est c'est c'est sur la question de l'impact du développement des techniques d'intelligence artificielle sur le le droit du travail la protection des droits des travailleuses et des travailleurs je disais que dans le l'article il y a qu'un seul article du rgpd article 88 qui concerne les questions liées à l'emploi or tout le monde sait que le développement des outils d'intelligence artificielle dans le cadre du travail fait peser un certain nombre de risques de menaces de droit pour les travailleurs à la déconnexion et qui à mon avis sont un enjeu pas suffisamment pris en en compte de manière générale et c'est la raison pour laquelle je vous propose d'introduire dans votre avis après laanina à 36 la phrase qui consiste à demander à la Commission européenne de réviser l'article 88 du rgpd pour pour l'adapter à au développement des technologies d'intelligence artificielle voilà pour la présentation des trois amendements merci chers collègues peut-être avant de passer la parole à Madame la rapporteur sur les et et en réaction un petit peu au aux amendements qui ont été présenté peut-être sur le premier amendement qui était finalement de de demander un petit peu de revoir enfin de surtout de de supprimer cette alinéa moi je pense que peut-être serait utile qu'on puisse préciser queil y a quand elle est utilisée à des fins de sécurité doit l'être dans des conditions respectant finalement les droits de l'homme et la démocratie est-ce qu'on peut pas le dire comme ça je vous laisse juger si c'est possible de de voilà de de modifier légèrement un peu la rédaction ce qui prend en compte l'inquiétude qui a été un peu exprimée par les uns les autres pour pouvoir arriver et sur la sur la question de du cadre souple le 2ème amendement est-ce qu'on peut pas définir un petit peu qu'est-ce que le cadre souple voilà voilà ce qui permet finalement de ne pas être en contradiction et surtout de dire que oui on peut accepter il y a des régulations sur l'IA à des aspects contraignants et ben il convient de l'accepter finalement aussi même si c'est voilà parce que ça laisse qu'un une interprétation c'était juste une j'ai pas fait d'amendement c'était plus une contribution à la à la à la réflexion commune merci merci Madame la présidente alors sur le premier amendement présenté par notre collègue bampard donc qui vise à demander la suppression de de l'article 28 la possibilité pour les autorités police de police dans des conditions très encadrées et sous le contrôle des autorités judiciaires de recourir à à certaines certaines technologies de l'intelligence artificielle je je pense très très franchement que d'ailleurs même dans le le le le texte initial de la Commission européenne mais encore plus euh maintenant cont tenu de de de l'apport assez important fait par euh les les trois commissions parlementaires du Parlement européen qu'on est en train d'aboutir à une une une rédaction qui sera susceptible de convenir aussi bien à une large majorité des membres du Parlement européen qu'à euh qu'à tous les les États-membres euh parce que on on va préciser les conditions dans lesquelles cet usage sera possible oui je je la squitement cet usage sera possible mais de nature à dissiper toute incertitude juridique ou euh crainte euh draisonnablees he par exemple s'agissant du recours à ce qu'on appelle l'identification biométrique à distance en temps réel très strictement encadré encore une fois sous le contrôle de l'autorité judiciaire c'est c'est l'une des technologies les plus sensibles manifestement euh il y aura des conditions très strictes recherche de victimes potentielles de crime euh privation euh d'une menace pour la vie ou la sité physique ou infraction pénale euh grave celle susceptible de déclencher euh la délivrance d'un d'un mandat d'arrêt européen donc on on est assez euh je pense euh en en situation de de de considérer qu'il y a beaucoup de de garantie et honnêtement le Parlement européen dans le cadre de sa volonté de de trouver un un compromis avec les États-membres bien sûr qui était très opposé au départ à à cet usage qui était parti d'une position très haute de négociation euh et et est prêt à à l'accepter encore une fois dans une rédaction très encadrée dans le cadre d'un exercice de de compromis et et de conciliation en échange ça fait partie des choses à petit peu tchi mais qui sont discuté ardemment d'un allongement de de de la liste de toutes les technologies Ia interdites pour lesquelles le risque avéré et considéré comme inacceptable donc je pense qu'on on peut infiner voilà trouver matière à à à être malgré tout rassuré à ce stade de cette négociation sur ce qui sortira et donc je je réserve un avis défavorable à à votre amendement numéro 1 euh sur l'amendement numéro 2 oui l'expression cadre euh souple euh loin de moi l'idée de considérer qu'un qu'un règlement est un cadre souple mais par souple euh je voulais d'une part insérer l'idée qu'il y avait non pas sandboxes mais dispositifs expérimentaux donc quand même des quelques quelques espaces et puis surtout euh l'articulation sur sur des risques et à chaque fois trois catégoriesqu et à chaque fois des des des obligations très proportionnées hein très différentes très adapté très très ciblé et puis la prise en compte du du du seuil aussi de de la taille des des des acteurs voilà donc c'est ce que j'appelais un cadre souple parce que proportionné adapté assez réaliste assez assez euh pragmatique alors je je ne sais pas madame la Présidente si on peut prendre un sous-amendement comme ça au banc si je puis dire voilà alors est-ce que dans ce cas-là euh c'est donc notre aligna 30 alors bon comme on on ne cesse de de rappeler toujours au début de la rédaction de nos avis politiques on respecte la charte des droits fondamentaux de l'Union européenne la Convention de sauvegarde des droits de l'homme et cetera et cetera enfin bon tout ça est déjà écrit noir sur blanc et puis on se réfère à des textes européens qui eux-mêmes aussi disent à quel point ils respectent toujours et encore la Charte européenne des droits fondamentaux et cetera et cetera mais je je veux bien si il faut le mettre oui je peut-être un sous-amendement acceptable en rajoutant donc c'est dans notre alinéa euh 30 c'est ça qu'on rajouterait voilà dans le cas du respect de la chte européenne droits fondamentaux droits fondamentaux voilà quelque chose comme ça bon alors peut-être que dans ce cas-là euh je sais pas je pourrais prendre votre votre sousamendement madame la la présidente mais pas le l'amendement numéro 2 présenté par le collègue bon part en en en l'état et l'amendement 3 le dernier euh on se amend le 2 oui c'est ça celui qui porte sur la rédaction actuelle de l'alignéa 30 moi je je veux bien que si on peut garder l'expression cadre souple quelque chose d' pragmatique son spécifique pour ça voilà et puis le l'amendement 3 donc une révision de l'article 88 du rgpd euh alors j'entends bien ce que vous dites je je ne sous-estime pas du tout euh les les inquiétudes et les craintes réelles d'un certain nombre de catégories euh euh sociales et d'un nombre de métiers à se sentir extraordinairement menacé plus que d'autres il y en a qui se sentent extraordinairement menacés c'est vrai par les développement de l'intelligence artificielle à commencé par l'intelligence artificielle générative nous le savons tous et nous avons tous des exemples en tête euh maintenant je trouve que c'est un tout petit peu hors sujet dans ce projet d'avis politique de demander à la Commission européenne de réviser le rgpd donc c'est un avis plutôt demande de retrait et a défut défavoraable voilà j'ai fini madame la Présidente alors avant de avant d'aborder les les les votes il y a deux demandes de parole monsieur SABATOU et Madame tangiana je vous l'ai donner ah voilà mais merci madame la Présidente encore une fois euh je note avant de parler des amendements à proprement parler que on aurait été beaucoup à vouloir déposer des amendements sur ce texte ça a été dit deux fois déjà et sauf qu'on a reçu le texte bon je suis bien d'accord il est pas très pas très grand mais on a reçu le texte il y a 24 heures donc c'est quand même assez léger pour pour pour travailler dessus dans tous les cas madame la rapporteur je voulais juste rebondir sur la réponse que m'z faite euh tout ne passe pas par euh du financement par le public donc la réponse n'est pas forcément d'augmenter les ressources propres de l'Union européenne par exemple les avancées qui sont fait aux États-Unis ne sont pas fait par des fonds publics mais par des investissements privés et donc je pense comme je l'ai dit dans mon intervention qu'il s'agirait plutôt en réalité de faire de la place à des acteurs privés et les soutenir pour répondre à cette à cet enjeu stratégique qu'il y a euh concernant les amendements pour rester cohérents avec notre intervention nous ne voulons pas entraver la recherche et le développement des logiciels sur les IA donc globalement nous nous serons contre merci madame la présidente Madame la rapporteur chère constance je je souhaitais intervenir par rapport à ce que vous avez souligné euh dans votre exposé à savoir l'importance de du soutien à à l'innovation et et à la recherche et développement et vous avez parlé du fait que ce soutien était un levier important de progrès et de bien-être pour la société et notamment en matière de médecine mais également de d'enjeux environnementaux et je voulais savoir outre les dispositifs expérimentaux que que vous avez mentionné quel cadre le le commissaire Thierry Breton entend-il mettre en place pour renforcer le leadership de l'Europe parce que vous avez évoqué aussi la la le le le contexte fortement concurrentiel au plan international tout cela afin d'assoir la souveraineté de l'Europe en matière d'IA dans dans ces domaines plus précisément merci bon même si c'était pas sur les amendements ma cher collègue oui euh merci alors rapidement parce que je suis conscient du fait qu'on a passé beaucoup de temps déjà à débattre de ce sujet mais quien même temps très très très important parce que ça concerne quand même tout un chacun et pour de très très très longues décennies je je pense véritablement que par-delà le fait d'avoir une législation européenne adaptée proportionnée mais néanmoins ambitieuse dans dans les valeurs qu'elle porte et les les dispositifs qu'elle met en place il est important également que nous puissions et c'est déjà le cas mais continuer à exercer pleinement euh notre rôle et tenir notre rang dans toutes les grandes instances de discussion et de mise en place de de modalités de coopération internationale donc au sein de l'OCDE au sein du partenariat global pour l'intelligence artificielle je je le mentionn tout à l'heure nous allons avoir en France au cours de l'année 2024 le la 2e édition du sommet c'est un sommet mondial pour la sécurité de de l'intelligence artificielle il y a énormément de d'initiatives le dernier salon vivateek à partir mis en avant les entreprises françaises petites moyennees et grande les chercheurs les cerveaux les talents les compétences que nous avons en matière d'intelligence artificielle don dont certains de ces talents sont reconnus c'est vrai à l'étranger mais dont beaucoup également œuvr à mettre en place dans en France les les les les instruments pour pour gagner gagner des marchés donc voilà je pense qu' il y a une logique de compmentarité entre une approche de régulation et puis des investissements et un très fort volontarisme politique tel qu'il est à l'heure actuelle incarné aussi bien par le Président de la République que par par exemple le commissaire Thierry Breton alors mes chers collègu parce que le temps passe nous avons d'autres travaux et on va procéder finalement au à l'examen enfin au vote des des différents amendements sur le premier amendement euh qui est qui est pour qui est qui est contre qui s'abstient voilà il est n'est pas adopté sur le alors sur le deuxème amendement euh l'alinéa 30 donc qui est pour avec la on on on on prend votre sous-amendement madame la Président c'est pas sous amend c'est l'amendement à part en fait ça peut ça peut pas être sousamendement oui oui on n pas le on VI pas sousamender le justement c'est la question que je posais on peut pas euh un endroit différent du paragraphe on le met ailleurs dans le paragraphe oui après après le 30 ah voulez dire la cadreous dans le respect mais j'avais est-ce que j'avais comprisut fa ok ok dans le respect de donc je mets au voix le sous-amendement d'accord d'abord qui est pour madame la Présidente on prend le sousamendement prés voilà prend qui est contre voilà donc leamendement est à est modifié d'accord et on on passe à l'amendement de Monsieur Bompard sousmifier modifier sous modifier qui est pour alors mais du coup pardon je comprends plus très bien la la rédaction là pardon est-ce que vous êtes pour de soutenir send soutenir soutenir dans le cadre les entreises EUR après vous faites comme vous voulez mais c'est bien la première fois que vous refuseriez un amendement qui consiste à dire qu'on va soutenir les entreprises mais bon dans [Musique] le le respect de voilà l'avis de rapporteur donc clairement je l'amendement LFI vise à apporter un soutien clair et explicite aux entreprises européennes dans le respect de des règles bien sûr voilà donc avis favorable qui est pour on est tous c'est adopté vous êtes d'accord pour que l'avis le 3è amendement pardon demandpport l' viis de rapporteur qui est pour qui est contre mais il non il est pas bloqué et donc la vie politique on va le mettre au voix qui est qui est pour pour moi j'en ai pris un sur 3 c'est considérable c'est un très beau racio qui est contre qui s'abstient voilà donc la vie politique est adopté et donc pour votre information il sera donc adressé à la Commission Européenne ainsi qu'au Parlement européen il sera mis en ligne en même temps avec les l'ensemble en échange avec les emble des parlements nationaux et moi personnellement je voulais aussi remercier non seulement la rapporteur mais aussi les auteurs les collègues et tous ceux qui sont engagés sur cette importante question donc bonne continuation aussi dans ces travaux qui n'ont pas n n'ont pas terminé et et Monsieur David Michel qui m'a très bien accompagné alors notre l'ordre du jour nous appelle à passer à un autre sujet très très important aussi est-ce que vous souhaitez une suspension de séance ou on peut 2 minutes voilà 2 minutes et puis on commence sur l'avis sur le projet de loi immigration donc la suite la suite dans faut que la suspension soit oui fautouvrir voilà c'est bon donc la suite de notre ordre du jour appelle l'examen du rapport de d'information sur le projet de loi pour contrôler l'immigration et améliorer l'intégration sans tarder je laisse donc la parole à notre collègue Pierre-Henri Dumont qui va nous présenter son analyse et une position à examiner ensuite après la la prise de parole des différ orateurs merci Madame la la présidente oui donc nous avons fait preuve de de célérité puisque j'ai j'ai eu le plaisir et l'honneur d'être nommé par notre commission il y a de cela quelques minutes en ouverture de de cette séance et donc avec l'administratrice Camille hortel à mes côtés nous avons pu en même temps que nous écoutions la précédente oratrice constance legripe écrire ce rapport vous le transmettre il y a cela même déjà quelques quelques quelques jours afin que vous puissiez le regarder et cette célérité nous a malheureusement pas permis de pouvoir être très précis donc c'est pour ça que vous avez dû avoir sur table une une double reproposition de de formulation de deux pages qui étaient peut-être un peu dur dans mon avis et que donc après échange avec les uns et les autres nous avons imaginé une nouvelle formulation qui permet d'être un avis qui qui peut être entendable