Surveillance numérique de masse : face à la dystopie, d’autres modèles possibles - #AMFiS2020

e on va on va commencer donc moi je me présente rapidement je m'appelle alexandre chaîne je suis je suis co animateur du livret numérique de la france insoumise donc déjà je suis je suis très heureux de vous retrouver ont fait cette année on prévoit deux conférences donc déjà je vous les annonces donc vous avez cette conférence table ronde sur la surveillance numérique de masse face à la dystopie c'est à dire le contraire de l'utopie quels sont les modèles possibles qu'on peut proposer donc je vous présente le panel tout de suite et nous avons également demain une deuxième conférence qui aura lieu exactement à la même heure exactement à la même salle qui concernera la question de la sobriété numérique c'est à dire un modèle numérique qui soit sobre en énergie en coûts de fabrication etc d'un point de vue matériel etc qu'ils soient éthique et inclusif donc on aura des invités très intéressant on aura maxime et fouillaient ce qui est membre du shift project dont qui est un think tank qui travaillent sur la question de la soutenabilité de la filière numérique on aura également sa loi toko qui sera présente également demain et qui la présidente du conseil national du numérique qui est un conseil qui est fait de membres de la société civile de membres du secteur associatif des entreprises et aussi d'un certain nombre de parlementaires et qui a été fait sous décret présidentiel qui a été créée il ya il ya de ça moins de 10 ans vous aurez également en termes d'invités si je ne me trompe pas benoist grossmann qui est le président de france digital donc c'est un un ensemble de start up de patrons de start up qui sera également là pour parler de ce sujet et vous aurez enfin animé par victor à bono qui est membre du livret numérique et vous aurez yaël benayoun qui est membre du mouton numérique donc ça c'est demain nous allons commencer tout de suite alors le titre de la conférence est là je vous présente très rapidement nos nos invités juste un petit mot sur livret très vite le livret numérique nous sommes nous avons cette particularité au niveau du thème numérique au sein de la france insoumise d'avoir non pas un mais deux livres et programmatique un qui parle vraiment des questions de droits fondamentaux et 1 qui met davantage l'accent sur tout ce qui est les solutions libres ouvertes open data pour la société donc n'hésitez pas à les consulter sur le site de l'avenir en commun et de la france insoumise nous sommes actuellement une équipe à peu près de 18 personnes enfin indices en termes de noyau dur on est 40 au total d'inscrits mais on donne le temps qu'on peut on est bénévole on n'est pas payé pour faire ça donc c'est un sujet transversal on le on essaye de le construire dans la mesure du possible avec l'écosystème numérique les différentes associations etc qu'on écoute nous mêmes on est on travaille en général dans le milieu du numérique moi je suis docteur en géographie des télécommunications mais vous avez aussi au delà des géographes vous avez des informaticiens vous avez des chercheurs vous avez des membres des ong qui travaillent sur ces sujets on est organisé en trois pôles on a un paul ii veille parlementaire à l'assemblée nationale et au parlement européen pour surveiller les projets de lois numérique voir ce que nous on peut apporter aux députés aux assistants parlementaires on a un espace de réflexion de fond qu'on a sur l'opendata l'aï démocratie et c'est donc ça c'est au quotidien sur l'année on a également des espaces projet où on travaille par projet sur la formation des élus les amphis sont aussi un blog projet on a aussi un projet d assises du numérique de la france un soumise à faire à la fin de l'année prochaine avec différents différentes conférences on espère dans un fab lab associatif à paris ou ailleurs en france avec des acteurs du numérique donc n'hésitez pas à nous rejoindre si vous avez un peu de temps à donner et on a donc les animateurs qui vont avec vous avez le contact pour nous contacter contact @ fini mais il pourrait faire si vous le souhaitez et voilà donc je vous présente rapidement nos invités pour commencer alors je vais commencer dans l'ordre du il n'y a aucun ordre là dedans et je vais commencer donc par salwa toko qui est donc la présidente du conseil national du numérique dont qui est une instance je vous ai dit créé par décret présidentiel il ya eu moins de dizaines d'années qui rassemble beaucoup beaucoup d'acteurs qui est une instance il faut le préciser salle whattocook est une instance qui est plutôt indépendante il faut quand même le rappeler qui arrive en tout cas à réfléchir de façon indépendante sur beaucoup de choses vous avez fait récemment une ligne une feuille de route sur la sobriété numérique aussi on continue ensuite avec paulin forte à bonjour merci d'avoir accepté notre invitation avant de partir à pantin demain pour les journées des écologistes donc vous êtes député eds vous êtes dissidente la république en marche vous êtes partie du groupe majoritaire la république en marche ça va ok ça fait du bien de lâcher un emploi comme ça donc paula forte avoue travailler essentiellement sur les thématiques numérique faut quand même le dire clairement vous avez travaillé à etalab avant de devenir député député à l'assemblée nationale vous êtes de la circonscription des français de l'étranger d'amérique latine voilà donc vous vous avez un parcours vraiment vous avez été rapporteur du là de l'application du rgp des en france donc la réglementation générale de protection des données qui a été voté par l'union en par l'union européenne qui rentrent sains d'applications en 2018 donc ça fait deux ans et pourtant elle n'est pas respectée non plus donc on va en parler chloé berthélémy bonjour vous êtes donc membre vous êtes policier de bailleurs dont vous êtes conseillère politique au sein de l'iddri qui est une ong basée à bruxelles qui s'occupe de fédérer différentes associations nationales de lutte pour les libertés numériques les droits numériques sur internet et donc vous avez été notamment vous êtes en veille sur beaucoup de sujets au parlement européen a parlé avec la gauche et les verts les smd et c'est pour essayer de sensibiliser sur ces questions là donc merci d'avoir accepté votre notre invitation merci benoît piedallu bonjour vous êtes membre de la quadrature du net qui a été créée il ya déjà quand même une dizaine d'années quand même un oui facilement c'était pour la loi hadopi non entre autres voilà et donc qui est l'une des principales ong en france qui milite pour les libertés fondamentales et qui sensibilise aussi sur les dangers de la surveillance technologique donc merci à vous d'avoir accepté et vous êtes également membre de la campagne technopolis sur lequel on va revenir qu' une campagne très intéressant puisque c'est une campagne qui va souffler sa première bougie et qui sensibilise sur tous les projets de surveillance technologique en milieu urbain et vous avez été notamment à la manoeuvre pour essayer de ralentir ou en tout cas d'arrêter le projet qui avait de reconnaissance faciale l'entrée de deux lycées en région paca qui était le lycée ampère et le lycée les eucalyptus hugo bonjour rebonjour voilà personne ne le connaît bien sûr un c'est évident donc député la france insoumise qui est également notre référent au sein du livre numérique sur toutes les questions numériques et de sécurité vous êtes tu es membre de différentes commissions à l'assemblée nationale qui parle de numérique de démocratie de sécurité etc donc merci à toi d'avoir accepté notre invitation je commence rapidement donc juste pour vous dire l'analyse qu'on a fait nous du sujet du sujet numérique en fait on a décidé d'essayer de structurer la la conférence autour de trois thèmes vous allez avoir deux parties une première partie qui va être vraiment centré sur la question d'abord des constats des tout premiers constats qu'on va opérer concernant la surveillance tout ce qu'on a vu qui existe déjà et ce qui s'est accélérée au moment de la période de confinement qu'ovide puisque vous avez vu qui s'est passé beaucoup de choses sur le thème de la surveillance l'application stop qu'ovide il ya eu vous avez vu sur internet toutes les vidéos de drones qui présentait des messages dans les rues de nice à paris avec le préfet l'allemand que nous on aime énormément vous le savez donc on a essayé de diviser en trois catégories première catégorie l'enjeu de démocratie alors pourquoi parce que les activités de surveillance de masse permettent le développement de ces technologies peuvent permettre de contribuer à faire basculer une élection parfois ça a été le cas notamment de donald trump ça a été aussi le cas du brésil alors il ya beaucoup de raisons en train qui explique ces résultats électoraux mais vous avez notamment la boîte cambridge analytica qui a été drivé par une boîte proche de la nsa qui s'appelle pas lent tir qui a aspiré les données de millions de millions de profils facebook pour essayer de faire un profilage des profils à démarcher pour essayer de faire basculer leur vote donc les indécis et ils ont réussi par exemple à identifier un certain groupement de personnes et mettre en place le développement de ce qu'on appelle des ghosts post c'est à dire en anglais des postes phantom qui dure que quelques heures sur vos fils facebook avec notamment ce genre de visuels sais tu qu'il harrington veux te piquer ton flingue et donc pour quelqu'un qui est prêt à voter démocrate mais qui est très attaché à la question du port d'armes et bien c'est un vote de plus qui va vers le donald trump alors quel résultat ça donne d'avoir ciblé avec cambridge en haïti casse et 3 swing states trois états qui ont été ciblés par cambridge elle était qu'à son ballon passer donald trump alors qu'ils étaient censés plutôt bas se passe et hillary clinton vingt-trois mille voix d'écart dans le wisconsin onze mille voix d'écart dans le michigan et 40000 droit dans la bête pennsylvanie vous avez vraiment cet enjeu là on a aussi la question de l' enjeu en matière de droits fondamentaux on va revenir avec nos invités sur le fait que les droits fondamentaux ont été extrêmement fragilisée à ce moment là notamment pendant la crise qu vide avec du contact tracking l'utilisation de logiciels par orange notamment flux vision par exemple pour repérer les déplacements des gens la question des drones la question de la reconnaissance faciale et cetera etc et puis la question de l'économie puisque en fait derrière toutes ces technologies vous avez des société ineo safran thales armement etc toutes ces grandes boîtes de la vidéosurveillance de l'empreinte digitale de la reconnaissance faciale et cetera ont un profit qui s'évalue à plusieurs milliards de dollars de chiffre d'affaires et donc c'est une énorme armature économique qui s'est dressée entre les droits fondamentaux et le peuple qu'on va essayer de déconstruire ensemble donc on va commencer rapidement la conférence donc pour commencer peut-être une question liminaire qui va être sur la question de des droits fondamentaux peut-être benoît puisque c'est plutôt toi sur lequel on va commencer après on vous prendrai la parole tous benoît est ce que tu estime qu'à l'heure actuelle il y a encore [Musique] est-ce que tu estimes que pendant la pandémie on est à assister à une situation des faits de choc c'est à dire que finalement on a eu une accélération des processus qui existait déjà auparavant est-ce que tu estimes qui a eu une cristallisation des technologies de reconnaissance faciale de vidéosurveillance et c'est sur ça et après on prendra plutôt l'échelon européen et des constats un peu plus généraux ensuite merci oui alors on attaque on attaque très très chaud si la campagne technopolis faut plus fort la campagne technopolis existe donc a été lancée en septembre 2019 donc c'était bien avant le coc vide et on avait déjà fait à l'époque le constat que ces technologies de surveillance urbaine était en plein essor ça faisait déjà déjà plus d'un an que l'on travaille un peu sur le sujet qu'on voyait convoyer tout ça monte donc non évidemment évidemment ces technologies de surveillance drones reconnaissance faciale et autres n'existent pas uniquement depuis depuis qu vide on n'en parle pas que depuis ce moment la foire aussi flux vision dont tu parlais existe depuis il me semble 2016 chez orange pour de la surveillance de population c'est un produit totalement illégal qui utilise des données personnelles et techniques pour fonctionner donc non en fait ces technologies existait bien avant en effet on peut voir une différence de traitement de ces technologies lors de la crise qu vide puisque ces entreprises qui vendaient ces outils se sont permises finalement d'avancé sur la scène publique et d'ouvrir leur catalogue en proposant des offres gratuites par exemple pour les pour les décideurs publics en mettant ma venez venez tester nos outils ça va vous permettre de voir ce que vous pouvez faire pour suivre le respect du confinement et des choses comme ça donc ça a été une occasion finalement pour les marketeux de ce type d'entreprise des entreprises de surveillance technologique de mon de mettre en avant leurs produits et de rappeler qu'ils existaient mais ça n'est pas ça n'est pas uniquement à ce moment là que ça a été créée évidemment il y avait déjà un travail de fond est vraiment une lame de fond de l'arrivée de cette technologie c'est pour ça que la campagne ce constat là est ce qui se fait au niveau européen chloé berthélémy est ce que au niveau de l'union européenne et des différents états membres on se retrouve aussi dans une situation un petit peu critique par rapport à tous ces constats finalement oui tout à fait en fait la france et pas du tout la seule à être allés de voir suivi cette route face à une pandémie à une situation qu'elle qualifie d' argent évidemment aucun état membre dans l'union européenne était préparé à faire face à ce genre de situation et donc du coup il ya une espèce de surenchère à ce qu'on appelle nous le techno solutio nisme là ce logiciel la solution par la technologie et c'était fort bien parce qu'en fait ça a collé tout à fait avec le projet politique de la commission européenne qui essaye en ce moment de développer une stratégie au niveau européen pour devenir un peu le leader un leader mondial dans le marché de la donner et donc du coup c'était vraiment l'occasion une crise sanitaire utiliser la technologie utilisée l'analyse de grandes quantités de données et notamment des données de localisation des personnes des populations pour prouver que l'union européenne avait en fait des industries prête à relever ce défi et être aussi bonne en fait que ce que faisait les entreprises américaines sur ce point de vue là au niveau des états membres évidemment il ya aussi des pratiques coloniales ya eu six aussi du d utilisation de technologies assez sophistiqué la france n'est pas du tout la seule à avoir vu l'utilisation de drones par exemple pour faire respecter les mesures de confinement dans l'espace public la grèce également qui est un des exemples avait auparavant juste des drones pour la police pour dans les cas de deux d'accidents de catastrophes naturelles etc et la grâce à la bande d'amis grâce à la situation d'urgence on a fait on a pu faire sauter tout les garde-fous et donc maintenant la police grecque peut utiliser des drones pour faire de la prévention du crime contrôler la migration illégale aux frontières de la grèce et maintenir l'ordre de manière générale donc du coup la france en ce point n'est pas du tout sûr il ya le cas polonais aussi qui est très intéressant par rapport à la aux applications notre notre application anosy top cow vide qui vous savez est un échec fondamentale puisque on a extrêmement peu téléchargement est très petit nez allemand où il ya eu aussi un certain nombre d'irrégularités dans sa conception un peu la forte ça qui fait qu'on nous annoncer ça avec cédric au le secrétaire numérique allez-y c'est sûr etc et puis finalement il y avait des captchas google etc enfin il y avait un certain nombre de problèmes dans la façon dont a été programmée cette application et il ya le cas polonais du coup est ce que tu peux nous parler un petit peu du cac polonais parce que c'est un cas assez intéressant oui alors le cas polony c'est le plus extrêmement lent de plus extrêmes au niveau 2 pour faire respecter encore une fois les mesures de plus tôt de quarantaine cette fois ci a mis en place ont ils ont quand même donné le choix à leurs citoyens soit c'était derek des comment dire la police venait chez vous pour vérifier que vous y étiez bien de manière complètement aléatoire et sans que vous le sachiez quand ni comment soit vous aviez la praticité l'opportunité incroyable de de télécharger une application sur votre téléphone qui s'appelait rom quinting et donc du coup qui utilisaient les données de gps est aussi un accès à votre caméra et donc du coup vous identifier sur cette application en envoyant à celle fille est ce celle ci va être conservé par le gouvernement pendant plus de six ans déjà de base est donc régulièrement on va vous demander de reprendre une photo de vous même pour bien vérifier que vous êtes bien chez vous donc vous devez allez devoir reprendre des selfs irrégulièrement et laissez-les fille que vous allez envoyer via cette application aux services administratifs du gouvernement que les mines et qui sont en charge de ça pour avoir une pour vérifier que c'est bien vous donc du coup il ya une reconnaissance faciale qui se fait entre l'image de base que vous avez envoyé et self irrégulier que vous oubliez et tout ça pour bien vérifier que au cas où vous êtes infectés mais c'est même pas sûr en fait vous pouvez être juste suspectées d'être infectées du coc vide cette mesure va s'appliquer donc c'est l'un des cas les plus extrêmes en europe effectivement merci chloé alors sachant que si vous mettez un certain temps à envoyer du coup ceux celles ci vous avez la police qui débarque également chez vous ce qui est bien si vous n'avez pas d'amis mais ce qui est pas bien si vous voulez préserver vos libertés fondamentales ces 20 minutes d'ailleurs c'est vrai en fait au début c'était 30 et s'est passé avant il me semble dans un salle watteau quo par rapport à tout ça vous vous êtes une instance indépendante vous êtes une instance qui est où il ya vous êtes bénévole tous vous avez quand même un panel très intéressant vous essayez de faire un un consensus autour de toutes les prises de position qui a dans vos débats internes au c'est nul ça doit pas être facile quel est votre père c'est autre perception de la la surveillance de masse déjà avant la période du confinement et pour vous qu'est ce qui s'est passé au moment du confinement est ce qu'il ya eu finalement est-ce que ce qui s'est passé était une surprise pour vous ou est ce que finalement c'est le le pendant de tout ce qui se passe depuis les années 2000 avec la vidéosurveillance les révélations qui ont été faites dans la sphère snowdon autour de la collecte massive de données de la nasa et c est ce que finalement on est dans une systémique de la vidéosurveillance ou est ce que quand même vous a été un peu surpris par l'ampleur que ça prend au fur et à mesure des années merci alexandre bonjour ravi d'être avec vous alors oui juste pour resituer un petit peu le conseil national du numérique donc oui c'est un organe en fête a été créé suite à la loi hadopi en fait où est le gouvernement de l'époque cette époque sarkozy se rend des comptes qui comprenait pas grand chose au numérique etc serait peut-être bien d'avoir un peu une instance qui réunit plusieurs types de personnalité à la fois de la société civile du monde de fab le mans des start up et des académies dehors de recherche pour comprendre un petit peu mieux ce qui jouent derrière les derrière le mieux mairie quels en sont les enjeux et j'ai eu l'honneur de présider cette instance pendant deux ans ça se termine là en ce moment et oui ça a été c'est un organe en fait qu'effectivement qui est indépendant qui essaye de travailler sur énormément de sujets commandes en jeu tous les toutous les rapports les avis que nous émettons sont l'accès libre bien sûr sur le site en du du conseil national du numérique et nous avons travaillé sur plein de plein de thématiques diffèrent différentes en passant de la reconnaissance faciale à l'éducation l'environnement la question des travailleurs des plateformes la santé évidemment et cetera et alors on pas spécifiquement sur la question de la surveillance de masse parce que c'est pas un sujet alors pacs n'est pas un sujet qu'on a pas vu émerger mais c'est un sujet qu'il faisait vraiment pas du tout consensus au sein du conseil il était compliqué de pouvoir vraiment tenir tenir en fait vraiment des groupes de dévots de travaux par contre en travaillant sur la question de la reconnaissance faciale on a on a de vrais penser un livre blanc de deux guides en fait sur la question de la reconnaissance faciale avec différents acteurs dont le world economic forum qui nous avait sollicités pour réfléchir en fait quelle pourrait être la réglementation internationale qui gérerait la question de la reconnaissance faciale qui donc amène à cette question de surveillance sociaux lance de masques alors non je suis très surprise en fait que les états face à des situations qu'ils ne comprennent pas qu'ils ne maîtrisent pas dont il cherche constamment sous la pression la pression à la fois politique le bing économique industriel et à trouver des solutions que oui et le solutionner isme technologique arrive très vite parce qu'on vit dans des démocraties aujourd'hui notamment dans mon dos l'occident ou main la technologie et vu un petit peu comme le supra mantra qui va être la base de deux d'une meilleure fluidification de 2,2 mise en place d'oeuvre d'oeuvre politique appellerait ça comme ça alors du coup on a été sollicités on a été saisie nous par cédric haut avec la cnil sur sur ce top cow vide et ce qu'il faut savoir c'est que nous quand on a été quand on a été saisie non qu'on a eu pour être tout à fait transparente avec vous et des choses connues on a eu à peine deux semaines en fait pour pouvoir rendre un avis sur oui ou non la mise en place d'une d'une application sur le modèle corée corée du sud modèle singapour qui permettrait d'aider non seulement le corps médical puisque à l'époque c'était vraiment cette question là qui qui était prégnant que corps médical à gérer la question en fait de 2,2 de l'épidémie et à voir comment est-ce qu'on pourrait éviter cette saturation qu'on a pu connaître en fait dans le milieu dans le milieu hospitalier et permettent une permettre aux citoyens d'être un petit peu plus un peu plus au fait de sa manière de vivre avec avec le colosse ce virus donc j'étais pas très étonné quand est arrivé en fait quand on commençait les premières les premières réflexions autour de la création de ce mise en place en fait de deux de cette application là où par contre j'ai été étonné c'est que effectivement toute la question des droits des libertés avait été un petit peu mises de côté un petit peu beaucoup d'ailleurs mises de côté au prétexte en fait de l'urgence de l'urgence sanitaire hors de mon expérience quand ont franchi des caps sécuritaire en règle générale on ne revient jamais en arrière et tout notre sujet nous au sein du conseil a été de délivrer en fait un avis qui disaient oui pourquoi pas mais à condition que cela respecte tell tale tell tale tel sujet est ce qu'il faut savoir c'est que nous n'avions pas la possibilité nodosités en fait l'algorithme est donc nous n'avions pas encore nous nous nous travaillons sur quelque chose qui était en devenir qui n'était pas encore créé et malgré les auditions malgré notre volonté est d'avoir essayé de faire en sorte de mettre des garde-fous et ben la cnil a retoqué le gouvernement courant juillet lui demandant effectivement de revoir un petit peu sa copie est ce que c'est ce qui a fait que stop que vides et finalement été une application qui n'est pas fonctionné à l'échelle qui parce que c'était présenté comme c'était voulu comme un outil d'accompagnement du déconfinement c'était pas du tout prêt est envisagée comme un outil véritablement utilisée pendant confinement mais plutôt comment est-ce qu'on accompagne déconfinement pour ne pas avoir eu cette idée en fait de deuxième vague qui qui qui qui fait peur à tout le monde désire comment est ce qu on est vite se retrouver dans la même dans la même situation enfin si j'ai bien compris il y aura pas vraiment deuxième vague est de toute façon il y aura pas de free aura pas de confidence que c'est bien trop dangereux pour pour poupons pour la société ce qui est vrai et des effets collatéraux négatifs extrêmement négatif même sûr sûr sûr le confinement donc c'est ce qu'il faut bien comprendre c'est que nous quand on nous a trak quand on a dû travailler en fait sur cette appli question on n'avait vraiment pas tant que ça de données précises sur la manière en fait dont véritablement qu'à l'être qu'elle allait vraiment être la politique en fait la stratégie de 2,2 de délivrance je dirais de ceux de 7,2 cette application auprès de la population pour accompagner le déconfinement et je pense que c'est le fait d'avoir eu cette mégarde en fait de communication autour de 7,2 de cette application qui fait aussi un petit peu le lait chaque finalement de l'utilité de cette de ce top cow vide qui je crois n'a fait que 74 cas il me semble qu'ils ont été qui ont été qui ont été signalés cette question de ce top cow vide pour la porter à vous avez été assez contestataire en tout cas sur cette question là pour vous quelle est la leçon à retenir de ce qui s'est passé pendant le confinement sur la surveillance de masse que ce soit à travers ce top cow vide ou à travers l'utilisation de flux vision etc des drones qu'est-ce que vous quelques quelles réflexions vous menez sur l'état de la situation dans lequel on est actuellement alors sur ce top cow vide déjà je pense que ça marque un peu là la fin de la start up nation parce que voilà cet échec à ces voix-là massif et qui est un échec au niveau international parce que il ya un rapport du hem haïti qui montre que dans tous les pays où il ya eu des apps qui ont été déployés elles n'ont pas été utiles elles n'ont pas été assez télécharger et il n'y a pas eu vraiment d'effet sur sur le confinement sur le sur la bataille contre contre le coc vide donc je pense que c'est c'est déjà l'échec de la start up nation c'est aussi un manque d'humilité dont a fait part le gouvernement sur ce projet avec vraiment un solution nice mme technologique en tête et voilà un secrétaire d'état au numérique qui venait à l'assemblée nationale nous dire que les personnes qui s'opposent à cette application les personnes qui osent la contester devront prendre en charge sur leurs épaules la responsabilité de puces de morts et plus de malades donc c'était un sorte de chantage aux morts chantent agents malades qui étaient assez choquant assez troublant pour maintenir un débat démocratique sain apaisée à l'assemblée nationale sur ces sujets donc nous notre combat a été justement de dire sur des questions comme celle ci des déréglementations qui existent comme le rg ne sont pas suffisantes il ya une sorte d' angles morts sur la question de l'éthique du numérique qui n'a pas été adressée par la régulation et qui doit être décidée de façon démocratique et bien pas aujourd'hui les institutions les espaces où ces discussions peuvent avoir lieu aujourd'hui le gouvernement nous dise et l'application et rgp des complets young et on utilisait ça un peu comme un label pour se défausser et pour dire tout va bien rien à voir alors que la protection des données personnelles est un des critères qu'il faut voir pour que une application ou une infrastructure ou etc soit vertueuse mais ce n'est pas la seule et donc toute cette question autour de l'éthique du numérique nenê n'est pas assez traité et nous ce qu'on s'est dit on à réclamer sur cette question on veut un vote à l'assemblée nationale un vote démocratique où la représentation nationale puisse avoir un débat qui soit transparent ouvert et qu'ils puissent voilà nourrir le débat dans l'opinion publique aussi et qu'ils puissent être être tranchée démocratiquement et le cas et que le gouvernement n'était pas obligée à le faire donc aujourd'hui le gouvernement peut décider tout seul de mettre en place ou pas ce type d'application donc nous c'était ça vraiment qui nous qui nous a fait tiquer entre guillemets et donc ce qu'on prépare en ce moment c'est une ppl donc une proposition de loi pour mettre un cadre ok donc pour mettre un cadre institutionnel dans lequel on puisse avoir des décisions démocratiques sur ces questions et donc non il ya plusieurs sujets qui ont été traitées lie à la question de ce top qu'ovide évidemment ya aussi la question de la reconnaissance faciale non c'est pas exactement le même sujet sur la reconnaissance faciale nous on avait demandé un moratoire jusqu'à ce que justement il puisse y avoir un débat de société sur le sujet à un moratoire sur les usages régalien et sur les usages dans l'espace public tous les usages d'identification des personnes dans l'espace public à leur insu et c'était parce qu'on était en train de vraiment regarder de près ce qui était en train de se passer en chine à hong kong les questions liées au crédit social toutes les dérives qui peuvent venir de la main de ces technologies par rapport aux manifestations aussi qui avait lieu à hong kong et on était assez pour la petite histoire assez 10 ont impressionné par aussi toutes les techniques de diversion qui qui ont émergé entre les manifestants kong est donc vous vous connaissez tous peut-être je sois wang et tous les dix on les combat qui l'a qu'il a menée mais on voyait tout un tas de de dothy de technique par exemple de maquillage de parasols de vêtements qui en fait faisait croire à la reconnaissance faciale qu' il y avait plusieurs visages qui est qui avait qui étaient présents et il y avait tout un dé façon aussi de en fait d'échapper à cette à cette reconnaissance faciale en continuant les manifestations aussi dans les espaces virtuels à travers des jeux vidéo par exemple et je sais que hugo êtes un gamer et qui connaît très bien ces espaces là et donc en regardant tout ça on se disait bon comment est-ce qu'on comment est-ce qu'on peut encadrer cela il faut d'abord avoir un moratoire faudrait peut-être qu'on est comme une convention citoyenne comme on l'a eue sur sur l'environnement mais sur le numérique pour qu' on puisse voilà en terme de société décider où est ce qu on place le curseur entre les libertés et parfois des comme comme on dit des combats qui sont très légitimes parce qu'on se dit on veut lutter contre une crise sanitaire on veut assuré lors de l'ordre public on veut lutter contre la fraude fiscale aussi quand on voit la contre caen le ministère des finances publiques veut aller chercher les données sur les réseaux sociaux des contribuables et c'est chaque fois on affiche vraiment une un objectif qui est louable mais qui du coup vient justifier un usage des technologies qui n'est pas réfléchi qui n'est pas contesté qui n'est pas problématiser donc voila nous ce qu'on veut c'est créer les espaces de discussion de société que soit la convention citoyenne que ce soit à l'assemblée nationale que ce soit en renforçant aussi les régulateurs les autorités indépendantes pour que voilà ces dérives ne puisse pas être mises en place de façon unilatérale et vous avez été rapporteur du projet rgp des vous estimez qu'il est respecté le rg en france où vous qui avait été rapporteur de ce texte pour la france qu'est ce que vous en pensez en quelques mots c'est une question piège je pense quand même que ce règlement est une grande avancée grande avancée il a mis en place des principes qui aujourd'hui sont très importants et sur lesquels on peut se raccrocher au niveau du droit au niveau de la jurisprudence ce soit le consentement que ce soit la portabilité des données le consentement explicite par exemple il est très peu appliquées finalement actuellement qu'est-ce que oui donc voilà je les grands principes ont été mis en place après voilà c'est cas par cas qu'il faut aller regarder et c'est une lutte une bataille de tous les jours en fait et moi j'avais déjà un peu perçu en tant que rapporteur ce risque parce qu on était très loin on était dans des grands principes on était très loin de l'application technique pratique quand on était en train de voter ce texte ce qui pour moi est nécessaire parce que le législateur doit faire des lois qui puisse durer et qui doivent être du coup technologiquement neutre donc c'était bien de rester à ce niveau là et au niveau de la gouvernance de l'institutional it et des grands principes mais donc moi ce que je m'étais dit c'est il faut qu'on donne aux citoyens les moyens de du coup mettre en oeuvre et faire faire respecter ces grands principes et donc j'avais beaucoup insisté sur la question de l'action de groupe et donc c'est ce moyen qu'ont les citoyens de faire appel à des associations et de façon collective de vraiment faire respecter les grands principes du rgp des et donc voila moi je crois que ce texte évidemment il n'allait pas se mettre en oeuvre du jour au lendemain parce que il concerne aussi énormément d'acteurs beaucoup de petits acteurs aussi qui parfois n'ont pas les moyens beaucoup de grands acteurs qui ont les moyens mais ne font pas les efforts ou essayent de contourner mais voilà ce que je pense qui est important c'est de créer à travers la loi les contre-pouvoirs aux géants du numérique et donc à travers notamment l'action de groupe tout ce qu'on a pu appeler avec sébastien soriano la régulation par la société on a écrit quelques articles là dessus et donc c'est comment tu donnes le pouvoir d'agir aux citoyens pour qu' il puisse au fil de l'eau faire respecter et se protéger contre les abus et les dérives hugo toi l'assemblée nationale qui a mené un certain nombre de de combat sur tout ça quel a été ton état d'esprit pendant le confinement par rapport à toutes ces thématiques de la surveillance et tu mènes ces combats depuis très longtemps pour nous à l'assemblée merci à toi qu'est-ce qu'est ce que tu penses de tout ça c'est clair que la problématique était mise en exergue pour le grand public finalement avec l'application stop qu'ovide cela il ya eu un grand un gros débat et une montée en puissance médiatique tout le monde a entendu parler de cette application est à puce dire ouais ce que vraiment je vais être suivi est ce que le bluetooth c'est quoi le bluetooth d'ailleurs comment ça marche bref des trucs que personne ne s'était jamais posé comme question était mis sur la table mais il faut bien se rendre compte que la question du numérique du fichage et des données personnelles elle est effectivement très régulièrement présente à l'assemblée nationale et le r gpd n'est finalement qu'un élément parmi tout un tas d'autres est d'ailleurs un élément compte ou le gouvernement l'a fait je vais dire sous la contrainte mais sous une certaine forme de contrainte puisque c'est une spin directive européenne et qu'il était obligé de de la transposer et d'ailleurs à l'époque je tente relire mes mes notes les notes de l'époque qu'on ait faite sur le texte de loin le coup le conseil d'état la cnil elle même avait dénoncé un projet de loin écrit dans la précipitation et à chaque fois c'est toujours pareil quand il ya un texte à transposer on attend toujours les 34 derniers mois à l'est puis après on le dit dans l'hémicycle oui mais bon vous comprenez bon je n'aurai pas la rapporteure de l'époque mais vous dites vous comprenez il faut le voter parce que sinon à prendre et on n'est plus dans les clous et une petite menace en permanence pour ne pas faire quoi pour ne pas sûr transposer ses dires ne pas se poser ne pas aller au-delà de la réflexion que nous impose un cadre législatif et réglementaire européen bon on va avoir la même problématique et c'est pour ça qu'on avait pris les devants à l'assemblée nationale petit aparté sur la question des lanceurs d'alerté de la protection des lanceurs d alerte puisque la transposition doit être faite avant fin 2021 et donc on a fait une proposition de loi l'année dernière vous emballez on y va quand on commence à bosser sur le sujet vous allez leur toque et mais au moins on se sera pris la tête avant un an et demi à vendre après avoir dit les associations du secteur des lanceurs d alerte et se forger une opinion et pas dû subir la temporalité qui nous est imposé donc déjà ça c'est un premier point et puis parce que là en fait le numérique ça a été pour moi en commission des lois tous les textes qui ont trait au terrorisme contre et au traitement des données de masse le dernier en date a été la preuve voilà la prorogation des dates de la loi renseignements de 2013 si le panier tease celle là est celle de sueur de 2015 sur les boîtes noires cercle des éléments technologiques qu'on met à certains endroits qui captent 100% des données qui transitent par là et donc on nous avait fait voter ça encore une fois la va-vite à l'assemblée les ans mais croyez-nous sur la bonne foi des services de renseignement donc déjà bon vous en savez rien quoi c'est les services de renseignement donc bon on nous demande de nous prononcer sur des trucs dont on n'a pas en connaître dont on ne peut pas en connaître et on vous dit si si c'est très utile et c'est heureusement il y avait un rapport confidentiel qui a fuité donc il était plus lent confidentielle et un article du monde qui expliquait que ces boîtes noires positionner en fait avait servi à créer 0 dossiers opérationnels le lutte contre le terrorisme voilà voilà ça ne me dit pas à quoi ça sert le but servir d'autres mais en tout cas l'objet initial qui était de lutter contre le terrorisme est à néant pareil sur le tu as parlé par là sur l'article 57 du projet de loi de finances est ce que vous saviez parce qu'ils ont vraiment regarder à l'époque qu'on a voté un article dans le dernier projet de loi de finances qui permet à bercy de collecter 100 % des données publiques individuelles les uns et des autres sur les réseaux sociaux et de les conserver pendant 30 jours et qui est au courant de sa levée la main oui c'est pour ça que vous venez à la conférence de toute façon mais quand même extrême une extrême minorité déjà d'un milieu militant qui est connaît un peu les situations et qui devrait dire ah non c'est trop énorme quand même c'est le député êtes en train de me dire que bercy peut garder ce que je mets sur facebook si j'ai mis ma photo et que j'ai rêvé pas réglé les paramétrages de sécurité et qu'elle est publique ils peuvent la garder pendant un mois mais pour en faire quoi ça rejoint en vacances voilà allez on leur avait dit à l'époque d'ailleurs mais attendez c'est pour lutter contre la fraude fiscale vous faites ça j'ai vous tous que mais vous savez que les riches il faut pas desservis sur leur yacht comme ça et qui met pas ça sur facebook dont quelques-uns mais c'est quand même et c'est extrêmement rare il ya des exemples a quand même parce qu'on m'a sorti des exemples du coup de riches qui fait de cette fissure le riot et qui mettait sur instagram c'est quand même pas la majorité des gens qu'on a qu'on a attrapé quoi et donc on est bien dans cette logique l'un qui a déjà innervé complètement bercy dans la lutte contre la fraude fiscale puisque eux mêmes ont en retirant des effectifs de contrôleurs fiscaux ont mis en place et développé massivement ce qu'il appelle le datamining juste un croisement de différents types de fichiers déjà interne à l'administration pour par échantillonnage et par probabilité de risque on va dire ça se vend vont et c'est à dire va lui une très forte probabilité d'être d'être délinquant ce qui fait qu'on ait pu même plus sur un traitement exhaustif au fait même plus haut confiance au renseignement humain qui lui avait une certaine qualité aussi par delà les algorithmes donc cette question ni mais qu'elle n'est pas juste pour le rg pdo stop qu'ovide elle est aussi pour l'art matière fiscale à leur matière de terrorisme allait en dans tout un tas de matière et puis on voit bien que à la fin quand on a la fin du fin cette question des données personnelles n'est pas une question de liberté individuelle pour le pour les capitalistes ce n'est pas une question de libertés individuelles s'est éventuellement une question de libertés individuelles on y fera attention dont dire rassurez-vous bien sûr que ne le prenne en compte la dimension des libertés individuelles il s'agit pas pour nous de les remettre en cause à la fin l'objectif concret c'est que c'est devenu un marché énorme enormissime et que vous pouvez faire beaucoup beaucoup beaucoup beaucoup beaucoup d'argent dans le traitement et le retraitement des données par le personnel était libérale pal entière mais on l'a vu alors beaucoup moins avouables parce que pas forcément dans les clous de la réglementation mais il ya le scandale de cambridge analytica où on voit comment pousser à l'extrême les données personnelles peuvent même influencer l'opinion d'un pays en vue d'une élection d'une élection majeure donc il est clair que ça doit toutes et tous nous concerner est ce qu'il faut bien se dire c'est que c'est pas parce qu'une technologie du n'est ce pas parce qu'une technologie et opérante fin géré chaos qu'on sait la mettre en oeuvre quel est souhaitable a premièrement il ya plein d'exemples dans l'histoire donc pas faire la liste mais ça c'est le premier point et deuxièmement quand quand on vous dit que c'est une technologie qui est développé dans un but particulier dites vous bien que bien souvent cette technologie peut être utilisée en réalité en toute matière et que c'est souvent la première étape pour l'élargir et ça a été systématiquement sein le sens de l'histoire des libertés fondamentales liberté individuelle en matière pénale tout court et en matière numérique aussi et on suit exactement exactement la même logique donc à l'assemblée oui on a essayé de de porter des contre arguments qui nous semblaient de bon sens de bonne foi sans qu'il puisse arriver à terme évidemment et je me souviens que sur la question qu'on avait eue en rond c'est et j'ai participé aux débats sur le gpd on s'était pas embrouiller en soit sur le fond de dire ils font contre les algorithmes et c'est globalement on peut se dire que ça allait dans le bon sens et que c'était une protection supplémentaire là où nous on a été gaspillé dans l'hémicycle je pense que on s'en souvient réciproquement c'est sur la question des moyens de l'application du droit qu'on met en oeuvre je veux dire un droit sans moyens ok c'est cool quoi mais à quoi ça sert et d'ailleurs l'immense la grande partie de combats syndicaux aujourd'hui compris dans les entreprises il se bat pour faire appliquer la loi et d'ailleurs ils espèrent avoir en renfort à ce moment là qu'ils l'inspection du travail il se rend compte qu'il ya vu personne qu en plus s'il y en a un qui pointe le bout de son nez et qui est homme qui peut se faire mettre à pied confère la conférence sur anthony smith mon bref conte pour saluer coup soutient donc on voit bien que c'est pas un sujet annexe que discuter des moyens de la cnil quand on vote le texte sur leur gpd je suis justement sur cette question là est ce que toi tu estimes hugo que par exemple la cnil qui a quand même reçu beaucoup plus de pouvoir depuis le rg pds que tu estimes que la cnil est sous dimensionné par rapport à ces impératifs à son rôle à son rôle de veille aussi à travers les entreprises etc sachant que falque pierrotin qui était l'ancienne présidente de la cnil avait déjà lancé des signaux d alerte sur ça oui oui c'est la cnil et comme beaucoup d'autres administrations en réalité et je pense au défenseur des droits par exemple à qui on a refilé par exemple un exemple de ça vous autant de parler éventuellement de la déontologie des services de sécurité des forces de sécurité la police voilà le défenseur des droits a eu cette mission qui lui a été donné en 2016 si le palu tease pour pour faire en sorte que vous n'êtes pas obligé de vous plaindre que à l'igpn peut aussi envoyer un signalement au défenseur des droits et il a eu des suites de cette mission la 1e tpt en plus un équivalente emploi un emploi quoi alors ils se sont organisés en interne n'y a pas qu'un type qui fait ce à quoi mais mais c'est n'importe quoi et la cnil c'est pareil en fait la cnil a eu des compétences qu'on cessé de s'accroître avec des moyens qui sont pas bons donc effectivement derrière je comprends qu'on veuille se dire il faut renforcer la capacité de des citoyens de se faire l'administration eux-mêmes pour rajouter quelques chiffres là dessus aujourd'hui la cnil française à 200 effectifs et la cnil allemande et la cnil du royaume uni ont 700 effectifs donc c'est un peu pour comparer voilà pour voir à quel point on est toujours un peu à la traîne sur ce sujet alors peut-être dernières questions et interventions très rapide benoît pas on a beaucoup parlé notamment tout à l'heure de d'entreprises et de chiffre d'affaires autour de tout ça est ce que toi tu estimes par exemple qu'on évolue dans un capitalisme de surveillance aujourd'hui basse et c'est la définition exacte du fonctionnement des entreprises multinationales avec lesquels traite la plupart des citoyens aujourd'hui au niveau numérique c'est le fonctionnement de facebook le fonctionnement de google c'est la surveillance dans un objectif de capitaliser de d'augmenter leur mainmise sur la connaissance d'augmenter la puissance des algues au qui vont utiliser pour faire du traitement donc avec des réseaux de neurones permettant de classiques de faire de la classification sur les populations puis de fournir des outils qui vont utiliser cette connaissance derrière donc principalement chez google et chez facebook ça va être de la vente de publicité ce qui n'est pas forcément le truc le plus intéressant mais qui rapporte je crois que c'est 95% du chiffre d'affaires de facebook s'est sur la publicité donc majoritairement cible et quand quand même quand on a choisi de ne pas être ciblés par la publicité en fait il continue d'ailleurs c'est pareil j'ai déposé une plainte auprès de la cnil sur ce sujet là je n'ai aucune nouvelle pour le moment donc la question du la question du budget de la cnil et de et de son efficacité est vraiment un sujet extrêmement important sur sur ce débat là mais oui en effet les entreprises aujourd'hui travaille énormément sur cette question là on a un sujet aussi autour de la de la reconnaissance faciale aussi autour de cette question de données personnelles aujourd'hui on pose la question de savoir quelle est la légitimité de l'usaj de l'ensemble des outils de reconnaissance faciale à la quadrature parce que tous ces outils là ont été entraînés avec des données on parlait de clear view on se tape avec clear view en introduction mais en fait l'ensemble des algorithmes qui utilise la reconnaissance faciale utilise dévier des visages qui ont été récupérés à droite et à gauche pour faire des entraînements clé review eir il se targue d'être le plus puissant d'avoir la base de données la plus importante en ayant récupéré toutes ses données personnelles à peu près n'importe où sur des endroits où elle a absolument aucune aucun droit de le faire et pourtant elle vend ses ces outils à des autorités qu'ils attaquent pour la l'origine des données qu'elle a capté donc il ya une espèce de dissonance cognitive a su à ce sujet là entre des entreprises qui capte le maximum de données personnelles pour faire des bénéfices monstrueux et qui m'aiment l'utilisent contre la démocratie on disait quand on parle de cambridge analytica c'est ça c'est vraiment ces entreprises vont à l'encontre de toute idée démocratique en faisant de la manipulation personnalisés alors on peut dire à cavan fin ou dans un monde habituellement habituel politique qu'on a on fait de la manipulation de masse avec avec des spots publicitaires des choses comme ça mais là on atteint un niveau d'un niveau de précision de la manipulation des masses qui est jamais atteint et qui n'est pas autorisé paquin et permis plutôt qui n'est pas autorisé mais qui est permis par la captation d'énormément de données personnelles et c'est pour ça que nous ce qu'on pense c'est que avec une réelle application du rgp dès aujourd'hui s'il était réellement appliquées dans les règles avec avec l'équivalent de la police qui soit et qui soit pas une dizaine de d'enquêteurs de la cnil capable de gérer les je crois que c'est trente quatre mille plants de parents géré par les déposer auprès de la cnil ce qui est évidemment impossible à gérer en fait ce qu'on demande c'est que ce soit réellement appliquée est la conséquence c'est la chute c'est la disparition en fait de ce type d'économie cette économie ne peut pas vivre avec alors gpd réellement appliquée juste peut-être questions et réactions très rapide benoît mais est ce que le r gpd finalement d'une certaine manière c'est pas un règlement qui légitime aussi l'exploitation mercantile des données personnelles c'est à dire vous pouvez exploiter les données personnelles dans le cadre d'une entreprise si vous respectez ça ça ça et ça est ce que finalement l'idéal ce serait pas d'arrêter tout simplement une quelconque exploitation et un quelconque profilage c'est un peu vrai oui oui le 1er gp dès le principe du rgp des c'est d'autoriser la circulation des données en échange en effet d'un certain nombre de conditions et légitime et légitime l usage de ces données c'est autorisé finalement qu'elle soit qu'elles soient utilisées à des fins qui sont les plus à l'est plus et les plus inacceptables alors bon ça on veut on peut dire ça ce que disait paola tout à l'heure sur le fait que ça avait été quand même on avait posé des bases on avait posé des principes c'est aussi très important nous on avait un peu analysé le verger en camp quand il était sorti on en était quand même arrivé à la conclusion que entre 70 et 80% du texte étaient déjà présents dans les textes avec les règlements français déjà 2 qui avait été votée en ce sens 18 avec la création de la cnil il y avait déjà énormément de choses qui étaient dans la réglementation française et qui en réalité n'était pas n'étaient pas mises en place elles n'étaient pas respectées quand les entreprises sont venues pleurer sur les épaules des médias du gouvernement en 2018 en dix ans mais vous êtes en train de nous tuer on peut pas on va pas pouvoir survivre au large et en fait nous on était juste scotché parce qu'on était là mais ça veut dire que vous ne respectez pas la réglementation depuis 40 ans en fait c'est ça qui se passe et est donc ça c'est ça c'est juste aussi c'est juste inacceptables on va passer à la si j'avais jamais aussi enfin sur sur la question de la reconnaissance faciale aussi c'est pour ça que le fait de laisser des réglementations et c'est pour ça que le moratoire qui avait proposé par la faim ou en groupe nous nous semble pas acceptable non plus et d'ailleurs on reparlera aussi des moratoires proposé par un certain nombre d'entreprises nous nous sur la luzège la reconnaissance faciale nous paraît pas acceptable et nous on demande l'annulation et enfin l'interdiction totale de l'usaj de la reconnaissance sociale au moins dans les usages urbains et et policiers parce que justement autorisé cette reconnaissance faciale c'est permettre qu'elle soit utilisée de n'importe quelle manière et le moratoire arrêtera personnes là dessus juste là dessus parce que voilà nous aussi on fait de la politique donc un moratoire c'est juste la façon de dire arrêtons tout tout de suite et puis posons des bases et faisons le débat à l'assemblée nationale qui va avec passons des textes de loi et faisons des interdictions si nécessaire nous inde et sur sur cette question un des sujets qu'on avait voulu mettre en place j'ai travaillé pendant que j'étais rapporteur de la mission identité numérique kim a été retiré depuis parce que j'ai quitté la république en marche mais je travaillais sur cette idée de mettre en place un droit à l'anonymat est en fait de plus en plus on se rend compte que aujourd'hui dans le passé quand il avait pas cette technologie qui existe et on pouvait marcher dans la rue sans que personne de façon complètement anonyme et on n'avait pas à dévoiler notre identité si on ne faisait rien contre la loi c'est à dire qu'un policier dans la rue venez nous voir et n'avait le droit de nous demander nos documents d'identité que si on avait fait quelque chose de mauvais aux yeux de la loi aujourd'hui avec ces technologies si on ne les réguler pas si on n'interdit pas si on n'est pas assez stricte on pourrait voilà reconnaître les gens à leur insu partout en tout temps et c'est ça qui est vraiment extrêmement dangereux et donc nous on voulait mettre en place un prêt de droit à l'anonymat qu' après pouvait se décliner aussi en ligne sur le pseudonymat le drop ce dernier en allemagne c'est le cas aux etats-unis c'est le cas donc en france on est assez en retard là dessus et donc c'est cet angle là nous on voulait avoir le temps c'est pour ça qu'on pose un moratoire pour travailler sur le cadre juridique donc on va dans le même sens mais voilà mais me tuer quand l'idée l'idée de faire un moratoire est de dire on va pouvoir discuter on va pouvoir mettre en place des règles en fait ça permet aux entreprises les plus puissantes les plus proches du pouvoir politique ou les plus puissantes en termes de juridique de passer outre de dépasser ça et tu vois pas le droit à l'anonymat on a eu un exemple assez assez marrant à nice où donc on va repérer la présence de masques sur le visage des gens qui passent sur la promenade des anglais et si vous ne sais si tu ne veux pas être surveillés par la lgo tu fait non de la tête tu vois enfin c'est le genre de réponse que les entreprises ont maintenant et c'est bon c'est bon en fait alors comment tu sais d'une caméra à l'autre que sur la précédente avait fait non de la tête tu vas faire non date est à toutes les caméras que tu rencontres ça marche pas en fait et ces entreprises vont répondre non mais c'est bon on est rgp des compliant c'est bon sachant que le rgp des demandes enfin fait passer la responsabilité de la légalité de ces algues au et de dessous ces traitements sur l'entreprise elle même et non pas sur la soie d'apporter la preuve qu'ils sont qui sont légaux il faut aller vérifier faut qu'il y ait une enquête qui soit mené pour que pour vérifier si vraiment ils sont cons plaignante et donc c'est là où c'est un problème et d'ailleurs je rappellerai d'ailleurs que le conseil national numérique nous avait aussi proposé d'aller discuter d'aller travailler sur une législation autour de la reconnaissance faciale ou nous on avait refusé d'y aller parce que c'est clairement lequel le genre de cas où on dit c'est beaucoup trop dangereux ce sont des technologies beaucoup trop de choses elles ne peuvent pas être encadré on se retrouvera forcément avec des entreprises ou des la manière dont la loi va être écrite qui va être comme le r gpd avec les entreprises qui arrivent et qui dix ans mais c'est l'intérêt légitime donc j'ai un intérêt légitime de conserver vos données mais juste sur sur la question de la reconnaissance faciale ce qu'il faut aussi que les gens arrivent à intégrer c'est que c'est aussi un exemple typique de de surenchère technologique c'est à dire on avait d'abord la caméra basse définition puis la caméra haute définition la caméra rotative la caméra infrarouge et c est donc avec le temps comme le grammage de l'image s'améliore on peut implanter implémenter des technologies de reconnaissance faciale est ce qu'il faut bien comprendre c'est pourquoi est-ce qu'on a appliqué de préférence la reconnaissance faciale plus tôt par exemple l'empreinte digitale ou l'empreinte rétinienne et c'est pour une raison particulière c'est que l'empreinte de votre visage est un signal que vous en voyez tout le temps sans votre consentement et c'est là où la question de la reconnaissance faciale est une vraie question de cristallisation de l'ensemble des débats que l'on porte alors on va on va essayer de terminer sur des questions de solution très rapidement parce qu'il faut laisser la place au 6e aux questions des gens qui à mon avis seront nombreuses donc juste sur des questions de solutions en une minute chacun ça va être un exercice très tendu quelles sont les pistes de solution vous pouvez a lancé je vais d'abord me tourner vers sa loi oco qui pour elle aussi une des réponses et la question éducative c'est d'éduquer les gens et juste avant comme ça je lâche le micro et je vous laisse une minute chacun comme ça je le dit benoît il me semble aussi que ibm est devenue une société respectable depuis quelques jours puisqu'elle veut un moratoire sur la reconnaissance sociale c'est bien ça non on va on va y revenir et tu vas donner ta té solution en même temps pas tout de suite non mais pour conclure enfin conclure si on peut si on peut conclure sur sur la reconnaissance faciale une des raisons pour lesquelles nous on avait accepté au senim de travailler c'est aussi parce que c'est un peu le jeu c'est voilà on est sollicité donc le jeu c'est aussi d'y aller et de travailler et pour la petite histoire là la temporalité qui nous était imposé par les différents acteurs en fait qu'ils étaient réunis sur ce sujet ne nous convenait pas donc on nous sommes retirés au final de ceux de ce groupe de travail à mon plus grand désarroi parce que lille pour moi il était important et intéressant de pouvoir véritablement être en capacité d'aller interroger oui adp qu'est ce que vous voulez vraiment faire avec la reconnaissance faciale la sncf qui étaient des acteurs en fait les acteurs économiques qui s'étaient investis dans ce dents dans cette réflexion à la demande du du du world economic forum après d'un point de vue tout à fait là personnel puisque deux coups le ceni n'a pas posé d'avis donc je ne peux pas parler pour l'ensemble du conseil mais d'un point de vue personnel moi en tant que personnes dont femme dit aussi de la diversité dont noir de peau c'est son destin qui ne marche pas sur moi et je me suis fait jeu et j'ai jamais été en fait victime à l'aéroport de paris avec paraphe par exemple donc de toutes les manières la question que d'une manière générale en fait que moi je me pose ça m'a mené à la question de la solution c'est pourquoi pourquoi nous sommes nous plus capable aujourd'hui en tant que société en tant que citoyen de demander et d'exiger quelles sont les finalités véritable en fait de ces technologies qui sont proposés qui sont testés qui sont utilisés dans notre école et qu'on nous permet en fait d'utiliser ou qu'on nous permet d'utiliser au quotidien pour des questions sur la question passante de l'empreinte de l'ange juste par rapport à une technologie l'empreinte digitale si vous pouvez acheter sur amazon aujourd'hui un système pas plus de 30 40 40 euros un système que vous installez en fait à côté d'autres sonnette et qui vous permettra de pouvoir en fait de donner la possibilité de donner accès à votre logement aux personnes votre personne par exemple de d'entretiens avec leurs noms leurs empreintes digitales donc vous pouvez vous pouvez le faire donc c'est une vraie en de base en soit c'est totalement illégal s'est vendu s'est vendu donc pour moi en fait une des meilleures solutions et des premières solutions c'est que nous exigions en tant que citoyen et c'est ça et ça aussi c'est un deschamps sur lesquels j'ai essayé d'oeuvrer au sein du conseil national du numérique c'est comment est ce qu'on fait monter en compétences les capacités de compréhension et d'éducation de la population sur ces outils tout simplement comme on l'a fait quand il quand la voiture est apparue la voiture est arrivée super outil de soupe un super moyen de 2,2 de nu de dos de circulation sauf qu'à un moment donné si on sait pas s'en servir on tue des gens donc on instaure un permis donc on demande aux gens de venir suivre une formation pour comprendre comment fonctionne l'outil qui vont avoir entre les mêmes qui se ferait dans le cadre de la scolarité par exemple qui serait dans le cadre de qui serait dans la cadre de la sonorité qui pourrait être dans le cadre aussi de se plaindre de te plains d'autres de plein d'autres systèmes mais avant tout et d'abord de toutes les façons dans le cadre le thé la scolarité parce que l'enjeu aujourd'hui en vrai je vais vous le dire l'enjeu c'est pas nous aujourd'hui nous ça y est c'est fini c'est le c'est mort c'est trop tard on va on va discuter de ces sujets là pendant les quinze vingt trente prochaines années sans âme jamais vraiment trouvé de solution le problème c'est la génération qui arrive qui elle doit être éduqué qui elle doit être informée qui elle doit comprendre ce qu'elle a entre les mains dans quel futur elle va vouloir évoluer et qu'est ce qu'elle voudra comme futur technologique ou non écologiques ou non dans lequel elle souhaiterait évoluer et c'est à nous responsables adultes de pouvoir leur donner les capacités de se former de pouvoir comprendre peut-être même d'inventer de trouver de nouvelles solutions et ça c'est un de mes premiers de mes 2 mai premier regret vous êtes tous plutôt ici présents et j'en sais j'en suis et j'en suis ravie plutôt informer j'aurais préféré avoir des personnes qui ne sont absolument pas informés qu'ils viennent à ce type de conférence il est là notre enjeu allons chercher ceux qui ne sont pas informés ceux qui ne comprennent pas allons chercher les jeunes réunis sont les jeunes et travaillons avec eux tu es tilus tik tok ok montre - comment tik tok marc et moi je vais te montrer ce qu'il ya derrière et ça c'est ce que je fais dans le cas de mon association become tech mais uniquement auprès des filles parce que pour moi l'avenir il est chez les filles [Rires] rapidement ouais plat toi comment est-ce que tu conçois en une minute ouais parce qu'il faut aussi compter les gens posaient la question quelles sont les pistes de solution renforçait rgp dé renforcer les moyens à moratoire un référendum d'initiative citoyenne bon il ya plein de pistes de travail sur via le droit de la concurrence on peut interdire le microciblage la transparence des algorithmes c'est extrêmement important bon il ya plein de pistes de travail chacune d'entre elles pour mériterait des heures et des heures de débat mais je voulais revenir un peu sur cette question de tactique parce qu'on a toujours ce sont ces mêmes discussions avec la quadrature où elles sont beaucoup plus ambitieux peut-être principe yale principe est que moi est moins sûr sur le principe je suis d'accord mais ce que ce que j'essaye de faire au niveau politique c'est de construire du consensus et donc de commencer par dire qu'est ce qui peut susciter le plus de consensus pour acheter du temps par exemple l'idée du moratoire c'est de s'acheter du temps aujourd'hui on pourra pas interdire la reconnaissance faciale du jour au lendemain tu aura jamais une majorité pour décider ça aujourd'hui c'est impossible donc tu peux afficher cette propre cette position mais tu seras minoritaires pour toujours dans l'an 2000 m de long pour voilà de leur pouvoir c'était la même stratégie qu'on avait eu sur ce top cow vide on s'était dit qu'elle est voilà la position qui peut fédérer un maximum pour nous acheter du temps et pour générer le débat est donc c'était de se dire il faut au moins que cette question elle soit débattue à l'assemblée nationale et qui est un vote est donc là dessus on pouvait fédérer un maximum de députés qu'ils soient pour ou contre l'application personnes pouvaient dire on refuse le débat est donc déjà ça ça faisait je crois que voilà le fait que les citoyens n'aient pas télécharger l'application montre que que le débat ait été portée au niveau de l'opinion publique a eu un résultat parce qu'il ya eu un manque de confiance parce que les gens ont compris ce qu'il y avait derrière et c'est très bien mais remercie beaucoup hugo toit plus une question de moyens en termes de solutions pour remédier à tout ça en une minute tes principales priorités ça serait quoi moyens quoi d'autre déjà il faut ya des interdictions imposées et donc une fois qu'elles sont posées il faut qu'on puisse les faire respecter c'est sur le même débat effectivement donc il faut qu'ils aient des moyens pour pour tout ça mais sur la question de l'éducation et de se dire il faudrait que tout le monde soit fort mais je pense que tout le monde il est même les vieux ont le droit d'être formé un jeu des trucs très sincèrement mes mais c'est clair qu'on on pourrait imaginer qu'il y ait bien plus de cours à l'école en primaire et secondaire sur les droits on a et comment les exercer parce que moi qui me suis mis à suivre les textes sur la justice sans être un avocat né juriste ni quoi que ce soit je me suis formé sur le tas et je le 6 mai tous les citoyens devraient savoir comment ça fonctionne un tribunal comme on dépose plainte ce qui se passe derrière enfin je passais par être démocratiquement plus sain d'être au courant quoi et finalement non c'est confisquées à des spécialistes est ce qu'il faut dire aussi juste pas combien combien de deux participantes et participants là aujourd'hui dans la salle sont venus en disant j'y connais rien et j'espère apprendre quelque chose est ce qu'on a dans la salle là qui sont venus en disant j'y connais rien j'espère apporter quelque chose bon ben voilà il y en aura quand même qu exane on n'a pas fait ça pour rien non mais et donc c'est c'est important de 2,2 de se dire qu'on va déployer et mettre tout en oeuvre pour qu'on puisse y arriver et je sais pas innocemment que je veux parler de la justice et se conclue juste là dessus on l'a vu quand on a pondu des lois qui servent air pas grand-chose à sur les fêtes news qu' à la fin on créait un machin qui y compris ingérable pour l'institution judiciaire qui n'est pas capable de recevoir et traiter les plaintes encore à un moment où le citoyen badens dans le circuit va se retrouver confronté un truc qu'on va lui dire va coûter à ba oui on vous a volé vos données personnelles mais il ya quatre ans et oui c'est bon on l'a condamné il doit voulait rendre bon je caricature mais c'est un peu de s'habiller quand même du coup de l'effectivité de ce qu'on raconte c'est quand même déterminant et poser des interdictions ça me semble déjà être beaux points depuis benoît une des pistes de solution est ce que ça passe pas par essayer de passer d'une infrastructure centralisée orientées sur des grandes plateformes des grands gaf a des grandes système comme on l'a vu aussi le système prisme avec la nsa et snowdon c'est un peu basée sur ça c'est à dire une centralisation de la donner une matrice pour classer à sa manière on est très dépendant des gars femme de facebook et c'est sur ce système là est ce qu'on ferait pas mieux de revenir à un système décentralisé et plurielle finalement tu veux pas que je parle d' ibm d'abord si tu veux vas-y tu m'a lancé depuis tout à l'heure donc oui vous avez peut-être vu que récemment ibm et d'autres entreprises comme amazon ont dit bon alors on va faire un moratoire sur les sur la reconnaissance faciale regardez on est gentil on est on est pour la protection des données personnelles donc nous on a écrit un article dessus pour dénoncer un peu ce positionnement politique d des entreprises qui s'achètent qui s'achètent de l'éthique en fait en vente c'est en prenant ces décisions là alors on est dans une période un peu particulière sur la lutte contre le racisme par exemple aux états unis beaucoup et qui est un peu parti dans le reste du monde et comme comme disait sa loi tout à l'heure on a on a des billets raciste absolument incroyable de danser dans ces outils là mais pas seulement on a même on a même des outils qui ne fonctionne pas les endroits dans lesquels ils ont été testés on est en droit en france dans lesquels la vidéo ce qu'on appelle la vidéo surveillance automatisée a fait ses premiers pas c'est ce qu'on dénonce ce qu'on dénonce dans la campagne au technopolis est en fait le les conclusions de ces de ces tentatives sont qu'en fait ça marche pas bien donc ces entreprises ont beau jeu d'aller dire bon on va on se met en retrait on va faire un moratoire de quelques 2 1 ou 2 ans là dessus en fait c'est entre autres parce que ça ne marche pas bien ensuite il ya aussi que en fait un peu n'importe qui aujourd'hui peut récupérer des librairies qui font de la reconnaissance faciale et faire finalement lors leur outil de reconnaissance faciale vous avez plein de start up qui se lance sur sur ce domaine là donc c'est un domaine qui est qui vient extrêmement concurrentiel et ces entreprises n'ont pas forcément vocation ibm ou amazon a risqué une image de marque face à plein de petites start-up qui se propose de faire exactement la même chose d'ailleurs du contrôle de la population vendre des outils à eau police qui vont aller surveiller faire de la police prédictive ou des choses comme ça en risquant eux mêmes leur image de marque donc ça c'est aussi des choses ensuite ils demandent pas seulement un art est talent de la surveillance juste comme ça ils montrent surtout un encadrement juridique c'est ça quand ils s'adressent à considérer sa l'état américain en disant bon bah nous on va arrêter on va se stopper arrêter d'utiliser nos outils parce que quand même vous les utilisez mal ça prend c'est eux qui les ont vendus avec 7 avec le même objectif de service de la population ils disent mais donnez nous les outils pour encadrer l'usagé de ces technologies de reconnaissance faciale fin biométriques de surveillance de la population et donc c'est aussi ça c'est aussi cette question là nous qui nous pose beaucoup de problèmes parce que ces entreprises attendent qu'on leur donne les règles pour mieux pouvoir encadrer donc voila et puis et puis pensez c'est finalement que c'est finalement que sans la reconnaissance faciale qui font ça et puis ils ont pleins d'autres outils de surveillance de la population typiquement la police prédictive aussi dont je parlais qui continuent à vendre en réalité derrière voilà donc ça c'est sûr ibm il a sauvé la décentralisation alors donc oui il ya plein de comm comme disait mais les précédents un interlocuteur il ya plein plein de pistes en réalité pour résoudre vous répondre aux problèmes dont on parle là de surveillance il ya en effet arrêté de centraliser les données dans des espèces d' énormes silos d entreprise gigantesque qui vont qui vont récupérer des informations partout donc s'est arrêtée de travailler avec google a été trahie est qu avec amazon microsoft et autres qui vont centralisée de la donne est donc faire plus tôt du low tech sur des petites entités donc il ya il ya une association qui s'appelle framasoft qui a poussé à l'existence de chatons donc des petites associations ou petites entreprises qui proposent des services plutôt locaux locaux et qui sont des solutions très intéressante pour éviter de mettre tous dans un même dans un même si l'eau est ce qui est ce qu'on appelle un pot de miel c'est un onni potes qui fait que une fois qu'on a énormément donné on veut faire plein de choses avec 11 il attend qu'on l'a autant qu'on l'a sous la main allons-y faisons de la recharge dessus enrichissons des réseaux de neurones et allons voir un peu ce qu'on pense qu'on peut faire avec donc ça c'est une des solutions et à la quadrature du net on a proposé une solution qui s'appelle l'interopérabilité l'interopérabilité c'est un outil c'est une manière de travailler en permettant que les différents services se parlent les uns les autres serre que facebook qui essaye au maximum de vous conservé dans son propre écosystème ma soient obligés de discuter avec d'autres écosystèmes salaires d'autres outils d'autres réseaux sociaux qui veut autoriserait à vous inscrire donc ailleurs mais à dialoguer avec des gens qui sont sur facebook et avoir ce qu'ils publient mais pas seulement facebook instagram et autres et autres outils comme ça donc ça c'est quelque chose qu'on pousse et qui permettrait aux gens de sortir de ces silos de d'extraire leurs données et de paix et de pouvoir travailler avec à des plus petites structures et donc d'éviter comme ça de de mettre leur endroit à la leur a donné il ya des gens qui du coup comme je suis plus obligée d'être sur facebook que je suis plus captif de facebook facebook a beaucoup moins d'intérêt pour moi et j'ai faibli facebook en ce sens là c'est ça que tu veux dire c'est ça c'est ça alors facebook et à d'autres cordes à son arc évidemment il ya tout un tas d'outils qui sont à l'intérieur des pages de sites web qui acceptent de travailler avec facebook en mettant les petits pouces sur les pages ou des choses comme ça qui permet de lui apporter de la donner google c'est pareil par exemple les gouvernements français mais des captchas google lancé dans ses applications donc ça c'est encore à portée de la donner à facebook ou des vidéos youtube à l'entrée quand on doit se connecter sur le site des impôts par exemple c'était il ya deux ans il me semble sur l'arrivée de l'impôt à la source donc été obligé de regarder une vidéo sur youtube donc en fait ils avaient des informations sur tous les gens qui se connecter sur le site des impôts ce qui est très particulier voilà et donc ça c'est aussi c'est aussi d'ailleurs un sujet c'est que le gouvernement français sur les marchés publics l'argent public cesse de travailler avec des entreprises multinationales de renforcer finalement leur pouvoir sur sur le sur le monde sur l'est sur les données sur les outils que si demain les élèves travaillent avec du google docs par exemple bah ils auront l'habitude d'utiliser du google docs et puis et puis quand ils seront adultes ils utiliseront du google docs et c'est pas forcément le rôle de l'éducation nationale de les pousser à travailler avec des outils microsoft google et autres mais plutôt de travailler avec des outils qui sont et qui font partie de l'éducation dont on en parle et ça doit tout à l'heure et qui est de en fait de les éduquer dès le plus jeune âge pas seulement en leur disant voilà comment on code trois lignes de code pour aller pour arriver à faire allumer une lampe mais aussi de savoir finalement qu'est ce que c'est que la réglementation qu'est ce que c'est que les données qu'elles elle risque à les laisser et que y ait une conscience à une conscientisation qu'ils soient faites de ce que c'est que les données personnelles du pouvoir que ça donne sur les populations ça renvoie se cotisait sa loi sur la question de l'éducation chloé pour terminer toi qui as une vision sur vraiment l'union européenne et le continent européen lui-même comment est-ce qu'on mène cette bataille de contrôle et de maîtrise des technologies de vie de surveillance numérique à travers l'échelon européen sachant qu'en fonction des régimes fin des des pouvoirs politiques en place on voit qu'en pologne on n'a pas la même réaction qu en autriche qu'en france qu'en espagne et cetera on voit bien que l'union européenne a été complètement morcelé dans sa politique de confinement déconfinement etc comment est ce qu'on arrive à faire un front commun numérique sur toutes ces questions là à travers l'ensemble de l'union européenne on va pas parler du monde pour l'instant mais déjà à l'échelle de l'europe c'est déjà pas mal en deux minutes et après on passera aux questions les désoler ont du coup vous aurez un quart d'heure désolé alors du coup j'essaye de faire vite comme je suis la dernière mais oui bon les solutions moi ça me fait un peu penser à ma liste de voeux pour noël donc voilà je vais vous faire toutes les choses que nous on aimerait bien voir mais en gros con interdiction de toutes les technologies de surveillance qui se repose sur la collecte de données biométriques donc ça concerne votre visage ça concerne votre iris votre tout ce qui en fait peut se récupérer dans l'espace public surtout dans le cas de l'espace public donc ça peut être aussi votre démarche ans n'en a pas parlé mais les technologies sont aussi capables de reconnaître votre démarche qui est singulière et c'est donc ça ça serait bien que ce soit interdit le plus vite possible et la commission a tout à fait la possibilité de le faire parce qu'en ce moment elle va elle prépare un projet de loi sur l'intelligence artificielle et donc on commence à réfléchir à a mais qu'elle est dans quelle instance en fait l'article intelligence artificielle en fait c'est ok et dans quel sens s'est pas ok etc et donc du coup on pourrait peut-être faire une liste rouge de à on en veut vraiment pas du tout donc devront se dit jambon des jalles approche un peu bizarre donc on la critique de base mais au moins si on a la possibilité d'insérer ici tout ce qui est reconnaissance faciale etc etc ce sera déjà très bien et ensuite on avait le plein mais ils ont déjà beaucoup parler d'eux le problème quand on utilise des algorithmes et des systèmes algorithmiques de tous genres c'est qu'il ya des problèmes il ya des faux positifs il ya des faux négatifs il ya énormément de biais de stéréotypes en fait qu'ils sont reproduits par ces systèmes parce que les données sur lesquelles ces systèmes sont entraînés contiennent déjà des stéréotypes contre certaines catégories de population et donc c'est intéressant fait de se poser la question de en fait on veut pas juste que les systèmes deviennent meilleurs on veut pas juste que les entreprises sont attendez attendez on va on va régler le problème de la reconnaissance nationale avec la reconnaissance des personnes noires aura 6 et on va entraîner davantage notre algorithme et on va être utilisé des gens noirs pour pour les entraîner non non on veut pas ça du tout nous ce qu'on veut c'est genre plutôt questionner les rapports de pouvoir qui est derrière parce que là chaque fois que l'on parle de déploiement des technologies il ya des rapports de pouvoir derrière en soit entre gouvernements et populations ou entreprises et population et donc du coup c'est vraiment un super important comme l'a dit benoît de remettre en question la domination de ce qu'on appelle les biftecks les grosses point les grosses entreprises américaines qui domine complètement la manière dont on accède à l'information et qui aussi sont assez dominante aussi sur le marché de ces technologies de la coercition pour les forces de l'ordre et aussi les rapports de pouvoirs avec le gouvernement ça c'est un truc nous ce qu'on demande c'est aussi de désinvestir arrêter de mettre de l'argent public parce qu'il ya énormément de fonds européens qui vont dans des projets de recherche pour développer ce genre de technologie mais genre d on parle de millions - et à chaque fois c'est attribué à bas va forcément des universités de pointe européennes qui vont travailler avec des entreprises de pointe européenne pour développer des technologies et après seulement que la technologie elle est là on se dit ah mais elle est là donc du coup il faut qu'on crée un cadre légal pour pouvoir l'utiliser et ça c'est arrivé plein de fois sur tout ça et qu'il y entend une fois ça arrive dans des cas où les personnes qui sont le plus touchées sont celles qui ont le moins de pouvoir politique le moins de possibilités de se défendre et ça par exemple je peux vous citer une lise de 10 des exemples aux points possibles et inimaginables surtout au niveau des frontières les migrants c'est une catégorie de population c'est c'est vraiment c'est les nouveaux colonisé quoi avant si vous savez un peu la domination policière si vous regardez un peu à la domination policière avant de tester les outils de domination coloniale sur les colonisés dans les colonies françaises maintenant c'est sûr les migrants qui arrivent en europe et ça c'est organisé au niveau de l'union européenne il ya des projets qui sont fondés pour essayer de détecter la migration illégale sur les bordes sur lez frontières etc en grèce en italie donc ça c'est quelque chose qu'on aimerait avoir et puis peut-être un dernier point parce que vous quand même dénoncé un peu litres l'hypocrisie de tous comment dire le l'hymne européen etc donc nous on est enfin on a un vieux continent on est sur des droits fondamentaux etc mais il reste encore que rien n'est fait pour limiter les exportations de nos produits de surveillance dans des pays qui sont qui ont des commandes ya des situations en termes de droits humains absolument catastrophique et donc on fait de l'argent là dessus on permet à deux dans nos entreprises de d'exporter des technologies de surveillance et de coercition absolument abominable dans d'autres pays du monde mais tout ça en bien enrobés derrière des comment dire des communiqués de presse qui disent que quand même l'union européenne c'est le continent de la paix et c'est le continent des droits humains voilà merci beaucoup chloé merci alors il nous reste malheureusement très très peu de temps donc on se tiendra à votre disposition dehors si vous voulez poser des questions en respectant les gestes barrière là il nous reste un petit quart d'heure je vais faire un homme femme pour ceux qui ont des questions et s'il vous plaît pour essayer de poser le plus de questions possibles être très concis très court s'il vous plaît vraiment aller directement au but alors on a des monsieur ça manque de file a quand même il va falloir les fils eux oui où ça a alors on va commencer par jeanne annonce non je ne te connais pas je ne te connais pas bonjour moi je me pose des questions sur la qualité des services numériques et sur le fait que framasoft c'est super mais c'est quand même beaucoup moins pratique d'autres logiciels et donc est ce que le solution ce serait un service des services publics de type framasoft pour qu'il y ait la qualité que les gens ne se tournent pas vers des produits privé qui met les moyens pour qui est de la qualité au lieu de se reposer sur des hackers ces traits de très bonnes volontés mais qui n'ont pas les moyens de développer des services d'aussi bonne qualité voilà ok donc la question de la grandeur de la montée en échelle des solutions monsieur là bas on va faire court oui je voulais juste d'ailleurs salué paula qui al'air en tant que rapporteur de bien me connaître au cdh aussi ces dossiers que pas mal de ses collègues rapporteuse emporte heureux pardon elle réplique en marche donc ma question c'est est que j'ai passés me semble-t-il deux appels d'offres du ministère de l'intérieur dans le cadre des jo de 2024 de surveillance de masse et de surveillance de savoir qui rencontre qui la mort c'était pour le terrorisme évidemment et c'était pour la gestion des foules mais donc venant du ministère de l'intérieur et vu les sujets je suppose que c'est complètement ça va être complètement secret est maintenant complètement par dessus le doigt donc je sais pas si vous avez une opinion là dessus merci une femme oui moi c'est plus une question pour savoir ce qu'on peut faire personnellement par rapport à ces problèmes là parce que on voit qu'il ya un peu invite judiciaire on peut pas vraiment aller porter plainte et par exemple moi pendant confinement je me suis bien ennuyé donc j'ai demandé à facebook de m'envoyer les données qu est-ce qui traitaient comme données puisque c'est autorisé par gpt et j'ai rien eu et et là on est dans une impasse nous il nous renvoie pas ce qu'on peut faire et par exemple même là pour les événements ici pour ces bergers tout passe par facebook donc on est un peu dans une impasse où on nous dit que c'est pas bien mais d'un côté c'est des outils qui sont super utile et on n'a pas d'autres moyens personnellement pour agir merci on va prendre une quatrième et dernière pour avoir une des réponses de nos invités ouais moi c'est juste pour dire parce qu'on arrive à un stade où on a suffisamment d'objets technologiques et mais l'état devant produire encore plus c'est ce qu'il reste des objets technologie ce qui pourrait vraiment être utile ou est-ce que vous pensez que vraiment on arrête totalement la recherche technologique allez on s'en fait une toute dernière ok ok merci bonjour je suis senior candide j'ai apprécié votre exposé sur le côté obscur du numérique et de l'usaj des images au travers le domaine public mais j'aimerais avoir un une finalité un peu plus optimiste vis-à-vis de votre discours on pourrait utiliser les données numériques par exemple dans l'est dans les milieux urbains pour simplement fut difficile trafic au niveau des feux rouges vous avez certainement vécu en pleine nuit des cycles de fort hood totalement abscons qui servent à rien puisque ehpad voitures qui passent alors que l'analyse du numérique des images est très simple et l'analyse de avec des moyens numériques des ordinateurs a créé sur c'est sur ces éléments permettraient de modifier les villes est effectivement par contre l'état tout vraiment une taxe au niveau du pétrole ça c'est le contrecoup sait tout jouer juste finir avec ce côté un peu optimiste merci monsieur alors je vous laisse répondre chacun comme vous le sentez sur les questions qui vous semblent pertinentes mais avec un temps très court malheureusement il nous reste très peu de minutes donc qui veut commencer à les paul à forte à merci donc je vais aller au point sur la question de framasoft et comment on peut soutenir ce type d'initiative je recommande de lire un petit essai de henri verdier sur les communs numérique et à quel point ils peuvent aider à retrouver souveraineté numérique c'est à dire que je pense vraiment que l'état doit investir et doit soutenir voilà ce type de modèles avec des gouvernance ouverte partagés etc et que notamment ça aurait été une stratégie beaucoup plus intelligente que celle de ce top cow vite par exemple de entend de confinement de télétravail etc d'outiller les français en soutenant ce type d'initiative financièrement avec des ressources etc sur la question de la commande publique évidemment il faut pousser pour une transparence de la commande publique la plus aboutie possible il ya beaucoup d'associations qui travaillent dessus et c'est notamment ce qu'il s'est passé avec le faire date apple et microsoft je me demande encore pourquoi on appelle ça aide data en anglais c'est un peu le voilà c'est la voie la ccc encore une question de la start up nation c'est comme si par design en ce sens était voué à être offert un microsoft croit déjà dès le début parce qu'un en bleu le brenon initialement csn dhc le système national des données de santé oui oui le français mais il a fallu le changer parce que ça faisait plus start up nation voilà c'était pas assez sur la question de la portabilité des données et donc de pouvoir récupérer les données de facebook moi j'ai fait l'exercice le jour où le npd a été mis en place et j'ai été tellement effrayé que j'ai fermé mon cochon en fait et depuis je n'ai pas de compte facebook j'en ai pas besoin tout va bien dans ma vie je le regrette juste le jour de mon anniversaire parce que du coup j'ai beaucoup moins de personnes qui m'ont qui me saluent mais on peut vivre sans facebook voilà y'a vraiment aucun souci et il ya vraiment des c un petit bouton qu'il faut à pied pour récupérer toutes ces données donc faut juste le trouver dans l'interface voilà en général c'est à ces cachets mais je pourrais vous montrer si vous voulez juste après ça télécharge en fait ça télécharge directement et dernier sur la question de l'optimisme oui c'est aussi notamment par exemple sont là sur l'époque stop qu'ovide on a vu aussi beaucoup d' usage du numérique très vertueux et moi j'aurais aimé que le gouvernement soutienne beaucoup plus ces usages du numérique que voilà des applications un peu se solutionne east des applications miracle on a vu par exemple des associations qui ont utilisé qui ont utilisé les imprimantes 3d pour construire des respirateurs par exemple on a vu plein de plateformes mettre en lien les citoyens pour s'entraider pendant la période on a vu le numérique qui a servi pour le télétravail pour rester en contact avec sa famille etc moi je crois vraiment qu'il ya des usages du numérique très positif et c'est vrai qu'on s'enferme dans un discours un peu anxiogène liés au numérique et qu'il faut faire attention à ça je suis d'accord est oui alors ça va être difficile de répondre à tous les sujets sur les questions des logiciels libres qui sont pas jolis et moins bien moins utilisable que que les google docs alors évidemment on peut être d'accord parce que oui c'est plus joli alors ils ont beaucoup plus de gens ils ont beaucoup plus de budget donc n'hésitez pas à donner à framasoft pour aller développer les logiciels libres et puis à tous les autres logiciels libres qui sont qui sont intéressants vous avez beaucoup de projets aussi qui font déjà énormément d'efforts là dessus moi je sais que j'utilise un outil qui s'appelle mecs cloud dans lequel il ya un éditeur de texte en ligne et en kiki et s'appelle only office et qui fait vraiment la même chose c2c des outils libres vous avez des fournisseurs alors évidemment la f1 il faut payer parce que ben oui il faut stocker vos données quelque part et puis à une association ou une entreprise qui le fait mais après il faut se rappeler que tout ça ça a un prix et que facebook il le paye d'une certaine manière est en réalité ça c'est un vrai coup donc il récupère vos données il capte les données tout le monde et ses saillies donne du pouvoir donc à un moment il faut transférer sa sur des choses qui sont plus proches donc n'hésitez pas à donner à participer même à des traductions à du design pour améliorer le design pour expliquer pourquoi vous comprenez pas les outils voilà faut c'est aussi un système vertueux qui peut s'établir si tout le monde y participe les jo de 2024 au sein de la campagne technopolis on a un peu travaillé sur cette évocation là n'hésitez pas à vous inscrire sur le forum de technopolis a participé à amener des informations si vous arrivez en avoir les jo 2000 24 ça va être absolument monstrueux en termes de surveillance le la volonté aujourd'hui c'est d'utiliser l'ensemble des gens qui vont venir sur les sur les zones des jo comme cobaye à la haute technologie exactement ce que fait la ratp s'il y en a qui sont parisiens la ratp dans le métro parisien utilise la station châtelet comme zone de test de tout un tas de technologie et donc utilisent ces voyageurs comme cobayes je sais pas je crois qu'on n'a pas d'informations sur les bases légales parce que en fait c'est absolument surprenant ce qu'elle fait avec classe a et c'est exactement ce qui est prévu sur les jo de 2024 tout un tas de techno de 2 et de projets de recherche même qu'ils sont qui sont proposés avec des budgets de plusieurs millions à la clé donc ça c'est c'est quelque chose sur lequel il va falloir venir éventuellement on verra si on attaque ou pas si on a les moyens si on a suffisamment d'information là dessus donc si vous travaillez pour le ministère de l'intérieur hésitez pas on a une plateforme de licques pour faire fuiter des documents ensuite sur la question des feux rouges et de l'usagé des données sur sur les flots rouge alors en fait à aline vraiment à l'origine de la smart cities de se faire de la technopolis plutôt à l'origine de la technopolis à ce sur quoi on travaille dans cette campagne c'est la smart ici la smart city c'était la grande idée qu'on allait emmagasiné tout un tas d'informations sur le fonctionnement de la ville et qu'on allait améliorer le fonctionnement de la ville pouvoir prendre des décisions mieux savoir où est-ce qu'il fallait agrandir les routes ou agrandir des trottoirs ou ralentir les voitures ou gérer les feux rouges ou tout ça c'est la smart cities et ça c'était dans le courant des années 2000 cette grande idée qui sait c'était vraiment vraiment l'utopie qui se transforme en dystopie ça c'est vraiment un peu près ce que pour conclure d'ailleurs c'était vraiment cette utopie d'un meilleur fonctionnement de la ville qui se transforme en une surveillance généralisée le problème et c'est ce que j'ai tout à l'heure c'est quand vous accumulez de la donner vous ne savez pas à quoi elle va servir vous donner du pouvoir à quelqu'un en général ce quelqu'un c'est un c'est que c'est un ministère c'est quelqu'un qui a du pouvoir sur vous c'est c'est la collectivité locale elle peut prendre des décisions qui vont changer votre quotidien pas forcément personnellement mais une manière globale et vous ne savez pas à quoi ça va servir demain donc moi je vous dirai pour gérer les feux rouges vous avez plein de technologies qui date des années 80 ce sont 10 81 vous avez des radars au dessus des feux vous avez des petits boudins qui sont sur la route et qui permettent de compter le nombre de voitures qui passent vous avez tout un tas de solutions low tech qui permet d'arriver exactement maryse et au même résultat lorsque si vous mettez des caméras en fait au début on va dire ouais on va on va capter le passage des voitures puis après on va dire mais pourquoi on n'utilise pas pour aussi suivre les gens qui sont dans la rue parce que les délinquants parce que sur le bord de la route il ya aussi des gens qui volent des sacs à main donc on va surveiller les gens etc puis ensuite on va voir qui est savoir qui sont les gens et on a la possibilité puisque la caméra l'autorisé en fait il suffit juste de remettre un ordinateur derrière et quand quand vous avez des outils comme brief cam par exemple qui vous permettent de faire d'eux de l'analyse d'image pour savoir quand les voitures passent vous avez exactement cette route il à savoir en combien de voitures passent combien de peinture orange passe et faut combien voiture orange passe dans le sens dans un sens ou dans un autre et quand ces outils en fait c'est juste d option à cocher si vous voulez que brive calmes face de la reconnaissance faciale vous avez juste une option à cocher et elle fait la reconnaissance faciale pour vous tous ces outils là aujourd'hui sont tellement faciles à mettre en oeuvre que toutes les start up du moment propose ses outils donc quand vous avez quand vous branchez un outil de reconnaissance d'image sur un flux vidéo aujourd'hui il n'y a pas besoin de medica meira spéciale 1 toutes celles que vous vous montez aujourd'hui sont compatibles une définition largement suffisante en fait vous autorisez potentiellement demain à désuet à des utilisations beaucoup plus problématique merci benoît chloé hugo et tsahal watteau qu il reste moi je pense que tout a été dit je vais je vais enfin ses comptes de prendre du temps pour répéter mais en gros peut-être juste sur le côté encore une fois du libre et des petits c'est un des outils qui sont dans le libre etc faut faire aussi attention des fois j'entends à ce serait bien que nous on est notre propre truc que le gouvernement développe son google son facebook c'est aussi un peu la vision qui a au niveau européen avec le commissaire français thierry breton pour le pour le marché intérieur qui responsable du marché intérieur qui a un peu cette idée enfin lui l'ancien ancien patron d'un grand groupe télécoms donc il a aussi cette vision un peu industriels oui on veut nos propres gars femmes comme ça on aura beaucoup plus de souveraineté on pourra dès prendre nos décisions on sera beaucoup plus on devra pas de se battre contre les américains etc c'est une impasse finalement clos liberté les messieurs c'est là où je vais venir c'est qu'elle est effectivement rien de remplacer vous avez un système de surveillance bien rodée ça sert à rien de le remplacer avec un site un système de surveillance made in you made in fine ça sert à rien parce que là le résultat une même pour les utilisateurs et les utilisatrices mais souverain la nation et safe je pense que c'est bon super hugo oui je vais te pas complètement d'accord avec dernier des années cette dernière intervention parce que je crois qu'on la force de pouvoir d'un état on le voit quand il est très précis fpt et il pourrait y avoir une puissance d'un état pour développer des outils d'intérêt général avec avec dès qu'ils soient qu'ils soient open source mais pas une puissance privée parce qu'en fait ce que chloé dit elle parle d'acteurs privés en fait des bonds il ya une tentation de se dire aussi oui mais en fait nous données personnelles faut ni les remettre dans le privé ni les remettre dans les mains du gouvernement parce qu'il peut aussi avoir des mauvaises usage de ça évidemment et ça dépend le type de logiciel qu'on fait et comment ils excellent kiki le qui le gère qui le gouvernent mais la puissance de développement d'un logiciel oui enfin je vous prends notre exemple mais pourquoi tout le monde va sur dr libre pour contre son rendez vous médical c'est quoi ce bazar non mais non mais pourquoi il n'ya pas un application du gouvernement open source qui garantit que l'on puisse aller voir dedans et qui collectent pas nos données et où chaque médecin de ce pays puisse se raccorder pour qu'on puisse prendre le train de vous médical parce qu'au fond en vrai c'est super pratique quoi je vais pas dire le contraire je suis content de pouvoir prendre rendez vous tranquillement avec mon agenda etc plutôt que de galérer a appelé personne au téléphone externe et donc on pourrait avoir une solution technologique gérée par les tailles qui offre toutes les garanties démocratiques suffisante mais je sais la question de la centralisation hugo problèmes aussi bien sûr on pourrait faire le gérer de manière décentralisée on a inventé la décentralisation sam bon bref et la déconcentration aussi et ça peut être ça peut tout à fait fonctionner mais moi je crois aussi par exemple pour les solutions numériques qui sont rués à l'intérieur des administrations de sujets des fonctionnaires du ministère de l'intérieur travaillant sous word et me dit en me disant que c'est enfin c'est n'importe quoi quoi de nous on serait pas andré pourquoi on n'a pas la capacité technologique dans ce pays d'avoir des informaticiens fonctionnaires qui font du développement d'applications et qu'ils le font en lien avec tous tout l'écosystème associatifs militants etc et qui puisse garantir justement offrir les garanties très concrètes en termes de liberté de liberté individuelle même à l'assemblée on ne développe des trucs pour la loi de finances pour analyser le budget là et comme on sait pas fait on passe par une start up dont on passe officiellement par la direction de l'informatique auprès du ministère d'euros près du privé des services du premier ministre j'ai plus le nom exact qui eux-mêmes passe par un sous traitant parce qu'ils n'ont pas en interne non mais c'est un cas le l'outil il est utile de savoir quand on fait un amendement que cela à faire en plus ou en moins dans le budget de l'état je suis content moi en tant que parlementaire à la fin ce que je veux si c'est vrai ou pas c'est utile mais pour produire ce logiciel on n'a pas les ressources en interne à l'êta et je le dis c'est un problème quoi mr de sa naissance est sixième puissance mondiale on devrait pouvoir y arriver voilà je dirai pas quand dire grand chose de plus sur le reste je suis je suis plutôt d'accord et sur le mystére nateur les jo de 2024 où ils font plein de tests mais vous avez c'est pareil c'est comme pour les drogues pendant le coc vide et heureusement qu'à la vigilance de certains nombre de militants pour aller faire des recours devant le le conseil d'état qui sont que des petites victoires parce qu'au fond ils vont faire ils vont finir par prendre un décret pour préciser les conditions d'utilisation et puis voilà non seulement les expérimentés mais aussi propose des tests gratuits aussi à différentes villes pour faire un petit peu vitrine et appels d'offres aussi un salut à tokyo pour terminer très rapidement vos solutions volé quelques réponses et puis après je clôture en 15 secondes merci revenir sur tout ce qui a été dit juste une chose pour répondre à une question de maths mademoiselle non je ne pense pas en tous les cas à titre personnel qu'il faille arrêter la recherche et la technologie la technologie peut apporter du bien voilà bon en médecine où on a pu le prouver dans l'éducation n'a plus trop pour retrouver dans l'est dans les transports etc non par contre comment est-ce qu'on est vigilant sur le type en fait de recherche que l'on a envie nous en fait citoyen que l'on paye aussi avec nos impôts qu'on a envie de voir aboutir peut-être que c'est là qu'une vigilance accrue doit être de 2 doit être plus plus importante et oui peut-être que du coup ça amènerait peut-être des technologies plus + wii un peu un peu un peu plus sympa voilà que effectivement uniquement des technologies qui servirait à surveiller plus plus j'écoute est en fait notre c'est un constat que je le fais depuis un moment on parle beaucoup en fait nos de manque de confiance des citoyens envers l'état mais il ya des moments je me demande si en fait l'état n'a pas aussi un manque de confiance envers ses citoyens et que c'est pour ça qu'il est tout le temps à la recherche d'une solution d'un système de mécanismes pour pouvoir le contraindre le gérer le surveiller et ses terres etc je pense qu'il faut qu'on retravaille en fait notre contrat social tous ensemble en prenant en compte une chose c'est que la technologie numérique aujourd'hui on fait ce qu'on appelle la technologie numérique aujourd'hui elle est là elle existe elle ne va pas se terminer du jour au lendemain donc comment est-ce que plus tôt on se l'approprient pour véritablement en faire quelque chose qui peut nous intéresser tout en gardant à l'esprit que toute technologie peut être dévié de son de son modèle et ça c'était de son modèle de base en fait pour être du bien et ça c'est quelque chose que moi j'ai vu par exemple pendant la période notamment où l'on discutait sur la question de ce top que vides quelque chose qui m'interpellait beaucoup c'est que j'étais beau si beaucoup en fait sollicité par des gouvernements africains pour me demander comment est-ce que nos sillons mais en plastoc coville avec derrière des gouvernements qui sont plutôt entre plutôt autoritaire attention ces voix là et comment est-ce que ce top cow vide pourrait leur servir à eux en temps et donc il faut aussi qu'on ait cette responsabilité en tant que citoyen éclairé de savoir que oui une technologie peut apporter du bien mais elle peut être déviés comment est-ce qu'on se met les garde-fous pour éviter ces déviations et je pense que vraiment une des clés une des clés absolue c'est l'éducation alors bien sûr l'éducation des jeunes et jolies filles mais bien sûr c'est l'éducation de tout le monde et cette éducation ne doit surtout pas être enlève dans les mains uniquement d'un tissu associatif qui a énormément de mal à obtenir des subventions pour pouvoir en fait exercé ces formations c'est quelque chose que nous devrions exiger de l'état et qu'ils soient mis en place le plus rapidement possible ça c'est vraiment faisons attention à ne pas tout laisser reposer sur un système de la société civile qui en fait s'épuise à à vouloir en fait faire ce que l'état n'a pas neveu dans lesquelles l'état en fait n'a pas envie de se c'est à nous de vraiment demandé et d'exiger auprès de l'état de mettre en place ses solutions ses solutions d'éducation et que l'état aussi produit des outils technologiques il doit faire très attention à compiler jeunes sera aussi j'ai à ce moment-là de fournir de créer et de faire attention à qui il les donne aussi parce qu'il ya une responsabilité à nous citoyens de l'exiger très bien merci salle watteau commercia vous merci aux invités je vous rappelle demain la conférence à 16 heures 15 à la salle claire lacombe toujours sur l'écologie numérique la sobriété l'éthique et l'inclusion merci à vous