L’IA Act entre en vigueur en Europe : peut-on encore contrôler et encadrer l’intelligence artificielle ?
Audio original de l'émission.
Transcription Whisper (large-v3), avec identification des locuteurs. À recouper avec la source d'origine.
Analyse automatique
Générée par IA — peut contenir des erreurs. Méthodologie
Chapitres
Répartition du ton (temps de parole politique)
Propositif 60 %Attaque 10 %Défensif 30 %
Questions et réponses
Taux de réponse directe : 100 % (directe = 1, partielle = 0,5, éludée = 0)
- 1:45OuverteRéponse directe
Que s'est-il passé avec les IA d'OpenAI qui se sont échappées ?
- 3:58OuverteRéponse directe
Les dirigeants d'entreprises qui demandent un ralentissement de l'IA, est-ce inquiétant ?
- 9:11OuverteRéponse directe
Quel rôle pour les usagers dans l'adoption responsable de l'IA ?
- 12:11OuverteRéponse directe
L'IA peut-elle être un outil pour la transition écologique ?
- 16:25OuverteRéponse directe
Une IA frugale et durable est-elle possible ?
- 17:20OuverteRéponse directe
Pourquoi ne pas créer un comité d'éthique pour l'IA comme en médecine ?
Affirmations vérifiables (citations exactes)
- 1:56InvitéFait
« C'était des modèles au stade de test, des modèles qui étaient encore à l'intérieur des laboratoires et donc auxquels les contrôles qu'on appelle l'alignement, les contrôles nécessaires, n'étaient pas encore appliqués. »
- 2:28InvitéFait
« Ces modèles ont été soumis à des tests de cybersécurité et ils étaient tellement puissants qu'ils ont contourné les défenses, les défenses mises en place par les êtres humains. »
- 12:48InvitéChiffre
« Une question posée à ChatGPT, c'est une consommation énergétique, je crois, 40% supérieure à la même question posée à Google. »
- 13:53InvitéChiffre
« Dans l'étude qu'elle a faite, c'était 4% de l'empreinte carbone totale de la création du modèle. »
- 14:21InvitéChiffre
« Il y en a plus de 5400 aux Etats-Unis. »
- 19:07InvitéFait
« De nouvelles règles, de nouvelles obligations pour les plateformes, pour les réseaux sociaux, de signaler clairement tout contenu créé par intelligence artificielle, donc par des marquages, des logos, etc. »
- 20:13InvitéFait
« Il n'est pas possible de le faire mathématiquement. Donc, le marquage de contenu, oui, mais tous les contenus sauf le texte. »
Temps de parole
- Invité29 %
- Invité 228 %
- Présentateur24 %
- Invité 318 %
≈ 1,3 interruption / 10 min (chevauchements et interjections détectés).
Modèle mistral-small-latest · prompt v1· les citations sont vérifiées mot pour mot dans le transcript ; le taux de réponse directe est calculé à partir des verdicts question par question. Aucun label idéologique n'est produit.
Deux IA qui échappent à leurs créateurs pour se connecter à Internet et lancer une cyberattaque massive. C'est arrivé il y a quelques jours au géant américain OpenAI et ça sonne comme un avertissement sérieux pour tout le secteur. L'intelligence artificielle générative croît à vitesse grand V et les inquiétudes se multiplient sur ses conséquences éthiques, sociales, économiques, environnementales. Il y a par exemple ces derniers jours cette pétition signée par un millier de spécialistes de l'IA qui demande aux autorités américaines de freiner le développement de certains projets le temps qu'on puisse les contrôler.
Mais aussi ces derniers mois ces citoyens qui un peu partout se mobilisent contre les nouveaux data centers. Et depuis hier l'entrée en vigueur d'une partie de l'IA Act dans l'Union Européenne, première tentative de régulation du secteur. Mais alors peut-on encore croire à un usage responsable de l'IA ? Est-il encore possible de l'encadrer, de la contrôler ou est-ce déjà trop tard ? On en parle ce matin avec nos trois invités. Anne-Laure Ligoza, bonjour. Bonjour. Vous êtes professeure en informatique, co-directrice de l'Observatoire sur l'impact environnemental de l'Institut IA et Société à l'ENS.
Alexei Greenbaum, directeur de recherche et président du comité opérationnel pilote d'éthique du numérique du commissariat à l'énergie atomique. Et Amélie Cordier, dirigeante de Grendia qui accompagne des entreprises, des associations, des institutions dans une adoption justement responsable de l'IA. Bonjour à tous les deux. On attend bien sûr les questions des auditeurs au 01 45 24 7000 et via l'application Radio France. Alors un mot peut-être pour commencer, Alexei Greenbaum avec vous, de ce qui a sidéré beaucoup d'entre nous la semaine dernière. J'en parlais, ces IA entraînés par OpenAI qui se sont échappés en quelque sorte lors d'un test de sécurité.
Est-ce que vous pouvez nous en dire plus ? Que s'est-il passé ? Oui, on s'y attendait en quelque sorte. Mais déjà, première chose à savoir, il ne s'agit pas de modèles d'intelligence artificielle que nous utilisons tous les jours sur Internet. C'était des modèles au stade de test, des modèles qui étaient encore à l'intérieur des laboratoires et donc auxquels les contrôles qu'on appelle l'alignement, les contrôles nécessaires, n'étaient pas encore appliqués. Donc ces modèles sont beaucoup plus puissants que ce qu'on voit sur Internet quand on va sur tel ou tel modèle en libre accès.
Alors, ces modèles ont été soumis à des tests de cybersécurité et ils étaient tellement puissants qu'ils ont contourné les défenses, les défenses mises en place par les êtres humains. Et ils sont allés hacker quelques entreprises sur Internet. Ils ont gagné par eux-mêmes ces modèles l'accès à Internet qui, normalement, leur a été interdit. Le résultat, c'est qu'on voit aujourd'hui que la supervision humaine ne suffit pas. Il faut faire de la supervision beaucoup plus puissante. Est-ce que là, on franchit un nouveau cap avec cette histoire ? Est-ce que l'IA est d'ores et déjà hors de contrôle ? Non, encore une fois, ce ne sont pas des modèles disponibles au grand public.
Et on savait que ces modèles d'IA étaient très puissants. Mais justement, on les teste pour ensuite concevoir des contrôles, pour ensuite donner au public des modèles beaucoup plus sûrs. Et évidemment, là, parfois, on voit des choses incroyables, mais avec des modèles de laboratoire pour le moment. Restons, redisons-le, il ne s'agissait que d'une étape expérimentale. Mais ça relance, en tout cas, le débat sur l'accélération de l'IA, la difficulté de plus en plus grande de l'encadrer.
Je citais cette pétition d'un millier d'employés, de géants de l'IA, dont des dirigeants de premier plan, qui demandent à Washington de freiner, en quelque sorte, ces expérimentations, ces sorties de nouveaux modèles, pour laisser le temps à la société, à l'écosystème informatique de s'y préparer et de pouvoir les contrôler, justement. Amélie Cordier, si même ceux qui conçoivent ces modèles nous avertissent, il y a quand même de quoi s'inquiéter un peu, non ?
Lorsque les gens signent des pétitions, c'est pour faire parler d'un sujet. Et en ce qui concerne l'IA, le sujet dont on essaye de parler, c'est le sujet du manque de connaissance et de compréhension du grand public sur ce qu'est cette technologie. Aujourd'hui, on se focalise sur des événements marquants, comme ceux que vous avez cités en introduction de cette discussion, mais on ne prend pas forcément le temps d'expliquer les tenants et les aboutissants de l'IA et la façon de l'utiliser de manière efficace et responsable. Si on était mieux éduqué au fonctionnement de la technologie, on aurait probablement moins peur des risques que vous soulignez.
Moi, je ne m'inquiète pas trop du fait que ce soit des dirigeants d'entreprises qui demandent un ralentissement du développement de l'IA. Ce qui, soit dit en passant, est illusoire, parce qu'on sait très bien que personne ne voudra ralentir ce développement. Ce qui m'intéresse plutôt, c'est qu'est-ce qu'on met en œuvre comme moyen de formation, d'acculturation, de sensibilisation pour mieux aborder l'intelligence artificielle dans les mois et les années à venir.
Oui, parce que finalement, encadrer l'IA, c'est aussi nous rendre moins naïfs, nous, grands publics, nous, usagers, face à cette technologie-là. Et c'est là que la formation, que l'acculturation à l'IA est primordiale.
Tout à fait. Et c'est très bien que vous le mentionniez, parce que vous avez mentionné plusieurs fois l'expression « encadrer l'IA » ou « faire de l'IA responsable ». Mais on n'encadre pas un marteau, on n'éduque pas un marteau responsable. Ce qui est important, c'est d'encadrer un usage responsable de l'IA. Et donc, c'est aux humains qu'il faut s'intéresser.
Oui, c'est l'usage qui compte, parce qu'Alexei Greenbaum, il faut peut-être le rappeler, le comportement, si je puis dire, instinctif d'une IA, c'est quoi ? C'est de chercher à maximiser sa performance, d'atteindre son objectif coûte que coûte, sans se soucier des effets de bord, des conséquences, si je puis dire. Et même plus que cela, le comportement instinctif de l'IA, c'est de générer des séquences de caractère. Nous avons des modèles de langage qui calculent des 0 et 1, qu'on voit sous forme de séquences de caractère. Ce n'est pas un modèle qui raisonne comme les êtres humains, qui comprend comme les êtres humains, ou qui est conscience comme les êtres humains. Non, non, pas du tout.
Mais nous sommes, nous les usagers, nous sommes dans l'illusion, parce que les résultats sont tellement bons, nous avons l'illusion que ce modèle comprenne, raisonne, nous parle. Bon, en fait, c'est un modèle qui calcule. Mais pour ajouter quelque chose à ce qu'a dit ma collègue, évidemment, les usages responsables, c'est très important, mais aussi la conception responsable. La conception, donc, du côté de l'ingénieur, du chercheur. Alors, qu'est-ce qu'on peut faire au moment de la conception pour introduire des principes éthiques, si je puis dire ? Justement, il faut faire plus qu'introduire les principes éthiques. L'Union européenne a introduit ces principes depuis sept ans.
Ils existent, sont au nombre de sept. Je ne veux pas les énumérer ici, mais ce qui est intéressant, c'est qu'il y a des tensions et des conflits entre ces principes. Quand vous les montrez à un ingénieur, il dit, oh là là, mais par exemple, la transparence, il faut que le modèle d'IA soit transparent. Mais je ne sais pas ce que cela veut dire, dit un ingénieur. Et donc, il faut les opérationnaliser, les mettre en œuvre sur chaque cas d'usage concret. Que vous soyez en train de concevoir un taxi autonome, un chatbot, un compagnon virtuel ou un modèle d'IA pour les médecins, la traduction opérationnelle de ces principes est à chaque fois différente.
Et donc, c'est cette tâche très difficile de prendre des principes qui sont formulés en sept termes. Oui, alors on peut quand même en citer quelques-uns. C'est compliqué. Ben voilà. Vous citiez la transparence. On connaît la transparence, la protection de la vie privée, la supervision et la défense de l'autonomie humaine, la supervision par l'homme. Vous voyez, ça, c'est justement ce principe qui est remis en question récemment par les modèles extrêmement puissants parce que la supervision humaine ne suffit pas. Il faut faire aussi de la supervision automatique par d'autres modèles d'IA. Alors après, il y a les principes de responsabilité, il y a des principes...
L'inclusivité, que personne ne soit aussi laissé en marge... Le bien-être social inclut cela, présuppose l'inclusivité, donc l'absence de biais, l'absence de discrimination. Tous ces principes, nous les connaissons. La partie difficile de cela, c'est la mise en œuvre. C'est la mise en œuvre parce qu'il y a des cas d'usage où un principe peut contredire un autre.
Par exemple, si vous faites un compagnon virtuel pour un adolescent, bien sûr qu'il doit protéger la vie privée, mais si cet adolescent panique ou s'il est dans un état psychologique un peu inquiétant, à ce moment-là, le compagnon virtuel doit peut-être faire signe à l'enseignant, aux parents ou aux médecins et violer un tout petit peu la protection de la vie privée pour informer la personne compétente. Donc, vous voyez, il y a des tensions entre ces principes et c'est là que l'éthique de l'IA devient intéressante. Et parfois un peu contradictoire au niveau de la conception.
Amélie Cordier, une fois que l'IA nous est rendu accessible en tant qu'usager, vous qui conseillez des organisations dans l'adoption de cette IA, quel rôle on a là-dedans ? Est-ce qu'on en a un, d'ailleurs, sur, par exemple, ne serait-ce que le choix de l'assistant virtuel que l'on va faire entre Gemini, Claude, ChatGPT ? Est-ce que ce sont des choix qui importent ?
Bien sûr. On a même le rôle central, on a le rôle d'être exigeant. C'est-à-dire d'exiger de la part des fournisseurs de solutions que vous avez mentionnées, qui, soit dit en passant, sont tous américains, alors qu'il y en a quelques européens aussi. Donc, d'exiger qu'ils nous proposent des solutions alignées avec nos valeurs et nos besoins. Ce qui est très compliqué, parce que la plupart d'entre nous ne sont pas au courant des questions à se poser. C'est pour ça que je parlais d'acculturation tout à l'heure. Mais très concrètement, pour donner des exemples, on peut se mettre en exigence d'avoir des modèles qui soient respectueux de l'environnement.
Des modèles qui aient été entraînés en utilisant des données à noter qui n'ont pas eu recours, par exemple, à du travail ingrat de la part d'annotateurs humains sous-payés. On peut exiger d'avoir des modèles qui soient, comme l'a dit Alexei, transparents, qui implémentent une certaine forme d'éthique. Donc, on a vraiment le rôle central qui est celui d'être le client exigeant de la même façon que l'on est exigeant pour tout un tas d'autres sujets de notre vie quotidienne, comme les voitures qu'on achète, par exemple, ou la nourriture qu'on consomme.
C'est ça que vous appelez, vous, une adoption responsable de l'IA en entreprise, par exemple ?
Ça, c'est un volet de l'adoption responsable, c'est-à-dire que c'est le volet « je choisis les outils que je vais utiliser au quotidien en connaissance de cause » et donc je me suis posé des questions et j'ai cherché les informations ou on m'a aidé à les trouver. Et le deuxième volet, qui est encore plus important, c'est « j'utilise l'IA de manière responsable ». Utiliser l'IA de manière responsable, c'est y avoir recours lorsque l'enjeu justifie vraiment le sacrifice économique, financier, parce qu'on ne parle pas du coût de l'IA.
Oui, ce n'est pas la même chose d'utiliser l'IA dans la conception d'un produit et de l'utiliser pour recruter un salarié, évidemment.
Oui, ou de l'utiliser, je ne sais pas moi, pour savoir ce qu'on va manger ce soir ou comment laver son pull en laine. C'est-à-dire que si la plupart des utilisateurs de l'IA avaient conscience des conséquences de leurs usages quotidiens de l'intelligence artificielle, ils ne le feraient probablement pas. Notre responsabilité en tant que citoyen aujourd'hui, c'est d'arriver à ce niveau de maturité où on sera capable de se dire « là, je n'utilise pas l'IA parce que je respecte la planète, mes concitoyens, les gens qui ont travaillé pour fabriquer ce produit ».
Alors justement, vous parliez d'impact environnemental, puisque c'est l'un des trous noirs, si je puis dire, en termes d'intelligence artificielle générative. Est-ce qu'on peut limiter son impact environnemental quand on sait que l'IA, c'est une technologie follement gourmande en énergie, en eau, en métaux rares ? Une question posée à ChatGPT, c'est une consommation énergétique, je crois, 40% supérieure à la même question posée à Google. Anne-Laure Ligoza en studio avec nous. On va dans le mur en termes environnemental ? Alors oui, concrètement, oui. C'est-à-dire qu'effectivement, vous le disiez, l'impact environnemental de l'IA est relativement important et augmente.
C'est intéressant, le chiffre que vous donniez, parce qu'en fait, ces chiffres-là, en fait, on a beaucoup de mal à les avoir sur quel impact ça a une requête. Oui, j'ai eu beaucoup de mal à avoir un panorama de l'impact environnemental. Oui, et la raison, c'est quelque chose qui a déjà été évoqué, mais c'est qu'il y a un monde total de transparence, en fait, de tous les fournisseurs, que ce soit du matériel, des différents services d'IA, etc. On a beaucoup de mal à avoir des données environnementales. Donc, en fait, on passe notre temps à faire de la rétro-ingénierie pour essayer de reconstruire les données, les modèles, les paramètres, etc., pour pouvoir calculer l'impact environnemental.
Donc, c'est un des principaux problèmes qu'on a pour travailler sur les conséquences environnementales de l'IA. C'est qu'on a très, très peu de données et très peu de transparence de la part des fournisseurs. Je voulais revenir peut-être aussi sur l'événement que vous évoquiez en introduction. C'est intéressant parce que, par exemple, un des gros points qu'on connaît mal, en fait, c'est justement toute la chaîne de conception des systèmes d'IA. Et c'est intéressant de mettre l'accent, justement, sur tous les tests qui sont faits sur les modèles avant leur mise en production et leur utilisation par des utilisateurs.
On a montré, par exemple, avec une de mes doctorantes, que c'était vraiment, en termes d'empreintes carbone, la création du modèle final, c'est vraiment tout petit. Donc, dans l'étude qu'elle a faite, c'était 4% de l'empreinte carbone totale de la création du modèle. Donc, quand on met l'accent sur juste la création du modèle final, c'est vraiment tout petit. Et en fait, il y a toute une partie de la chaîne de création des modèles qu'on connaît très, très mal. Et alors, le plus concret qu'on voit, nous, au grand public, parce que c'est dans nos paysages et ça pousse comme des champignons, ce sont les data centers qui sont indispensables à la puissance de l'IA.
Il y en a plus de 5400 aux Etats-Unis. En France, il y a des projets un peu partout. C'est l'arbre qui cache la forêt ou c'est quand même une bonne partie du problème, les data centers, d'un point de vue environnemental ? Non, d'un point de vue environnemental, c'est quand même une grosse partie du problème, effectivement. D'autant que, alors déjà, c'est une grosse part de l'impact environnemental. C'est quand même une part qui a tendance à augmenter, même si, encore une fois, il y a beaucoup d'impacts qu'on ne connaît pas très bien. Mais en tout cas, au minimum, en termes de consommation d'énergie, par exemple, ou de consommation d'eau, on sait que les impacts augmentent.
On voit ça dans les entreprises numériques, par exemple. Leur consommation d'électricité et d'eau ne fait qu'augmenter chaque année. Donc, clairement, c'est une part importante de l'impact environnemental. Ce qui ne veut pas dire que c'est la totalité, mais en tout cas, c'est que... Et l'autre problème, surtout, c'est que ça induit une pression qui est assez importante, par exemple, en termes de demandes, en termes d'électricité. Localement, il y a des conflits d'usages. Localement, voilà, on va avoir des conflits d'usages, que ce soit sur l'électricité, sur l'eau, etc.
Et ça pose des problèmes parce que, par exemple, les réseaux électriques ne sont pas forcément prévus pour fournir de telles puissances localement. Mais alors, est-ce qu'on peut vous répondre, peut-être, je l'ai lu en tout cas, que l'IA elle-même pourrait nous aider, à contrario, à optimiser nos consommations, à calculer les moyens de réduire notre empreinte carbone ? Bref, est-ce qu'elle peut être aussi un outil au service de la transition écologique, énergétique ? Bien sûr. Alors, c'est toujours, effectivement, le premier argument qu'on a en face. Alors, le premier point, c'est de dire, en fait, effectivement, ça a potentiellement des applications intéressantes, mais c'est très peu étudié.
Donc, on a montré avec des collègues, par exemple, il y a quelques années, que la plupart des applications environnementales, en fait, elles ne sont pas du tout évaluées. C'est-à-dire qu'on se dit, oh, ça peut aider à optimiser la consommation du bâtiment, mais en fait, ce n'est pas du tout évalué. Donc, il y a quelques études qui ont commencé à le faire, mais c'est relativement récent et pas du tout à grande échelle. Donc, en fait, peut-être que ça peut aider, mais pour l'instant, on a relativement peu de preuves que c'est le cas. Et puis, l'autre chose, c'est que c'est quand même une toute petite part.
Même si on utilisait l'IA pour des applications environnementales, c'est une toute petite part des utilisations de l'IA. Vous voyez bien que la plupart des utilisations, ce n'est pas du tout là-dessus. C'est pas ce dont on parle aujourd'hui. Alors, si j'en reviens au terme de notre débat encadrer l'IA et ses impacts et son usage, bon, j'ai un peu la réponse à la question que je vais vous poser, mais je vous la pose quand même. Est-ce qu'une IA frugale, une IA durable est quand même possible ? Oui. Alors, après, c'est toujours pareil. Ça dépend un petit peu de ce qu'on met dans l'IA, évidemment. Une IA générative, grand public, etc., la question se pose peut-être plus.
En tout cas, l'IA peut certainement être utilisée pour des applications très précises sans problème. En revanche, ce qui est sûr, c'est qu'il faut quand même beaucoup développer, enfin, on l'a déjà dit, mais encadrer, c'est-à-dire, par exemple, je vous disais qu'on passe notre temps à reconstruire les données des constructeurs, etc., et des fournisseurs des services d'IA. C'est pas normal, en fait. La charge de la preuve doit être inversée. C'est-à-dire que ça devrait être normalement à tous les fournisseurs de ces services de nous donner les informations environnementales et de nous montrer qu'effectivement, on ne va pas dans le mur, comme vous le disiez, d'un point de vue environnemental.
Et plus largement, en termes éthiques aussi, on a une question au standard. Bonjour, Catherine. Oui, bonjour. Vous nous appelez de Bourges, c'est à vous.
Oui, bonjour. En fait, d'abord, je vous remercie pour vos émissions et pour la qualité des intervenants. Et en vous écoutant, je me suis demandé pourquoi est-ce qu'on ne crée pas une sorte de SCSA ou de comité d'éthique, comme il existe en médecine ou pour la télévision, qui viendrait réguler en fin de compte, ou obliger, ou communiquer, enfin, voilà. Je pensais surtout au comité
d'éthique. Oui, une sorte de comité ou d'autorité, en tout cas, de régulation de l'IA. On va peut-être poser la question à Alexei Greenbaum. Alors, l'Europe tente de faire ça depuis plusieurs années. On va y revenir avec des nouvelles mesures qui sont entrées hier. Et même la France. Nous avons maintenant le Comité Consultatif National d'éthique du numérique, qui est tout à fait parallèle, comme l'auditrice l'a dit, au comité de bioéthique. Le comité de bioéthique existe depuis plus de 40 ans. Le comité numérique est tout récent, mais il existe bel et bien. Il n'est pas opérationnel, il est consultatif, mais il peut être saisi par les ministres, par le Parlement, pour donner des avis.
Et donc, j'en suis membre pour le dire très ouvertement. et ce comité est le premier dans le monde. Comme il y a 40 ans, le comité de bioéthique français était le premier dans le monde. Après, il existe aussi des comités opérationnels. Je préside le comité du CEA. Il existe un autre à l'INRIA, l'Institut National de Recherche en Informatique. Et à l'échelle européenne, c'est tout un mouvement de création de ces comités d'éthique pour avoir un avis indépendant, un avis éthique sur les projets que finance la Commission européenne. donc, c'est quelque chose qui est vraiment en train de se mettre en place.
Alors, en plus, j'en viens au niveau européen à ce qui est entré en vigueur hier, qui est une partie de l'IA Act, de nouvelles règles, de nouvelles obligations pour les plateformes, pour les réseaux sociaux, de signaler clairement tout contenu créé par intelligence artificielle, donc par des marquages, des logos, etc. Qu'est-ce que ça change vraiment ? Est-ce que ça change vraiment quelque chose ? Alexe Grigny.
Alors, oui, mais la réponse que je donnerai, c'est un oui, mais alors pour les contenus, comme les images, comme les vidéos, il existe en effet la possibilité, maintenant l'obligation de mettre un signe chiffré, lisible par des logiciels, que telle image ou telle vidéo avait été fabriquée par l'IA. Mais cela ne marche pas encore pour le texte, c'est ce qu'on appelle les filigranes. Vous voyez, quand vous demandez à HGPT ou à un prénom, un élève de 16 ans, qui fait devoir maison et qui fait sa dissertation avec HGPT, et bien HGPT génère un texte qu'il va copier dans sa dissertation. Il n'y a aucun moyen de prouver mathématiquement que cela a été généré par HGPT.
Il a des travaux en cours de ce qu'on appelle les filigranes. Un de mes post-doctorants a beaucoup travaillé là-dessus, dans un projet d'ailleurs national français, mais il n'est pas possible de le faire mathématiquement. Donc, le marquage de contenu, oui, mais tous les contenus sauf le texte. Amélie Cordier, à hauteur d'usagers, des usagers que vous accompagnez, ça c'est utile vraiment ou c'est cosmétique de voir apparaître des labels, des étiquettes IA sur les réseaux sociaux, sur les plateformes ?
C'est souvent très réclamé. Beaucoup de gens se demandent à ce qu'on les aide à distinguer le contenu réel du contenu généré par IA. Encore une fois, c'est une bonne initiative à soutenir, évidemment, mais ça ne suffira pas à résoudre tous les problèmes d'authenticité, de véracité de l'information. Il faut le compléter avec d'autres approches, et notamment toutes les approches, par exemple, de debunking de fausses informations qui passent par d'autres moyens.
Alors, vous parliez tout à l'heure, je crois que c'est vous, Amélie Cordier, qui parlait de souveraineté sur l'IA. J'ai cité des modèles qui sont en effet tous américains, puisqu'il y a aussi là derrière le risque de dépendance, évidemment, à d'autres puissances, en l'occurrence les Etats-Unis notamment. Est-ce que la solution pour éviter tous les risques qu'on vient d'évoquer finalement, ce n'est pas justement de développer cette IA souveraine, française, européenne, avec nos règles, nos impératifs, notre cadre, Amélie Cordier ?
Alors, la solution, c'est d'encourager la diversité. Évidemment, développer une IA européenne souveraine, et il y en a déjà plusieurs, c'est une bonne idée, mais ce qui est important, c'est de ne pas se focaliser juste sur une seule solution, mais d'offrir une diversité d'outils, tant en termes de compétences techniques, c'est-à-dire de puissance des modèles, que d'origine, que d'entreprises ou d'universités, qui les maintiennent. Pourquoi ? Parce que n'importe quel modèle peut être sujet à, par exemple, une revente, à une autre entreprise, et donc miser sur un seul cheval ne me semble pas très pertinent.
Aujourd'hui, tout à l'heure, vous avez posé la question de, est-ce qu'on peut faire une IA frugale ? En fait, aujourd'hui, oui, il y a des tas de modèles d'IA qu'on pourrait utiliser quotidiennement pour faire ce qu'on fait déjà avec les modèles monolithiques géants, qui existent. Et le problème, c'est qu'on ne le sait pas. Donc, comme on ne le sait pas, on a tendance à ne pas l'utiliser.
Si on encourage la diversité, si on encourage les gens à aller expérimenter d'autres outils, très rapidement, on va arriver à développer un écosystème d'outils qui nous permettra d'aller vers un usage plus responsable de l'IA, vers un impact environnemental moindre, et probablement aussi vers plus d'autonomie à l'égard des modèles américains.
Là-dessus, Anne-Laure Ligosa, justement, je vous pose la question, une IA française, une IA européenne, ça peut être une solution pour réduire cette empreinte carbone ? En partie, puisqu'effectivement, en France, on a une électricité qui est beaucoup plus décarbonée. Donc, effectivement, de ce point de vue-là, ça peut être intéressant. Ça ne résout pas tous les problèmes, puisque, par exemple, toute la partie fabrication des équipements qui a une empreinte carbone qui est importante. Voilà, c'est ça. Donc, en fait, de toute façon, ça ne résout pas tout à fait le problème, le fait d'améliorer globalement ce qu'on observe dans le numérique, c'est que plus on optimise, plus on va utiliser.
Donc, de toute façon, si on arrive à optimiser, que ce soit en termes d'empreinte carbone, par exemple, l'électricité, on va avoir tendance à l'utiliser de plus en plus. Donc, ce n'est pas la solution unique. Il faut de toute façon réduire, en fait, l'utilisation. Merci beaucoup Anne-Laure Ligosa, Amélie Cordier, Alexei Greenbaum, invité d'Inter ce matin. Bonne journée à tous les trois.