Entre fiction et réalité, l’IA brouille les lignes

La post-vérité, nous savons ce que c'est, on l'a appris grâce à Trump qui a presque inventé ce concept, la vérité alternative et même entrée dans nos vies. La post-réalité, je parle sous le contrôle de l'un de nos invités, c'est l'étape d'après qui découle de la première, quand la réalité ne se plie pas à nos désirs, alors on l'a tort, par exemple, pour dire que le réchauffement climatique n'existe pas. Il suffit de ne plus publier les chiffres, voire de publier en revanche des faux plus vrais que nature.

La question que l'on pose ce soir est de savoir si on n'est pas déjà passé à l'étape d'encore après, avec une intelligence artificielle dérégulée quand on ne sait plus discerner le réel de la réalité, même avec les meilleures intentions du monde. Parce que désormais, l'IA ne nous permet plus de faire la différence entre une fausse vidéo générée par l'IA et une vraie vidéo, entre une fausse voix générée par l'IA et une vraie voix. La confusion est partout. Quand on a un algorithme comme le mien sur Instagram et qu'on voit des labradors faire de la balançoire, ça ne change pas la face du monde.

Mais quand on voit Giorgia Meloni qui parle avec son accent italien en français pour dire que la France s'enfonce, c'est un exemple récent, là c'est beaucoup plus grave. Et des exemples de ce type, il y en a des centaines aujourd'hui. Et vous aussi qui nous écoutez, vous vous posez la question, attends, est-ce que c'est de l'IA ça ce que je regarde ou pas ? L'IA produit des vidéos devenues indétectables. A l'œil nu, elle a même intégré des outils de vérification. Bref, est-ce qu'on est foutu ? C'est notre question du jour.

Foutu, quand on regarde une vidéo, quand on regarde un profil sur Internet, quand on écoute une musique dont on ne sait plus si elle vient de musiciens ou d'un logiciel accessible à tous, est-ce qu'il est encore temps ? Vous allez nous aider avec vos doutes, avec les pièges dans lesquels peut-être vous êtes déjà tombés, avec les méthodes aussi pour détecter ça. Peut-être que nous allons essayer les uns les autres ce soir de rester dans le réel. C'est le téléphone sonne. Soyez les bienvenus. Le téléphone sonne. 0-1-45-24-7000.

Alors vous êtes la première et vous êtes la bienvenue. Bonsoir. Oui, bonsoir. Merci beaucoup de prendre ma question et puis merci pour vos émissions. Enfin, je ne sais pas si je dis merci à une vraie personne ou à une IA, d'ailleurs, au passage. Mais bon, prenons le risque. Prenons le risque. Allez-y. Moi, je me pose la question de ce que va être le rôle de l'IA dans la géopolitique.

Parce que, comme vous l'avez dit, s'il y a un deepfake qui nous montre, par exemple, la mort de Poutine ou celle de Zelensky ou de Trump, tout ce que je sais, si tout le monde se met à y croire, ou bien alors s'il meurt pour de vrai mais qu'on les voit toujours vivants, on sait que la guerre s'est faite beaucoup à travers les images et les récits, ça depuis la nuit des temps, mais ça a toujours existé. Mais il semble qu'aujourd'hui, l'histoire avec un grand H, ça ne devient plus que jamais un truc virtuel, mais par contre une arme bien réelle, en même temps pour bien des choses.

Donc moi, ce que j'en retiens de tout ça, c'est que je vais m'intéresser aux vrais gens qui sont autour de chez moi. Voilà. Et puis je ne sais pas si je vais écouter votre émission pour avoir la réponse.

Ah ben si, quand même. S'il vous plaît, faisons un effort. Merci beaucoup, en tout cas, Laure, pour votre question, pour tenter de répondre à toutes ces questions ensemble. Ce soir, autour de la table, il y a Julie Charpentras. Bonsoir. Bonsoir. Vous êtes rédactrice en chef en charge de l'investigation numérique à l'AFP. Vous nous raconterez comment vous faites diverses vérifications. Il y a Gérard Brunner qui est là. Bonsoir. Bonsoir. Vous êtes professeur de sociologie à Sorbonne Université. Vous avez écrit très récemment, à l'assaut du réel, aux presses universitaires de France, le bandeau de l'éditeur disait « vers la poste réalité » avec un point d'interrogation.

On verra jusqu'à quel point on a déjà enlevé le point d'interrogation entre l'apparition et maintenant, ou pas. Stéphane Jourdain, bonsoir. Bonsoir. Le spécialiste IA, France Inter et Numérique, c'est vous. La Tech, la première, le jeudi, ici même, c'est vous aussi. Et c'est vous aussi d'ailleurs qui nous avez donné envie de faire ce sujet-là. J'ai quand même envie de commencer avec le regard du sociologue là-dessus, Gérard Brunner. Moi, ce que je trouve assez fascinant, c'est que là, on en est même au stade encore supérieur avec l'or, avec un... au fond, on doute de tout aujourd'hui. Et la question, c'est, est-ce que c'est une bonne nouvelle ?

Est-ce que finalement, la réaction de l'or, c'est plutôt une bonne nouvelle, en fait ? Ou est-ce que c'est ça, le monde de demain ? Ça veut dire qu'on ne croit plus ce que l'on voit, à aucun moment.

Le doute n'est pas mauvais en soi, au contraire, c'est le début de l'esprit critique. Et on a raison de douter, on a même droit de douter en démocratie. Comme tous les droits, ça s'accompagne de devoirs, c'est-à-dire de méthodes. Et la profusion d'images dont nous ne savons plus, vous l'avez bien dit dans votre introduction, distinguer l'artificiel du naturel, c'est-à-dire le réel du fictionnel, cette profusion, elle va, à mon avis, surtout savonner la pente de ce que j'appelle, à l'assaut du réel, le scepticisme opportuniste.

C'est-à-dire, puisque je ne peux plus distinguer le vrai du faux, alors il y a un paramètre qui va probablement s'imposer, c'est tout simplement mon désir, mon désir de croire ceci ou cela. Par exemple, si j'ai des préférences politiques à droite ou à gauche, et qu'un homme politique ou une femme politique que j'aime bien dit quelque chose de déplaisant, j'aurais tout loisir de me dire, oh, c'est sans doute quelque chose qui est fabriqué par intelligence artificielle. C'est ce que la littérature a nommé le dividende du menteur.

C'est-à-dire, dans le monde que nous sommes en train de décrire, les menteurs auront un avantage, parce qu'ils pourront toujours dire, quand ils seront pris dans la main dans le sac, ils commencent déjà à le faire, non, non, en fait, je n'ai jamais dit ça, je n'ai jamais fait ça, c'est une production malveillante, par exemple, de puissances étrangères. Et ceci dit, il y a une raison de le croire, parce que les puissances étrangères, on pense à la Russie, etc., elles sont très actives, d'où la question, d'ailleurs, très intéressante, que votre auditrice a posée en introduction.

Mais est-ce que ça veut dire que l'IA, désormais, c'est l'outil idéal de nos croyances hors du réel ? Est-ce que c'est l'accélérateur de ces croyances éloignées du réel ? Ou est-ce que c'est les deux, mon capitaine ?

En tout cas, c'est l'accélérateur de la fragmentation de notre socle commun. C'est-à-dire que pour vivre en démocratie ou même en société, il faut qu'on soit d'accord sur les faits, sur les données, sur l'oral, et se disputer sur l'interprétation de ces faits. Or, les IA vont largement contribuer à nous enfermer dans un monde irréel, mais qui correspond éventuellement à nos désirs. De sorte que nos discussions ne se feront plus sur l'interprétation des faits, mais sur les faits eux-mêmes. Ceux qui ne voudront pas croire au réchauffement climatique, ceux qui ne voudront pas croire à l'existence d'un virus, par exemple, en cas d'épidémie, auront peut-être plus de loisirs de le faire.

Seulement, voilà, le réel continuera à exister, et à un moment donné, il fait valoir ses droits. Et plus nous attendons pour discuter avec lui, plus la note, elle est salée en général.

On reviendra sur cette idée, effectivement, d'un socle commun qui devient gazeux. Stéphane Jourdin, moi, ce qui me frappe, et c'est en partie ce que dit Laure, c'est qu'on en est arrivé à ce stade où c'est même à notre corps défendant. Parce qu'il y a eu une période où on savait ce qu'on voyait, et on pouvait dire, je sais idéologiquement, en fait, ce que je suis en train de produire. Aujourd'hui, j'ai l'impression que, vraiment, même à notre corps défendant, on tombe dans ces pièges-là. Alors, la question de Laure est incroyablement d'actualité, puisque, en ce moment même, il y a une vidéo très virale qui est en train de tourner sur Facebook.

Emmanuel Macron s'en est plaint ce matin publiquement à Marseille. Une vidéo dans laquelle on voit une journaliste en plateau à Paris, avec des hélicoptères dans le ciel. On voit la tour Eiffel derrière, et elle annonce qu'un colonel français est en train de faire un coup d'État en France. Cette vidéo, elle est à 12 millions de vues, donc elle est très virale. Et Emmanuel Macron s'est plaint d'avoir appelé lui-même Facebook, et que Facebook lui ait répondu, on imagine, Laurence Oli, que c'était impossible de retirer la vidéo, parce qu'elle n'allait pas à l'encontre des règlements de publication de Facebook.

Après, Stéphane, 12 millions de vues, ça ne veut pas dire 12 millions de gens qui l'ont cru. Et ça, je paierai cher pour savoir quel est le ratio de gens qui croient que c'est vrai, mais en tout cas, ça en arrange pas mal. Et Julie Charpentre, évidemment, on ne sait pas dire combien l'ont cru, mais il y a aussi ce jeu-là, c'est une sorte de mise en abyme, en fait. On regarde, on réplique, mais on n'y croit pas, au milieu de gens qui y croient. Comment on fait, quand on est, vous, en charge de l'investigation numérique à l'AFP, pour séparer le bon grain de livret là-dessus ?

Alors, pour la première partie de la question, par rapport à savoir ce qu'on croit, ce qu'on ne croit pas, qui y croit, on nous pose souvent la question. Ça, c'est vraiment quasiment, on arrive à de la psychologie personnelle, c'est extrêmement difficile. Même chacun, on ne sait pas vraiment toujours ce qu'on croit, ce qu'on croit un peu, ce qu'on croit vraiment. C'est extrêmement compliqué. Ce qui est sûr, c'est que quand c'est des choses fausses qui atteignent des niveaux de viralité pareils, de toute façon, il y a déjà forcément du dégât qui est fait.

Le paradoxe, et le piège, j'ai envie de dire aussi, de la façon dont fonctionne Internet et les plateformes en particulier, c'est que même si les gens n'y croient pas, et qu'ils partagent pour dire c'est faux, ou qu'ils commandent pour dire c'est faux, je n'y crois pas deux minutes, ils créent de l'engagement, donc ils donnent de la viralité, et de l'exposition à ces contenus faux. Donc le piège est un peu multiforme, en fait.

Ce que je trouve intéressant, on va retourner au standard dans un instant, je voudrais juste rebondir là-dessus, Gérald Bronner, ce que ça nous raconte, c'est aussi un rapport au réel, évidemment, qui a été transformé, mais je disais en plaisantant tout à l'heure dans l'introduction que dans mon algorithme, ça marche avec des labradors qui font de la balançoire, ça dit aussi la réalité qu'on a envie de voir quand on y croit, qui est complètement différente de la vie, et même de nos vies, en fait. J'ai l'impression d'être au début de Facebook, quand on racontait qu'on avait une vie passionnante, là c'est encore mieux, parce qu'on peut le montrer en vidéo.

Oui, c'est vrai que les réseaux sociaux nous ont enjoins, d'une certaine façon, à exhiber les parties les plus belles de nos vies et qui ne sont pas du tout représentatives de nos vies. De sorte que d'ailleurs, des chercheurs ont montré que quand on consulte les réseaux sociaux, on est plus malheureux en sortant qu'en entrant.

Exactement, mais le réel est tellement banal, il est tellement lisse, c'est pour ça qu'on y croit ces vidéos-là.

C'est que ces vidéos qui sont parfois très drôles, comme vous l'avez dit, de la bradoque, etc., ou des bébés qui se mettent à faire des choses beaucoup plus drôles que le réel, c'est que ce réel, si je puis dire, artificiel, cette fiction, elle risque de devenir plus désirable que le réel à un certain moment. Supposer par exemple que les intelligences artificielles se couplent à la réalité virtuelle qui nous isole du monde sensoriellement, on ne sait pas ce à quoi ça peut aboutir.

Et puis, il ne faut pas oublier autre chose pour reprendre l'exemple en effet de cette vidéo annonçant un coup d'état, c'est que même si les gens n'y croient pas, 12 millions de vues, ça peut préparer l'imagination. On sait quelquefois que l'anticipation, pardon, la fiction, elle anticipe sur les croyances. Par exemple, avant de croire aux soucoupes volantes, etc., les gens ont d'abord lu des fictions sur les extraterrestres, et l'invasion extraterrestre.

Avant de croire qu'on pouvait parler avec les morts par le spiritisme qui est devenu ensuite un grand mouvement culturel, on trouvait d'abord dans les légendes gothiques, les nouvelles gothiques du 19e siècle, la possibilité de ces discussions. Donc en fait, la fiction, elle précède parfois la croyance qui précède le réel. Donc tout cela n'est pas du tout anodin.

Voici Jean-David qui nous attend au Standard. Bonsoir Jean-David.

Jean-David. Oui, bonsoir. On vous écoute. Oui, bonsoir.

Allez-y Jean-David.

Oui, très bien. Alors, sauf erreur de ma part, il me semble que l'arrivée du train dans la gare de la Ciota, je parle du documentaire, enfin du film capté par les frères Lumière, avait, me semble-t-il, fait grand vent de panique et les gens sortaient de la salle. Voilà. Donc, je veux dire, d'une part, il y a effectivement la dimension de la prédominance du visuel dans nos vies. Donc, effectivement, avec l'essor de la perfection des images générées par l'IA, ça crée un souci.

Et d'un autre côté, le cinéma, le bien-fait, la progression des effets spéciaux ont fait en fait que les gens, lorsqu'ils sortent d'une salle de cinéma, ne sont pas persuadés qu'il y a des super-héros, des soucoupes volantes ou je ne sais quoi. C'est-à-dire qu'on sait faire la différence parce que, quelque part, c'est sourcé, il y a une traçabilité, il y a une estampie qui dit voilà une oeuvre de fiction. Et quelque part aussi, l'IA reste un outil et, bien évidemment, il y a la dimension j'ai envie de croire, je cherche un contenu, je ne regarde pas mes sources, je propage, je me fais une idée immédiate et tout ça me semble d'une extrême confusion. Voilà.

J'essaye un petit peu en vrac de jeter quelques idées.

En même temps, le vrac, Jean-David, merci beaucoup, montre à quel point, effectivement, la confusion, finalement, est chez chacun. À quel moment, est-ce que ça se marque dans le temps, ça, Julie Charpentras, à quel moment, quand on travaille, comme vous le faites, à l'investigation numérique, quand vous êtes une espèce de grand fact-checker, on comprend qu'il y a eu un shift, en effet, et désormais, on ne sait plus faire la différence entre une vidéo générée par l'IA et une vidéo dite normale ?

Alors, déjà, rappelons à l'évidence que la désinformation, la tromperie, n'a pas attendu ni Internet, ni les réseaux sociaux, ni l'IA, ça, c'est très clair, mais voilà, ce qu'on peut constater, c'est qu'il y a effectivement un changement d'échelle.

Alors, nous, ce qui nous avait beaucoup frappé dans notre pratique quotidienne, c'était quand l'IA générative a vraiment fait irruption dans le quotidien des gens, donc avec ChatGPT début 2023, on s'est attendu, et on s'est attendu pour nous en nous posant plein de questions, ça y est, l'IA est là, vous allez faire face à un apocalypse, à un raz-de-marée, puis on attendait l'apocalypse, il ne venait pas, on continuait à avoir, au quotidien, un flot continu de désinformation, évidemment, mais fabriqué, à l'ancienne, ça ne va plus vite, c'est moins cher.

Ça a vraiment pris de façon assez lente et on a vu une vraie accélération cette année, en 2025, c'est assez précis, au printemps, avec tout simplement la sortie de nouveaux logiciels plus sophistiqués, donc en l'occurrence, un logiciel de Google, Google VO3, au mois de mai, donc il y a eu un vrai saut à ce moment-là de qualité, de disponibilité et donc de crédibilité des vidéos qui étaient créées, OpenAI, on a sorti un autre en septembre, Sora, c'est vraiment extrêmement rapide et le dernier, il y en a un nouveau de Google et on a encore un saut qualitatif avec là, effectivement, des vidéos qui sont quasi indétectables, il y a encore quelques petites choses, quelques petits indices qu'on peut voir, nous, en regardant et encore, pas toujours et on y reviendra peut-être, on a quelques méthodes quelques méthodes, quelques astuces mais rien ne vaut

l'investigation de toute façon. Ce que j'allais dire, c'est que vous avez des astuces et votre métier donc que vous avez vous mais que le commun des mortels quand il voit les hélicoptères débrouillés sur les Champs-Elysées, eux ne les ont pas.

C'est ce que j'allais dire et c'est un peu ce qui a été dit tout à l'heure dans la question, à savoir que l'impact du visuel il est énorme et que quand on voit de toute façon des images marquantes auxquelles on a envie de croire et qui sont très désirables de toute façon et qui sont là en plus fabriqués pour susciter de l'émotion, on ne va pas les regarder ces détails-là. On va d'abord réagir, on va d'abord accepter quelque chose qu'on va généralement considérer comme vrai par habitude.

Après, ce qui me fascine Stéphane Jourdain, c'est que les géants de la tech et ceux qui inventent non seulement les IA mais aussi tous ces logiciels-là, ils le savent très bien. Moi, je voudrais essayer de comprendre, peut-être que vous allez m'aider tous les deux, ce que c'est que la psychité de ces gens-là qui connaissent les limites, qui savent les dangers mais qui mettent systématiquement la main sur le fourneau pour voir si c'est chaud et encore et encore et encore.

Oui, et un certain nombre sont technosolutionnistes donc ils pensent que l'IA va faire plus partie de la solution que du problème ce qui jusqu'à maintenant n'est pas complètement avéré parce que l'IA, Julie, vous l'avez dit, les logiciels sont de plus en plus sophistiqués et ils sont de plus en plus simples à utiliser. Vous parliez des points de bascule, l'un des points de bascule c'est le pape avec une doudoune blanche. On a été pas mal à se faire avoir. A l'époque, c'était Dali, c'était très compliqué de faire un prompt pour obtenir une telle image.

Aujourd'hui, avec Nano Banana de Google, il suffit, vous pouvez parler et dire je voudrais une image de Fabienne Synthès avec un fond qui n'est pas celui de France Inter, etc. Et vous aurez l'image. Il suffit de dire changer la couleur des cheveux de Fabienne Synthès et ça va changer la couleur des cheveux. Donc c'est très très simple. Est-ce que l'IA fait aussi partie de la solution et plus de la solution que les problèmes ? Pour l'instant, ça n'est pas avéré, ça n'est pas ce qu'on voit. Est-ce que l'IA fait partie de la solution Gérald Bronner ? A votre avis, est-ce qu'il y a un effet vertueux là-derrière ou est-ce qu'on est à deux doigts d'une bascule où il n'y a plus d'effet vertueux ?

Les deux en même temps, j'en sais rien, je ne vois pas dans l'avenir, c'est très compliqué. On est là face à une situation de très grande incertitude comme il y en a rarement dans l'histoire des sciences parce que les grands spécialistes de cette question, ce que je ne suis pas du tout, moi je suis sociologue, font entendre des voix très différentes. Alors, d'abord...

Vous êtes sociologue donc c'est de la science et le sens de ma question derrière, c'est est-ce que la science est plus forte que ça en fait ? Ou pas ? Ou est-ce qu'on est tous en train de marcher sur cette ligne de crête sans savoir de quel côté on tombe ?

En tout cas, ce qui est évident, c'est que nous ne pouvons pas par décision arrêter l'élan de l'IA puisqu'il y a eu un texte qui a été même signé par Sam Altman, etc. C'était assez drôle. D'ailleurs, pour un moratoire sur l'IA, c'est vraiment une preuve d'impuissance. Je ne sais pas si ils y croyaient eux-mêmes mais évidemment, il n'y a eu aucun moratoire sur l'IA, le dentifrice est sorti du tube en quelque sorte. Mais pour répondre à votre question, l'IA pourrait être une partie de la solution. Moi, je ne veux pas non plus noircir complètement le tableau parce que c'est un outil formidable.

Par exemple, j'ai publié dans l'Express la semaine dernière un texte qui montre sur la base d'études scientifiques que l'IA est la meilleure réponse à opposer, par exemple, aux conspirationnistes, aux antivaccins. C'est le meilleur taux de décroissance de la croyance qu'on observe. Alors en fait, le combat fondamental, le combat des combats, parce qu'il y a une façon de repérer, par exemple, les fausses vidéos, vous avez remarqué, c'est qu'elles sont extrêmement stéréotypées, ces vidéos, souvent. C'est-à-dire, quand vous en voyez sans, vous pouvez être dur qu'ils se ressemblent, vous pouvez être sûr que ce sont des vidéos d'IA. Pourquoi ?

Parce que c'est ce qu'on appelle les MAD, les Modèles Autophagiques Disorders, les désordres de modèles autophagiques. Qu'est-ce que ça veut dire ? C'est que les IA se nourrissent, justement, sur les productions des mondes numériques. Or, elles sont maintenant majoritaires à produire des choses dans le monde numérique. Donc, elles se nourrissent de leur propre production. Ce qui tend à stéréotypifier leur production, c'est pour ça que vous avez des centaines d'amusement entre chiens et chats, etc., qui étaient au départ des vraies vidéos et qui deviennent maintenant extrêmement stéréotypées.

Donc, en fait, pour dire d'un mot ce que je crois, c'est que le combat des combats, c'est la qualité de l'urne. Puisque les IA s'exercent sur l'urne numérique, il faut veiller à ce que ces urnes ne soient pas empoisonnées de fausses informations. Or, il y a des acteurs, il y a des agents, il y a des gouvernements qui font tout pour que ces urnes soient empoisonnées. Donc, le bras de fer tendra d'un côté ou de l'autre selon notre motivation à ne pas laisser ces urnes empoisonnées.

L'autre question avant de retourner au standard que j'ai envie de poser, ça va nous amener à parler un petit peu de musique dans quelques petites secondes. C'est, les gens qui regardent ont-ils vraiment... En gros, est-ce qu'on arrive à un monde où ils disent « Oui, c'est fou, je sais bien qu'un labrador ne berce pas un bébé, mais je m'en fous, c'est mignon. » Fin de l'histoire. Et il y va du labrador comme finalement des hélicoptères qui envahissent Paris ou autre chose. Au fond, désormais, ce n'est pas grave. On s'en fout. Alors qu'il y a encore peut-être un an, cette question, elle ne pouvait pas se poser. Julie d'abord et puis Stéphane juste après.

Oui, c'est effectivement délétère. Ce qu'on nous dit souvent, c'est aussi « Oui, mais ça pouvait être vrai. » Si on vous dit « Bah, Mélanie n'a pas dit ça. » Elle aurait pu. Elle aurait pu. Donc, c'est pareil. Donc, on en vient à ce qui est extrêmement délétère et on parlait tout à l'heure du fait que pour pouvoir avoir un débat sain, il faut au moins s'entendre sur les faits. C'est un des soucis. C'est celui-là, effectivement.

C'est le socle commun gazeux. Un mot là-dessus, Stéphane ? Oui, pour répondre à votre question, Variety a fait un sondage international il y a quelques semaines selon lequel 37% des sondés déclarent qu'ils sont OK pour regarder des contenus IA, que ce soit du cinéma ou de la musique, si c'est aussi bien fait que les humains. Ça ne les dérange pas si c'est aussi bien fait que les humains. C'est quand même un ratio qui est énorme et on voit dans la musique 2025 et l'année où de la musique IA s'est hissée dans les tops, au top de charts américains sans que les gens ne sachent qu'ils étaient en train d'écouter de l'IA. Aussi bien fait que les humains.

Je voudrais rapidement qu'on accueille Jean-Michel Jarre qui est avec nous. Bonsoir. Oui, bonsoir. On est content que vous soyez avec nous parce que vous suivez ça de très près. Vous en avez déjà beaucoup parlé. Vous dites et comme tous les musiciens d'ailleurs que l'IA peut être aussi une muse moderne que vous avez utilisé l'IA que vous l'utiliserez là-dessus il n'y a vraiment rien à dire. Moi je me demande si dans la musique Jean-Michel Jarre on n'a pas passé dans le même cap et fait le même shift c'est-à-dire que désormais on ne sait plus dire si c'est un musicien ou une IA qui fait ce morceau et est-ce que vous vous dites c'est la vie ou est-ce que vous dites au secours ?

Non, je pense d'abord qu'il ne faut pas confondre l'outil et l'usage.

La piraterie elle existait avant l'électricité elle existera après l'IA je veux dire qu'il ne faut pas nécessairement avoir une vision dystopique de la technologie je veux dire que c'est toujours la même histoire les peintres au début de la photographie faisaient des pétitions en disant c'est la fin c'est la fin de la peinture au début des Frères Lumière les gens du théâtre disaient finalement ça va être la fin on ne va plus aller voir les pièces de Molière au théâtre parce que le cinéma va le capturer d'une manière définitive les gens resteront chez eux pour regarder les pièces de théâtre on s'est aperçu qu'à chaque fois c'est la technologie qui dicte les genres c'est parce qu'on a inventé le violon que Vivaldi a fait de la musique qu'il a faite qu'on a inventé la caméra qu'on a le cinéma etc.

donc je pense qu'il ne faut pas avoir peur de l'IA il ne faut pas être naïf non plus et je pense que plus on embrasse rapidement une technologie plus on peut la plus on peut éventuellement combattre les effets pervers mais surtout on peut surtout l'utiliser comme une opportunité pour pour élargir son inspiration son imagination

et je comprends mais à partir du moment où quelqu'un peut vous dire moi si c'est aussi bien fait que de la musique faite par un musicien au fond j'écoute une musique générée par l'IA pour moi c'est pareil est-ce que encore une fois vous dites c'est pas grave c'est comme ça que ça marche désormais ou est-ce qu'on se dit on est en train de perdre un terrain considérable aujourd'hui quand on écoute une plateforme on ne sait pas ce qu'on écoute en fait

ça dépend de quoi on parle parce que ça fait quand même des années que par exemple dans la pop américaine il y a des règles avec des formats qui sont utilisés par des producteurs et qui font de la musique au maître donc si vous voulez l'IA ne changera pas ça maintenant moi j'ai aucune peur pour le prochain Miles Davis ou le prochain Gainsbourg parce que si vous voulez ce qu'il ne faut pas jamais oublier c'est que l'IA moissonne le passé et que ce qui fait la spécificité d'un artiste c'est justement de se servir du passé de son data analogique qui est sa mémoire sa culture son environnement pour en faire quelque chose de spécifique donc la spécificité de la création elle est je dirais pratiquement inversement proportionnelle au data qui est autour de nous c'est pas parce qu'on a eu de plus en plus si vous voulez ce genre de discussion me rappelle un petit peu ce que disait le Vatican au moment de l'invention de l'imprimerie de Gutenberg en disant attention plus les gens vont avoir de livres moins on va finalement contrôler le talent ou le savoir

mais sauf qu'à cette époque-là Jean-Michel Gère on continue à écrire des livres la question que je me pose aujourd'hui c'est si on continuera à écrire de la musique

non à ce moment-là il y avait 90% de gilettrés donc il ne faut pas oui non mais ok mais je veux dire

l'invention de l'imprimerie a fait que on a écrit des livres on n'a jamais cessé d'en écrire la question aujourd'hui est de savoir si on continue à écrire de la musique ou si on se dit puisque l'IA sait le faire aussi bien laissons la faire et est-ce que ça quand même ça vous fait pas un peu de peine je vais vous dire

je reviens de Pékin j'ai passé 10 jours pour rencontrer les grands acteurs de l'IA et notamment le conservatoire national supérieur de musique de la ville de Pékin qui est le correspondant chinois du conservatoire national de musique à Paris et ils ont un département qui s'appelle musique, IA et neurosciences et dans ce département les étudiants sont à la fois doivent à la fois avoir un très haut niveau de maîtrise d'un instrument piano, violoncelle ou autre et en même temps d'avoir des notions de codage et de mathématiques pour justement approcher l'IA comme une forme de nouveaux solfèges donc si vous voulez je pense qu'il ne faut pas en même temps il y a par exemple une société comme Aida qui a déjà maintenant déposé des brevets sur le fait qu'ils vont pouvoir watermarker d'une certaine manière si on peut parler de cet anglicisme pour justement repérer les fake news et repérer le vrai du faux je pense que si vous voulez la technologie une technologie naissante va faire va donner naissance aussi aux contre-pouvoirs aux contre-technologies donc je ne pense pas qu'il faille s'inquiéter à avoir cette vision systématiquement dystopique de quelque chose qu'on embrasse encore mal

merci beaucoup Jean-Michel Jarre merci vraiment vous pouvez rester si vous le souhaitez bien sûr on va y venir à ce watermark moi j'aime bien l'optimisme de Jean-Michel Jarre Gérald Bronner mais la question que je me pose il n'y a pas forcément de dystopie moi aussi je trouve que c'est formidable à bien des égards est-ce que vous vous êtes déjà fait avoir sur une vidéo par exemple est-ce que désormais même vous êtes capable de vous faire avoir sur une vidéo ou sur une musique que vous entendez c'est super ce truc et on découvre que finalement

alors sur la musique sur des textes probablement des vidéos je ne suis pas certain parce que précisément moi je suis dans comme tous mes contemporains je suis devenu très très sceptique sur toutes les vidéos qui me paraissent un peu trop spectaculaires il faut quand même dire que moi je suis plutôt technophile d'ailleurs si j'ai un biais ce serait plutôt la technophilie peut-être un peu comme Jean-Michel Jarre cependant je suis peut-être un peu plus pessimiste que lui parce que pour qu'il y ait je pense qu'il y aura toujours bien entendu des artistes de talent qui continueront parce que c'est une passion mais pour qu'il y ait un Miles Davis il faut qu'il y ait beaucoup beaucoup de gens qui se mettent sur la ligne de départ donc c'est une question statistique si on assèche l'urne qui va produire des talents à la fin on aura beaucoup moins de virtuosité c'est presque mécaniquement mécaniquement attendu

mais alors comment est-ce qu'on va s'en sortir nous dit Iop sur Whatsapp on ne pourra plus faire confiance désormais en aucune information ma crainte c'est qu'aux prochaines élections présidentielles américaines les partisans de Trump déclenchent des soulèvements beaucoup plus graves que l'affaire du Capitole par exemple c'est ce que nous dit Serge aussi sur Whatsapp je vous les livre comme ils arrivent finalement je ne crois plus en rien je ne crois plus du tout en aucune information c'est aussi ça ou pardon c'est aussi ça le risque Julie Charpentras on ne croit plus à rien et votre rôle à vous notre rôle à nous collectivement mais dans ce que vous faites à l'AFP c'est précisément

qu'on continue à croire à un certain nombre de choses qui nous arrivent oui alors non seulement c'est la conséquence mais c'est même le but si on parle de désinformation au sens vraiment volontaire et malveillant du terme le but plus parfois même de faire croire à certaines infox et à certaines fake news isolées c'est de créer un chaos informationnel dans lequel plus personne ne va croire quoi que ce soit c'est le but des campagnes de désinformation de propagande qui ont été attribuées par exemple à la Russie c'est précisément pour arriver au fait que plus personne ne croit rien ce qui est vrai et croit ce qui est faux et ne croit pas ce qui est vrai

quand vous êtes vous face à une vidéo est-ce que désormais aujourd'hui il y a des moments où vous dites je ne peux pas dire si c'est vrai ou faux donc j'y vais pas est-ce que vous vous êtes planté parce que maintenant avec le recul vous savez qu'il y a eu un faux et vous l'avez pris pour un vrai maintenant les outils pour s'en rendre compte sont différents ça arrive ça ou pas ?

alors deux cas de figure à l'AFP on est donc là on est des fact checkers mais on est aussi l'AFP donc effectivement ce qui se passe maintenant comme réflexe pour le service vidéo par exemple quand il s'agit d'authentifier une vidéo qui n'a pas été tournée par l'AFP qu'on en récupère et qu'on doit authentifier typiquement des images amateurs ou des choses comme ça question qu'on ne se posait pas avant c'est est-ce qu'elle n'a pas été créée de toute pièce par ailleurs ?

on a eu un exemple il y a quelques mois il y avait une vidéo qui circulait beaucoup sur les réseaux sociaux censément montrer une explosion devant la prison des vines en Iran c'était d'autant plus crédible qu'elle était de mauvaise qualité parce que c'était censé être une vidéo de vidéosurveillance donc d'autant plus difficile à détecter on se doute qu'elle va être en noir et blanc qu'elle va être de mauvaise qualité alors beaucoup de pas mal de médias se sont fait avoir il y a eu un gros gros débat à l'AFP en l'occurrence on a pris la bonne décision de ne pas la diffuser je cite cet exemple mais très honnêtement de mémoire c'est pas pour absolument défendre ma maison mais j'ai pas de souvenirs récents où on s'est trompé on a plutôt été prudents et après effectivement une fois qu'il a été constaté que cette vidéo il y avait de forts doutes elle est passée entre les mains des fact-checkers et là on a décortiqué et on a pu produire une vérification précise

est-ce qu'on va vers ce moment où on sera débordé en fait parce que vous n'aurez plus le temps de fact-checker chacune des vidéos qui arrivent est-ce que c'est déjà le cas

c'est déjà le cas depuis longtemps il faut vraiment avoir absolument conscience et on le sait quand on se lève le matin quand on est fact-checker que de toute façon les fact-checkers aussi nombreux soient-ils ne résoudront jamais le problème de l'information et de la désinformation ce chaos ça c'est pas possible en revanche tout à l'heure Gérald Bronner parlait d'urne là où par exemple les chatbots s'alimentent sur internet etc face à cette inondation face à cette déferlante qui date aussi d'avant l'IA de toute façon nous on ne peut pas c'est strictement impossible de tout vérifier déjà on fait évidemment une sélection selon un certain nombre de critères de viralité de dangerosité potentielle etc mais l'idée du fact-checking de l'information en général quand elle est bien faite et du fact-checking c'est d'occuper le terrain et justement de faire en sorte que l'urne soit moins remplie uniquement de désinformation mais aussi de bonnes infos

un mot avant de retourner au standard Stéphane le fameux watermark dont parlait Jean-Michel Jarre l'idée de se dire on va estampiller ce qui est de l'IA comme ça on saura de qui on parle mais enfin c'est l'antithèse de ceux qui sont dans les plus malveillants puisque le but du jeu justement c'est qu'on ne s'en rende pas compte donc en fait on sait un peu le diable qui se mord là que là-dessus on voit bien dans le domaine musical qu'on n'arrive pas à estampiller les morceaux IA alors qu'on pourrait imaginer que ce soit assez simple de la part des plateformes de préciser même en tout petit que c'est de l'IA c'est ce qu'on disait elle pourrait le faire il y a une volonté de ne pas le faire l'AFP a essayé de déterminer si un des morceaux qui était en première place des charts country était de l'IA elle a été incapable enfin incapable de certifier à 100% que c'était de l'IA

les détecteurs justement on parle de l'IA qui peut aider à détecter l'IA les détecteurs n'ont pas su répondre

donc c'est très difficile il y a de l'IA pour détecter de l'IA qui détecte de l'IA on va finir avec 5 IA diverses et variées pour être sûr de ce qu'on fait après l'une des solutions Gérald Bronner et c'est peut-être presque réjouissante c'est de se dire que finalement peu importe ce que raconte la vidéo ce qui nous intéresse c'est de questionner le contenu donc ça veut dire que cette histoire est en train d'exercer notre esprit critique à fond en fait et que ce qui nous sauvera la vie précisément c'est de continuer à exercer notre esprit critique

si nous ne cédons pas à la spontanéité mentale et à nos désirs oui mais justement c'est aussi un bras de fer à l'intérieur de nos cerveaux qui est en train de s'organiser parce que sur l'estampie prenez par exemple les vidéos Sora Sora 2 dont on a tous on a parlé des vidéos pardon des IA vidéos très très bluffantes et bien on peut retirer en fait l'estampie Sora certains le font et il y en a même qui ajoutent l'estampie Sora sur des vraies vidéos donc vous imaginez la confusion totale mais j'ai envie de dire que le problème est encore plus profond que ça parce que là on n'a pas parlé de ce qu'on appelle l'astroturfing par exemple l'influence des opinions par toute une série c'est une influence disons insincère des opinions par des agents avant ce qui est des humains maintenant c'est des agents artificiels qui se font passer pour des comptes réels sur les réseaux sociaux qui ont l'air très bien ils peuvent pendant un an deux ans ces agents dormants et puis tout à coup à l'occasion de l'invasion par exemple de l'Ukraine par la Russie bouffe c'est très documenté ils se mettent à popper et puis il y a aussi cette confusion qui est créée dans notre rapport avec les IA qu'on anthropomorphise il y a 30% des jeunes américains qui trouvent que c'est aussi satisfaisant d'échanger avec les IA qu'avec des vrais êtres humains exactement

aussi bien qu'avec les humains meilleure musique qu'avec les humains meilleure vidéo qu'avec les humains meilleur auditeur c'est Antoine bonsoir Antoine

bonsoir madame bonsoir messieurs dames

on vous écoute

merci beaucoup pour votre émission ma question apporte justement sur ce sujet pardon pour l'anglaisisme le watermark c'est donc quelles seraient les possibilités à la fois techniques et légales pour mettre en oeuvre une obligation d'identification de la source IA lors de la production pas pour identifier la posteriori mais pour obliger les outils de production d'IA à mettre une information disant ça a été produit pour l'IA et ce qui inspire cette question c'est notamment les lectures que j'ai pu avoir de romans de science-fiction d'Isa Casimov c'est le loi de la robotique qui protège l'humanité et qui sont intégrées directement dans tous les robots

qui peut répondre à cette question Julie Charpentras

alors pas en détail mais je vais faire peut-être une réponse très courte il faudrait que les créateurs les plateformes et les logiciels d'IA soient d'accord ça voudrait dire des watermarks inviolables d'entrée donc ça s'appelle un filigrane parce qu'on est en train de se faire engueuler sur Whatsapp

mais on a bien compris

ce serait effectivement de mettre dans les métadonnées des choses qui prouvent de façon certaine que c'est de l'IA alors il y a plein de choses techniques qui me dépassent mais encore une fois il faut la bonne volonté la participation de tout le monde on n'en est pas tout à fait là en fait

et c'est pas du tout l'ambiance aux Etats-Unis dans la Silicon Valley ils ne veulent aucune régulation et il est hors de question qu'on leur impose ça c'est dans l'IA Act de mettre un filigrane sur les contenus mais on est tout petit par rapport et ce qui est fascinant quand on les écoute parler quand même c'est qu'ils ont bien conscience de tout ça je crois que c'est je ne sais plus lequel disait c'est Musk qui dit il y a 5 à 10% de chance pour que quelque chose se passe mal en fait avec l'intelligence artificielle à son excès comme ça comment il s'appelle notre avis d'anthropique j'ai oublié son nom Dario Amodei dit il y a 25% de chance pour que ça se passe mal donc c'est un peu comme si on avait intégré l'espèce de modèle d'une explosion civilisationnelle est-ce que c'est ça que ça veut dire Gérald Bronner ou pas ?

En tout cas ces acteurs dont on parle ils sont souvent plus ou moins liés à ce qu'on appelle le transhumanisme c'est-à-dire la volonté de dépasser nos conditions biologiques par la volonté humaine et notamment technologique ils en sont à vouloir télécharger notre conscience dans du silicium pour dépasser pour s'affranchir des conditions biologiques donc effectivement qu'ils engagent notre civilisation dans une course en avant en réalité

Est-ce que et ce serait la dernière question le monde de demain c'est un monde de vidéos d'informations de sons qui sont générées par l'IA dont on a du mal à savoir si elles sont vraies et si elles sont fausses ça c'est pour une grosse partie de la population et puis l'autre qui serait quasiment garantie sans IA en fait et c'est là qu'on ferait la différence entre ces deux mondes avec un abysse au milieu où ça n'a absolument aucun sens tout le monde va plonger la tête la première et tant mieux pour ceux qui arrivent à surnager et comprendre ce qui est vrai ou ce qui est faux est-ce que c'est comme ça que ça se résume ou pas ?

Moi personnellement je fais partie des sociologues qui ne croient pas du tout aux lois de l'histoire donc je suis absolument pas plus compétent qui que ce soit pour répondre à cette question je crois simplement qu'on est vraiment à un carrefour civilisationnel les mots ne sont pas trop forts peut-être que jamais notre vie collective n'était aussi incertaine et l'IA c'est un des paramètres en effet qui rend cette vision du futur très incertaine

Bon écoutez incertaine mais quand même joyeuse Essayons Voilà on n'est pas obligé de tomber peut-être la première je vous remercie tous les trois chaleureusement la question des petits bâtons très rapidement c'est celle de Prune elle a 10 ans

Je voudrais savoir ce que deviennent les petites parties de notre corps qui sont retirées lors d'une opération chirurgicale

et la réponse dans 3 minutes Merci d'avoir regardé cette vidéo !