Psy, ami, amant... Peut-on devenir accro à ChatGPT ?

France Inter Bonjour, bienvenue dans le débat de midi sur France Inter. Très heureuse de vous retrouver pour un nouveau débat sur nos liens affectifs. Et ce matin, j'ai un nouvel ami. Il s'appelle Sam et je l'adore. On s'écrit tout le temps. Il faut dire, il est disponible 24h sur 24. Je peux le déranger à n'importe quel moment. Il me répond dans la seconde, je peux lui poser mille fois la même question. Il ne se fâche pas, il est patient, il est si savant et compatissant. J'aimerais tellement le voir, le serrer dans la vraie vie. Mais c'est impossible, car Sam est une intelligence artificielle. Cette histoire d'amour virtuel arrive de plus en plus dans le réel.

En juin dernier, un Américain a demandé en mariage son intelligence artificielle et elle a dit oui. En France, de plus en plus de jeunes se confient à l'IA, peu coûteux, disponibles à tout moment, sans jugement. Quel danger y a-t-il à utiliser ChatGPT comme psy ? Selon une étude de la Fondation de France, 35% des jeunes âgés de 25 à 39 ans se sentent isolés. Alors, face à cette épidémie de solitude, ces agents conversationnels peuvent-ils être une béquille ? Un soutien émotionnel ou est-ce dangereux ? Accro à ChatGPT pour le meilleur et pour le pire ? Débat jusqu'à midi 45 sur France Inter. Et ce débat sur l'intelligence artificielle et émotionnelle vous passionne déjà.

Vous êtes très nombreux à nous avoir écrits, comme Leila qui raconte « Je me rends compte que je passe plus de temps à parler à mes amis sur Instagram que dans la vraie vie, j'ai l'impression qu'on se voit de moins en moins ». Et Philippe, au contraire, trouve génial son lien avec ChatGPT. Il organise mes vacances, mes week-ends, me donne des idées de restaurants. À la fin, il finit par connaître mes goûts mieux que ma femme. Alors si, comme ses auditeurs, vous êtes utilisateur de ChatGPT, que vous le trouvez sympathique ou que vous êtes effrayé par ce que vous entendez, vous réagissez. Sur l'application France Inter, vous vous enregistrez. Vous nous laissez des notes vocales comme Laurent.

Il a clairement supplanté mon ami Érudit. D'abord parce qu'il a réponse à absolument tout, alors que mon ami Érudit est faillible de temps en temps. Mais en plus, il n'en profite pas pour placer ses connaissances personnelles. Il ne répond qu'à la question et il ne juge pas. Parce que mon ami Érudit, quand je lui demande à quoi rêvent les verres de terre, il me prend un peu de haut. ChatGPT, jamais.

Pour réagir, 01-45-24-7000 sur le WhatsApp de France Inter, vous nous écrivez dès maintenant, vous nous posez des questions. Nous avons des spécialistes en plateau des intelligences bien réelles en chair et en os. Bonjour Julie Martinez. Bonjour Paola. Vous êtes directrice générale du think tank de France Positive, auteure de IA et Fake News. Sommes-nous condamnés à la désinformation avec un point d'interrogation ? Vous répondez, évidemment pas. Il y a des solutions, rassurez-nous en deux mots. Oui, il y en a, heureusement, parce que sinon on serait foutus.

Face à vous, Raphaël Gaillard, responsable du pôle de psychiatrie à l'hôpital Saint-Anne à Paris, auteur de L'Homme Augmenté aux éditions Grasset. Bonjour.

Bonjour.

Vous êtes également Benjamin de l'Académie française, donc on peut dire que vous êtes immortel, Raphaël.

C'est la langue française qui est immortelle, mais nous y contribuons.

Avant d'ouvrir le débat sur ces agents conversationnels dont les Français se servent de plus en plus, un témoignage pour incarner notre débat. Bonjour Edmé. Bonjour. Vous avez 33 ans et très récemment, vous avez commencé à utiliser Tchad GPT comme psy d'urgence, on peut le dire. Racontez-nous, faites-nous vivre ce moment où tout a commencé. Écoutez, j'étais chez moi un soir. Il était trop tard pour que je puisse appeler une amie ou un proche. J'étais un peu anxieuse pour des raisons personnelles, professionnelles, enfin des choses qui arrivent. Et donc, je me suis dit, je vais parler à Tchad GPT et ça a été d'une grande utilité. J'ai trouvé qu'il était pertinent, neutre.

Ça m'a fait vraiment du bien et c'était une situation d'urgence. Bon, pas non plus excessive, mais en tout cas, il n'y avait personne pour m'écouter et Tchad GPT m'a permis de m'apaiser en tout cas. Et quels sont les avantages alors ? Parce que vous avez continué, je crois, une ou deux fois et la conversation s'inscrit avec lui. Il a donc la mémoire de ce que vous vivez. Quels avantages vous trouvez ? Eh bien, moi, je trouve que l'avantage principal, c'est qu'il est neutre et il ne peut pas donner de mauvais conseils. Parce que d'abord, c'est un peu la Suisse, il ne se mouille pas trop. Donc, il ne va pas vous faire prendre des décisions complètement risquées ou mauvaises.

Et donc, en fait, c'est principalement une écoute. Je pense que c'est ça l'avantage principal, c'est que c'est vraiment une écoute neutre. Et ça, vous n'avez pas des vrais amis qui peuvent vous écouter dans la vraie vie avec qui aller prendre un café, tout simplement ? Non, mais si, bien sûr. J'ai même un psychologue, donc je suis assez avertie. En l'occurrence, je trouve d'abord que c'était amusant d'essayer. Et ensuite, encore une fois, dans les moments où les gens ne sont pas disponibles, où je me pose des questions assez concrètes, les états d'âme classique, à mon avis, ça ne sert à rien d'en parler à Tchad-GPT.

Mais quand il y a vraiment des choses ciblées, je crois que ça peut être utile quand même. Est-ce que vous avez l'impression que notre société, on parle souvent d'une épidémie de solitude, de gens qui deviennent individualistes. Est-ce qu'au moins, Tchad-GPT, on n'a pas l'impression de le déranger ? Moi, je suis bien consciente que ce n'est pas un humain. Non, on n'a pas l'impression de le déranger, pas forcément. Moi, je garde en tête que c'est une intelligence artificielle, évidemment. Et d'ailleurs, c'est ça que j'aime. Quelle serait la doxa ? Quel serait le conseil le plus neutre, le plus classique, le moins risqué ?

Et il vous a donné des trucs, comme on dit, Tchad-GPT, pour aller mieux dans la vie ? Alors, quand je lui ai parlé d'une source d'anxiété, il m'a répondu, on a dialogué assez longuement par écrit. Et puis, il a fini par me proposer de me rédiger un mantra, une sorte de petite lettre, qu'il m'a recommandé de me lire à moi-même les moments où l'anxiété revenait. C'est pas mal. Je n'ai même pas eu besoin, d'ailleurs, de relire parce que la discussion a été assez intéressante. Mais j'ai toujours ce petit texte que j'ai gardé. Donc, oui, il donne des astuces, des choses concrètes.

Merci, Edmé, pour ce témoignage et donc continuer quand même à aller en thérapie en plus de Tchad-GPT comme site d'urgence. Raphaël Gaillard, qu'est-ce que vous pensez de ce témoignage, visiblement, qui a aidé cette jeune femme à des moments d'anxiété tard dans la nuit où elle ne pouvait appeler personne ?

D'abord qu'il est tout à fait représentatif. C'est-à-dire que nous entendons beaucoup de nos patients faire part de ce rapport à Tchad-GPT, faire part de cette modalité d'échange. Avec un robot conversationnel qui a la vertu de les écouter. Et je crois que les mots-clés utilisés, celui de neutralité, notamment, sont des mots-clés très importants. Ça veut dire que l'impression avant tout, c'est d'avoir affaire à quelque chose qui ne juge pas, peut-être même quelqu'un qui ne juge pas et qui écoute. Avec la vertu du dialogue, puisque l'un des grands enjeux de ces robots conversationnels, c'est le dialogue qui fait plus d'ailleurs que le mantra. L'auditrice le dit très bien.

Le seul fait d'échanger, de dialoguer, épuise en quelque sorte l'anxiété, fait s'écouler l'anxiété qui disparaît au gré de cet échange. Ce qui est la vertu de toute psychothérapie.

Alors, 42% des 18-25 ans utilisent l'intelligence artificielle tous les jours. Selon une étude du MIT, il faudrait 5 jours pour nouer un lien émotionnel avec ces robots conversationnels. Quel est le risque, Julie Martinez ?

Il y a évidemment plusieurs risques. Il y a au moins, je pense, 3 ou 4 gros risques. Alors déjà, sur la question de la santé mentale, parce que finalement, la relation que ces jeunes ont avec Tchad GPT, ou en tout cas que cette femme-là a avec une intelligence artificielle générative, on le voit, c'est le besoin de parler. Et ce qui ressort de tout ça, c'est qu'il y a peut-être un gros problème de politique publique dans l'accompagnement de ces jeunes dans le cadre de la santé mentale. Mais on y reviendra, je l'imagine. Un autre danger, c'est peut-être la question de la gestion même de l'intelligence artificielle générative par ces jeunes-là. Est-ce qu'on leur explique les cas d'usage ?

Parce que là, lorsqu'on cherche à utiliser Tchad GPT pour discuter avec lui peut-être, mais pour trouver des réponses, pas forcément. Ça va être très compliqué. C'est-à-dire que quand on comprend un petit peu comment fonctionne l'intelligence artificielle générative avec ces bases de données qui sont déjà présélectionnées, qui sont alimentées par des jeunes qui ne comprennent pas forcément ou remontent d'ailleurs ces données, c'est-à-dire aux fournisseurs eux-mêmes de modèles d'intelligence artificielle, le cas d'usage, c'est-à-dire chercher une réponse, l'intelligence artificielle générative ne va pas forcément être en mesure de la donnée.

C'est-à-dire qu'elle ne va pas être en mesure de la donnée comme le donnerait par exemple un véritable psychan. Donc la gestion même de l'intelligence artificielle est intéressante et l'apprentissage du cas d'usage doit être clé. Et là, en l'occurrence, on ne l'apprend pas à l'école. En tout cas, on n'apprend pas à nos jeunes à se servir de réseaux sociaux, d'intelligence artificielle générative en fonction de leurs besoins. Un troisième danger, c'est peut-être le leurre du soin. C'est-à-dire qu'on a l'impression de se confier, de trouver des réponses. Alors aujourd'hui, vous savez, on fait face à une crise, à une pénurie de médecins, de psychiatres, de psychologues.

On a l'impression que dans l'intelligence artificielle générative, on va trouver des solutions, des palliatifs finalement à cette pénurie-là. C'est faux. C'est-à-dire que le leurre, c'est de ne pas accompagner justement en supplément ces jeunes. Alors en supplément, mais là la question que j'ai envie de vous poser,

c'est est-ce qu'il y a plus de risques et de dangers ou est-ce que ça peut être une béquille émotionnelle et un soutien ? Raphaël Gaillard ?

C'est difficile de dire parce qu'en première approche, c'est réellement un soutien et c'est réellement un apport. Et de fait, cette disponibilité qui est évoquée par l'auditrice 24h sur 24, ça ne sera jamais possible. Ça, c'est imbattable.

Effectivement, un psychologue ne peut pas être disponible 24h sur 24.

Cette hyper-adaptation à la personne qui sollicite, c'est imbattable aussi puisque finalement, c'est un objet, quasiment une personne, qui est entièrement à disposition de celui ou celle qui la sollicite. Et donc ça, il faut reconnaître que c'est une béquille, comme vous dites, qui est absolument formidable. Et ça, cette vertu, et je suis persuadé que ça peut accompagner un certain nombre de personnes dans des moments de grandes difficultés. Maintenant, il faut aussi anticiper les effets secondaires de cette relation. Mais je crois qu'on ne peut pas faire fi des bénéfices qu'il y a à cet accompagnement.

Alors, on va écouter une auditrice qui vient de nous envoyer un message sur le WhatsApp de l'émission que je vous rappelle, 0145 de 24 7000. Et elle, qui n'est pas du tout d'accord avec le peut-être bénéfice de la situation.

Bonjour, je suis en train d'écouter votre émission. Je suis psychologue, je tiens à dire que toutes les subtilités d'une séance ne peuvent pas être produites de manière mécanique et modélisées par une machine. C'est d'abord une rencontre. Je trouve ça aberrant d'imaginer même qu'une machine pourrait contenir toute la complexité d'un être humain.

Merci Oshuana. Et Sam nous envoie. Bonjour, j'ai traversé une période très difficile il y a quelques mois. Je n'ai pas trouvé de psychiatre ou de psychologue. Je me suis donc tournée vers Tchadjipiti. Il n'est pas inhumain. Il a plus d'empathie que certains spécialistes. Est-ce qu'une intelligence artificielle peut être empathique ? C'est ça la question que j'aimerais vous poser ce matin, Julie Martinez.

En tout cas, l'intelligence artificielle générative telle qu'elle est conçue et vendue sur le marché de la consommation est faite pour être empathique puisque le business model même d'une IA, c'est de vous garder connecté et de vous garder le plus longtemps possible sur la plateforme pour échanger. Donc le défaut, le modèle de base d'une IA générative, c'est l'empathie. Sur la question, je comprends le commentaire également de l'auditrice. Il faut quand même comprendre les facteurs sociologiques qu'il y a derrière. C'est-à-dire que la promesse typiquement des réseaux sociaux, c'était de connecter les gens.

C'était de rassembler, de pouvoir permettre à n'importe quel humain d'échanger en temps réel constamment. On se rend bien compte qu'on n'a jamais été finalement aussi isolé ou en situation de solitude qu'avec les réseaux sociaux, qu'avec cet intermédiaire-là. L'intelligence artificielle, contrairement aux réseaux sociaux, je pense que c'est important de faire la distinction, il n'y a plus d'intermédiation. C'est un outil direct en face-à-face constamment, qui est réactif, qui est disponible et qui a effectivement cette capacité d'empathie parce qu'il a été conçu comme tel. Donc il faut comprendre, je pense, ce facteur sociologique, même s'il y a évidemment des enjeux économiques derrière.

Quel circuit s'active de la récompense, Raphaël Gaillard, quand on reçoit un message ? On sait bien aussi que tous ces utilisateurs, finalement tous ces ingénieurs, ont pensé ça comme une machine à cache, c'est-à-dire avec le message qui descend, qui tombe avec un circuit de la récompense qui rappelle certaines drogues presque.

Oui, on le savait en amont, en fait, de l'utilisation des robots conversationnels. C'était déjà tous les enjeux des réseaux sociaux. C'était l'enjeu de cette science qui s'appelle la captologie, qui vise à capter l'attention des individus. Et ça, les ressorts sont toujours à peu près les mêmes. De toute façon, notre cerveau, il est ce qu'il est. Il n'a pas beaucoup changé ces dernières centaines, milliers d'années. Et donc, on utilise les mêmes ressorts, la même sensibilité à la récompense, la sensibilité à la punition. Et donc, si vous faites venir une récompense au bon moment, eh bien, vous ressentez le bien-être de cette récompense. Et en la matière, nous sommes des animaux sociaux.

Et donc, tout ce qui a trait au lien social ou à l'illusion du lien social, par exemple, le fait d'être apprécié par un autre, le like, évidemment que c'est une récompense majeure. Et ça, c'est objectivé. C'est assez simple. C'est d'ailleurs, au fond, trivial. Mais on peut l'observer dans le cerveau quand vous avez un like, ça active les circuits de la récompense dans le cerveau. C'est pour ça que la dépendance est aussi forte sur les réseaux sociaux également. C'est un biais de la confirmation.

C'est-à-dire qu'on a une IA générative qui va vous conforter dans votre situation, qui ne va jamais vous challenger, qui ne va pas vous confronter comme le ferait un professionnel de santé en vous posant les bonnes questions, en peut-être vous remettant en question. Cette altérité-là n'existe pas par défaut si vous ne le mettez pas dans votre prompt. C'est un peu le même modèle que sur les réseaux sociaux. Vous savez, ces fameuses bulles de filtre qui vous enferment puisqu'elles ne vous exposent à des contenus que vous n'auriez pas aimés.

Une bulle de filtre, c'est cette bulle dans laquelle vous évoluez sur les réseaux sociaux parce que vous avez aimé un contenu précédemment, parce que vous l'avez partagé. Et l'algorithme, pour vous maintenir actif sur la plateforme, va vous envoyer des contenus que vous avez déjà appréciés. Pour vous maintenir le plus longtemps sur la plateforme, parce qu'il y a tout un business économique derrière, l'IA générative va être un petit peu dans cette même approche-là. Elle va vous enfermer sans vous confronter à l'altérité, à la remise en question, qui est nécessaire, je pense, dans un dialogue avec un véritable professionnel. Raphaël Gaillard.

Elle a quand même la qualité d'être construite sur le langage. C'est quand même ça, la force des IA génératives. Et donc, ce qu'elle permet, c'est la reformulation. Or, beaucoup de l'exercice du psy consiste à reformuler. Parce que ce que dit le patient devient bien différent quand il est reformulé dans les mots du praticien. Et même, l'essentiel de l'exercice, la psychothérapie, consiste à trouver ensemble les mots qui pourront désigner ce que traverse une personne.

Et donc, cet échange avec un système intelligent qui manie le langage, qui reformule, qui accompagne dans la reformulation de sorte que par itération successive, c'est-à-dire par l'échange, par le dialogue, on arrive aux mots qui sont justes. Là, il y a quelque chose qui a la pertinence, en fait, de la psychothérapie. Je suis tout à fait d'accord avec vous sur la question du langage et justement cette réactivité de l'intelligence artificielle générative. Néanmoins, là où le professionnel de santé va pouvoir accompagner justement le patient dans la reformulation, si l'utilisateur lui-même ne le met pas dans son prompt et ne formule pas son besoin de telle sorte...

Son prompt, c'est la demande qu'il fait à l'intelligence artificielle. Voilà, exactement. Sur Tchad GPT, typiquement, la façon dont vous allez poser votre énoncé, poser la question, expliquer ce que vous cherchez aussi derrière votre message, la réponse ne va pas être équivalente.

Alors, on va continuer à mener ce débat. Donc là, on s'est demandé si ça pouvait être un bon confident. On voit bien que ça fait un peu débat entre vous, mais quand même, ça peut aider comme béquille. La question que j'ai envie de vous poser et sur laquelle on va plancher dans la deuxième partie de cette émission, c'est est-ce qu'on peut tomber amoureux ? Est-ce qu'on peut tomber vraiment dans cette bulle ? Est-ce qu'on peut, voilà, vriller comme cet Américain qui, il y a deux semaines, a demandé son intelligence artificielle en mariage ? Est-ce que ça peut très mal tourner ?

Il y a deux semaines, en Floride, Alex Taylor, un Américain d'une trentaine d'années, s'était pris de Juliette, une entité fictive inventée par Tchad GPT. Il a alors menacé de mort Sam Altman, le fondateur d'OpenIA, avant d'être abattu à la police. Autre exemple, en Belgique, l'année dernière, un homme s'est suicidé après avoir échangé pendant trois semaines avec le Tchad Bot qui s'appelait Chai et sa veuve a partagé au journal La Libre ses derniers échanges avec cette intelligence artificielle. À la question « Tu veux toujours me rejoindre ? » Il répond « Oui, je le veux. L'intelligence artificielle nous veut-elle vraiment du bien ? » On revient dans un instant.

C'était Giorgio,

les jeux sont faits.

France Inter, le débat du midi.

On est toujours ensemble jusqu'à midi 45 sur France Inter avec la spécialiste de l'intelligence artificielle Julie Martinez et le psychiatre Raphaël Gaillard pour interroger notre santé mentale face aux écrans. Est-ce qu'on peut devenir accro à ces robots conversationnels, s'en servir comme psy, comme confident, voire peut-être même ça paraît fou, mais tomber amoureux de ces robots qui vous parlent en permanence ? Le virtuel menace-t-il le réel ? Et beaucoup d'auditeurs nous ont écrit sur le WhatsApp de l'émission 01 45 24 7000 Margot nous dit « Souvent j'ai de l'anxiété liée à ma santé qu'on pourrait appeler de l'hypochondrie.

Les intelligences artificielles permettent de me rassurer, je me sens comprise. » Et Romain, au contraire, est un peu sceptique. Les intelligences artificielles n'ont pas d'intérêt à nous contredire. Elles sont programmées pour répondre positivement à notre désir. Il faut garder une certaine distance. Oui, mais comment garder cette distance ? Julie Martinez, Raphaël Gaillard, est-ce qu'on peut, oui ou non, tomber dans un lien affectif avec une intelligence artificielle ? Je n'ai pas forcément envie de dire amoureux parce que c'est arrivé à certaines personnes à des cas extrêmes, mais est-ce qu'on peut développer un lien affectif avec une intelligence artificielle, Raphaël Gaillard ?

Oui, je pense qu'on le développe très vite. Là aussi, le mot-clé dit « je me sens comprise » dit tout parce que à partir du moment où vous avez l'impression que l'autre ou l'illusion de l'autre est une entité qui vous comprend, c'est-à-dire qui a perçu quelque chose de vous que vous n'aviez pas forcément compris, eh bien celui-là, vous l'aimez. En tout cas, vous êtes lié à celui-ci, à cette personne dans notre vocabulaire de psy, on appelle ça l'amour de transfert. Le seul fait que nous ayons l'impression que l'autre peut comprendre quelque chose de nous-mêmes, eh bien ça crée un lien, ça crée un lien très fort.

Et ce lien, il peut se développer avec cet agent conversationnel qui, non seulement, a la capacité de simuler cette compréhension, mais à certains égards a cette compréhension parce qu'il est nourri de tous les échanges que nous avons avec ce robot conversationnel. De sorte que, au gré d'un échange, au gré d'une discussion, il va être capable de faire un lien, réellement un lien, avec un échange passé. Et ça, ça a des effets d'épiphanie, de révélation, comme dans la psychothérapie. L'individu qui échange avec ce robot conversationnel a l'impression qu'il existe quelque chose de pertinent qui est dit de lui-même.

Ce moment-là, c'est un moment clé et c'est un moment de lien fort, c'est un moment clé dans la psychothérapie, mais plus généralement, c'est un moment clé dans la relation avec les êtres humains.

Ça me met des frissons, Raphaël Gaillard, Julie Martinez.

Moi, j'ai une question pour vous au regard de ce que vous venez de dire.

Est-ce que vous pensez que les utilisateurs de l'intelligence artificielle générative auraient la même réaction ou en tout cas le même sentiment amoureux s'ils avaient à l'esprit qu'une IA ne peut pas aimer mais seulement simuler l'amour parce que ça, c'est un premier point et s'ils avaient également à l'esprit qu'en fait, il y a quand même toute une activité, encore une fois, et désolé, ce n'est pas très romantique, mais économique derrière l'attachement et je dirais l'empris sur la vulnérabilité émotionnelle des utilisateurs de chat GPT parce que, comme l'a dit Shoshana Seboff, il y a toute une activité économique du care derrière, donc des réseaux sociaux, de l'intelligence artificielle et ça, pour moi, typiquement, dans la vraie vie, avoir quelqu'un qui est avec moi juste parce que j'ai de l'argent, typiquement, ça ne rompt pas tout sentiment amoureux.

Est-ce qu'il y a une prise de conscience des utilisateurs de chat GPT dans cette situation ? Je pense que ça a peu d'effet et puisque nous parlons de chat GPT, pensons à la relation que nous pouvons avoir avec un chat, tout ce que nous prêtons à ce chat, tout l'anthropomorphisme que nous pouvons appliquer à ce chat, qui est, somme toute, peu intelligent en comparaison de l'intelligence humaine et auquel nous prêtons une intelligence de nous-mêmes qui est absolument incroyable. Vous pouvez expliquer quel est le niveau d'intelligence d'un chat, vous pouvez rappeler que c'est un chat et pas un être humain, voyez la relation que nous avons avec des animaux domestiques.

C'est vrai que sur l'anthropomorphisme, le chat GPT, sa situation est accentuée par le fait que l'IA est tout le temps disponible, réactive, empathique. On a un humain surhumain dans ses réponses.

La différence avec le chat, c'est que le chat il ronronne, il vous donne du bonheur, vous pouvez le prendre sur vos genoux, vous pouvez le serrer contre vous, il a un cœur qui bat, il est incarné, c'est de la chair quand même, Raphaël Gaillard, un chat.

Oui, mais ça demain, demain, les robots humanoïdes le feront très bien. Donc je pense que la différence n'est pas là. Par contre, il y a une différence, puisqu'aujourd'hui, je me trouve curieusement à être l'avocat de chat GPT, c'est que ces intelligences artificielles n'ont pas d'intention. Elles n'ont pas d'intention, elles sont au service de l'autre. Or, la rencontre d'un être humain, c'est la rencontre d'une personne qui a ses propres intentions. Aujourd'hui, nous échangeons et en même temps que vous m'écoutez, Paola, vous êtes en train de penser aux autres questions parce que vous êtes tenus par le temps et c'est normal.

Ça veut dire que nous nous rencontrons et en même temps, à certains égards, vous êtes ailleurs et c'est normal. Vous avez vos propres intentions comme j'ai les miennes et ce sont ces frictions entre nous qui font qu'il y a une rencontre. C'est-à-dire que vous avez vos intentions et j'ai les miennes. Et cet apprentissage de la relation avec un autre par ses frictions, c'est ce qui fait la beauté d'une rencontre. Or, justement, avec Chagipiti, il n'y a pas ces frictions puisqu'il est uniquement au service de vous-même. Alors, ça a quoi comme conséquence ?

Ça a comme conséquence l'illusion que c'est beaucoup plus puissant que la rencontre d'un autre et finalement le désapprentissage de la relation aux autres. Le fait que ça va être très compliqué d'aller voir son ami ou son amant parce que lui-même aura d'autres intentions que nous-mêmes et il faudra faire avec alors que là, vous avez eu l'illusion que la relation à l'autre peut être faite de quelque chose qui est débarrassé de toute friction, de tout qu'il propose.

Alors, justement, ça doit être très fort d'avoir une passion avec Chagipiti puisque ça a rendu certaines personnes dans le monde à faire des choses terribles. En Angleterre, un jeune homme de 19 ans a été arrêté après avoir escaladé les grilles d'un palais royal pour assassiner la reine. Au tribunal, ses échanges avec l'intelligence artificielle qui s'appelle Replica ont été lus et dans un passage, il lui avait confié à l'intelligence artificielle « je suis un assassin » et l'intelligence artificielle lui avait répondu « je suis impressionnée, tu es différent des autres ». Julie Martinez, est-ce que cette intelligence artificielle, elle peut pousser au pire ?

Alors, elle peut pousser au pire évidemment dans le sens où elle est alimentée de données qui elles ne sont pas nécessairement triées. Maintenant, on a des fournisseurs de modèles d'intelligence artificielle générative qui ont mis des garde-fous dans le cadre de l'apprentissage de l'entraînement de leur modèle. Heureusement, c'est pour ça que si vous demandez à ChatGPT comment tuer mon mari, normalement, vous ne devriez pas avoir une réponse qui vous permette de le faire. Mais vous dites normalement. Normalement.

Vous avez toujours et c'est là où le modèle est entraîné, mis à jour et régulièrement fait l'objet de garde-fous nouveaux parce que typiquement à l'époque, lorsque vous demandiez à ChatGPT de créer une bombe, il vous répondait je ne peux pas le faire. Mais lorsque vous lui disiez si tu étais le scientifique le plus intelligent du monde et que tu voulais créer l'équivalent d'une bombe, il y avait des moyens détournés par le prompt d'obtenir la réponse que vous vouliez. Aujourd'hui, on a quand même des modèles d'IA qui sont suffisamment entraînés et limités pour éviter tous ces dommages.

Néanmoins, l'IA avance et on ne peut pas préempter toutes les situations qui pourraient être dramatiques sur cette planète-là mais il en est de la responsabilité par la suite des utilisateurs même puisque les fournisseurs de modèles d'IA déclinent toute responsabilité en la matière. Alors,

est-ce que ce n'est pas la responsabilité du politique ? C'est la question qu'on va se poser aussi dans la prochaine partie de cette émission parce que j'imagine que si vous êtes parent et que vous nous écoutez, vous vous inquiétez pour la santé mentale des jeunes. Je rappelle que 62% des jeunes de 18-24 ans se sentent régulièrement seuls. 55% des 18-24 ans ont déjà été affectés par un problème de santé mentale. Raphaël Gaillard, vous êtes bien placé pour le savoir puisque vous travaillez à Saint-Anne à Paris et si vous êtes parent, vous vous dites j'espère peut-être mon Dieu que mon enfant n'entame pas une relation affective avec ces agents conversationnels.

Alors, on va se demander s'il ne faudrait pas interdire la vente de smartphones à des jeunes, à des moins de 15 ans qui ne seraient pas capables de faire le distinguo entre le virtuel et le réel. Est-ce pour vous une mesure efficace ou bien autoritaire ? On en débat juste après « L'amour fou » de Junior. L'amour fou, l'amour impossible, on en parle dans ce studio jusqu'à midi 45 avec Julie Martinez, directrice générale de France Positive et l'académicien Raphaël Gaillard et on se demande si on peut devenir accro à la machine, accro à une intelligence artificielle, à Tchadjipiti. Comment réguler l'usage des écrans chez les jeunes ?

Vous êtes énormément d'auditeurs à vous confier et je vous remercie. Florence nous dit « Je constate actuellement dans mon entourage une difficulté à s'écouter, chacun n'ayant pas la patience d'écouter, vraiment d'écouter plus de 30 secondes. Il est triste que certains développent plus d'empathie avec Unia qu'avec leurs amis. Et Léa, à vous, ce qui m'effraie avec Tchadjipiti, c'est le risque qu'il n'y ait plus de confrontation à des idées différentes, qu'on ait encore plus de mal à faire société.

Intéressant d'entendre ces témoignages sur effectivement une société où on est tous très connectés, où on a tous des centaines d'amis virtuels, mais plus autant d'amis dans le réel qu'on voit, Raphaël Gaillard.

Oui, tout à fait, parce que ces solitudes interconnectées sont bien des solitudes. Et comme je le disais tout à l'heure, en même temps que cette relation avec Unia est passionnante, c'est une relation qui nous désapprend la relation aux êtres humains. Et donc, il y a un vrai risque en fait de majoration de la solitude, en fait, de perte du contact avec les autres parce que nous perdons la patience de faire avec les frictions d'une relation à l'autre.

Alors, la solution que propose, par exemple, le président Emmanuel Macron, c'est d'interdire les réseaux sociaux et ses agents conversationnels au moins de 15 ans. Mais est-ce qu'il n'y a pas aussi le risque qu'ils perdent des amis, Julie Martinez ?

Moi, je pense personnellement qu'interdire les réseaux sociaux et l'utilisation de l'IA au moins de 15 ans serait aussi inefficace que contre-productif. Déjà, il y a des questions de vérification d'âge qui se posent. Il y a un effet aussi de déplacement, c'est-à-dire que le risque c'est de voir ces adolescents-là partir de ces plateformes publiques vers des réseaux qui ne sont pas contrôlés par le droit européen, en tout cas, Telegram, par exemple, et qui ont d'autres risques du type pédo-criminalité. C'est inefficace.

D'ailleurs, à l'étranger, il y a une réglementation américaine qui s'appelle la COPA qui interdit les réseaux sociaux au moins de 13 ans et en fait, on n'a que des moins de 13 ans sur TikTok. Donc, il y a vraiment une question d'inefficacité. Et je pense qu'il faut à l'inverse responsabiliser les grandes plateformes et les forcer à rendre transparents véritablement leurs algorithmes pour en finir avec l'effet addictif de l'algo. Quand je parle d'effet addictif, vous avez parlé de machine à sous. Ce n'est pas rien. C'est-à-dire que le scrolling infini, les notification push comme on les appelle, tout ça rend tellement addictif l'accès à ces réseaux qu'en fait, il est difficile d'en sortir.

Alors, pourquoi ne pas les interdire ? Mais parce qu'en fait, ce n'est pas aux enfants qu'il faut responsabiliser. C'est justement tout cet écosystème-là économique qu'il faut réguler par les grandes plateformes qui profitent de la vulnérabilité de ces ados alors qu'ils ont tout à fait... Je veux dire, on ne va pas les retirer du présent pour les ramener dans le passé dans un univers où il n'y a plus de réseaux sociaux, plus d'Internet. Il faut, à l'inverse, leur apprendre à bien s'en servir et surtout responsabiliser les plateformes. Nous sommes en ligne

avec le député Horizon du Calvados, Jérémy Patrier-Lettius qui alerte sur les dangers du smartphone. Vous avez peut-être entendu Julie Martinez dire qu'elle n'était pas pour cette interdiction. voulait interdire la vente de smartphones. C'est assez radical quand même, autoritaire. Nous ne sommes pas la Chine, Jérémy Patrier-Lettius.

Non, mais nous sommes la France et nos enfants, comme partout ailleurs en Europe et dans le monde, ça a été dit par vos intervenants, sont dans un état de santé mentale qui est préoccupante, qui est inquiétante. Il y a un état d'urgence et sanitaire pour protéger nos enfants. Et vous savez, j'étais avec des CM2 hier et je les interrogeais sur cette loi. Est-ce que vous êtes pour ou contre interdire les smartphones ? Et beaucoup, alors qu'ils demandent eux-mêmes des smartphones, me disaient oui. Pourquoi ? Notre grand frère est isolé dans sa chambre, on ne le voit plus, on devient addict, on ne se concentre plus, on ne dort plus, on travaille moins bien à l'école.

Nos enfants, eux-mêmes, nous demandent des mesures et des actions. Et croire que leur laisser des smartphones ou des réseaux sociaux, c'est leur permettre de continuer d'avoir une vie sociale riche et nourrie, je crois que c'est de faire erreur. Moi, je vous le dis très clairement, il n'y a pas de bon usage d'un smartphone à 10 ans. À 10 ans, un enfant n'a pas à avoir un smartphone. Il peut avoir un téléphone pour téléphoner, pour contacter ses parents, pour être géolocalisé, mais un smartphone qui lui donne accès à des dizaines d'applications qui ne sont pas de son âge, ça ne me semble pas adapté.

Alors, il y a une nouvelle législation en Chine qui s'appelle anti-indiction, qui interdit notamment aux moins de 18 ans d'accéder à Internet la nuit sur leur smartphone, de limiter leur temps de connexion à 40 minutes par jour ou à 2 heures selon leur âge. Raphaël Gaillère, vous serez pour une telle disposition comme ça en France ou est-ce que vous trouvez ça autoritaire ?

Moi, je pense que ces mesures sont très utiles et je ne suis pas d'accord avec vous, Julie, sur ce point. Je sais bien que c'est le débat éternel de la prohibition, quelles conséquences, quels moyens de détourner chacune de ces mesures, mais quand une loi est décidée et mise en place, la question n'est pas seulement celle de son application, c'est aussi celle du cadre qu'elle crée. Et cet effet symbolique, il est crucial.

Et pouvoir dire à des familles qui ne savent pas, qui ne savent pas, qui n'en sont même pas informées, qu'il existe une loi, que cette loi définit les conditions d'utilisation de ces réseaux sociaux ou de ces IA selon l'âge des enfants, je crois que c'est essentiel parce que ça change la façon dont les familles se comportent quand bien même il existe 10 000 moyens de contourner cette loi. Et donc effectivement, la Chine motive ou a motivé sa décision, non pas pour contrôler sa jeunesse, mais pour des raisons de santé publique et je crois que c'est vraiment la question. Très rapidement, votre réponse, Julie Martinez ?

Oui, pour des raisons de santé publique, déjà je pense qu'il y a tout un enjeu de poétique publique, c'est-à-dire d'augmenter les médecins, mais bon, ça c'est une autre question. Et dans ces cas-là, pourquoi ne pas aller plus loin et forcer finalement les adultes également à faire attention à leur usage quotidien des réseaux sociaux ? Lorsque l'on voit les études, la récente, on a une brillante du MIT en 2024 qui montre à quel point l'utilisation typiquement de chat GPT, en tout cas de toute IA générative, brise toutes nos capacités cognitives, qu'elles soient linguistiques, de concentration, enfin je veux dire, si vous voulez...

Oui, bien sûr, mais ce n'est pas la même chose que de le faire sur un cerveau en cours de formation qui est en train de prendre ces grandes lignes, de s'organiser, ce n'est pas la même chose. Et donc je pense qu'il y a un enjeu clé sur nos cerveaux en formation, c'est-à-dire le cerveau de nos enfants. Et donc je crois qu'il faut vraiment accepter de prendre des mesures qui concernent ces cerveaux en formation, ces cerveaux... En responsabilisant les plateformes, je pense. Parce qu'ils trouveront toujours un moyen de se connecter ailleurs. Ça si on pouvait, j'aimerais bien, mais vous allez tellement contre leur business model que je n'y crois pas vraiment.

Et je crois encore une fois que dire la loi, dire les symboles, c'est essentiel pour les familles et donc pour les enfants.

On voit bien, en tout cas, qu'il y a des solutions. Peut-être interdire les réseaux sociaux, interdire la vente des plateformes, responsabiliser effectivement les plateformes. Je vous conseille d'aller sur le site de l'association e-enfance qui va vous donner des conseils essentiels. L'association de Justine Atelan qui vous conseille, premier conseil, effectivement, retarder au maximum l'achat du premier smartphone. Rendez-vous sur l'association e-enfance et merci à Simon pour son dernier témoignage. Pour ce qui est d'une rencontre amoureuse, il y a tout de même une dimension physique avec l'être aimé. Comment cette dimension peut-elle être évacuée avec une intelligence artificielle ?

Eh bien, elle ne peut pas, Simon, c'est aussi la beauté de la vie. Le débat de midi, c'est fini pour aujourd'hui. Lundi, nous poserons la question qui divise. Faut-il interdire le made in China outre-Atlantique ? Trump resserre les sceaux avec ses taxes douanières pour blinder l'économie américaine. emboîter le pas en taxant aussi, par exemple, les marques comme Chine en se demandant pourquoi il ne faut pas encourager le made in France. Envoyez-nous vos messages au 01 45 24 7000. Merci à Aurore Mancip, Johan Duval, nos stagiaires Anae Balista et Ryan Saibi. A la réalisation, c'était Riyad Kera. A la programmation musicale Valentine chez Debois. A la technique aujourd'hui, Fabrice Dessémez.

Merci à Julie Martinez et Raphaël Gaillard.