La recherche française face à ChatGPT

[Musique] 7h41 sur France Culture [Musique] les matins de France Culture guillaume Erner a-t-on à faire avec l'intelligence artificielle a une menace réelle ou fabrique serait-on fou si et on laissait uniquement les lobbys s'intéressaient à l'intelligence artificielle et développer des programmes qui peuvent ou bien nous remplacer ou bien nous conduire à prendre de mauvaises décisions ou bien à diminuer l'intelligence humaine on la remplaçant par de l'intelligence artificielle pour en parler et nous sommes en compagnie d'Emmanuel Chemla bonjour Emmanuel Chemla vous êtes chercheur en sciences cognitive et linguistique à côté de vous Bertrand brunschweg bonjour bonjour vous êtes l'ancien directeur du centre de recherche de ligne ria Saclay et consultant alors je propose tout d'abord de débuter par une page pédagogique pour nous expliquer en quoi cette il y a cette génération d'intelligence artificielle qui est incarnée par chat gepetty et quelque chose de singulier comment ça fonctionne qu'est-ce qu'ils apportent Bertrand bunschweg si on revient un petit peu à l'avenir dont fonctionne l'intelligence artificielle il y avait il y a le début de l'IA dans les années 50 même un petit peu avant il y avait deux types d'approches une approche ou les personnes font les modèles qui sont des règles des arbres logiques des ce qu'on appelle des ontologies des représentations des connaissances et sont des choses qu'on mettait sauthologies je vais vous demander de m'expliquer des représentations structurées du monde et donc ce sont des modèles conseils soi-même qu'on fait à la main et donc on est capable de les maîtriser d'expliquer leur comportement on connaît toutes ces modèles par il y a eu également des origines une deuxième tendance qui est de se baser sur les données et d'apprendre à partir des données et ça a eu il y a eu des hauts et des bas en fait dans les dans ces deux modèles il y a eu des périodes où les modèles numériques à partir des données prenez le pas sur les autres il y a eu des périodes ou les modèles logiques prenez le pas sur les autres et là depuis maintenant en fait en gros depuis la grande diffusion du web dans les années 2000 et puis depuis quelques ruptures qui ont eu lieu au début des années 2010 ce sont les modèles numériques qui apprennent à partir des données qui ont pris le dessus et donc ça j'ai pété c'est fait partie de cette génération là c'est un modèle qui apprend à partir des devis il apprend à partir de très très grandes bases de textes et avec la difficulté qu'on peut souligner sur les modèles fait à partir des données qui ont des structures internes très complexes c'est qu'on a encore du mal à expliquer leur décision leur production on a du mal à expliquer on a du mal à expliquer on connaît on a des théories globales qui disent pourquoi ces modèles marchent mais on a du mal pour expliquer pourquoi un modèle numérique a sorti une donnée à un instant donné à reproduire exactement tout le chemin qui a un grand calcul en fait qui se fait dans les internes du modèle avec par exemple pour chat GPT 166 milliards de paramètres qui sont parce qu'en fait il y a des modèles en concurrence à l'intérieur de tchat JPY en fait c'est un très grand parallélisme avec un très grand nombre de paramètres des calculs qui sont sur des machines très puissantes d'ailleurs et qui en fait dans le dans le dans le rôle et simplement de prédire le prochain mot d'une phrase alors on va revenir évidemment là-dessus puisque c'est l'une des singularités de chat gipiti mais Bertrand brunschweg Yann lecun qui dirige le laboratoire de d'intelligence artificielle de méta autrement dit de facebook dit que finalement que ça alors peut-être qu'il le dit en partie parce que ça n'est pas Facebook qui l'a développé mais est-ce il n'y a pas aussi une sorte d'effet de nouveauté exagéré avec tchadji pity qu'en pensez-vous en fait ce qui se passe c'est que il y avait déjà des modèles comme de cette nature et ça fait un petit moment Emmanuel pourra nous en parler beaucoup plus en détail je pense mais tchat j'ai pété le premier qui a été ouvert au grand public d'où le fait qu'on commence à en parler c'est le premier que vraiment tout le monde pouvait utiliser librement mais et Yann a raison sur le fait que les théories les méthodes qui sont mises en œuvre dans le chat GPT elle remonte à par exemple des travaux qu'il avait mené lui dans les années 90 sur sur la manière d'entraîner au mieux les les grands systèmes qu'on appelle des grands réseaux neuronaux profonds Emmanuel shimler je vous ai invité parce que Tchad pitty est un modèle verbal il fait des textes il produit du langage il produit une sorte de littérature vous êtes linguiste et je me suis dit qu'il était essentiel d'avoir votre regard sur tchadji pity justement comment un linguiste voit-il cette chose bizarre merci merci l'invitation merci de votre question je vais d'abord rebondir sur une chose qui habite Bertrand donc ce concept depuis longtemps c'est que ces modèles d'apprentissage qu'on pourra appeler aveugle qui partent des données en fait ils peuvent apprendre presque tout presque parfaitement c'est exactement ça qu'on sait et le grand enjeu c'est de savoir à quelle condition ils vont y arriver ce qu'on a découvert dans ces dernières années c'est qu'on avait suffisamment de données linguistique disponible sur la planète pour pouvoir approximer cette fonction qui consiste à partir d'un début de phrase de terminer cette phrase on peut voir ça comme une fonction façon complètement mathématique on a un début de phrase on veut la fin de la phrase et ben on peut approximimer cette fonction très très près l'enjeu c'est de découvrir avec quelle quantité de données on est capable de faire ça et ce dont on s'est rendu compte c'est qu'on est capable de faire ça avec une quantité de données absolument astronomique il s'agit de milliers et de milliers d'années de langage s'il s'agissait d'être exposé à cette langue mais alors même très étrange parce que ça signifie Emmanuel Chemla que nous sommes extrêmement prévisible dans les mots que nous utilisons dans les phrases que nous formons tellement prévisibles finalement qu'un une machine qui ne sait pas parce qu'il n'y a pas de savoir dans le chat gipiti il y a en revanche une capacité lexicale et donc les probabilités suffisent à former des phrases alors suffisent à former des phrases oui on peut former des phrases même avec des règles très simples je veux on va être capable de dire bah voilà je vais choisir comme sujet soit chat soit lion je vais choisir comme verbe soit boire soit manger et je vais mettre les deux à côté je vais former des phrases et un certain nombre de phrases assez grandes de là à dire que j'ai reproduit l'intelligence humaine et la capacité à créer des histoires intéressantes etc il y a évidemment un saut chat GPT fait une partie de ce saut là très certainement et l'un des enjeux c'est de savoir comment donc d'un point de vue d'un linguistique la distinction encore une fois que Bertrand a eu la bonne idée d'introduire très tôt de savoir d'une part est-ce que ces modèles apprennent comme les humains étant donné la quantité de textes qu'il faut pour en arriver à ce niveau de qualité on n'est pas du tout au niveau de ce que font les enfants les enfants en quelques mois en quelques années si on veut être un peu généreux sont tout aussi bons que tu as dépité alors ça c'était effectivement important puisque Yann lecun toujours donc celui qui dirige le laboratoire d'intelligence artificielle de de facebook explique que Tchad jipiti en sait moins par exemple sur la gravité qu'un chat je ne sais pas très bien ce que c'est un ce que c'est un chat sur la gravité mais on voit que la notion de savoir dans ce domaine là et complètement inopérante là aussi quels sont les conséquences Emmanuelle Chemla ce système qui ignore tout et qui est capable de répondre à toutes les questions alors c'est une excellente question et c'est aussi une question très linguistique donc l'une des questions c'est pour rester dans le domaine linguistique plutôt dans le domaine du savoir qui est peut-être plus difficile c'est quelle règle Ling et par règle linguistique il y a des choses très très simples que tout le monde connaît il s'agit pas de retourner au CM2 je vais pas vous obliger à faire ça parce que ça peut être pénible pour certains mais il y a des règles très simples que tout le monde connaît le sujet en français il est typiquement avant le verbe qui lui-même est typiquement avant l'objet il y a des langues qui sont pas comme ça ou le sujet est suivi de l'objet qui lui-même sujet du sujet du verbe donc ça c'est des règles très fermes très strictes qui sont vraies ou fausses et on les applique strictement ces modèles là comme le dit c'est Bertrand à nouveau merci beaucoup pour l'introduction ces modèles là ne fonctionnent pas comme ça c'est des statistiques qui apprennent et ne représentent pas de règles de cette façon là il est réalise quand il forme des phrases du français le sujet est bel et bien avant le verbe qui lui-même est bel et bien après l'objet mais on ne sait pas comment est représenté cette règle à l'intérieur du système ça veut dire que finalement c'est une bonne façon de présenter les choses certainement Chelsea et d'une agrégation des statistiques qu'on en trouve dans les dans les textes de français de là à dire que c'est un Français moyen c'est compliqué parce que c'est une langue assez neutre assez tiède c'est vraiment très éloigné de ce que l'on peut avoir dans la littérature ou un texte écrit avec des effets et c'est donc c'est une forme de langue qui est syntaxiquement parfaite aucune faute d'orthographe aucune faute de français aucune invention aussi et j'ai envie de dire alors alors plusieurs réponses à ça on ne sait pas exactement quelle langue parle sur GPT donc certainement il parle une bonne partie du français on peut dire ça déjà parce que partie des phrases qui produisent sont effectivement du français mais il parle d'autres langues qu'en fait on n'a pas exploré et par d'autres langues je veux dire qu'il y a des séquences de mots du français qui pour tchat j'ai pété vont avoir un sens donc c'est ce qu'on appelle le print on se rend compte que si on pose certaines questions à chat GPT d'une façon qui pour nous serait complètement bizarre en fait il va donner des réponses qui seront parfaitement appropriées c'est vous trouverez sur Internet plein d'exemples de ce type là et c'est aussi étudié de façon très systématique donc tchat j'ai pété parle d'une certaine façon le français et sa propre langue qu'il a développé parce qu'il avait ses propres billets d'apprentissage sa propre capacité à généraliser qui n'est pas la même que nous nous en généraliser on va en généraliser on va rester dans le cadre du français lui potentiellement va aller au-delà et créer d'autres choses qui nous ne nous sommes ne nous est pas accessible Bertrand brunschek oui je voudrais ajouter un petit quelque chose quand même sur les notions de compréhension de ce qui se passe parce que ces systèmes là en fait n'ont pas comme nous la compréhension de ce qu'ils sont en train de faire et je vais prendre un exemple de mes premiers essais avec toi j'ai pété je lui ai demandé de m'écrire un poème il m'a écrit sur le sujet important peu il me fait catastrophe de Cap Vert qui était effectivement assez banal mais bien tourné il me dit ce poème fait 14 lignes je calcule 4 x 4 non c'est pas ça j'ai dit non il en a 16 il y a alors il m'explique qui s'est trompé et que j'ai raison il est très gentil et après je lui dis affiche-moi la numéro de les lignes de dans l'ordre il me les numéros 1 2 3 4 jusqu'à 16 et après je lui demande combien de lignes à ce poème il me dit 14 en fait ça montre que le système produit du discours mais ne produit pas quelque chose qui relève d'une compréhension interne des mécanismes encore une fois c'est l'application de très très puissant mécaniste mécanique statistique mécanisme statistique comme l'écrivait qui cherche à produire le prochain mot mais il y a pas cette logique interne que nous avons le bon sens la compréhension etc qui font que ces systèmes va produisent ce qu'on appelle des hallucinations c'est à dire des choses qui sont fausses et puis ne sont pas en interne cohérent en eux-mêmes disons alors ça c'est essentiel Bertrand brunscheg puisque à chaque fois qu'on utilise chaque gipiti on se rend compte qu'il commet ou qu'il peut commettre des erreurs moi à chaque fois que je me suis dit j'allais me documenter grâce à lui et bien j'ai été bien attrapé parce que j'ai vu qu'il y avait une ou deux erreurs qui ne sont jamais d'ailleurs des erreurs complètement aberrantes mais qui sont généralement des erreurs suffisamment graves pour pour devoir être démasqué comment cela se fait-il ce que je disais il y a pas de compréhension profonde des questions des réponses il y a l'application de mécanismes statistique en grande en grande dimension qui cherche à produire des mots et finalement peu importe que ces que cela représente une vérité ou autre chose ce qui compte c'est que les mots soient probable les uns par rapport aux autres et c'est comme cela que ça marche le prompt le prompte la commande initiale cadre un petit peu les choses enfin le cadre même beaucoup les choses mais l'application très très en grande dimension de tous ces mécanismes statistiques fait qu'au bout d'un moment le système diverge de ce qu'on pourrait appeler la réalité mais Emmanuel shimlin il n'y a pas que de la statistique chez Tchad jibidi on voit bien qu'on lui a appris aussi une sorte de morale par exemple Tchad jibity et doté d'une forme de dialectique c'est-à-dire qu'il a souvent l'habitude à donner des réponses pondérées en disant qu'il y a des gens qui pensent ceci et d'autres qui pensent cela il est au contraire extrêmement tranché sur des sujets qui sont des sujets qui affectionnent la compliosphère par exemple j'ai demandé à chat gipsty si la terre était ronde et il m'a dit qu'effectivement elle était ronde et qu'en aucun cas on ne pouvait la dire plate ce qui veut dire que il a d'une part subi des apprentissages probablement sur certains sujets et d'autres parts qu'on lui a appris non pas seulement une manière de parler mais aussi une manière de penser mais je crois pour la guise une manière de parler c'est aussi une manière de penser alors très bonne question comment comment on circonscrit ce qu'on va accepter de la part de chat GPT comment on éduque chat j'ai pété d'une certaine façon il y a deux mécanismes principaux il y en a un qui est en amont on va pouvoir le nourrir de de textes qui nous conviennent plus que d'autres donc si on a envie de le convaincre que la terre est ronde il suffit de lui dire une certaine nombre de fois dans son ensemble d'entraînement et on peut espérer qu'à la sortie de ça il va être convaincu d'une certaine façon que la terre est ronde du moins que c'est ce qui nous dira une deuxième façon qui a importante j'imagine pour la deuxième partie de l'émission c'est de vérifier à posteriori ce qui se passe et d'avoir des systèmes de sauvegarde d'empêcher certains types de discours d'émergé de la même façon on peut faire ça pour des images on peut faire ça pour du texte on veut bloquer certains textes et là encore il y a plusieurs façons de faire l'une des façons qui est utilisée c'est intéressant c'est elle-même une IA qui va décider de ce qui est un texte acceptable de ce qui n'est pas un texte acceptable donc on va entraîner une IA vérifier qu'un texte est acceptable et utilisez cette propre Ia pour censurer la première chatte j'ai pété et donner un texte qui va nous convenir et qui va être dans les normes qu'on attend de la part de notre interlocuteur Bertrand brodchweg alors à l'origine bon ça j'ai pété c'est la mise en service d'un système de recherche qui s'appelait instruck GPT qui est très bien décrit dans un article d'openhague de Beyoncé moment et il est basé sur ce qu'on a appelé le showman base green forcement de learning de l'apprentissage par renforcement avec des humains dans la boucle et donc ce sont une quarantaine de personnes qui ont été confrontés à des productions de la version initiale du logiciel et qui ont mis des annotations sur ces productions en disant ça c'est bien ça c'est faux ça c'est un contenu violent il faut pas le il ne faut pas le mettre etc et c'est sur cette base là avec énormément de de passages de cette de toute cette base pour améliorer le système que la version finale a été construite l'amélioration du système on en vient à ces questions donc qui aujourd'hui nous font un peu peur le remplacement des êtres humains est-ce que tchadji pitty alors on a vu qu'il y avait différentes versions qu'on montait dans les versions on est aujourd'hui à tchadjipiti 4 est-ce qu'il est possible d'imaginer qu'il y aura de moins en moins d'erreurs qu'au terme donc de ces processus d'apprentissage que vous décrivez Bertrand brunschevêque on aura affaire à un assistant parfaitement fiable moi j'ai du mal à y croire j'ai du mal à y croire effectivement j'en ai discuté il y a pas tellement longtemps avec Anne Lequin qui est un peu de cet avis là aussi il dit et je suis assez d'accord que c'est un petit peu intrinsèque à tous processus en fait encore une fois ce sont des grands modèles statistiques il y a pas de notion de vérité il y a pas de notion il y a pas de compréhension donc c'est un petit peu inévitable d'avoir ce genre de ce genre de problème alors je vais vous poser la question autrement est-ce qu'il existe d'autres conceptions de l'intelligence artificielle qui posséderait véritablement un savoir et qui ne serait pas dépendantes d'une statistique liée donc à l'utilisation de deux termes alors oui et c'est ce qu'on a essayé notamment par exemple dans les années 80-90 quand se développait les systèmes ce qu'on appelait les systèmes experts qui coûtent l'un des connaissances des règles des faits avec le problème qu'on a eu à l'époque c'est que ces choses là ne passaient pas à l'échelle qui avait des problèmes de cohérence interne des règles et que du coup en fait petit à petit ça a été remplacé par l'intelligence artificielle basée sur les données qu'on connaît aujourd'hui mais ils ont été complètement abandonnés ils sont pas complètement abandonnés il y a encore beaucoup de systèmes qui tournent aujourd'hui sur ces bases là mais il y a des gens qui pensent et ça c'est vraiment un sujet de débat que on peut améliorer les choses en faisant ce qu'on appelle de l'IA hybride qui combine à la fois des modèles basés sur les données et des modèles basés sur les connaissances aujourd'hui il y a des travaux qui démarre là-dessus peut-être que je pourrai en parler un petit peu plus tard notamment sur ce qu'on appelle les les niveaux systèmes système 2 qui représentent la manière dont nos cerveau fonctionne mais ça ça demande un petit peu de temps pour expliquer on parlera de système 1 et système de ce que Daniel kahnman avait utilisé pour représenter l'esprit humain mais ça signifie que on en est au début d'un processus et c'est peut-être à ce ce moment-là qu'il faut agir avant qu'il soit trop tard comme on le dit souvent Bertrand boosteg on s'en occupe en fait et on n'est pas les seuls mais on fait ça notamment dans le cadre du programme dont je m'occupe de la coordination scientifique qui s'appelle confiance.i qui est là pour développer les systèmes d'intelligence artificielle de confiance et dans cette dans ce programme on est à la fois sur les aspects numériques et aussi sur les aspects logiques de manière à donner une meilleure qualité une meilleure de manière à assurer une meilleure confiance dans les systèmes numériques dont on dont on parle encadrer l'intelligence artificielle développée une intelligence artificielle à la française on en parle dans quelques instants avec vous Emmanuel Chemla vous êtes chercheur en sciences cognitive et linguistique et vous Bertrand brunschevêque vous êtes l'ancien directeur du centre de recherche de l'ineria Saclay et actuellement consultant il est 8h sur France Culture 7h 9h les matins de France Culture guillaume Erner nous sommes en compagnie du chercheur en sciences cognitive et linguistique Emmanuel Chemla de l'ancien directeur du centre de recherche de l'INRIA Saclay Bertrand brunchweg il y a eu donc il y a une décision de l'Europe autour d'un artificiel intelligence art un acte donc législatif au sujet de l'intelligence artificielle qui suppose notamment des obligations de transparence et de gouvernance pour les développeurs d'intelligence artificielle je dois dire qu'à un certain nombre de décisions importantes sont remises à septembre le texte reste flou mais l'intention politique est là il faut encadrer ce que font les grandes entreprises de l'intelligence artificielle qu'en pensez-vous Bertrand brunschweg je pense que c'est un exemple pour le reste de la planète et donc l'Europe a pris les devants depuis assez longtemps déjà puisque il y a quelques années elle avait créé ce qu'on appelait le Ashley le high level expert groupe le groupe d'experts de haut niveau sur l'intelligence artificielle qui avait commission de définir comment arriver à une intelligence artificielle disons responsable de confiance et sont ces travaux là qui ont été regarder non seulement en Europe mais dans le monde entier qui ont aboutit à l'idée d'avoir une réglementation sur l'intelligence artificielle qui est basée d'ailleurs sur la notion de risque peut-être qu'on y reviendra mais qui a pour but de faire de l'Europe l'endroit où l'intelligence artificielle et encore une fois responsable et de confiance notion de risque c'est-à-dire que en fait ça va dépendre des applications vous avez certaine je vais prendre des exemples si le système d'intelligence artificielle vous fait la recommandation du prochain film que vous avez envie de voir il peut se tromper c'est pas grave vous regardez un autre film c'est pas il y a pas de grand risque à ça par contre si c'est pour superviser une centrale nucléaire pour décider si vous avez un cancer ou non pour regrouper une voiture là on aimerait bien qu'il se trompe pas trop donc il y a des niveaux des risques différents des niveaux de risque minimum dans lesquels on est c'est relativement peu réglementé niveau de risque exige la transparence un niveau qu'on appelle au risque dans lequel il y a beaucoup beaucoup d'exigences et il y a le niveau carrément interdit ou ses applications ne sont pas autorisées sur le sur le sol européen mais on a l'impression que le législateur et ses grandes entreprises particulièrement les gafames bien sûr et Oppenheim la société qui possède aujourd'hui Tchad jipiti dispose d'une telle capitalisation qu'elle fait figure là aussi de mastodonte on a l'impression que les politiques et le juridique ne joue pas dans la même catégorie que ces grandes entreprises donc quand on demande de la transparence à ces entreprises est-ce que on n'est pas un peu naïf Bertrand brancher elles sont effectivement très puissantes mais l'Europe c'est quand même un marché extrêmement important c'est quand même le plus grand marché mondial et donc elles vont être contrainte de respecter la loi le jour où il arrivera alors c'est quand même pas effectivement pour tout de suite on est encore en train de préparer les documents préparer les normes qui vont arriver aussi en soutien de cette réglementation mais d'ici deux trois ans on aura une réglementation qui s'appliquera et que ces entreprises devront respecter c'est même un peu plus fort que ça parce que la réglementation s'applique aux produits vendus sur le sol européen qu'il soit fabriqué en Europe ou à l'extérieur mais aussi à des produits vendus en d'autres endroits mais dont l'utilisation aurait des conséquences pour les Européens bon mais par exemple on a réussi toujours pas à voir l'algorithme de Facebook ou celui Twitter vous pensez qu'on va avoir les sources et la transparence totale sur ce que fait open par exemple on est on n'est pas jusqu'à la transparence algorithmique c'est pas nécessaire c'est pas demandé sauf dans des cas vraiment très très particulier en fait il est effectivement il a été ajouté récemment un élément de loi sur ce qu'on appelle les foundationales modèle c'est-à-dire les systèmes de base en fait les grands modèles de langues les grands modèles de vision pour lesquelles on va développer des exigences un peu particulières sachant qu'on ne connaît pas leur domaine d'utilisation au moment où ils sont conçus mais on n'a pas besoin d'aller jusqu'à la transparence de toutes les données on a besoin d'avoir disons des justifications des explications et dans certains cas d'aller un petit peu plus loin l'autre inquiétude évidemment Emmanuel Chemla vous qui êtes Linguis c'est tout simplement que ces modèles là nous remplacent en tout en partie en tout cas réussissent à faire mieux que certains êtres humains et notamment dans le domaine linguistique cargippetti c'est avant tout un mécanisme pour produire du texte là aussi en tant que linguiste que pensez-vous de la capacité de ces systèmes à remplacer différents types de professions les journalistes par exemple les écrivains peut-être les scénaristes pourquoi pas je vous remercie une des premières choses à voir c'est où on en est on en est aujourd'hui tout le monde peut essayer de chat GPT et ça c'est des grands succès d'openhail c'est d'avoir permis ça et on voit tous que chat GT fait des phrases de bonne qualité c'est utilisable ça dépend de nos objectifs encore une fois c'est une question de niveau risque si on veut écrire un scénario de la prochaine caisse de théâtre peut-être qu'il faudra faire un peu plus attention que si ce qu'on veut faire c'est la prochaine dissertation de philosophie je pense au bachelier aujourd'hui peut-être que ça marchera mieux et qu'on pourra bluffer le professeur les enjeux sont pas exactement les mêmes donc où on en est aujourd'hui d'un point de vue linguistique les phrases élémentaires sont bonnes de bonne qualité et pas vraiment distinguables de celle d'un locuteur natif ce qui intéresse plus les linguistes c'est de pousser le système à sa limite voir ce qui se passe avec des constructions plus compliquées des phrases plus longues tout simplement et là on peut détecter rapidement des cas où tu as des péter va diverger vraiment des humains c'est-à-dire il a typiquement pas été entraîné sur des phrases nécessairement très longue les êtres humains n'ont plus d'une certaine façon n'ont pas été exposées à ça mais par le fait de bien commun qu'on partage tous à la naissance on va généraliser tous de la même façon même dans des phrases qu'on n'a jamais vu ça veut dire qu'en fait une phrase complexe et inaccessible pour chat gypity alors inaccessible on le sait pas ce qu'on sait c'est qu'aujourd'hui le comportement est différent de celui des humains la généralisation est différente ça veut pas dire qu'elle est mauvaise c'est une généralisation c'est la sienne elle lui appartient ce qu'on sait aussi c'est que c'est des systèmes qui évoluent extrêmement vite là on parle d'un système qui a quelques mois il y a un an deux ans on était très très loin d'arriver à ce niveau de complexité donc il n'y a pas de raison de douter qu'on va progresser jusqu'où on arrivera on le sait pas on n'y est pas mais le langage Emmanuel shamela ce ne sont pas seulement des phrases je veux dire en ce moment même par exemple il y a les lycéens qui planchent sur leurs copies de philo une copie de philo ce sont des phrases et là vous nous avez expliqué que chaque partie était capable de former des phrases puisque il est soumis à un certain nombre de modèles statistique qui permet de savoir comment composer une phrase mais dans une copie de philo il y a un plan aussi et alors justement comment passe-t-on de la phrase au plan puisque dans toutes les dans tous les textes François peut complexe il faut une capacité de planifier un texte peut-être même qu'on peut parler d'une pensée je ne sais pas ce que linguiste en pense mais précisément lorsqu'on doit déployer un certain nombre de phrases on arrive à ce qu'on appelle une pensée et là comment chat gepetty fait-il pour passer de la structure de phrase à la structure de texte alors je vais répondre d'abord sur la question de la planification est-ce que tchatche et pitty est capable de planification la réponse très très claire c'est oui comment on le voit il y a des exemples très simples c'est si on demande à peut-être des petites faire un poème il va effectivement faire un poème avec des choses qui riment et pour faire des rimes il faut planifier d'une certaine façon comment on va finir le poème et c'est comme ça qu'on décide comment on le commence donc la planification elle existe l'autre question que vous posez c'est comment utiliser dans des tâches complexes tchat GPT si on veut un plan plutôt que simplement un paragraphe etc et là je trouve que c'est une question très intéressante qui revient là qui rejoint la discussion qu'on nous avions juste avant qui est une utilisation hybride du système le système il est assez limite on commence tous à les connaître on peut tous les toucher du doigt il nous fait une proposition et on peut nous demander une autre proposition ou ajuster la proposition donc c'est l'idée d'utiliser déjà comme on utilise le reste comme une certaine source de texte une certaine source de fait en tant que journaliste vous vérifiez vos sources qu'elles viennent de chat gipiti ou qu'elles viennent d'ailleurs vous les vérifier il va falloir apprendre aujourd'hui à vérifier nos sources à vérifier que la député a augmenté chaque gpity bah si on est pas satisfait on va lui demander bah tu vas me faire d'abord la première partie du plan ça va être ça la deuxième partie et on verra ce que lui arrive à faire est-ce que nous on devra complémenter et la direction que ça indique c'est qu'il faut apprendre pas s'en servir et à s'en servir de façon intelligente et productive Bertrand brode oui je voudrais ajouter mais un petit peu dans un autre domaine dans le domaine du code informatique parce que ces systèmes-là puis d'autres ils sont aussi capables de produire du code informatique 4 qui est notamment disons pas toujours de très bonne qualité au début mais avec avec des essais erreur on finit par avoir un code tout à fait utilisable ça c'est quelque chose là aussi de très surprenant à voir et de très inquiétant pour les programmeurs est-ce que ça veut dire qu'a priori vous pouvez demander à tchatche j'ai piqué en langage naturel de développer par exemple une application alors une application c'est un peu gros mais disons un module oui un petit module et il y a quelques temps une personne dans le fils entamait des études de programmation me demandait si c'était un bon choix si ce métier n'allait pas disparaître avec bonne question qu'est-ce que vous avez répondu j'ai répondu en fait le métier va changer mais il va changer parce que pour programmer un petit module simple on peut le demander pour programmer une publications complexe il faut mettre de soi-même mais ce qui va changer c'est la manière dont on va le faire c'est à dire que ce que la difficulté la difficulté va être de spécifier correctement la demande et donc il y a un métier comme le prompton genering est en train de devenir un métier mais nous ce qui est le prompten général c'est la façon de rédiger les questions de manière à ce que les collègues répondent correctement et en fait aujourd'hui les les gens qui savent faire ça sont ceux qui obtiennent les meilleurs salaires dans le monde et justement lorsque l'on aborde ces questions là ces questions de remplacement vous nous avez évoqué il y a quelques instants avant le journal la distinction entre deux systèmes de pensée système un système de de Daniel kammann dites-nous en quelques mots ce que sont ces deux systèmes de pensée et la manière dont finalement l'intelligence artificielle peut tenter de remplacer l'un et où l'autre alors effectivement dans la théorie de Daniel kahnman notre cerveau fonctionne de deux manières il y a une manière qui est plutôt du niveau perception ou de la manière dont on comprend la langue c'est quelque chose qu'on se fait à toute vitesse si je vois votre visage Guillaume je sais que c'est vous j'ai pas besoin de réfléchir pendant longtemps donc tout ça c'est ce qu'on appelle le système 1 réaction rapide perception compréhension des scènes etc et par contre si je vous demande de faire 553 x 428 ou de faire un plan pour aller d'un endroit à un autre et bien il va falloir réfléchir un petit peu et donc ce sont des mécanismes plus lents des mécanismes qui font appel à d'autres d'autres fondements et qui sont ce qu'on appelle ce que Daniel Calman a appelé le système 2 et en fait dans notre cerveau l'analyse c'est que ces deux systèmes sont en permanence en interaction et que là alimente l'autre et réciproquement alors au niveau intelligence artificielle aujourd'hui tous ces sites tous ces logiciels basés sur les données sur la perception sont en fait du système 1 et il y a très peu de choses qui existent au niveau du système 2 quand on fait de ce qu'on appelle de la planification automatique on s'en Rapp un petit peu mais on en est vraiment très loin en tout cas on a aucun aujourd'hui on a aucun système qui fonctionne avec les deux ensemble c'est encore au niveau des recherches j'ai vu l'année dernière pour la première fois une chercheuse d'IBM présentée une articulation entre le système 1 et le système de mais c'était vraiment sur des problèmes jouets et on est vraiment loin ce que vous dites parce que on aurait tendance à dire que le système 2 c'était ce qui relève de la raison ce qui relève du calcul et beaucoup plus facile à opérer sur un ordinateur c'est un petit peu ce qu'on essayait quand on faisait la représentation des connaissances du raisonnement il y avait il y a même eu un projet assez ambitieux de la qui consistait à engon faire la base de connaissances de bon sens de l'ensemble de nos connaissances ça a duré une dizaine d'années mais au bout du compte tous ces choses là ont été jetés parce que ça ne fonctionnait pas pour les problèmes que j'ai déjà mentionnés pour des questions de cohérence de de performance de passage à l'échelle etc et donc ça a été un petit peu AB [Musique] en substance il faudrait imaginer une machine suffisamment habile à singer l'être humain une machine qui saurait se tromper alors ça par exemple est-ce que c'est envisageable aujourd'hui est-ce que Tchad Jipi et cette machine là est-il possible pour vous qui êtes linguiste par exemple si vous deviez deviner si vous avez affaire un chatity ou pas réussiriez vous à le faire alors c'est une très bonne question et il y a deux façons de détecter 4G pitty dans un test de Turing ça s'appelle comme ça l'une des façons c'est d'essayer de voir les erreurs qui va faire effectivement il va faire certaines erreurs que les humains ne feront pas soit au niveau linguistique comme je disais précédemment il y a des phrases qui va construire d'une façon qui va nous sembler pas la façon que nous préférerions nous donc on peut aller chercher les ou alors dans le raisonnement il y a des raisonnements assez simples que le chat jibity n'est pas en fait capable de suivre aujourd'hui je dis chat j'ai pity mais c'est un terme de raisonnement simple on peut voir des rais transitivité du type le gobelet est à gauche de la boîte la boîte est à gauche de la bouteille est-ce que le gobelet est à gauche de la bouteille ont des tests très simples qui sont fait aujourd'hui chez Manuel Dupont par exemple on démonte que tchatche se trompe sur ces choses-là est-ce qu'on comprend pourquoi il se trompe alors de la même façon qu'on comprend pas pourquoi il y arrive on comprend pas pourquoi il se trompe donc ça c'est une bonne question l'autre l'autre aspect du test de Turing qui est l'effet miroir qui est souvent moins mis en avant c'est que tchatche et pété va faire des choses mieux que nous c'est un peu comme c'est comme les les machines qui jouent aux échecs en fait elles sont meilleures que les humains et de cette d'une certaine façon on peut les détecter comme ça donc si on va poser des questions à chat GPT dans une variété de domaine très très large qu'aucun humain ne maîtrise dans je ne sais plus combien de langues en fait j'ai pété va répondre très bien et ça c'est aussi la preuve qu'on n'a pas une machine qui est humaine on a autre chose que ça qui a des avantages et des inconvénients par rapport à un être humain Bertrand brunsweg et l'autre en jeu aujourd'hui en jeu qui est particulièrement à l'honneur avec l'ouverture du salon vivatex et l'intelligence artificielle à la France vous dirigiez l'institut de recherche de l'INRIA Saclay justement y a-t-il aujourd'hui une voie française vers l'intelligence artificielle est-ce que l'on est bien noté en matière de start-up ou d'entreprise dans ce domaine plutôt oui et en fait quand on a lancé le premier plan national d'intelligence artificielle qui s'appelait et high for you Magneti l'intelligence artificielle pour l'humanité on était quand même le premier pays à lancer un programme qui avait cette vision humaniste que n'ont pas forcément tous les autres donc à l'époque c'était un milliard et demi d'euros qui avait été injecté beaucoup dans la recherche et dans d'autres secteurs et là il y a eu une deuxième une deuxième relance avec un programme qui de l'ordre de 2 milliards d'euros sur le développement de et notamment avec beaucoup d'aspects formation donc on fait ce qu'il faut je pense pour que la recherche l'économie les startups se développent on a quand même une politique de startup qui marche assez bien on a un grand nombre de start-up qui démarre et qui sont qui sont très bonne qualité donc on peut dire qu'on est alors on est dans la course mondiale sur le sujet quand on a lancé le premier plan la volonté était d'être le premier Européen sachant que la concurrence est rude il y a l'époque il y avait le Royaume-Uni et l'Allemagne et puis d'autres pays comme l'Espagne l'Italie qui sont très actifs et donc on est toujours un peu dans ces dans ces ambitions là évidemment au niveau mondial il y a les mastodontes que sont les États-Unis la Chine et on a toujours peur que l'on crée des startups et qu'ensuite ces startups ou les dirigeants de ces startups ou les ingénieurs de ces startups aillent aux États-Unis pour profiter d'un écosystème peut-être plus favorable ça s'est passé dans un certain nombre de cas effectivement nous on se place plutôt en fait au niveau européen puisque on est comme je l'ai dit on est on est fort individuellement en France et on veut être aussi forte collectivement et je pense que c'est cette action globale européenne avec accompagné la réglementation qu'il faut qui continuera de positionner la France comme un des acteurs majeur en Europe et l'Europe comme la l'acteur majeur un des acteurs majeurs au niveau mondial et alors quels sont les entreprises qui aujourd'hui sont ou apparaissent particulièrement prometteuses en France on a parlé d'un open à la française est-ce qu'on a raison par exemple d'en parler on n'a pas c'est effectivement on n'a pas encore ça aujourd'hui alors il y a une société qui s'appelle Mistral Ayi qui a bénéficié de 105 millions d'euros alors c'est beaucoup d'euros et c'est très peu par rapport à l'équivalent américain oui moi je suis aussi dans un je travaille dans le comité d'investissement du fond de la région Île-de-France pour les start-up et on en voit passer beaucoup donc on pense effectivement que tu en as beaucoup qui sont prometteuses et c'est pas seulement dans la région Île-de-France c'est un peu sur tout le territoire maintenant lesquels seront les gagnants au bout du compte c'est difficile à dire mais par rapport à la technologie qu'utilise tchadjipiti ou une journée et ce qu'il s'agit de singer cette technologie d'essayer de créer donc des programmes parallèles qui fassent la même chose qu'il fasse mieux plus vite ou est-ce qu'il s'agit de prendre d'autres chemins on a aussi des des startups ou des labos qui ont des approches un petit peu différentes notamment sur ce sur la partie consommation énergétique parce que on en a pas du tout parlé tous ces systèmes demandent des capacités de calcul phénoménal et donc de la consommation énergétique également phénoménale et donc en utilisant des approches basées sur notamment nos connaissances mathématiques l'école mathématiques françaises qui est de très très bonne qualité on a des gens qui travaillent sur des nouvelles représentations des nouvelles approches qui permettent qui permettent de faire ce qu'on appelle dans l'intelligence artificielle frugale et qui a un avenir très important je pense frugal frugal c'est-à-dire qui ne consomme pas particulièrement les ressources énergétiques de la planète ce qui est quand même important effectivement Emmanuel schémela est-ce que des modèles linguistiques peuvent permettre de faire ce que fait tchat JPY en le faisant mieux plus rapidement quels sont les recherches dans ce domaine question compliquée c'est l'avenir qui nous dira quels sont les bonnes directions dans le domaine linguistique encore une fois tous les deux ou trois mois on a une révolution on a des choses qui ont des barrières aussi rapide que cela c'est vraiment de cet ordre là et d'ailleurs c'est même quand on essaye d'étudier les propriétés de ces systèmes très vite ça devient obsolète parce que c'est des nouvelles propriétés qui qui deviennent importantes ce qui est intéressant aussi ce qui est ce qui permet de faire avancer la recherche parce que on pousse les limites en fait d'un côté il y a les testeurs et de l'autre côté il y a des gens qui vont dire ok on a ce problème de test donc on va améliorer on va mais ce sont des innovations des innovations de rupture c'est-à-dire tous les trois mois on peut pas découvrir malgré tout il y a différentes sortes d'innovations il y a des innovations qui se font d'ailleurs souvent par tâtonnement on va trouver une nouvelle architecture une nouvelle façon d'agencer notre réseau neurones pour que ça marche mieux et on sait pas toujours pourquoi d'ailleurs cette nouvelle façon d'agencer marche mieux mais comme on en essaye plein en parallèle et ça pour le coup ça consomme pas mal de ressources effectivement et ben il y en a une qui va faire mieux et on va progressivement trouver la meilleure un peu par un système d'évolution c'est la meilleure qui survit et donc on va de l'avant de cette façon là donc il y a différentes pistes qui sont suivies c'est finalement qui a différentes pistes qui sont suivies celle de la réduction de taille est une piste intéressante donc on en parlait faire frugal faire frugal il y a deux arguments à ça il y a évidemment l'argument de la consommation énergétique mais il y a aussi potentiellement un argument de qualité c'est à dire peut-être qu'avec des systèmes plus simples on va mieux généraliser c'est à dire qu'on va arrêter d'apprendre par cœur un corpus mais apprendre à généraliser le corpus parce qu'on a moins de ressources moins de mémoire et on va se rapprocher peut-être de choses plus abstraites qui vont avoir des des compétences encore plus grandes merci à tous les deux merci Emmanuel Chemla vous êtes chercheur en sciences cognitive et linguistique merci Bertrand brunschweg ancien directeur du centre de recherche de l'INRIA ça plaît