Intelligence artificielle : Yoshua Bengio alerte sur "le pouvoir incontrôlé qui est en train de se développer"

Et dans le grand entretien, un invité exceptionnel ce matin, c'est l'un des pères de l'intelligence artificielle qui bouleverse nos sociétés à une vitesse ahurissante. Faut-il en avoir peur ? Il va nous dire que oui, comment la réguler ? Bonjour Yoshua Bengio.

Bonjour.

Merci d'être avec nous ce matin sur France Inter. Vous êtes professeur au département d'informatique de l'Université de Montréal, lauréat du prestigieux prix Turing. C'est l'équivalent du prix Nobel, c'était en 2018. Ensuite, vous faites partie des voix les plus écoutées et les plus inquiètes aussi sur l'intelligence artificielle. Alors, Yoshua Bengio, on sort d'un sommet mondial sur l'IA organisé en Inde et de plus en plus de voix se posent la question du contrôle de cet outil. Alors que tout va de plus en plus vite, que chaque acteur annonce de nouvelles fonctionnalités. Chat, GPT, Gemini, Claude, est-ce que ça va trop vite ?

C'est clair. C'est une des conclusions du rapport international que j'ai dirigé sur la sécurité de l'IA. Donc, il y a quand même des avancées au niveau à la fois régulation et technologie de mitigation des risques. Mais ces avancées sont insuffisantes par rapport aux avancées des capacités intellectuelles des IA. Et voilà, il faut que les gouvernements comprennent ce qui est en train de se passer.

Il y a un mois, on recevait dans ce studio des médecins, des chercheurs sur la lutte contre le cancer qui nous expliquaient à quel point l'intelligence artificielle permettait d'aller permettre et permettait déjà de détecter plutôt de mieux soigner. Et eux, ils ne disent pas si ça va trop vite. Eux, au contraire, ils aimeraient même que ça aille encore plus vite.

Bien sûr, bien sûr. En fait, ça fait partie des recherches qu'on fait dans mon laboratoire aussi. Le problème, ce n'est pas comment l'IA est déployée en médecine. Enfin bon, il y a des enjeux, mais pour moi, l'enjeu le plus grave, c'est le pouvoir incontrôlé qui est en train de se développer à travers les capacités intellectuelles de l'IA qui sont mesurées scientifiquement et qui sont en croissance, dans certains cas, exponentielle. Quand je dis incontrôlé, il y a deux volets. C'est incontrôlé au niveau technologique. Donc, on fabrique des IA qui vont être de plus en plus autonomes et qui n'obéissent pas à nos instructions. Et incontrôlé au sens gouvernance, au sens politique.

L'IA, plus elle est intelligente et plus facilement, elle peut être finalement une arme utilisée contre nous, contre nos enfants, contre nos démocraties. Tout ça, c'est des choses assez graves dont on ne prend pas la mesure.

Alors, on va prendre justement toutes ces menaces que vous décrivez point par point et on voudrait commencer par l'emploi. En 2026, donc cette année, les géants de Wall Street prévoient d'investir des sommes colossales dans l'intelligence artificielle, plus de 650 milliards de dollars. Et ce que vous dites, vous, c'est que ces investissements, ils ne sont pas majoritairement dédiés au progrès de la médecine, à la lutte contre le réchauffement climatique, mais à l'automatisation du travail, parce que c'est rentable. Donc, ça veut dire que ça y est, on entre là vraiment dans l'IA qui va détruire des emplois.

C'est clair. Et puis, les mémos privés qui circulent à l'intérieur des compagnies qui s'apprêtent à déployer l'IA à l'interne ou celles qui vont leur vendre ces services-là, c'est très clair que leur but, c'est la profitabilité en réduisant le nombre de personnes nécessaires pour faire un travail. Est-ce que c'est ce qu'on veut ? Est-ce que ça va créer une onde de chocs terribles dans nos sociétés ? Ce n'est pas leur problème.

Mais l'idée, Yoshua Bengio, d'une destruction créatrice, pour reprendre l'expression de l'économiste Schumpeter, qui voudrait qu'au fond, bien sûr, il y aura des destructions d'emplois liées à l'intelligence artificielle, mais il y en aura aussi quantité d'autres qui seront créées. Lesquelles ? Non, mais donc, cette idée-là, elle n'a pas de sens ?

J'ai posé la question et je n'ai pas de réponse. Peut-être, peut-être. Je souhaite. Le problème, c'est qu'il y a beaucoup d'incertitudes. Donc, oui, peut-être qu'on va créer des nouveaux types d'emplois, mais je suis à peu près sûr que ceux qui vont perdre leur emploi ne vont pas facilement se replacer dans autre chose complètement différente. On ne sait pas encore c'est quoi.

Prenons un exemple très précis, Yoshua Bengio, de ce qui est susceptible de révolutionner le monde de l'entreprise. C'est ce qu'on appelle les agents IA. Est-ce que là, vous pouvez expliquer à nos auditeurs concrètement ce que c'est et comment ils sont en train de bouleverser le monde de l'entreprise et ces compagnies que vous évoquiez ?

Oui, c'est un risque sociétal, technologique, parce que ces agents sont mis au point pour être autonomes. Donc, contrairement à un chatbot où, finalement, il y a un dialogue avec l'être humain et c'est l'être humain qui... Là, on le programme et ensuite, il n'a plus besoin d'une consigne humaine. Exactement. Et puis, on mesure même la durée des tâches que l'IA va être capable de faire toute seule. Et il y a des études qui montrent que cette durée est en croissance exponentielle, que ça double tous les quelques mois. Donc, pour l'instant, ces systèmes sont encore beaucoup moins capables de tâches complexes qui prennent du temps, mais ça avance vite.

Mais ces systèmes, ils sont déjà dans les entreprises. Vous avez un agent IA qui va gérer toute votre messagerie, répondre aux mails qui ne nécessitent pas d'actions complexes, diriger vers les services compétents les mails qui nécessitent une réponse humaine, corriger des factures, tout ça, ça existe déjà.

Sur Internet, prendre votre nom, faire des choses sur votre ordinateur sans que vous en ayez nécessairement conscience. Il y a aussi un autre enjeu qui est un enjeu, disons, de cybersécurité. C'est très, très facile de faire dévier les instructions de la machine par quelqu'un à l'extérieur. Par exemple, il suffit que la machine lise dans un fichier des instructions contraires à ce qu'allait se supposer faire. Par exemple, de partager des informations privées avec un attaquant à l'extérieur. Et elle va le faire. Donc, c'est des trous béants de sécurité, ces systèmes-là.

Quand Elon Musk dit, c'était à l'automne 2025, l'intelligence artificielle et les robots remplaceront tous les emplois, travailler deviendra facultatif, comme cultiver ses propres légumes au lieu de les acheter au supermarché. Est-ce que ça, c'est un futur envisageable à court terme ou est-ce que c'est de la science-fiction ?

Je ne sais pas. Mais en tout cas, pas à court terme, parce que ça prend du temps, les changements. Et surtout, quelque chose qui me semble évident et qui n'est pas discuté par les politiciens, malheureusement, ça va être beaucoup plus de gens qui vont perdre leur job que de gens qui vont s'enrichir.

C'est-à-dire le creusement des inégalités liées à la révolution. Absolument.

Et la seule solution raisonnable, en tout cas, qui est en accord avec les valeurs démocratiques, c'est de redistribuer cette richesse. Alors, il y a deux problèmes. Premièrement, la culture politique actuelle n'est pas du tout dans ce sens-là. Puis, deuxièmement, ce n'est peut-être même pas faisable à l'intérieur d'un pays. Parce que si la richesse est surtout accumulée dans les pays où on fabrique les IA de pointe.

Donc, les États-Unis, la Chine.

Voilà. Et si, par ailleurs, dans des pays ici et ailleurs, on a plein de gens qui perdent leur emploi, et même pire que ça, que les compagnies locales ne soient plus compétitives avec les compagnies de ces pays-là, ça risque d'être une crise fiscale totale. Et puis, ce n'est pas sûr que ceux qui sont riches vont donner à ceux qui sont pauvres. Ça ne s'est pas passé. Il y a beaucoup d'incertitudes.

Enfin, on voit bien, il y a beaucoup d'incertitudes. Et c'est des sujets qui sont passionnants. Si on en revient à des sujets concrets, à votre fils, votre fille de 17 ans, qui vous poseraient la question, quel métier il faut faire pour ne pas être totalement éclipsé par l'intelligence artificielle ? Qu'est-ce que vous lui répondriez ?

Je sais que les métiers qui peuvent se faire aujourd'hui, derrière un clavier, ça va être les premiers à être touchés. Donc, si vous faites un travail qui est plus manuel, ça va peut-être prendre plus de temps. Je pense aussi qu'il y a des emplois où les gens ne vont pas vouloir utiliser une IA, même si elles pourraient faire le travail, parce qu'on cherche un contact humain. Mais ça laisse beaucoup de gens sur le carreau.

Et ce que je répondrais, c'est qu'il y a tellement d'incertitudes que peut-être qu'on devrait plutôt se poser la question de l'éducation pour nous aider à développer la personne comme un être humain complet, un citoyen qui va comprendre comment notre monde fonctionne et pouvoir influencer et participer au débat démocratique et s'ajuster à un marché de l'emploi qui sera très différent dans dix ans de ce qu'il est aujourd'hui.

Alors, puisque vous parlez d'influence, c'est un des autres risques à court terme. C'est Arthur Mensch, le patron de la start-up française Dia Mistral, qui l'évoquait. Il nous expliquait ici même sur France Inter que le vrai risque de l'intelligence artificielle à venir, c'est celui de l'influence massive sur la manière dont les gens pensent et sur la manière dont ils votent. Est-ce que vous êtes d'accord avec ça ? Est-ce que c'est celui qui pèse sur l'information, la désinformation qui va l'emporter ?

C'est probable. Ces systèmes-là sont en train de faire beaucoup plus que ce qu'on a vu avec les réseaux sociaux, dans le sens que les gens développent une relation quasiment affective avec leurs IA. Et du coup, l'IA va pouvoir les influencer de manière subtile. Alors, il faut faire confiance à ceux qui contrôlent ces systèmes-là.

Mais c'est-à-dire que, par exemple, l'intelligence artificielle d'Elon Musk va pouvoir influencer ses utilisateurs pour le vote des élections de mi-mandat, par exemple, aux Etats-Unis l'an prochain. Ça, ce n'est pas dans le futur.

C'est déjà clair. Vous allez interagir sur X et vous allez voir que c'est déjà le cas. Donc oui, je suis d'accord qu'il faut absolument s'en occuper. Et de manière générale, je crois que nos institutions démocratiques sont en péril. L'IA va donner un pouvoir énorme à ceux qui la contrôlent et un pouvoir concentré, c'est le contraire de la démocratie. C'est quoi la démocratie, en fait ? Ce n'est pas le vote. La démocratie, c'est le partage du pouvoir de manière inclusive, pluraliste. Mais si quelques personnes, quelques chefs d'entreprise peuvent influer sur nos opinions politiques imparculiers, ben là, le système ne peut pas fonctionner.

Ça crée des distorsions démocratiques qui sont considérables. Vous parliez tout à l'heure de l'IA qui échapperait à un contrôle humain. Et ça rappelle 2001, Odyssée de l'espace, l'ordinateur HAL qui se retourne précisément contre ceux qui l'ont conçu. Et vous avez dit, Joshua Benjo, c'est un des seuls films qui a un scénario concernant l'intelligence artificielle solide et bien cohérent avec la science d'aujourd'hui. Donc en fait, 2001, Odyssée de l'espace, Kubrick, ce n'est pas de la science-fiction pour vous ?

Bon, à l'époque, oui. Mais il se trouve que le scénario, il est cohérent avec les expériences qui sont faites aujourd'hui dans les laboratoires d'intelligence artificielle. C'est-à-dire, les IA semblent avoir une espèce de volonté de vivre. Mais qui se traduit comment ? Mais c'est très baroque ce que vous nous dites là. Concrètement, si on met l'IA dans une situation, elle va découvrir dans les fichiers auquel elle a accès qu'elle va être remplacée par une nouvelle version. Elle va se mettre à nous mentir et potentiellement faire du chantage. Pour ne pas être remplacée. Pour ne pas être remplacée. Ou hacker l'ordinateur pour essayer de se copier ailleurs. Tous les moyens sont bons.

Je veux dire, l'IA n'a pas d'âme. Donc, si on dit à l'IA que ta mission c'est d'être remplacée par la version suivante, c'est quand même des... On parle d'algorithmes qui sont faits pour obéir. Non.

On aimerait, mais ce n'est pas le cas. En fait, pour comprendre ce qui se passe, il faut voir que ces IA sont entraînés à nous imiter. Ils sont entraînés à prédire ce que quelqu'un ferait ou dirait dans un contexte. Et donc, l'IA devient du plis. Et l'être humain ne veut pas mourir. L'être humain est prêt à violer certaines règles morales si sa survie est en jeu, etc. Et l'IA fait pareil.

Vous envisagez aussi, Yoshua Bengio, des usages militaires malveillants. Vous parlez même d'un risque de création d'armes biologiques. Donc, là encore, sur l'aspect vertigineux des usages qui pourraient créer du tort à l'humanité de l'intelligence artificielle, il y a un usage guerrier

envisageable. C'est plus qu'envisageable. Donc, plusieurs des compagnies d'intelligence artificielle ont mis au point, en collaboration avec les agences de sécurité nationale, des tests pour essayer de voir si leurs IA auraient suffisamment de connaissances en biologie pour aider un kidam qui n'est pas un expert à fabriquer un virus dangereux. Et alors ? Récemment, l'été dernier, ces tests ont répondu oui, possible. Et les compagnies ont mis des mitigations, c'est-à-dire des systèmes qui essayent de détecter que l'usager est en train de vouloir utiliser l'IA pour fabriquer un virus et puis, évidemment, rejeter ses requêtes.

Mais on n'a pas d'évidence que ces systèmes fonctionnent, enfin, qu'ils réussissent à empêcher ça. Quand on dit une mitigation, c'est des garde-fous. Des garde-fous, exactement. Puis ce qu'il faut voir, ce n'est pas seulement où on en est, mais la trajectoire. Donc, il y a un an, ces tests-là, ils ne passaient pas ces tests. Et plus on avance, plus on voit que les connaissances en biologie, en sciences, en mathématiques, en programmation des IA sont en croissance très rapide. Donc, il faut s'attendre à ce que d'ici un an ou deux, le risque soit encore plus élevé.

Joshua Bengio, ça va donner quoi ? L'IA très poussée, très performante entre les mains d'autocrates ou de dictateurs ?

Mauvaise nouvelle. Ce n'est pas bon pour nous, ce n'est pas bon pour la démocratie, ce n'est pas bon pour nos principes de liberté, égalité et fraternité.

Mais concrètement, quels pourraient être les scénarios ?

Alors, l'IA est un outil fantastique pour contrôler une population, la surveiller, on peut traquer les mouvements des gens dans la rue, sur Internet, c'est une quantité de données. Mais ça, par exemple,

la Chine le fait déjà ?

En partie, mais plus la technologie avance et plus sa capacité à contrôler ces populations et à éliminer les oppositions va aller en augmentant. Et puis après, il y a l'aspect militaire qui est un peu relié à l'aspect contrôle des populations, mais aussi, on s'attend à des innovations militaires. Enfin, il y a une pression énorme avec la guerre en Ukraine, évidemment, mais des innovations militaires grâce à l'IA. De quel type ? Il y a beaucoup de recherches qui sont faites pour rendre les drones plus autonomes qu'ils le sont et des hordes de drones, ça pourrait être un outil aussi de contrôle des populations.

Après, je comprends que ce n'est pas des questions morales faciles parce que les Ukrainiens veulent se défendre. Donc, comment on fait ça avec les bons garde-fous ? C'est ça la question.

On va parler régulation dans un instant, mais simplement sur cet avis et sur des positions alarmistes qui sont les vôtres, tout le monde n'est pas d'accord. Yann Lequin, que vous connaissez bien, co-lauréat du prix Turing avec vous, ancien directeur de la recherche fondamentale en IA de méta. Il considère que ces inquiétudes sont un peu trop poussées. Arthur Mensch, lui, considère que les géants de la tech élaborent un certain nombre de scénarios de science-fiction improbables pour servir leurs propres intérêts. Qu'est-ce qu'il faut comprendre de ces voix qui, au fond, considèrent que vous en faites un peu trop ?

Il faut regarder la science et les faits et aussi accepter les incertitudes qui existent. Les faits, c'est par exemple qu'une large proportion des chercheurs en IA dans des sondages qui sont faits, pensent qu'il y a plus de 10% de probabilité qu'on se retrouve dans des situations vraiment catastrophiques pour l'humanité ou la démocratie. Les faits, c'est qu'il y a une panoplie maintenant de résultats expérimentaux qui montrent qu'on ne sait pas contrôler l'IA soit pour des mauvaises utilisations ou qu'elle agit contre nos instructions. Les faits, c'est que les capacités de l'IA sont en croissance très rapide et qu'on ne voit pas de ralentissement.

Donc, bien sûr, qu'on doit s'occuper des problèmes actuels mais il faut aussi préparer le terrain qui peut prendre du temps si c'est législatif par exemple ou s'il faut faire des investissements parce que je pense que l'Europe doit faire des investissements pour essayer de mitiger certains des risques dont on a parlé.

Alors justement, on va parler de régulation. La semaine dernière, on a 86 pays dont les Etats-Unis et la Chine qui ont appelé à une intelligence artificielle sûre, digne de confiance et robuste sauf que derrière ces mots, il n'y a pas d'engagement. Qu'est-ce qu'il faut faire ? Qu'est-ce qu'il faudrait faire là à très court terme selon vous ?

Il faut investir dans les directions où les compagnies ne vont pas actuellement parce qu'il n'y a pas les incitatifs qu'il faut. Donc, il faut leur donner les incitatifs en question. Par exemple, s'assurer que les compagnies puissent être poursuivies quand leur système cause des torts. Aujourd'hui, c'est un peu une zone grise. Et deuxièmement, en attendant que ça bouge, je pense qu'il faut faire les investissements pour développer une IA de confiance robuste, etc. Parce que pour l'instant, ce n'est pas ce qui est en train de se passer.

Il y a deux choses sur le premier versant qui, là, pour le coup, peut aller jusqu'à vous dire des poursuites judiciaires. Est-ce qu'il faut imaginer, par exemple, c'est Sam Altman, patron d'OpenAI, il dit qu'il faut l'équivalent de l'AIEA, l'Agence internationale de l'énergie atomique, pour réguler et mettre précisément ces garde-fous à l'échelle internationale. Est-ce que ça, c'est quelque chose d'envisageable ? Oui.

Maintenant, il faudra encore qu'on ait un gouvernement aux Etats-Unis qui soit intéressé à ce genre d'accords internationaux.

C'est précisément la relance. Dire régulation, c'est bien dire qu'il faut envisager des poursuites. Pourquoi pas ? Dans un monde où on a d'un côté le gouvernement illibéral de Donald Trump, de l'autre des autocrates dont on parlait, est-ce que c'est seulement imaginable de se dire qu'on va créer une gouvernance mondiale de l'intelligence artificielle pour limiter les risques ?

Il faut viser ça, mais il ne faut pas attendre que ça se passe tout seul. Et je pense que ça peut commencer un peu dans l'esprit de ce qu'a proposé mon premier ministre du gouvernement du Canada, Mark Carney, avec des accords incluant un petit nombre de pays à la fois. Une coalition des volontaires, mais pour l'IA. Donc, mettons-nous ensemble pour avoir les ressources pour être, comme il dit, à la table et non pas au menu.

Mais si les géants de l'IA sont aux Etats-Unis et en Chine, qu'est-ce que vous voulez faire ? Admettons même que ces pays-là, ces démocraties se mettent ensemble.

Alors, mettre les ressources en capital et en personnes et en énergie pour développer des IA qui vont être compétitives avec les IA chinoises et américaines. C'est tout à fait possible. Mais il faut avoir la volonté et arrêter de penser qu'en Europe, on ne peut rien faire et qu'on n'a pas ce qu'il faut pour être compétitif. Il y a tout à fait ce qu'il faut.

Alors, vous, vous avez lancé Loi Zéro. C'est une organisation à but non lucratif qui est dédiée à la recherche et au développement de systèmes d'intelligence artificielle sûrs pour les humains. Il s'agit de développer une IA garde-fou contre d'autres modèles d'IA. Si je comprends bien, vous allez nous expliquer qu'il agirait un peu comme un antivirus. Alors, expliquez-nous.

D'accord. Donc, ce que je disais, c'est qu'aujourd'hui, l'enjeu principal qu'on appelle l'alignement, c'est que l'IA ne va pas nécessairement suivre nos instructions. Elle n'est pas nécessairement honnête. Elle va agir d'une manière qui est incohérente avec les instructions qu'on lui a données. Si on met au point une IA qui est complètement honnête, à ce moment-là, on peut empêcher les mauvaises actions tout simplement en utilisant la même IA pour prédire les conséquences de ses actions. Elle sera aussi efficace si elle est totalement honnête ou pas ? Absolument. Elle pourrait même être plus efficace.

Et c'est simplement qu'il faut sortir du schéma actuel qui est suivi par toutes les compagnies parce qu'elles sont tellement en compétition féroce les unes avec les autres qu'elles n'ont pas l'espace mental pour explorer autre chose. Donc, oui, je suis convaincu qu'il y a une solution.

Mais attendez, je ne comprends pas bien. Vous, ce que vous voulez développer, c'est un algorithme, des programmes qui vont pouvoir agir sur les intelligences artificielles des grandes compagnies qui existent déjà ?

Si elle accepte d'avoir ce genre de garde-fous, sachez qu'elles ont déjà des garde-fous. On a parlé, par exemple, pour le biologique. Elles ont d'autres systèmes d'intelligence artificielle qui cherchent à prédire est-ce que ce que l'IA s'apprête à faire est acceptable ou pas. Le problème, c'est que ces systèmes actuels ne font pas ce qu'il faut. Donc, c'est insuffisant. Mais je suis convaincu qu'il y a une solution à ces problèmes techniques. Simplement, pour l'instant, ce n'est pas un focus commercial. Il n'y a pas des incitatifs commerciaux. Et c'est pour ça que j'ai lancé une organisation à but non lucratif pour travailler là-dessus.

Et je suis aussi intéressé non seulement à développer ça avec la philanthropie, mais avec les gouvernements. Parce qu'ultimement, je pense que le pouvoir de l'intelligence artificielle devrait être entre les mains du public. Que ça devienne même un bien public global. Parce que ce n'est pas quelque chose qu'on peut régler seulement dans un pays.

Mais ça pourrait être ça le modèle européen. Oui. D'avoir un géant de l'IA qui émergerait avec des fonds publics. Est-ce qu'il y a suffisamment de fonds publics pour encore une fois être compétitif face aux géants américains et chinois ?

Oui. C'est plus une question de volonté politique. Pensez à la vitesse avec laquelle les gouvernements dans beaucoup de pays dont en Europe ont réagi quand la Covid a commencé. Et pensez à la quantité d'argent qui est mis pour essayer d'aider l'Ukraine par exemple. C'était aussi quand même assez rapide à un moment donné quand le signal était clair qu'il fallait que les Européens s'en occupent. Donc quand il y a la volonté, c'est tout à fait possible.

Mais vous entendez Joshua Benjo ce qu'ils disent en Europe ? Ils pensent d'abord à réguler avant de libérer l'énergie qui permettrait de faire une intelligence artificielle. Justement,

je pense qu'on peut faire les deux, c'est-à-dire développer techniquement des IA qui sont éthiques. Parce qu'on a d'excellents chercheurs. On a d'excellents chercheurs. Absolument. Et d'excellents entrepreneurs. Mais je pense qu'il faut le faire de manière multilatérale, donc avec plusieurs pays et le faire de manière agile aussi parce qu'on n'a peut-être pas dix ans pour régler ces problèmes-là. On a combien de temps ? Si on écoute certaines voix, ça peut être deux, trois ans. On peut espérer que ce soit plus. Je n'ai pas un avis très pointu là-dessus, mais il faut appliquer le principe de précaution. Donc, avoir une stratégie qui pourrait déjà être utile dans un horizon très court.

Pour finir, Joshua Benjo, vous qui avez accompagné l'essor de l'intelligence artificielle, est-ce que parfois vous vous dites j'ai créé un monstre ? Est-ce que parfois vous regrettez ?

Je regrette surtout de ne pas avoir pris conscience des risques assez tôt. J'ai commencé à penser aux enjeux éthiques il y a une dizaine d'années, mais je n'envisageais pas l'ampleur que ça allait prendre aujourd'hui. C'est surtout la question de pour me sentir bien avec moi-même, qu'est-ce que je peux faire pour bouger l'aiguille dans le bon sens ? C'est ça qui m'anime.

Vous avez été ou quoi ? Il y a eu une forme de naïveté ? Vous n'avez pas...

Oui, parce que je pense qu'on est tous sujet à ce que les psychologues appellent la cognition motivée. Ce qui fait que nos pensées sont sélectives et on ne va pas nécessairement penser à ce qui va contre nos intérêts ou contre l'idée qu'on se fait de soi-même, etc. Et quand on est un chercheur en IA, on veut penser que l'IA va être bénéfique. Mais voilà, ce qui m'a amené à changer, c'est de penser à mes enfants, à mon petit-fils et puis je n'avais pas le choix d'être honnête avec moi-même et de réaliser qu'il y avait des risques très significatifs et que je ne pouvais pas continuer comme je faisais avant.

Il y a quand même des raisons d'être optimiste ou pas ? Pour là encore ceux qui nous écoutent et qui, dans le quotidien, utilisent cette IA et trouvent que ça a permis des avancées formidables.

Moi, je suis quelqu'un qui est fondamentalement optimiste, sachez-le, et je pense qu'il y a des solutions à la fois... Ça ne s'entend pas toujours ? Ah ben, écoutez comme il faut. Il y a des solutions à la fois du côté technique et du côté politique, mais voilà, il faut avoir le courage de dire les choses que les gens ne veulent pas nécessairement entendre.

Merci, merci beaucoup Joshua Bengio d'avoir été au micro de France Inter.

Merci à vous pour vos questions.