Sam Altman, le messie de l'IA 3/4 : Le dirigeant d'OpenAI

C'est très drôle parce que ChatGPT connaît tellement de vous. Sam Altman, un nom complètement inconnu du grand public et qui s'est imposé de manière aussi fulgurante que notre usage de l'assistant conversationnel ChatGPT. Ils ont vu dans les GPT qui sont à l'origine des objets de traitement de texte, des objets qui pouvaient aller plus loin.

OpenAI, créateurs de ChatGPT. Même si vous n'avez pas entendu de ça, votre vie pourrait bientôt être impactée par cette nouvelle technologie construite avec l'intelligence artificielle.

2022, ça a été la découverte de ChatGPT et aujourd'hui, il y a un tiers des Français qui utilisent ChatGPT. Nous avons mis une grande superintelligence dans les mains de tous. OpenAI a été fondé avec la conviction que l'IA peut améliorer presque tous les aspects de notre vie. Les visages de l'actu épisode 3, le dirigeant d'OpenAI. Sam Altman a une obsession. Il faut créer une intelligence artificielle qui ne soit pas contrôlée par Google. Ce pari, il va le relever avec un homme qui porte en lui toutes les contradictions de la Silicon Valley, Elon Musk. Oui, en fait, moi j'ai envie de dire, OpenAI, ça n'est un peu sur un malentendu en fait.

Parce qu'Elon Musk va chercher Sam Altman à ce moment-là parce qu'il est très inquiet de ce qui se passe chez Google. Il est très inquiet du développement de l'intelligence artificielle. Il a lu un an avant Nick Bostrom et les risques existentiels et la manière dont l'intelligence artificielle peut se transformer en superintelligence. Ce qu'il considère être les meilleurs talents, des gens qui viennent de Nvidia, des gens qui viennent de Google aussi à l'époque pour fermer une espèce de super team. L'ambiguïté, c'est qu'Elon Musk a une vision à l'origine assez pessimiste de l'IA alors qu'il va s'entourer de gens finalement qui ont une vision très optimiste de l'IA.

Et d'une certaine façon, ce malentendu, il s'agrège autour de cette notion OpenAI qui va s'avérer pas du tout open au fil des années. Mais peut-on dire qu'OpenAI a amené une réelle rupture dans le monde de l'intelligence artificielle ? Pour le savoir, j'ai interrogé Gaël Varroco. Il est informaticien à l'INRIA. Il a développé une plateforme dédiée au machine learning. Il m'explique qu'OpenAI a surtout su capitaliser sur un modèle d'intelligence artificielle, un modèle nommé GPT, Generative Pre-Train Transformer, que beaucoup d'autres entreprises développaient à l'époque, notamment une filiale de Google nommée DeepMind. Il y a eu un certain nombre de ruptures.

Comme toujours, c'est des ruptures, mais on est dans un environnement de recherche très compétitif. Donc, les différents groupes se font concurrence et se rattrapent. Mais les équipes d'OpenAI ont vraiment poussé en avant, déjà avec des convictions assez fortes. Je pense qu'ils ont cru très très fort au GPT. On parle de tchad GPT parce qu'il y a les GPT derrière. Ils y ont cru très très fort. Ils les ont poussé très très fort. Ils ont vu dans les GPT, qui sont à l'origine des objets de traitement de texte, ils ont vu dans ces GPT des objets qui pouvaient aller plus loin.

Ils ont un certain nombre de travaux de recherche assez tôt qui nous disent des choses sur une forme d'intelligence dans les GPT. Donc ça, c'est des convictions qu'ils ont eues très tôt, qu'ils ont poussé beaucoup plus loin. Bien entendu, encore une fois, c'est une communauté de recherche. Il y a des influences dans tous les sens. Et ça ne veut pas dire que les autres acteurs, par exemple, les équipes de Google DeepMind, dont sont issues une partie des chercheurs d'OpenAI, ces autres équipes étaient dans la boucle.

Mais peut-être qu'une des grosses grosses différences entre Google DeepMind et OpenAI, c'est qu'OpenAI, à un moment, décidait de parier son avenir sur ces technologies, d'en faire un produit. On a entendu juste avant l'importance du produit dans la Silicon Valley. Et donc, ils ont sauté à l'eau et ils ont mis tchad GPT en ligne. Alors, ils ont fait aussi, ils ont fait quelque chose qui a été assez important. C'est que la recherche avait développé les GPT comme des outils de traitement et de production de texte. Et eux, ils ont rajouté un petit peu la notion de conversation. Et rajouter cette notion de conversation, ça a changé totalement l'interface, l'interface utilisateur.

Et ça a été assez important. Et donc, on a vu venir cet objet sur Internet qui, pour nous, a été un peu une curiosité parce qu'on voyait des technologies qu'on connaissait bien, mais elles étaient présentées d'une manière différente. Et ça, je pense qu'OpenAI l'a fait parce que c'était un petit peu la thèse de survie d'OpenAI. Il devait sortir un produit alors qu'une équipe comme Google avait d'autres produits, les moteurs de recherche et plein d'autres choses. Et donc, il était moins enclin à sauter à l'eau et à se lancer sur un produit comme ça. Voilà. Olivier Alexandre. Oui, juste pour compléter. Effectivement, on entend beaucoup ces mots qui sont passés dans le vocabulaire commun.

Machine Learning, LLM, sans que les gens sachent toujours à quoi ça correspond. Effectivement, les gens dont on parle, là, c'est vraiment les enfants de Yann Lequin, Geoffrey Hinton, Andro N.J., c'est-à-dire des très grandes figures, des théoriciens, de chercheurs du Machine Learning qui ont travaillé dans ce domaine-là parfois depuis les années 80 et qui ont formé tout un tas d'ingénieurs, d'informaticiens. Et effectivement, cette génération, elle va se singulariser ou ce groupe au sein d'OpenAI, il va se singulariser par plusieurs choses. D'une part, c'est quand même le côté un peu gonflé, quoi.

C'est-à-dire qu'ils sortent une technologie en 2019 à l'origine, à la destination des professionnels, alors même que cette technologie, elle ne paraît pas forcément ou elle n'apparaît pas comme mature, du moins chez d'autres grandes entreprises, chez Meta, chez Google à l'époque. Et puis, ils refont le coup en 2022. Alors même qu'encore une fois, tout un tas de personnes ont quand même beaucoup de réserve sur à la fois l'efficacité de ces technologies, puis aussi sur les garde-fous potentiels. Ce qui va créer quand même des tensions assez fortes chez OpenAI. Et après, comment l'expliquer ? Je dirais par deux choses. De toute façon, ils n'ont que ça.

Donc, c'est vraiment un mode de survie pour eux. Et puis, par ailleurs, il y a quand même une dimension un peu mystique dans leur trajectoire, c'est-à-dire de ne cesser de se référer à l'intelligence artificielle générale, cette espèce de dieu technique qui va être capable de tout solutionner. Le cancer, le climat, la faim dans le monde, la pollution avec de nouveaux avions, une nouvelle énergie aussi. Bref, une espèce de solution totale qui a été beaucoup et qui continue à être beaucoup mobilisée dans leur discours.

comme une justification, en fait, à la fois à tout leur raté, à toutes les tensions possibles, et puis à l'absence aussi de concurrence, puisque vraiment, ils essaient d'établir un monopole sur le secteur. En 2023, on écoute Sam Altman s'exprimer devant une commission sénatoriale sur justement les raisons qui l'ont incité à créer OpenAI. OpenAI a été fondée avec la conviction que l'IA peut améliorer presque tous les aspects de notre vie, mais que cela crée aussi de réels risques et que nous devons travailler ensemble pour les gens.

Nous sommes ici parce que les gens aiment cette technologie et que nous pensons que cela peut être un moment décisif, mais nous devons travailler ensemble pour que ce soit le cas. OpenAI n'est pas une entreprise habituelle, car l'IA n'est pas une technologie habituelle. Nous sommes régis par un statut d'organisme à but non lucratif et nos activités sont guidées par notre mission et notre charte qui nous engagent à œuvrer pour garantir une large diffusion des bénéfices de l'IA et à optimiser la sécurité des systèmes d'IA.

Nous travaillons à construire des outils qui, un jour, nous aideront à faire de nouvelles découvertes et à relever certains des plus grands défis de l'humanité, comme le réchauffement climatique ou la guérison du cancer. Nos systèmes actuels ne sont pas encore capables de faire ces choses, mais il a été très gratifiant de voir des personnes à travers le monde tirer profit de ce que ces systèmes peuvent déjà faire aujourd'hui. Nous aimons voir les gens utiliser nos outils pour créer, apprendre et être plus productifs. Et je suis très optimiste quant au fait qu'il y aura des emplois incroyables dans le futur et que les emplois actuels peuvent s'améliorer.

On va revenir bien sûr là-dessus, mais la spécificité d'OpenAI à l'origine, c'est, comme son nom l'indique, d'être en open source. Quelques mots sur ce qu'est l'open source et d'être a priori une fondation. Oui, l'open source, c'est une catégorie un petit peu compliquée parce qu'elle varie de sens en fonction des supports technologiques dans lesquels elle se base. Dans le domaine de l'intelligence artificielle, on ne sait pas vraiment ce que ça peut vouloir dire.

En tout cas, les engagements à l'origine d'OpenAI, c'est de dire tout sera transparent, on publiera les services, les gens pourront accéder au code source et ce qui leur permettra à la fois d'avoir un suivi de la manière dont les produits sont développés et aussi de pouvoir utiliser le code, les solutions qui sont conçues dans l'organisation pour utiliser et développer leurs propres outils.

Ensuite, sur l'organisation et les statuts en eux-mêmes, en fait, ce n'est pas tout à fait anecdotique le fait que ça ait été une fondation parce que précisément, ce statut de fondation devait permettre, dans l'esprit des créateurs, d'éviter tout un tas de dérives, notamment d'éviter que cette entreprise ou cette organisation se transforme en entreprise et qu'elle ne poursuive plus que son profit et sa réussite.

En l'occurrence, la dimension ironique aussi, elle arrive au moment où Elon Musk est invité à quitter le navire puisque, à l'époque, les gens qui animent et qui dirigent OpenAI considèrent qu'Elon Musk représente un risque de déstabilisation, donne une mauvaise image aussi auprès du grand public et qu'Elon Musk risquerait de tirer l'entreprise ou l'organisation vers ses propres intérêts industriels. Et donc, il est obligé de quitter l'organisation en 2018. Et en 2019, coup de théâtre, la fondation devient une entreprise ou une organisation à profit limité, plafonné, ce qui est un peu quelque chose d'extrêmement atypique dans l'histoire de la Silicon Valley.

OpenAI abandonne son statut de fondation pour pouvoir lever des fonds car pour développer des outils d'intelligence artificielle, il faut de l'argent, beaucoup d'argent. Le tournant, c'est 2019, qui intervient pour plusieurs raisons. D'une part, le type de technologie qu'elle développe, en fait, elle s'avère assez coûteuse, en fait, structurellement. Donc, elle a besoin de centres de données, elle a besoin de supercalculateurs, ça coûte cher. Elle a besoin aussi d'ingénieurs qui fassent tourner la machine sur un marché du travail, dans la tech en général et dans la Silicon Valley en particulier, qui est extrêmement tendu. Toutes les entreprises essayent d'avoir les meilleurs ingénieurs.

Et tout ça explique qu'en fait, ils ont eu besoin de capitaux, ils ont eu besoin d'infrastructures, ils ont eu besoin de faire venir des travailleurs. Et qu'en fait, ce besoin-là, il n'a cessé de s'accroître parce que 2022, ça a été la découverte pour beaucoup de gens de Tchad GPT. Et aujourd'hui, il y a un tiers des Français qui utilisent Tchad GPT. Donc, c'est vraiment, d'une certaine façon, un succès massif. Sauf que ce succès-là, il coûte très cher et ce n'est pas du tout un succès entrepreneurial. Ceci étant dit, il faut voir comment fonctionne aussi cette industrie des nouvelles technologies. C'est, d'une certaine façon, un capitalisme à l'envers.

C'est-à-dire qu'elle consomme beaucoup de ressources avant de pouvoir arriver à une position de domination qui lui assurera, en fait, d'une capture de la valeur. Si vous regardez l'histoire des nouvelles technologies de ces 30 dernières années, et fonctionnent bien souvent comme ça, c'est ce que Peter Thiel a théorisé dans son livre Zero to One. Passer de zéro, c'est-à-dire personne sur le marché, à aux leaders incontestés à l'échelle du monde. Gaël Varroco, une réaction ? Je suis entièrement d'accord avec ce qui a été dit. Et il faut souligner, donc on est sur des sommes d'argent astronomiques, mais OpenAI ne génère pas de bénéfices.

En fait, les coûts d'exploitation sont tellement élevés qu'on n'est pas sur une entreprise rentable. Et moi, je ne peux pas m'empêcher de voir dans ce qui se passe ces dernières années une course en avant autour du capital qui ressemble à des dynamiques de bulles, voire même, et c'est un très très gros mot, de Ponzi. Donc, une dynamique d'accélération où on fait des promesses et des promesses et des promesses. Et ce qu'il y a de très marqué sur cette économie de l'IA, et particulièrement chez OpenAI, c'est une économie à base de promesses.

C'est-à-dire qu'on n'est pas rentable, on coûte très très très très cher, mais on va faire quelque chose de tellement fantastique que ce pas rentable va être rentable au long terme. Et en tant que scientifique, moi je pose des questions. C'est des objets qui sont absolument fantastiques, mais il faut soit que les coûts diminuent énormément, soit que la valeur ajoutée augmente énormément pour qu'on trouve la rentabilité dont tu as besoin OpenAI. 2022, Sam Altman lance ChatGPT bientôt. L'entreprise change de statut, de modèle, de stature. ChatGPT est désormais dans toutes les poches, sur tous les écrans, dans toutes les conversations. Mais la consécration a un prix.

Sam Altman est désormais une star planétaire. C'est ce que l'on va voir dans le quatrième et dernier épisode. Sous-titrage Société Radio-Canada