Anton Leicht sur le déploiement de l’IA, la perturbation économique et les risques

un cas en particulier, et je ne suis honnêtement même pas sûr, à ce stade, que les modèles actuels ne soient pas peut-être assez dangereux dans ce domaine. J'observe à travers la lucarne restreinte dont nous disposons sur l'incident OpenFace, et j'ai remarqué qu'une des tâches sur lesquelles travaillait l'un des tout premiers agents à avoir utilisé le forum de discussion était liée à une base de données protéiques. Cela m'a un peu effrayé, car je me suis dit : attendez une seconde — cela signifie qu'ils suivent une formation croisée dans le même environnement, ou du moins dans le même environnement lorsqu'ils ont accès au forum, ces spécialistes en biologie et en cybersécurité — ils exécutent ces mêmes évaluations, du moins d'une manière partiellement contaminée. Vous avez des agents qui s'échappent. Nous avons des preuves concrètes d'ingénierie sociale menée dans la nature contre de vraies personnes. Et je me dis simplement, je ne sais pas — quelqu'un devrait-il être confiant quant à leur incapacité à faire cela à ce stade ? Les experts semblent confiants, mais mon méta-observation est que les experts semblent souvent surpris en ce moment. Et c'est donc intéressant, car on répondait autrefois à l'argument biologique en disant : eh bien, il existe de nombreux goulots d'étranglement dans le monde réel — ce que je continue de penser, ce qui me rend un peu moins inquiet que vous. Et je pense, si je me souviens bien, qu'Helen vous avait apporté de bonnes réponses à ce sujet — il y a un bon échange à avoir sur le degré d'intégration des laboratoires cloud, sur ce que l'on peut réellement faire dans le monde réel. Je pense que cela s'applique aussi bien à la perte de contrôle sur les agents qu'à leur mauvais usage.

Et le marché boursier ? Je voulais revenir brièvement là-dessus. Ma théorie actuelle est qu'une pause ne serait pas vraiment néfaste pour le marché boursier, car les modèles sont suffisamment intelligents pour que la demande ne soit pas vraiment limitée par leurs capacités, mais par la capacité humaine à les déployer efficacement. Peu importe donc qu'ils réussissent 10 % ou 30 % du temps sur les problèmes du prix Millennium — c'est beaucoup plus du genre : que peut faire Bob, à la comptabilité, pour accomplir le travail de deux personnes à lui seul ? Qu'en pensez-vous ? Je pense que les valorisations des entreprises — tant celles non introduites en bourse que celles cotées publiquement et appartenant à la chaîne d'approvisionnement de l'IA — reposent probablement sur le fait que nous fassions plus que cela. Elles ne sont sans doute pas entièrement acquises à l'AGI, mais je pense qu'elles anticipent un prix d'inférence par GPU, ou quoi que ce soit d'autre, nettement supérieur à celui qui serait raisonnable pour que Bob de la comptabilité paie même pour Fable 5.1. Si vous voulez donner un sens aux valorisations, et si vous voulez donner un sens à l'ampleur du déploiement prévu, la forme des contrats et la nature de la demande attendue ressemblent davantage à des millions et des millions de dollars de contrats d'accélération de R&D avec l'industrie pharmaceutique, la science des matériaux, etc., où ils peuvent apporter des contributions majeures et vous aider à découvrir de nouveaux médicaments extrêmement rentables — ce genre de choses. Vous anticipez probablement également une amélioration interne supplémentaire et des usages automatisés de R&D par IA à des prix réellement compétitifs — des agents de programmation capables de demander des prix beaucoup, beaucoup plus élevés.

Parlons donc du reste du monde. Vous venez de publier un grand rapport sur la stratégie européenne face à l'IA transformatrice, et il y a eu quelques discussions — j'ai d'ailleurs parlé il y a quelque temps avec l'un de vos coauteurs du déficit de calcul de l'Europe et de la nécessité de faire quelque chose pour rester un acteur actif à l'avenir. Mais avant d'aborder la stratégie de ce que l'Europe devrait faire — quelle est l'inquiétude si elle ne fait rien ? Car je pense aussi que, quoi que vous pensiez qu'il pourrait arriver à l'Europe si elle maintient le cap, c'est probablement ce qui arrive, par défaut, à environ 70 %, voire 80 %, de la population mondiale. À quoi ressemble l'avenir selon vous pour l'Afrique, l'Amérique latine, l'Asie du Sud, etc. ? Le mécanisme le plus immédiat et le plus évident a toujours été de miser sur les différences démographiques — vous aviez une croissance démographique très rapide, une main-d'œuvre relativement bon marché que vous pouviez utiliser comme avantage comparatif, puis vous amorciez rapidement le processus en accueillant des entreprises étrangères et en exportant un bien de valeur vers la chaîne d'approvisionnement mondiale, en partant du principe que vous aviez cette main-d'œuvre à mobiliser d'une manière qui faisait de vous un pays comparativement avantageux pour y mener des activités commerciales. Et je ne sais tout simplement pas si cela va rester le cas. Ce ne sera certainement pas le cas pour la plupart des aspects de l'économie des services subalternes — je ne vois tout simplement pas de moyen stable pour que ce secteur de l'économie existe vraiment une fois que nous aurons des systèmes d'IA très puissants. Il y aura certainement de nouveaux emplois de services, des emplois fondés sur la préférence humaine — on peut réfléchir à tous ces effets sur le marché du travail à long terme. Mais cette idée selon laquelle on peut immédiatement être utile aux chaînes d'approvisionnement mondiales en fai

Oui — encore une fois, pour parler de « marcher sur un fil » : cet échange a été génial. Et si nous terminions par un petit tour de questions rapides ? Vous avez mentionné la couverture, ainsi que, dans le contexte du fonds souverain norvégien, l'achat des bonnes actions pour traverser avec succès la transition vers l'IA. Un défi auquel je me heurte ces derniers temps est le défi de Tyler Cowen : si vous êtes si doomer, quelles sont vos positions courtes ? J'ai essayé de formuler une vraie réponse à cela — je ne suis pas un doomer total, mais je pense qu'il devrait le prendre plus au sérieux qu'il ne le fait. Je veux donc une réponse qui soit soit « voici mes positions courtes », soit « j'ai vraiment essayé et je ne trouve rien », et c'est un peu là où j'en suis actuellement — je n'arrive pas à trouver un moyen de m'enrichir dans le scénario du désastre. Avez-vous des suggestions pour répondre à Tyler ? Je pense aussi que beaucoup de gens ont simplement des visions du monde cohérentes sur lesquelles ils ne parient pas — ils ne prennent pas de paris financiers même lorsqu'ils y sont attachés. C'est une méta-contestation plus ennuyeuse. Mais ma position principale est que je ne pense pas qu'il s'agisse d'une distribution lisse des probabilités. Je pense que beaucoup de cela se passe soit très bien, soit très mal, et qu'il n'y a pas beaucoup de mondes où c'est volatil et où ça se passe plutôt mal pendant un certain temps, puis plutôt bien pendant un certain temps. Donc, malheureusement, je n'ai pas non plus de bonne stratégie de trading.

Une préoccupation plus terre à terre. Nous avons un peu parlé des goulots d'étranglement — je ne parle pas de l'inertie humaine expliquant pourquoi l'adoption n'a pas eu lieu autant qu'elle aurait évidemment pu, en théorie, avoir lieu jusqu'à présent. Mais si l'on regarde le revers de la médaille et que l'on examine simplement les IA et leurs capacités, il manque clairement quelque chose par rapport à l'expérience d'embaucher un humain pour faire un travail, n'est-ce pas ? Cela semble de plus en plus mince tout le temps — presque au point où j'ai maintenant du mal à mettre le doigt sur ce qui, dans Fable 5.1 ou Astra, est réellement moins bien que d'embaucher un humain. Avez-vous une réponse à cela, et quel gain de capacité marginale supplémentaire attendriez-vous pour créer véritablement une perturbation du marché du travail ? Que se passerait-il dans un monde hypothétique où Tesla déciderait de concéder sous licence sa conduite entièrement autonome, et qu'en l'espace de 18 mois environ — disons que nous en faisons une priorité, donc nous sommes ici dans un scénario un peu fictif — mais soudainement, fondamentalement toutes les voitures se conduisent toutes seules, et les quelque quatre millions d'Américains qui gagnent leur vie en conduisant ne sont plus nécessaires pour conduire ? Cela semble être un scénario de déplacement assez clair qui pourrait très bien se produire. Pensez-vous que l'économie puisse absorber ces personnes ? Où vont-elles ? Cela semble vraiment difficile quand on y réfléchit — d'accord, ce type conduit un camion depuis 25 ans, il n'est pas prêt à prendre sa retraite, mais le camion se conduit désormais tout seul. Que lui arrive-t-il ?