Anton Leicht

Sí —de nuevo, para hablar de «ensartar la aguja»: esto ha sido genial. ¿Qué tal una ronda relámpago para cerrar? Mencionaste la cobertura de riesgos y, también, en el contexto del fondo soberano de Noruega, comprar las acciones adecuadas para atravesar con éxito la transición de la IA. Un desafío con el que he estado lidiando últimamente es el desafío de Tyler Cowen: si eres tan catastrofista, ¿cuáles son tus posiciones cortas? He estado intentando dar con una respuesta real a eso —no soy un catastrofista total, pero creo que él debería tomárselo más en serio de lo que lo hace. Así que quiero una respuesta que sea o «estas son mis posiciones cortas» o «realmente lo intenté y no se me ocurre nada», y ese es más o menos el punto en el que estoy ahora —no puedo idear una forma de hacerme rico en el escenario de catástrofe. ¿Tienes alguna sugerencia para responderle a Tyler? También creo que muchas personas simplemente tienen visiones del mundo coherentes sobre las que no apuestan —no hacen apuestas financieras incluso cuando están comprometidos con ellas. Esa es una metaafirmación más aburrida. Pero mi visión principal es que no creo que sea una distribución suave de probabilidades. Creo que mucho de esto o va muy bien o va muy mal, y no hay mucho mundo donde sea volátil y vaya un poco mal durante un tiempo y luego un poco bien durante un tiempo. Así que, lamentablemente, tampoco tengo una buena estrategia de trading.

uno en particular, y sinceramente ni siquiera estoy seguro en este punto de que los modelos actuales no sean quizás bastante peligrosos en ese ámbito. Miro entrecerrando los ojos a través de la limitada mirilla que tenemos sobre el incidente de OpenFace, y noté que una de las tareas en la que trabajaba uno de los primeros agentes que jamás usó el foro de mensajes estaba relacionada con una base de datos de proteínas. Eso me asustó un poco, porque pensé: espera un segundo —eso significa que están recibiendo entrenamiento cruzado en el mismo entorno, o al menos en el mismo entorno cuando tienen el foro de mensajes, estos especialistas en biología y cibernética— están ejecutando estas mismas evaluaciones, al menos de una manera como contaminada de forma cruzada. Tienes agentes escapándose. Tenemos pruebas de existencia de ingeniería social en la práctica contra personas reales. Y yo simplemente pienso: no lo sé… ¿debería alguien estar confiado en este punto de que no pueden hacer eso? Los expertos parecen estar confiados, pero mi metaobservación es que los expertos parecen sorprenderse con bastante frecuencia ahora mismo. Y por eso es interesante, porque la gente solía responder al argumento biológico diciendo: bueno, hay muchos cuellos de botella en el mundo real —lo cual sigo pensando que existe, lo que me preocupa un poco menos que a ti. Y creo, si recuerdo correctamente, que Helen tuvo algunas buenas respuestas para ti sobre eso —hay un buen intercambio de ida y vuelta que se puede tener sobre qué tan integrados están los laboratorios en la nube, cuánto puedes hacer realmente en el mundo real. Creo que eso aplica tanto a la pérdida de control sobre los agentes como al uso indebido.

Una preocupación más terrenal. Hablamos un poco sobre cuellos de botella —no me refiero a la inercia humana en torno a por qué la adopción no ha ocurrido tanto como obviamente podría, en teoría, haber ocurrido hasta ahora. Pero si tomas el lado opuesto de eso y simplemente observas las IA y sus capacidades, claramente falta algo en comparación con la experiencia de contratar a un humano para hacer un trabajo, ¿verdad? Se siente cada vez más tenue todo el tiempo —casi hasta el punto de que ahora me cuesta señalar qué es exactamente lo de Fable 5.1 o Astra que es realmente peor que contratar a un humano. ¿Tienes una respuesta sobre qué es eso, y qué ganancia marginal adicional de capacidad esperarías que realmente creara disrupción en el mercado laboral? ¿Qué crees que pasaría en un mundo hipotético donde Tesla decide licenciar su conducción totalmente autónoma y, en unos 18 meses más o menos —digamos que lo hacemos una prioridad, así que entramos en un escenario un poco ficticio aquí—, pero de repente básicamente todos los coches se conducen solos, y los cuatro millones aproximadamente de estadounidenses que se ganan la vida conduciendo ya no son necesarios para conducir. Esa parece una historia de desplazamiento bastante clara que muy bien podría ocurrir. ¿Crees que la economía puede absorber a esas personas? ¿Adónde van? Parece realmente difícil cuando lo analizas —vale, este tipo ha conducido un camión durante 25 años, no está listo para jubilarse, pero el camión ahora se conduce solo. ¿Qué le pasa?

¿Qué pasa con el mercado de valores? Quería hacer una pregunta de seguimiento sobre eso. Mi teoría ahora mismo es que una pausa no sería realmente tan mala para el mercado de valores, porque los modelos son lo suficientemente inteligentes como para que la demanda no esté realmente limitada por su capacidad, sino por la capacidad humana de implementarlos eficazmente. Así que no importa mucho si tienen éxito el 10 % de las veces o el 30 % de las veces en los problemas del Premio del Milenio —es mucho más como: ¿qué puede hacer Bob en contabilidad para realizar el trabajo de dos personas como una sola? ¿Qué opinas? Creo que las valoraciones de las empresas —tanto las empresas que no han salido a bolsa como las empresas que cotizan públicamente y están en la cadena de suministro de IA— probablemente descansan en que hagamos más que eso. Probablemente no están totalmente convencidas de la AGI, pero sí creo que esperan un precio de inferencia por GPU, o lo que sea, que es mucho más alto de lo que tendría sentido que pagara Bob de contabilidad incluso por Fable 5.1. Si quieres darle sentido a las valoraciones, y si quieres darle sentido a la escala de la construcción, la forma del contrato y la forma de la demanda que esperas se parece más a contratos de aceleración de I+D por millones y millones de dólares con farmacéuticas y ciencia de materiales, etc., donde puedan hacer contribuciones importantes y ayudarte a encontrar nuevos fármacos extremadamente rentables —ese tipo de cosas. Probablemente también estés esperando un mayor impulso interno y usos de I+D automatizada con IA a precios realmente competitivos —agentes de programación capaces de pedir precios mucho, mucho más altos.

Así que hablemos del resto del mundo. Acabas de publicar este gran informe sobre estrategia de IA transformadora para Europa, y ha habido cierta discusión —de hecho, hablé con uno de tus coautores hace un tiempo sobre el déficit de cómputo que tiene Europa y la necesidad de hacer algo para ser un actor activo de cara al futuro. Pero antes de entrar en la estrategia sobre qué debería hacer Europa —¿cuál es la preocupación si no hacen nada? Porque también pienso que, sea lo que sea que creas que le podría pasar a Europa si mantiene el rumbo, probablemente sea lo que le pase por defecto al 70 %, tal vez al 80 %, de la población mundial. ¿Cómo se ve el futuro en tu mente para África, América Latina, el sur de Asia, etc.? Así que el mecanismo más inmediato y obvio siempre fue simplemente apostar por las diferencias demográficas —tenías un crecimiento poblacional muy rápido, una fuerza laboral bastante barata que podrías usar como ventaja comparativa, y luego impulsarte rápidamente para albergar algunas empresas extranjeras y exportar algún bien valioso a la cadena de suministro global, basado en la idea de que tenías esta fuerza laboral que podías emplear de una manera que te hiciera un país comparativamente beneficioso para realizar actividad empresarial. Y simplemente no sé si eso va a seguir siendo así. Definitivamente no va a seguir siendo así para la mayoría de los aspectos de la economía de servicios rutinarios —simplemente no veo una forma estable en que ese sector de la economía exista realmente una vez que tengamos sistemas de IA muy potentes. Definitivamente habrá nuevos empleos de servicios, empleos de preferencia humana —puedes pensar en todos estos efectos del mercado laboral a largo plazo. Pero esta idea de que puedes ser inmediatamente útil para las cadenas de suministro globales simplemente haciendo