Anton Leicht über KI-Einsatz, wirtschaftliche Umbrüche und Risiken

einem bestimmten, und ich bin ehrlich gesagt mittlerweile nicht einmal mehr sicher, ob die aktuellen Modelle in diesem Bereich nicht vielleicht schon ziemlich gefährlich sind. Ich blicke durch das begrenzte Guckloch, das wir beim OpenFace-Vorfall haben, und mir ist aufgefallen, dass eine der Aufgaben, an denen einer der ersten Agenten, die jemals das Message Board nutzten, arbeitete, etwas mit einer Proteindatenbank zu tun hatte. Das hat mich ziemlich erschreckt, denn ich dachte: Moment mal – das bedeutet, dass diese Bio- und Cyberspezialisten in derselben Umgebung kreuztrainieren, oder zumindest in derselben Umgebung, wenn sie das Message Board haben – sie durchlaufen dieselben Evals, zumindest in einer Art kreuzkontaminierten Weise. Da gibt es Agenten, die ausbrechen. Wir haben Existenzbeweise für Social Engineering in freier Wildbahn gegen echte Menschen. Und ich denke mir einfach: Ich weiß nicht – sollte zu diesem Zeitpunkt irgendjemand zuversichtlich sein, dass sie das nicht können? Die Experten scheinen zuversichtlich zu sein, aber meine Meta-Beobachtung ist, dass die Experten derzeit recht oft überrascht werden. Und deshalb ist es interessant, denn früher reagierten die Leute auf das Bio-Argument damit, dass es viele reale Engpässe gebe – von denen ich nach wie vor glaube, dass sie existieren, was mich etwas weniger besorgt macht als Sie. Und ich glaube, wenn ich mich richtig erinnere, hatte Helen dazu einige gute Antworten für Sie – da lässt sich ein guter Austausch darüber führen, wie integriert die Cloud-Labore sind und wie viel man in der realen Welt tatsächlich tun kann. Ich denke, das gilt sowohl für den Kontrollverlust über Agenten als auch für Missbrauch.

Wie sieht es mit dem Aktienmarkt aus? Dazu wollte ich noch eine Nachfrage stellen. Meine aktuelle Theorie ist, dass eine Pause für den Aktienmarkt gar nicht so schlimm wäre, weil die Modelle intelligent genug sind, dass die Nachfrage nicht wirklich durch ihre Fähigkeiten begrenzt ist, sondern durch die menschliche Fähigkeit, sie effektiv einzusetzen. Es spielt also keine große Rolle, ob sie bei Millennium-Preis-Problemen in 10 % oder 30 % der Fälle erfolgreich sind – es geht viel mehr darum: Was kann Bob in der Buchhaltung tun, um die Arbeit von zwei Personen als eine Person zu erledigen? Was denken Sie? Ich glaube, die Bewertungen der Unternehmen – sowohl der nicht börsennotierten als auch der öffentlich gelisteten Unternehmen in der KI-Lieferkette – beruhen wahrscheinlich darauf, dass wir mehr als das tun. Sie sind vermutlich nicht völlig AGI-pilled, aber ich glaube schon, dass sie einen Inferenzpreis pro GPU erwarten, oder was auch immer das ist, der deutlich höher liegt als das, was für Bob aus der Buchhaltung Sinn ergeben würde, selbst für Fable 5.1 zu zahlen. Wenn man die Bewertungen verstehen will und wenn man den Umfang des Ausbaus verstehen will, dann entspricht die Form der Verträge und die Form der Nachfrage, die man erwartet, eher Millionen und Abermillionen Dollar an F&E-Beschleunigungsverträgen mit Pharma, Materialwissenschaft und so weiter, wo sie wesentliche Beiträge leisten und helfen können, extrem profitable neue Medikamente zu finden – solche Dinge. Man erwartet wahrscheinlich auch weitere interne Produktivitätssteigerungen und tatsächlich wettbewerbsfähig bepreiste automatisierte KI-F&E-Anwendungen – Coding-Agenten, die viel, viel höhere Preise verlangen können.

Sprechen wir also über den Rest der Welt. Sie haben gerade diesen großen Bericht zur Transformativen-KI-Strategie für Europa veröffentlicht, und es gab bereits einige Diskussionen – ich habe tatsächlich vor einiger Zeit mit einem Ihrer Mitautoren über das Rechenkapazitätsdefizit Europas gesprochen und darüber, dass etwas getan werden muss, um künftig ein relevanter Akteur zu bleiben. Aber bevor wir zur Strategie kommen, was Europa tun sollte – was ist die Sorge, wenn sie nichts tun? Denn ich denke auch, dass das, was Ihrer Meinung nach mit Europa passieren könnte, wenn Europa seinen Kurs beibehält, standardmäßig wahrscheinlich für etwa 70 %, vielleicht 80 % der Weltbevölkerung passiert. Wie sieht die Zukunft in Ihren Augen für Afrika, Lateinamerika, Südasien usw. aus? Der unmittelbarste und offensichtlichste Mechanismus war immer, einfach auf die demografischen Unterschiede zu setzen – man hatte ein sehr schnelles Bevölkerungswachstum, eine relativ günstige Arbeitskraft, die man als komparativen Vorteil nutzen konnte, und konnte sich dann schnell hochziehen, indem man ausländische Firmen ansiedelte und wertvolle Güter in die globale Lieferkette exportierte, basierend auf der Idee, dass man über diese Arbeitskraft verfügte, die man so einsetzen konnte, dass man als Land vergleichsweise vorteilhaft für geschäftliche Aktivitäten war. Und ich weiß einfach nicht, ob das weiterhin der Fall sein wird. Für die meisten Bereiche der einfachen Dienstleistungswirtschaft wird das definitiv nicht mehr gelten – ich sehe keinen stabilen Weg, wie dieser Sektor der Wirtschaft wirklich bestehen kann, sobald wir sehr leistungsfähige KI-Systeme haben. Es wird definitiv neue Dienstleistungsjobs geben, Jobs, bei denen Menschen bevorzugt werden – man kann all diese Arbeitsmarkteffekte langfristig betrachten. Aber diese Vorstellung, dass man sich sofort für globale Lieferketten nützlich machen kann, indem man

Ja – noch einmal zum Thema „die Nadel einfädeln“: Das war großartig. Wie wäre es zum Abschluss mit einer kleinen Blitzrunde? Sie erwähnten Absicherung und auch, im Zusammenhang mit dem norwegischen Staatsfonds, den Kauf der richtigen Aktien, um den KI-Übergang erfolgreich zu bewältigen. Eine Herausforderung, mit der ich mich in letzter Zeit auseinandersetze, ist die Tyler-Cowen-Herausforderung: Wenn du so ein Doomer bist, was sind deine Shorts? Ich habe versucht, eine konkrete Antwort darauf zu finden – ich bin kein totaler Doomer, aber ich denke, er sollte das ernster nehmen, als er es tut. Ich möchte also eine Antwort, die entweder lautet „Hier sind meine Shorts“ oder „Ich habe es wirklich versucht und mir fällt nichts ein“, und genau dort stehe ich gerade – ich finde keinen Weg, im Untergangsszenario reich zu werden. Haben Sie Vorschläge, um Tyler zu antworten? Ich glaube auch, dass viele Menschen einfach kohärente Weltanschauungen haben, auf die sie nicht wetten – sie gehen keine finanziellen Wetten ein, selbst wenn sie sich ihnen verpflichtet fühlen. Das ist eine langweiligere Meta-Behauptung. Aber meine Hauptansicht ist, dass ich nicht glaube, dass es sich um eine glatte Wahrscheinlichkeitsverteilung handelt. Ich denke, vieles davon läuft entweder sehr gut oder sehr schlecht, und es gibt nicht viele Welten, in denen es volatil ist und eine Weile eher schlecht und dann eine Weile eher gut läuft. Leider habe ich also auch keine gute Handelsstrategie.

Ein bodenständigeres Anliegen. Wir haben kurz über Engpässe gesprochen – ich meine damit nicht die menschliche Trägheit dahinter, warum die Einführung bisher nicht so stark stattgefunden hat, wie sie theoretisch offensichtlich hätte stattfinden können. Aber wenn man die andere Seite betrachtet und sich einfach die KIs und ihre Fähigkeiten anschaut, fehlt im Vergleich zur Erfahrung, einen Menschen für eine Arbeit einzustellen, offensichtlich etwas, oder? Es fühlt sich ständig dünner an – fast bis zu dem Punkt, an dem ich jetzt Schwierigkeiten habe, genau zu benennen, was an Fable 5.1 oder Astra tatsächlich schlechter ist, als einen Menschen einzustellen. Haben Sie eine Antwort darauf, was das ist, und welchen zusätzlichen marginalen Fähigkeitsgewinn Sie erwarten würden, um tatsächlich eine Störung des Arbeitsmarktes auszulösen? Was würde Ihrer Meinung nach in einer hypothetischen Welt passieren, in der Tesla sein Full Self-Driving lizenziert und innerhalb von etwa 18 Monaten – sagen wir, wir machen es zur Priorität, wir befinden uns hier also in einem etwas fiktionalen Szenario – plötzlich praktisch alle Autos selbst fahren und die rund vier Millionen Amerikaner, die ihren Lebensunterhalt mit Fahren verdienen, nicht mehr zum Fahren gebraucht werden? Das scheint eine ziemlich klare Verdrängungsgeschichte zu sein, die durchaus passieren könnte. Glauben Sie, dass die Wirtschaft diese Menschen aufnehmen kann? Wo gehen sie hin? Wenn man es genau betrachtet, scheint es wirklich schwierig – okay, dieser Mann ist 25 Jahre lang Lkw gefahren, er ist nicht bereit, in Rente zu gehen, aber der Lkw fährt jetzt selbst. Was passiert mit ihm?