Themen / KI-Sicherheit

Zugeordnete Meinung · Kein direktes Zitat

Einigen katastrophalen Szenarien fehlt eine allmähliche Marktwarnung

Anton Leicht stellt die Annahme infrage, dass ein katastrophales KI-Risiko eine reibungslose Abfolge handelbarer Marktwarnungen hervorbringen würde. Er sagt, viele Szenarien beschrieben strategische und wirtschaftliche Bedingungen, die bis zu einer Übernahme oder einem größeren Vorfall gut aussähen, und erklärt, er habe keine gute Handelsstrategie für diese Möglichkeit.

Hinter der geäußerten Meinung

Übersetzungen dienen dem Leseverständnis; die Originalauszüge bleiben die Quellenevidence.

Anton Leicht über KI-Einsatz, wirtschaftliche Umbrüche und Risiken

Originalauszug

I think there's a very reasonable doomer view that concentrates basically all of the probability mass of doom on things going well all the way until doom. If you look at a lot of the canonical doom scenarios — people who've talked seriously about existential and catastrophic risk — many of them describe a scenario where everything looks like it's going really well, strategically and economically great, until the point where the takeover happens

Übersetzung · Nicht die Originalformulierung

Ich halte es für eine sehr vernünftige Doomer-Sichtweise, praktisch die gesamte Wahrscheinlichkeitsmasse für den Untergang darauf zu konzentrieren, dass alles bis zum Untergang gut läuft. Wenn man sich viele der kanonischen Untergangsszenarien ansieht – Menschen, die ernsthaft über existenzielle und katastrophale Risiken gesprochen haben –, beschreiben viele davon ein Szenario, in dem alles strategisch und wirtschaftlich großartig aussieht, bis zu dem Punkt, an dem die Übernahme stattfindet

Kontext

Ja – noch einmal zum Thema „die Nadel einfädeln“: Das war großartig. Wie wäre es zum Abschluss mit einer kleinen Blitzrunde? Sie erwähnten Absicherung und auch, im Zusammenhang mit dem norwegischen Staatsfonds, den Kauf der richtigen Aktien, um den KI-Übergang erfolgreich zu bewältigen. Eine Herausforderung, mit der ich mich in letzter Zeit auseinandersetze, ist die Tyler-Cowen-Herausforderung: Wenn du so ein Doomer bist, was sind deine Shorts? Ich habe versucht, eine konkrete Antwort darauf zu finden – ich bin kein totaler Doomer, aber ich denke, er sollte das ernster nehmen, als er es tut. Ich möchte also eine Antwort, die entweder lautet „Hier sind meine Shorts“ oder „Ich habe es wirklich versucht und mir fällt nichts ein“, und genau dort stehe ich gerade – ich finde keinen Weg, im Untergangsszenario reich zu werden. Haben Sie Vorschläge, um Tyler zu antworten? Ich glaube auch, dass viele Menschen einfach kohärente Weltanschauungen haben, auf die sie nicht wetten – sie gehen keine finanziellen Wetten ein, selbst wenn sie sich ihnen verpflichtet fühlen. Das ist eine langweiligere Meta-Behauptung. Aber meine Hauptansicht ist, dass ich nicht glaube, dass es sich um eine glatte Wahrscheinlichkeitsverteilung handelt. Ich denke, vieles davon läuft entweder sehr gut oder sehr schlecht, und es gibt nicht viele Welten, in denen es volatil ist und eine Weile eher schlecht und dann eine Weile eher gut läuft. Leider habe ich also auch keine gute Handelsstrategie.

Originaler Kontext

Yeah — again, to talk about "threading the needle": this has been awesome. How about a little lightning round to close? You mentioned hedging, and also, in the context of Norway's sovereign wealth fund, buying the right equities to get through the AI transition successfully. A challenge I've been wrestling with lately is the Tyler Cowen challenge: if you're so doomer, what are your shorts? I've been trying to come up with an actual answer to that — I'm not a total doomer, but I think he should be taking it more seriously than he is. So I want an answer that's either "here are my shorts" or "I really tried and I can't come up with anything," and that's kind of where I'm at right now — I cannot come up with a way to get rich in the doom scenario. Do you have any suggestions to answer Tyler? I also think many people just have coherent worldviews that they don't bet on — they don't take financial bets even when they're committed to them. That's a more boring meta-contention. But my main view is that I don't think it's a smooth distribution of probabilities. I think a lot of this either goes very well or goes very badly, and there's not a lot of world where it's volatile and goes kind of badly for a while and then kind of well for a while. So, sadly, I don't have a good trading strategy either.

Die Startzeit stammt aus dem bereitgestellten Transkript. Die Synchronisierung der Wiedergabe steht noch zur Überprüfung an.