nafyi.

ÖFFENTLICHE AUSGEDRÜCKTE MEINUNGEN

John Schulman

Interview participant ·

1 Interviews · 3 geäußerte Meinungen · 1 Themen

Inhalt aktualisiert:

Übersetzungen dienen dem Leseverständnis; die Originalauszüge bleiben die Quellenevidence.

Standpunkte nach Thema

Zugeordnete Standpunkte, geordnet nach dem Interviewdatum. Ein Momentaufnahme dieser Gespräche, keine endgültige Aussage über die Überzeugungen einer Person.

AI research

Thema ansehen
AI research

Generalization is difficult to predict

John Schulman says the field depends heavily on generalization and that it is difficult to predict when generalization, including out-of-distribution generalization, will occur.

Stützende Belege

Originalauszug

The whole field relies a lot on generalization and it’s very hard to predict when you’re going to get generalization, or when you’re going to get some kind of out-of-distribution generalization

John Schulman·

AI researchers debate how close we are to recursive self-improvement

Dieser Auszug enthält keinen weiteren Kontext. Lesen Sie das Originalgespräch.

Original öffnen · 9:42 (wird in einem neuen Tab geöffnet)Transkriptquelle (wird in einem neuen Tab geöffnet)

Die Startzeit stammt aus dem bereitgestellten Transkript. Die Synchronisierung der Wiedergabe steht noch zur Überprüfung an.

Die Episode öffnen und zu 9:42 springen.

John Schulman
Erkenntnisse teilen
AI research

Research methods may have substantial room to improve

John Schulman suggests that clever small-scale experiments could support theories that generalize to larger experiments. He expects research methods to be far from their ceiling.

Stützende Belege

Originalauszug

If you think hard enough, you probably could have expected some of these things beforehand. There is probably some very clever way to do a small-scale experiment that’ll let you build the theory that then will generalize to the large-scale experiment. So I would expect that we’re nowhere near the ceiling of how well you can do research

John Schulman·

AI researchers debate how close we are to recursive self-improvement

Dieser Auszug enthält keinen weiteren Kontext. Lesen Sie das Originalgespräch.

Original öffnen · 11:34 (wird in einem neuen Tab geöffnet)Transkriptquelle (wird in einem neuen Tab geöffnet)

Die Startzeit stammt aus dem bereitgestellten Transkript. Die Synchronisierung der Wiedergabe steht noch zur Überprüfung an.

Die Episode öffnen und zu 11:34 springen.

John Schulman
Erkenntnisse teilen
AI research

Distillation depends on a realistic prompt distribution

John Schulman says a realistic prompt distribution can help a distilled model match a larger model. He contrasts this with easily verifiable tasks, which may produce strong benchmark results but weaker performance across a broader distribution.

Stützende Belege

Originalauszug

If you have a really good realistic prompt distribution for distillation, you can match the big model really well. But if you only have this distribution of easily verifiable tasks, then you can match the big model on all the benchmarks, but you do worse on this broader distribution

John Schulman·

AI researchers debate how close we are to recursive self-improvement

Dieser Auszug enthält keinen weiteren Kontext. Lesen Sie das Originalgespräch.

Original öffnen · 26:48 (wird in einem neuen Tab geöffnet)Transkriptquelle (wird in einem neuen Tab geöffnet)

Die Startzeit stammt aus dem bereitgestellten Transkript. Die Synchronisierung der Wiedergabe steht noch zur Überprüfung an.

Die Episode öffnen und zu 26:48 springen.

John Schulman
Erkenntnisse teilen

Aussagen nach Interviewdatum1

Die Aussagen sind nach dem ursprünglichen Veröffentlichungsdatum des Interviews geordnet. Unterschiedliche Formulierungen belegen keinen Positionswechsel.