Lineare Skalierung dreier Zutaten

Amodei vergleicht das Skalieren von Modellen mit einer chemischen Reaktion, die drei Zutaten erfordert – größere Netzwerke, längere Trainingszeiten und mehr Daten –, die gemeinsam linear skaliert werden müssen. Das Skalieren nur einer Zutat führt zum Erliegen des Prozesses, weil die anderen Reaktionspartner erschöpft sind.

Dario Amodei·Veröffentlicht 11. Nov. 2024

Vorschaulinks funktionieren in dieser Umgebung. Die öffentliche Karten-URL ist erst nach Veröffentlichung verfügbar.

Hinter der geäußerten Meinung

Übersetzungen dienen dem Leseverständnis; die Originalauszüge bleiben die Quellenevidence.

Dario Amodei, Amanda Askell und Chris Olah über KI-Entwicklung und Sicherheit

Originalauszug

almost like a chemical reaction, you have three ingredients in the chemical reaction and you need to linearly scale up the three ingredients. If you scale up one, not the others, you run out of the other reagents and the reaction stops.

Übersetzung · Nicht die Originalformulierung

fast wie eine chemische Reaktion: Sie haben drei Zutaten in der chemischen Reaktion, und Sie müssen diese drei Zutaten linear hochskalieren. Wenn Sie nur eine davon hochskalieren, nicht die anderen, laufen Ihnen die anderen Reaktionspartner aus, und die Reaktion stoppt.

Kontext

Original öffnen · 7:17 Quellenseite anzeigen

Die Startzeit stammt aus dem bereitgestellten Transkript. Die Synchronisierung der Wiedergabe steht noch zur Überprüfung an.