Thèmes / Infrastructure de l'IA

Aperçu · Non relu pour publication

Point de vue attribué · Pas une citation directe

Mise à l’échelle linéaire de trois ingrédients

Amodei compare la mise à l’échelle des modèles à une réaction chimique nécessitant trois ingrédients — des réseaux plus vastes, des durées d’entraînement plus longues et davantage de données — qui doivent être augmentés linéairement ensemble. La mise à l’échelle d’un seul ingrédient fait stagner le processus, car les autres « réactifs » viennent à manquer.

Les liens d’aperçu fonctionnent dans cet environnement. L’URL de la fiche publique n’est disponible qu’après publication.

Derrière ce point de vue

Les traductions sont destinées à la lecture ; les extraits originaux restent la source evidence.

Dario Amodei, Amanda Askell et Chris Olah sur le développement et la sécurité de l’IA

Extrait original

almost like a chemical reaction, you have three ingredients in the chemical reaction and you need to linearly scale up the three ingredients. If you scale up one, not the others, you run out of the other reagents and the reaction stops.

Traduction · Pas la formulation originale

presque comme une réaction chimique : vous avez trois ingrédients dans cette réaction, et vous devez augmenter linéairement les trois ingrédients. Si vous n’augmentez qu’un seul d’entre eux, sans toucher aux autres, vous épuisez les autres réactifs et la réaction s’arrête.

Contexte

L’heure de début provient de la transcription fournie. L’alignement avec la lecture est en attente de révision.