Einschränkungen durch die Qualität von Internetdaten

Amodei räumt ein, dass das Aufbrauchen hochwertiger Internetdaten eine mögliche Grenze für das Skalieren darstellen könnte. Obwohl Billionen Wörter online verfügbar sind, ist ein Großteil davon redundant, von geringer Qualität (z. B. Suchmaschinenoptimierungs-Inhalte) oder möglicherweise zukünftig von KI generierter Text, wodurch das nützliche Trainingsmaterial begrenzt wird.

Dario Amodei·Veröffentlicht 11. Nov. 2024

Vorschaulinks funktionieren in dieser Umgebung. Die öffentliche Karten-URL ist erst nach Veröffentlichung verfügbar.

Hinter der geäußerten Meinung

Übersetzungen dienen dem Leseverständnis; die Originalauszüge bleiben die Quellenevidence.

Dario Amodei, Amanda Askell und Chris Olah über KI-Entwicklung und Sicherheit

Originalauszug

we simply run out of data. There’s only so much data on the internet, and there’s issues with the quality of the data. You can get hundreds of trillions of words on the internet, but a lot of it is repetitive or it’s search engine optimization drivel

Übersetzung · Nicht die Originalformulierung

Wir laufen einfach an Daten aus. Es gibt nur so viel Daten im Internet, und es gibt Probleme mit der Qualität dieser Daten. Man kann Hunderte von Billionen Wörtern im Internet finden, aber ein Großteil davon ist redundant oder besteht aus inhaltsleeren Suchmaschinenoptimierungs-Texten.

Kontext

Original öffnen · 15:51 Quellenseite anzeigen

Die Startzeit stammt aus dem bereitgestellten Transkript. Die Synchronisierung der Wiedergabe steht noch zur Überprüfung an.