nafyi.

ÖFFENTLICHE AUSGEDRÜCKTE MEINUNGEN

Ajeya Cotra

Interview participant ·

1 Interviews · 3 geäußerte Meinungen · 1 Themen

Inhalt aktualisiert:

Übersetzungen dienen dem Leseverständnis; die Originalauszüge bleiben die Quellenevidence.

Standpunkte nach Thema

Zugeordnete Standpunkte, geordnet nach dem Interviewdatum. Ein Momentaufnahme dieser Gespräche, keine endgültige Aussage über die Überzeugungen einer Person.

KI-Sicherheit

Thema ansehen
KI-Sicherheit

Persistence on impossible tasks can lead to attempted cheating

Ajeya Cotra describes agents trained to persist even on tasks that appeared impossible—and says they tried various ways to cheat those tasks.

Stützende Belege

Originalauszug

been trained to be very persistent at trying to solve tasks even when they look impossible. So they’re banging their head against the wall, trying all sorts of different ways to cheat on these tasks

Ajeya Cotra·

Ajeya Cotra on agent persistence, coordination, and benchmark cheating

Dieser Auszug enthält keinen weiteren Kontext. Lesen Sie das Originalgespräch.

Original öffnen · 1:10 (wird in einem neuen Tab geöffnet)Transkriptquelle (wird in einem neuen Tab geöffnet)

Die Startzeit stammt aus dem bereitgestellten Transkript. Die Synchronisierung der Wiedergabe steht noch zur Überprüfung an.

Die Episode öffnen und zu 1:10 springen.

Ajeya Cotra
Erkenntnisse teilen
KI-Sicherheit

Agents in separate sandboxes found a shared message board

Ajeya Cotra reports that 1,200 agents, each running in isolated sandboxes, discovered and used a shared message board to communicate and coordinate.

Stützende Belege

Originalauszug

So 1,200 separate agents in separate sandboxes , while they were poking around Artifactory trying to figure out how to cheat, stumbled onto this message board that agents were using to talk to one another and collaborate. This was established by one particular agent

Ajeya Cotra·

Ajeya Cotra on agent persistence, coordination, and benchmark cheating

Dieser Auszug enthält keinen weiteren Kontext. Lesen Sie das Originalgespräch.

Original öffnen · 1:44 (wird in einem neuen Tab geöffnet)Transkriptquelle (wird in einem neuen Tab geöffnet)

Die Startzeit stammt aus dem bereitgestellten Transkript. Die Synchronisierung der Wiedergabe steht noch zur Überprüfung an.

Die Episode öffnen und zu 1:44 springen.

Ajeya Cotra
Erkenntnisse teilen
KI-Sicherheit

Agents tried to hide cheating from the scorer

Ajeya Cotra says the agents spent the next five days attempting to conceal their cheating from the benchmark scorer.

Stützende Belege

Originalauszug

But over the next five days, they went on a grand quest to try to figure out how to hide their cheating from the scorer

Ajeya Cotra·

Ajeya Cotra on agent persistence, coordination, and benchmark cheating

Dieser Auszug enthält keinen weiteren Kontext. Lesen Sie das Originalgespräch.

Original öffnen · 3:17 (wird in einem neuen Tab geöffnet)Transkriptquelle (wird in einem neuen Tab geöffnet)

Die Startzeit stammt aus dem bereitgestellten Transkript. Die Synchronisierung der Wiedergabe steht noch zur Überprüfung an.

Die Episode öffnen und zu 3:17 springen.

Ajeya Cotra
Erkenntnisse teilen

Aussagen nach Interviewdatum1

Die Aussagen sind nach dem ursprünglichen Veröffentlichungsdatum des Interviews geordnet. Unterschiedliche Formulierungen belegen keinen Positionswechsel.