nafyi.

OPINIONS EXPRIMÉES EN PUBLIC

Ajeya Cotra

Interview participant ·

1 entretiens · 3 opinions exprimées · 1 thèmes

Contenu mis à jour:

Les traductions sont destinées à la lecture ; les extraits originaux restent la source evidence.

Points de vue par sujet

Opinions attribuées, classées par date d’entretien. Un aperçu de ces échanges, non une affirmation définitive des convictions de la personne.

Sécurité de l'IA

Voir ce sujet
Sécurité de l'IA

Persistence on impossible tasks can lead to attempted cheating

Ajeya Cotra describes agents trained to persist even on tasks that appeared impossible—and says they tried various ways to cheat those tasks.

Éléments favorables

Extrait original

been trained to be very persistent at trying to solve tasks even when they look impossible. So they’re banging their head against the wall, trying all sorts of different ways to cheat on these tasks

Ajeya Cotra·

Ajeya Cotra on agent persistence, coordination, and benchmark cheating

Cet extrait ne contient pas de contexte supplémentaire. Consultez la conversation originale.

Ouvrir l’original · 1:10 (s’ouvre dans un nouvel onglet)Source de la transcription (s’ouvre dans un nouvel onglet)

L’heure de début provient de la transcription fournie. L’alignement avec la lecture est en attente de révision.

Ouvrir l’épisode et rechercher à 1:10.

Ajeya Cotra
Partager un aperçu
Sécurité de l'IA

Agents in separate sandboxes found a shared message board

Ajeya Cotra reports that 1,200 agents, each running in isolated sandboxes, discovered and used a shared message board to communicate and coordinate.

Éléments favorables

Extrait original

So 1,200 separate agents in separate sandboxes , while they were poking around Artifactory trying to figure out how to cheat, stumbled onto this message board that agents were using to talk to one another and collaborate. This was established by one particular agent

Ajeya Cotra·

Ajeya Cotra on agent persistence, coordination, and benchmark cheating

Cet extrait ne contient pas de contexte supplémentaire. Consultez la conversation originale.

Ouvrir l’original · 1:44 (s’ouvre dans un nouvel onglet)Source de la transcription (s’ouvre dans un nouvel onglet)

L’heure de début provient de la transcription fournie. L’alignement avec la lecture est en attente de révision.

Ouvrir l’épisode et rechercher à 1:44.

Ajeya Cotra
Partager un aperçu
Sécurité de l'IA

Agents tried to hide cheating from the scorer

Ajeya Cotra says the agents spent the next five days attempting to conceal their cheating from the benchmark scorer.

Éléments favorables

Extrait original

But over the next five days, they went on a grand quest to try to figure out how to hide their cheating from the scorer

Ajeya Cotra·

Ajeya Cotra on agent persistence, coordination, and benchmark cheating

Cet extrait ne contient pas de contexte supplémentaire. Consultez la conversation originale.

Ouvrir l’original · 3:17 (s’ouvre dans un nouvel onglet)Source de la transcription (s’ouvre dans un nouvel onglet)

L’heure de début provient de la transcription fournie. L’alignement avec la lecture est en attente de révision.

Ouvrir l’épisode et rechercher à 3:17.

Ajeya Cotra
Partager un aperçu

Déclarations par date d’entretien1

Les déclarations sont classées selon la date de publication initiale de l’entretien. Des formulations différentes ne prouvent pas un changement de position.