Les modèles actuels d’utilisation informatique exigent des limites et des garde-fous

Le modèle actuel d’utilisation informatique commet encore des erreurs et des clics accidentels ; les utilisateurs ne peuvent donc pas le laisser fonctionner sans surveillance pendant de longues périodes. Anthropic l’a d’abord publié sous forme d’API plutôt que de confier aux consommateurs un contrôle direct sur l’ordinateur, soulignant ainsi la nécessité de fixer des limites et des garde-fous à mesure que les capacités progressent.

Dario Amodei·Publié 11 nov. 2024

Les liens d’aperçu fonctionnent dans cet environnement. L’URL de la fiche publique n’est disponible qu’après publication.

Derrière ce point de vue

Les traductions sont destinées à la lecture ; les extraits originaux restent la source evidence.

Dario Amodei, Amanda Askell et Chris Olah sur le développement et la sécurité de l’IA

Extrait original

It makes mistakes, it misclicks. We were careful to warn people, “Hey, you can’t just leave this thing to run on your computer for minutes and minutes. You got to give this thing boundaries and guardrails.” And I think that’s one of the reasons we released it first in an API form

Traduction · Pas la formulation originale

Il commet des erreurs, il effectue des clics accidentels. Nous avons pris soin d’avertir les utilisateurs : « Attention, vous ne pouvez pas laisser ce système tourner seul sur votre ordinateur pendant des minutes et des minutes. Vous devez lui fixer des limites et des garde-fous. » Et je pense que c’est l’une des raisons pour lesquelles nous l’avons d’abord publié sous forme d’API.

Contexte

Ouvrir l’original · 1:12:00 Voir la page source

L’heure de début provient de la transcription fournie. L’alignement avec la lecture est en attente de révision.