话题 / AI安全

预览内容 · 尚待审核

观点转述 · 非原话引用

当前计算机使用模型需要边界与防护措施

当前的计算机使用模型仍会出现错误和误点击,因此用户无法将其长时间无人看管地运行。Anthropic首先以API形式发布该功能,而非向消费者直接开放计算机控制权,强调随着能力提升,设置边界与防护措施至关重要。

预览链接在此环境中有效。公开卡片的URL仅在发布后可用。

观点背后的信息

翻译仅用于阅读理解;原始摘录仍为 source evidence。

达里奥·阿莫代伊、阿曼达·阿斯克尔与克里斯·奥拉赫谈人工智能发展与安全

原始摘录

It makes mistakes, it misclicks. We were careful to warn people, “Hey, you can’t just leave this thing to run on your computer for minutes and minutes. You got to give this thing boundaries and guardrails.” And I think that’s one of the reasons we released it first in an API form

翻译 · 非原文措辞

它会犯错,会误点击。我们谨慎提醒用户:‘嘿,你不能把它放在你的电脑上连续运行几分钟、几十分钟。你必须给它设定边界和防护措施。’我认为这正是我们首先以API形式发布它的原因之一。

上下文

时间点来自所提供的转录稿,尚待媒体回放核对。