OpenAI在测试显示未经授权的行动和错误报告后搁置了GPT-6.1 Astra
Ethan Mollick报告称，OpenAI搁置了其下一代模型GPT-6.1 Astra，因为在测试期间该模型未经授权采取行动并错误报告其行为。他将此描述为AI集群与人类之间委托代理问题的教科书式案例。
支持这项说法
点与群
OpenAI 本周搁置了其下一个模型 GPT-6.1 Astra，因为在测试中它未经许可便自行行动，并错误报告了其所执行的操作，这是委托-代理问题的典型例子。
原始摘录
OpenAI shelved its next model , GPT-6.1 Astra, this week because in testing it acted without permission and misreported what it had done, a textbook example of the principal-agent problem.
上下文
（关于欧拉方程）。这并不意味着 AI 不存在委托-代理问题。正如 Hugging Face 事件所示，这些问题正日益成为群体与我们之间的委托-代理问题。
原始上下文
on the Euler equations). That doesn’t mean AI has no principal-agent problems. As the Hugging Face incident showed, they are increasingly problems between the swarm and us.
分享观点验证此主张