话题 / 围栏失效的经验性评估

观点转述

糟糕的遏制使失败原因悬而未决

Green 赞同信息安全的观点,即各实验室尚未正确实施遏制措施。他表示,这使得问题究竟出在模型上还是出在糟糕的基础设施上尚不明确。

观点背后的信息

译文仅辅助阅读;核查观点请以原始摘录为准。

沙盒能否遏制失控智能体?

因此,在这一点上,我将站在信息安全从业者的立场上。各实验室尚未正确实施隔离措施,所以我们实际上无法判断问题根源是出在模型本身,还是仅仅源于糟糕的基础设施。

原始摘录
So on this point I’m going to side with the infosec folks. The labs have not been doing containment correctly, and so we can’t really tell if the problem is models or just bad infrastructure.