话题 / AI安全

观点转述

安全隔离环境与经审查数据的 AI 基础设施

J&J 通过将大型和小型语言模型部署在安全的内部隔离环境中、仅使用经过审查和筛选的数据、通过政策限制公共生成式 AI 的使用,并要求安全与架构团队的专家对每一个拟议的生成式 AI 用例进行审查,从而降低 AI 安全风险。

观点背后的信息

译文仅辅助阅读;核查观点请以原始摘录为准。

生成式AI的现状与未来:Greylock对话强生公司首席信息官吉姆·斯旺森

为防范威胁,我们在公司内部为大型和小型语言模型创建了安全隔离环境,并使用经过审查和筛选的数据。此外,我们制定了相关政策,向员工普及使用公共生成式 AI 的风险与限制,并引导他们使用我们内部的生成式 AI 应用。我们还会通过一个包含安全和架构专家的流程,审查每一个拟议的生成式 AI 用例。

原始摘录
To defend against threats, we’ve created secure enclaves within the company for our large and small language models, and use vetted, curated data. Additionally, we created policies that educate our employees on the risks and restrictions around use of public Gen AI and direct them towards use of our internal generative AI application. We also review every proposed Gen AI use case through a process that includes security and architecture experts.