公开观点

Sachi Shah

1 份资料 · 3 条观点 · 3 个话题

内容更新于:

Sachi Shah 关于自动化智能体验证、渐进式部署、AI智能体的发布治理的观点。 按话题阅读 3 条观点,核对 1 个来源中的证据。

探索知识关联

按话题查看观点

按来源发布日期整理的个人观点,仅反映这些材料中的表达,不代表其全部立场。

译文仅辅助阅读;核查观点请以原始摘录为准。

AI智能体的发布治理

查看话题

大规模场景下的发布安全需依托规范化的治理机制

对于在Sierra平台上构建智能体的大型企业而言——数百名人员协同工作,覆盖数百条客户旅程,并服务数百万用户——非正式的核查方式或仅依赖个人记忆,已不足以保障智能体发布的安全性。

支持这项说法

发布治理:面向大规模AI智能体的防护机制

全球一些规模最大的企业正基于Sierra平台构建其智能体:单个智能体内部即有数百人协作,覆盖数百条客户旅程,服务数百万客户。智能体的一处微小变更,可能瞬间改变其面向每一位客户的行为表现。在此类规模下,要安全地发布智能体,绝不能依赖非正式的核查方式,也不能寄望于某人凭记忆去复核变更。

原始摘录
Some of the world’s largest companies build their agents on Sierra: hundreds of people working inside a single agent, across hundreds of journeys, serving millions of customers. A small change to the agent can instantly reshape how it behaves with every customer. At that scale, releasing an agent safely can’t rely on an informal check or on someone remembering to double-check a change.

自动化智能体验证

查看话题
自动化智能体验证

Agent Checks 可在部署前发现高影响的配置问题

Agent Checks 充当一种 linter,可主动识别代价高昂且易被忽略的问题——例如被引用但不可用的工具、相互冲突的指令、查找工具与操作工具之间的角色混淆、语音场景中的响应失败,或敏感数据查询的身份验证不足——并按严重程度对其进行优先级排序,同时提供内联的 Ghostwriter 修复。

支持这项说法

发布治理:面向大规模AI智能体的防护机制

它能捕获那些极易遗漏却代价高昂的问题:提示词中引用了某个工具,但该工具实际未启用;向智能体下达了相互冲突的指令;查找类工具越权执行了本应由执行类工具完成的任务;响应在屏幕界面中正常,但在电话语音场景中失效;或对敏感数据的查询缺乏充分的身份认证。各项检查按严重程度排序,帮助团队区分可能直接影响客户的高优先级问题与低优先级的质量优化项;其中大多数问题还附带Ghostwriter提供的修复建议,可直接就地应用。

原始摘录
It catches the issues that are easy to miss and expensive to ship: a tool your prompt references but never made available, conflicting instructions to the agent, a lookup tool doing an action tool’s job, a response that works on screen but falls apart on a call, or a sensitive-data lookup with insufficient authentication. Checks are prioritized by severity, helping teams distinguish issues likely to impact customers from lower-priority quality improvements, and most come with a suggested fix from Ghostwriter that can be applied in place.

渐进式部署

查看话题
渐进式部署

分流流量发布支持对智能体变更进行金丝雀式(canary-style)推出

分流流量发布(Split traffic releases)使组织能够在全面推出之前,将智能体变更增量部署到一部分客户流量中,从而可以验证模型升级、身份验证重新设计或行为变更;目前一家大型航空公司、一家旅游交易平台和一家金融科技公司已在生产环境中使用该功能。

支持这项说法

发布治理:面向大规模AI智能体的防护机制

我们全新的分流发布功能,让组织能先将新版本逐步推送给一部分客户流量,再扩展至全部用户——这与软件团队多年来采用的金丝雀发布策略一致。如果您升级了模型、重构了身份验证机制,或进行了大范围行为变更,可在全面上线前,先验证该版本是否按预期运行。一家大型航空公司、一家旅游交易平台和一家金融科技公司,已开始使用分流发布功能,以控制新版本触达客户的方式。

原始摘录
Our new split traffic releases let organizations incrementally roll out a release to a portion of customer traffic before expanding it to everyone — the same canary strategy software teams have relied on for years. If you’ve upgraded your model, redesigned authentication, or made a sweeping behavioral change, you can verify the release behaves as expected before rolling it out more broadly. A large airline, travel marketplace, and fintech company are already using split traffic to control how rollouts reach their customers.

按来源日期阅读1

按原始来源的发布日期排序;措辞不同不代表立场发生变化。