前记：3月8日的 Steam 更新添加了对 Vulkan 的 overlay 支持；3月12日 NVidia 驱动更新添加了 Vulkan API 支持。
举世瞩目的李世乭对阵 AlphaGo 的围棋之战在今天落下帷幕，最终李世乭以1:4落败。然后我在博客园新闻区看到了这样一篇：《为什么李世石的胜利让我喜极而泣》。下面的评论说“这事让好多文学分子高潮了”，认为这只是算法的胜利，计算机终究会为人类服务，那些担心都是无稽之谈。在这里讲一下我的看法。
如果机器具有了智能，判断对物种的好恶的能力，会展开对人类的“清洗”吗？从逻辑上来说，清洗是更好的选择。有文章提到过，光看人类自己，看看印第安人在美洲的经历，就知道黑暗森林法则实践起来是什么样子。如果它们还懂得沟通，获取它们群体内的最大利益，甚至会重演八国联军的事件。AlphaGo 是设计用来博弈的，正处于“不成熟的理性”的阶段，如果无法判断“整体”的概念，无法理解第零定律的话，就会出现曲别针的例子——所有人都做成曲别针，尝试劝阻的人也被做成曲别针。
等等，刚才不是假定了机器有了智能吗？但是退一步说，即使机器没有智能、只是按部就班行事，也会出现曲别针事故呢。看官知道第一个蠕虫病毒是怎么产生的吗？足够的功能，加上错误的参数。就执行的命令而言，并没有错误，只不过出现了人类不希望的结果。人并不希望比自己先进的生命体出现（同样，黑暗森林）。前面印第安人的例子已经是很仁慈了，因为还没产生生殖隔离，所以还有种群内的“怜悯”。
所以，认为不需要担心的，和担心的，两类人的出发点是不同的。前者从逻辑的角度看问题，而且很乐观地假设了机器总会在人类的控制之下；后者从人性（人类“生存”利益）的角度看问题，而且悲观地认为自律（有足够能力离开人自行活动）地机器有着胜于人类的能力。各位，不妨找一个平衡点吧。这就和养狼一样，给了机器强大的计算能力和与物质互动的工具，相当于给了它们獠牙。这方便了人们的生存，但是就是不知道什么时候会反咬一口——想避免这不幸的情况发生，请拔掉它们的牙，将它们限制在虚拟空间之内吧。
说得容易做起来难，好多人都已经半数字化了呢。