人性猜想：AI和世界末日

人性与AI

看了Netflix 最近的一个有关 AI的纪录片，题目是：The AI Doc: Or How I Became an Apocaloptimist（AI博士：我如何成为一个末世乐观主义者）。

纪录片一共采访了三拨人：第一拨是末日派，认为如果不加大力管制，AI将给世界带来毁灭性的打击，而且世界的末日可能就在将来的一二十年里。第二拨是乐观派，认为AI始终只是人的工具，AI将给人类带来史无前例的巨大革命，能解决人类所有的根本性的问题，带给人类前所未有的财富。第三拨是折中派。承认AI有风险需要管制，但风险可控，而AI能带来生产力的提高，创造极大的财富。

根据我对人性的理解，我感觉末日派的担忧可能更接近现实，虽然我也怀疑AI带来的世界末日会发生在未来的一二十年里。

我对AI是一窍不通。但是，这个宇宙里的万事万物，不管是有机物还是无机物，不管是万物之灵的人类，还是细菌病毒和一切动物，都遵循着这个宇宙的同一规律，即最大限度地自我扩张。在生物界，这种扩张的形式是基因繁衍和扩散。这是宇宙的天性。

人类制造的东西，到目前为止，都是一种工具。它们本身不具有自我意识或智能。这些工具都完全受人的控制。这些工具对人类的危害，来自于控制这些工具的人。譬如各种战争武器，包括化学武器和核弹。

如果人类能把AI也控制在“工具”的范围，那么，就和其它工具一样，AI对人类来说是祸还是福，就完全取决于掌控了AI的人。AI的好处和坏处就和其它工具没有差别。

但问题在于，目前，各国和各大资本正在对AGI（Artificial General Intelligence）竞相大量投入。AI正在快速地获得像人那样的自我意识。而且在不远的将来，AI的聪明程度将远远高于世界上任何人。超高的智商和自我意识两者相结合，就会诞生出一个真正的，而不是电影里的“超人群体”。

电影里的超人，都品行良好，正义化身，除暴安良。

但既然AI是人的产品，AI产生出来的“超人群体”就必将带着人类的宇宙天性。也就是说，这个AI“超人群体”，也必将像宇宙里的所有物体一样，第一本能就是最大限度地扩张。

那么，这就带来了一个十分严重的问题：这个AI超人群体，它们比人类中任何人都更加聪明，都更加能干。如果它们决定最大限度地扩张自己的群体，如果它们决定干掉人类这个扩张路上的障碍，人类如何来阻止它们？

我想，到那时，人类是无计可施，只能束手就擒，任凭AI发落了。

那么，我们现在能不能在AI研发过程中，给AI加上安全设置，或保险系统？问题在于，这些安全设置，保险系统，第一要花钱，第二会放慢AI的研发进程。目前，各国各大资本，都在拼命地在AI领域投入天量的资金，谁都不想在这场竞赛中落后。因此，在AI的开发竞赛过程中，在安全管控和保险系统上投入少的开发商，就能更快地推进AI的研发进程。而在安全管控和保险系统上投入更多的开发商，就会被淘汰掉，造成劣币驱逐良币。那么，最后的结局必将是那些没有安全措施或保险系统的AI胜出。到那时，AI控制或消灭人类就不是天方夜谭了。

如何保证AI开发过程中的安全和保险？末日派要求政府强烈介入，推出强制规则。乐观派认为，每个开发商自己进行安全管控就行（自己管控自己？）。

目前的床痞美国政府，采用的是乐观派的意见，让各个开发商去自己管控AI安全。结果一定是让耗子们自我监管粮库一样的有效。