纽约时报：中国担忧的是另一种人工智能风险
作者KYLE CHAN：Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。
美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，川普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。
总的来说，中国并没有那么担心人工智能会成为人类的生存威胁。你不会看到中国政治领导人或中国人工智能公司的创始人警告说，超越人类的人工智能“可能是人类继续生存的最大威胁”，正如奥特曼在2015年所写的那样。这并非中国人工智能决策的核心，也不属于中国科技文化的一部分。
这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。
中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。
如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。
目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。
中国目前的人工智能法规大多针对这类风险。大多数面向公众的新人工智能模型必须在政府备案，并在发布前通过一系列测试。中国制定了广泛的规则，要求对人工智能生成的内容进行标识，并限制人工智能聊天机器人模拟人类行为的程度。
中国外交部的一位发言人驳斥了美国关于放缓发展的呼吁，称其为“危言耸听”，旨在阻碍中国在人工智能主导权竞争中的进展。（事实上，川普曾表示，他反对放缓发展，正是为了防止中国迎头赶上。）
有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。
第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。
今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。
加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。
在中国引起关注的第二类人工智能风险是失控的人工智能超出人类控制的范围运作。中国一直在密切关注失控的美国模型突破限制并攻破其他网站安全防线的事件。今年7月OpenAI模型对人工智能基础设施公司Hugging Face的攻击，已在中国官方媒体上被广泛报道。
失控的人工智能正成为中国政府高层讨论的话题。习近平在7月提到了“失控”的风险。最近，中国国家互联网信息办公室的一名高级网络安全官员援引美国的人工智能失控事件，警告称存在“极端失控”的危险。
这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。
另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。
幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。
虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。
作者Kyle Chan是布鲁金斯学会的研究员，他是中国技术发展和产业政策方面的专家，也是行业通讯"High Capacity"的作者。
