舒畅：人工智能的发展已经到了令人震惊的地步

过去几年，我一直认为人工智能的发展速度会非常快，但最近发生的一些事情，还是让我感到十分震惊。

最近，美国AI公司Anthropic推出了最新一代模型Fable 5和Mythos 5。据公开资料介绍，它们在目前世界上最困难的软件工程测试SWE-Bench Pro中取得了当时全球领先的成绩，已经能够独立阅读大型程序、分析代码、寻找错误，并自动完成复杂的软件修改工作。

更令人惊讶的是，Anthropic公开表示，这个模型在内部测试中发现了OpenBSD操作系统中隐藏了27年都没有被发现的漏洞，还发现了FFmpeg软件中存在16年的漏洞。这说明，它已经不仅仅是一个聊天机器人，而是真正具有相当高水平的软件工程能力。

正因为如此，美国政府一度要求限制这些最先进模型的公开开放范围。原因并不是人工智能本身不好，而是因为这种能力已经具有明显的国家安全意义。

很多人也许会问：既然AI能够帮助发现软件漏洞，不是更应该要推广吗为什么美国政府要限制他？

其实问题并没有这么简单。

如果AI帮助微软、苹果、Google等公司发现漏洞，那当然是一件好事，可以及时修补漏洞，提高整个互联网的安全性。

但是，同样的AI如果落到黑客组织、恐怖组织或者敌对国家手中，它同样能够快速寻找别人系统里的漏洞，甚至帮助发动网络攻击。过去需要一个经验丰富的黑客团队花几个月甚至几年才能完成的工作，现在AI可能几个小时甚至更短时间就能完成。而这将对美国的国家安全造成极大的威胁.这就是为什么美国政府开始把最先进的AI视为一种战略技术加强管制，而不仅仅是一款普通的软件产品。

不过，我认为，美国政府更不会也不能停止发展人工智能，而是希望在继续保持领先的同时，加强安全管理。否则，美国自己停止发展，而其他国家继续高速发展，那美国反而可能失去领先优势。这也是目前世界各国共同面对的一大难题。

人工智能发展到今天，也会出现一个经常被人混淆的误解：把人工智能等同于机器人。

今天很多人说："AI很快就会代替医生、代替消防员、代替救生员、代替所有危险职业。"

我认为，这种说法把两个完全不同的概念混为一谈。

人工智能，主要负责的是"思考"、"学习"、"分析"和"决策"；机器人，则负责"行动"和"执行"。

一个机器人即使安装了世界上最先进的人工智能，如果没有灵活的机械手臂、精密的传感器、可靠的动力系统，它依然无法完成复杂的现实工作。

例如，今天AI可以帮助医生分析CT、MRI、病理切片，甚至提出治疗建议，在某些专科领域，它的诊断能力已经接近甚至超过许多普通医生。但是，要完全取代一位经验丰富的外科医生，目前仍然做不到。因为一台手术机器人不仅需要人工智能，还需要极其精密的机械系统、实时反馈系统、力觉控制系统以及极高可靠性的执行机构。真正决定手术成功与否的，不只是"大脑"，还有"双手"。这种有关机械、传动等等需要的是其他方面的高科技构成的机器人

昨天朋友送了一个视频给我里面有一位提出一个问题说："既然AI这么聪明，为什么不用机器人去灭火？为什么不用机器人去抢救沉船上的人员？而重点把人工智能放在取代人的工作上这不是造成大批人失业的严重社会问题吗"

这里把两个问题混淆了：把机器人和人工智能等同起来是错误的理解！

今天的大多数机器人内部布满了芯片、电机、减速器、电子线路、各种精密传感器。这些部件很多都无法长期承受上千摄氏度的高温，也难以长期承受海水浸泡、巨大水压、剧烈撞击以及极其复杂的环境。

也就是说，今天限制机器人发展的，很多时候已经不是人工智能，而是机械工程、材料科学、电池技术、动力系统等基础技术。

真正能够进入火场救人、深海救援、矿井抢险、核污染地区工作的机器人，将来一定会出现，但它的发展速度，很可能没有人工智能本身那么快。

不过，人工智能的发展，确实已经开始深刻改变很多行业。

我认为，在未来几年，最先受到影响的，仍然是大量以知识处理为主的工作。例如软件开发、程序维护、翻译、文案写作、法律资料整理、财务分析、客服、市场研究、数据分析等职业，都将越来越多地由AI协助完成。很多人的工作不会完全消失，而是人与AI共同完成，工作效率会成倍提高。

真正需要高度复杂身体操作、现场应变以及丰富经验的职业，例如外科医生、机械维修、高危抢险等，在相当长的一段时间内，仍然需要人类和机器人共同合作，而不会完全被AI取代。

回顾过去短短两三年，人工智能的发展速度已经远远超出了绝大多数人的想象。从帮助写文章、写程序，到发现隐藏数十年的软件漏洞，再到越来越广泛地进入科学研究、生物医学、材料设计等领域，我们已经看到，它几乎每隔几个月都会带来新的突破。

也许，再过五年、十年，当我们回头看今天，会发现现在仍然只是人工智能时代真正开始的阶段。

未来最值得关注的问题，恐怕已经不是人工智能还能不能继续发展，而是**人类如何安全地利用它、管理它，让它真正造福人类，而不是成为新的风险来源。**这也许将是未来几十年，全世界共同面对的一个重大课题。