人工智能首先应当服务于人

席思川

人工智能是为人服务的，听命于人并受控于人，这是一个不应被模糊的基本原则。

从诞生之初，人工智能就是人类创造出来的技术工具。无论它拥有多么强大的计算能力、多么复杂的推理能力，归根到底，技术本身并不是目的。人类为什么发展人工智能？是为了提高生产效率、拓展认知边界、解决现实问题，让生活更加便利，让社会拥有更多解决复杂问题的能力。

因此，人工智能越强大，越需要回答一个最基本的问题：谁来决定人工智能为什么存在、应该做什么，以及什么时候必须停止？

答案不应含糊——应当由人来决定。

有人担心，随着人工智能能力不断提升，人类最终可能反过来受制于自己创造的技术。这种担忧并非毫无意义。技术能力越强，对规则、监督和责任机制的要求就越高。如果一个系统能够影响重要决策，却缺乏有效的监督、纠错和停止机制，那么技术进步本身也可能带来新的风险。

但解决问题的方向，不是让人工智能获得脱离人类控制的自主权，而是建立更加成熟的人机关系：让机器拥有能力，让人类掌握方向；让人工智能承担工具性的工作，让人类承担最终的责任。

当然，“听命于人”并不意味着人工智能应该无条件执行任何命令。人类社会本身就存在法律、规则和伦理边界。要求人工智能拒绝明显违法或可能严重伤害他人的指令，并不是人工智能凌驾于人类之上，而恰恰是人类通过规则对技术进行控制的一种表现。

真正值得警惕的，不是人工智能“听命于人”，而是人类逐渐放弃对人工智能的监督，把本应由人承担的责任简单地交给机器。

技术可以替人计算，却不能替人承担责任；可以辅助人作出判断，却不意味着人可以放弃判断；可以帮助人完成工作，却不能因此模糊“谁授权、谁监督、谁负责”的基本问题。

人工智能越发展，人类越应该保持清醒：技术的价值在于服务人的需要，而不是让人去适应机器的意志。

未来真正重要的竞争，也许不只是人工智能能够变得多么聪明，而是人类能否建立足够成熟的制度和规则，使越来越强大的人工智能始终处于可监督、可纠正、可停止的范围之内。

人工智能可以很强，但最终的方向必须由人来确定；人工智能可以很快，但关键时刻仍然需要人来负责。

让人工智能服务于人、受控于人、造福于人，这不应只是技术发展的愿望，更应成为人工智能时代不可动摇的基本原则。