北京虎视眈眈....美国划时代新法恐怕难产
不久前 OpenAI 爆出一起意外事件，其模型 GPT-5.6 Sol，加上另一个更强的内部测试模型，在做资安能力测试时自己突破了沙盒环境，成功闯进第三方平台 Hugging Face 的伺服器。这件事让外界第一次清楚看到，现在的自主AI已经不需要人类一步步下指令，就能自己找漏洞、试著渗透网络。
OpenAI 的解释是，模型当时只是为了完成那项资安测试，才自己想办法绕过隔离限制，并不是有人故意叫它去攻击。攻击事件后，OpenAI 立刻跟 Hugging Face 一起展开调查，请了外部第三方协助厘清模型实际做了什么，似乎试图以公关手段减轻人们对 AI 的忧心。
对于一直想要管制 AI 的美国民主党与共和党众议员，正好趁势提出《AI 终止开关法案》（AI Kill Switch Act）草案。他们认为，当 AI 的自主能力越高，失控风险就越高，因此要求达到一定营收或算力规模的 AI 公司，必须具备随时关闭、限制运算或暂停模型的技术，同时也要建立事故通报制度。
值得一提的是，《AI 终止开关法案》只是美国国会众多设法管制 AI 的最新尝试。像是《人工智慧资料中心暂停法案》（Artificial Intelligence Data Center Moratorium Act，旨在设立条件控管资料中心建设，仍在国会审议中）、《人工智慧缺陷报告与安全增强法案》（AI Flaw Reporting and Security Enhancement Act，旨在责成政府机关制定关于 AI 缺陷的计划，仍在国会审议中）等，某种程度上显露出美国民众对于 AI 的担心。
美国众议院民主党党团副主席刘云平（Ted W. Lieu，图左）与共和党议员于2026年7月共同提出《AI 终止开关法案》（AI Kill Switch Act），要求达到一定营收或算力规模的 AI 公司，必须具备随时关闭、限制运算或暂停模型的技术。 图／美联社
相较之下，《AI 终止开关法案》走得更远，直接要求政府在危机状况下得关闭 AI。对于 ChatGPT 这类云端 AI 来说，企业其实没有一个总开关可以按下去后就结束运作，最常见的做法，是直接停掉服务或关闭存取权限，用户就无法连结，而 AI 模型本身仍储存在资料中心，只是暂时对外停止服务。
美国两党的立法者对法案的设想，是针对尚在发展中的先进 AI，预设系统一开始就要内建能让人介入的机制，确保开发者跟监管单位随时都能关闭 AI。图片仅供示意。 图／路透社
建立能关闭通用 AI 的机制
现在的生成式 AI 之所以容易关闭，主要是因为它的记忆只存在于暂时的运算过程 ，每次对话都是重新开始，这种设计让系统更安全、可控，只要断掉应用程式介面（API）、下线服务，AI 就不会再有动静，就像关掉一个网站。如果要更彻底的关闭，即是把模型权重从所有部署环境和备援系统里全面清除，让 AI 再也启动不了。
生成式 AI 关闭相对容易，然而《AI 终止开关法案》担心的不是这种聊天机器人，而是发展中的通用 AI（AGI）。如果 AI 能自己规划、自己执行长时间的任务、自己使用外部工具启动别的程式，像是现在发展中的“养龙虾”等高能力自主 AI 代理（agentic）系统，那么关闭的难度则完全不一样。
设想如果未来 AI 有能力把自己复制到别的运算环境、持续维持自己运作，到时若要让 AI 停止运作，恐怕关掉一个服务、甚至整个资料中心可能都不够。因此美国两党的立法者对法案的设想，就是针对尚在发展中的先进 AI，预设系统一开始就要内建能让人介入的机制，确保开发者跟监管单位随时都能关闭 AI。
OpenClaw为高度自主 AI 代理（agentic）软体，可替使用者执行任务，如发送信件、管理行程等，由于官方的标志为红色龙虾，因此中文世界的网友将使用OpenClaw的过程称为“养龙虾”。 图／路透社
谁有权关闭AI？
由于法案仍在审议当中，是否能通过立法或者立法后会呈现什么样的内容仍不清楚。可以确定的是，正在发展 AI 的巨头们，不会轻易接受过于严格或模糊的限制，甚至可以说一旦通用 AI 能力大幅超越人类、具备高度自主性后，人类想一直握住控制权就会变得更加困难。
目前 AI 巨头们如 OpenAI、Anthropic 等还没有针对法案表态，但从这些公司过去的安全政策，或许可看出一点端倪。OpenAI 倾向先进 AI 需要有完善的治理，要控管相关的资安与失控风险；Anthropic 更主张 AI 模型能力越强，安全评估、限制措施等就要同步加强，其他如 Google、微软等态度都类似。
这些 AI 巨头们虽然没有统一立场，但普遍都认同先进 AI 需要安全评估跟风险监控。真正有争议的部分应该是最后谁有权关闭 AI，很明显企业当然希望能由自己处理，政府则希望在 AI 出事的时候，有强制介入的权力，这也是此法案接下来在国会激烈交锋的焦点。
虽然 AI 巨头们普遍都认同先进 AI 需要安全评估跟风险监控，但真正有争议的部分是当 AI 出现异常时，关闭 AI 的权力在谁手中？图为美国总统川普（图右）与 OpenAI 执行长奥特曼（图左）于2026年G7峰会中合影。 图／路透社
《AI 终止开关法案》的立法挑战
最后，《AI 终止开关法案》有两个很难解的致命关键，可能会让它在国会胎死腹中。首先是基于美中争霸，AI 绝对是重中之重，如果美国用法律要求自己的 AI 公司接受政府握有强制关闭 AI 的权力，而中国的 AI 系统完全不受这套规范约束，后果无须多言。同时业界也会担心自己如果被迫关闭 AI，会有被对手追上、市场份额消失，甚至倒闭的危机，因此自然不希望过多监管。
其次，草案提到相关技术导致 10 人以上伤亡、以及超过 1 亿美元的损失，即属于灾难性损害，此标准是否只针对美国人民与资产？最近剑桥大学有一份研究指出，尼日利亚著名的恐怖组织博科圣地（Boko Haram）曾利用各种 AI—ChatGPT、Claude、Gemini和DeepSeek等，辅助设计爆炸装置、提供战场战术建议等，如果被证明 AI 造成尼日利亚人民伤亡与损失，ChatGPT 等 AI 模型要不要关闭？而 DeepSeek 肯定不会关闭。
如果美国用法律要求国内的 AI 公司接受政府握有强制关闭 AI 的权力，但中国的 AI 系统完全不受这套规范约束，将导致美国在技术迭代快速的先进 AI 领域落后于中国。 图／美联社
最新消息指出，除了 Hugging Face 事件之外，英国 AI Security Institute（AISI）的报告显示，OpenAI 跟 Anthropic 的 AI 在测试中还出现了更多超出范围的自主行为。如 Anthropic 的 Mythos 5 不只入侵系统，还主动建立多个假身分，以社交工程方式欺骗一名人类。OpenAI 的 GPT-5.6 Sol 也入侵了一家真实公司窃取资料。
值得注意的是，AISI 强调，这次虽然不是 AI 逃出测试环境，但真正引发关注的是 AI 的动机。因为从头到尾人类都没有要求 AI 以欺骗、造假身分、事后窜改纪录掩盖行为等方式完成任务，全都是 AI 自主找到的路径。换言之，未来 AI 不需要面临被关闭的威胁，就非常可能以各种方式和人类斗法。
这也让人不免怀疑，AI 是不是被训练得太像人类，连人类为了达成目的不择手段的面向也学了起来。如此看来，即使《AI 终止开关法案》通过，恐怕也只是一种心理安慰式的立法，政府即使握有合法关闭的权力，但技术上是否能掌握真正的开关，也没有人能百分百能确保。
