五角大楼正削减AI开发的繁文缛节并确保安全要求真正有效

布拉克·厄克滕利（Burak Oktenli）拥有南佛罗里达大学计算机科学与工程学士学位和硕士学位，现为是常驻华盛顿特区的独立研究员，主要研究自主系统和人工智能赋能系统中的权限、保障与治理问题。他的分析文章曾发表于《真实清晰防务》、《华盛顿观察家报》、西点军校现代战争研究所、英国皇家联合军种研究所和《战争文章》。他近日在《华盛顿观察家报》发表评论－－“五角大楼正削减AI开发的繁文缛节并确保安全要求真正有效”，邀君一读:    

三周后，战争部必须向国会提交一份报告，其影响可能远远超出五角大楼。2026财年国防授权法第1512条要求全面审查战争部如何保障人工智能和机器学习系统的安全，并规定在8月31日前提交审查结果。该法律要求报告说明现行做法、已发现的漏洞、商业运行时安全选项、与行业框架的一致性，以及有关增加权限或资源的建议。

这一截止日期到来之际，恰逢一个异常有利的时机。川普总统于6月2日签署第14409号行政命令，以加快人工智能赋能的网络防御，同时明确否定保障安全需要为人工智能开发建立新的许可制度这一观点。随后，五角大楼于7月13日暂停了原定于11月10日实施的网络安全成熟度模型认证计划第二阶段，并启动了一项旨在减轻合规负担、同时维持网络安全的审查。因此，本届政府已经确立了明确方向：加快行动、削减官僚程序，同时确保安全要求真正有效。

应该按照这一标准来评判8月31日的报告。一项有用的审查将确定哪些人工智能安全控制措施真正能够改变作战风险，哪些能够持续衡量，以及哪些应该成为具有强制执行力的合同条款。风险在于，这项审查可能把新技术转换成大家熟悉的合规语言，最终留给项目经理的只是又一份核对清单，而对于模型在运行过程中遭到操纵时究竟会发生什么，却几乎没有说明。

国会已经为战争部提供了下一步行动的框架。第1513条要求为五角大楼采购的人工智能系统建立一个基于风险的安全框架。该条款指示战争部涵盖供应链风险、数据投毒、敌对方篡改、意外暴露、持续监控和事件报告。它还要求五角大楼扩展或补充现有的网络安全框架，包括网络安全成熟度模型认证，并修订《国防联邦采购条例补充规定》或采取类似行动，从而要求相关承包商实施最终形成的安全措施。

这一条款中最重要的措辞很容易被忽视。这些规则应该严格限定适用范围，根据具体的人工智能技术以及承包商所扮演的角色进行调整，并且在制定时考虑减缓开发速度所带来的成本。这恰恰是川普政府所声称希望实现的平衡。暂停网络安全成熟度模型认证第二阶段，为五角大楼提供了一个机会，使其能够避免围绕人工智能重新建立一套认证官僚体系，同时仍然实施可以接受测试并得到强制执行的要求。

对于人工智能系统而言，这些要求应该以证据为重点。为国防用途开发或托管模型的承包商，应该能够证明哪些数据和模型构件受到保护、谁有权对其进行修改、如何发现异常访问、系统收到遭到操纵的输入时会发生什么、运行时控制措施能否限制不安全行为，以及哪些遥测数据能够保留下来供调查使用。标准应该把安全声明与证明相关控制措施在测试中确实发挥作用的证据区分开来。

正是在这里，承包商面临的法律风险变得具体起来。司法部已经依据《虚假申报法》，对明知故犯地虚假陈述网络安全合规情况的政府承包商采取行动。今年6月，国防承包商洛格宗公司（Logzone）同意支付超过50万美元，以解决有关该公司明知故犯地未遵守海军网络安全要求的指控。此前的一些案件涉及数百万美元的和解金额。一旦针对人工智能的具体网络安全义务成为合同要求，明知故犯地对这些控制措施作出虚假陈述，就可能依据现行法律产生同样类型的风险。

这并不意味着每一次人工智能故障都会构成欺诈。《虚假申报法》包含有关知情程度和实质性的法律要件，而网络安全案件的和解仍然高度取决于具体事实。对承包商而言，关键点更加简单：如果五角大楼把第1513条转化为合同条款，那么有关人工智能安全的声明将不再只存在于演示文稿和技术白皮书之中。这些声明可能成为认证文件、发票以及付款申请的依据，而政府日后可以对其进行审查。

五角大楼已经在围绕这一问题建立制度机制。2026财年法律要求战争部的人工智能沙盒工作组在8月1日前向国会国防委员会汇报其目标和任务。川普6月发布的国家安全人工智能备忘录则另外强调了稳健性、可控性、问责制、事件响应以及对先进模型的安全访问。这些努力最终都汇聚到同一个问题上：政府如何知道，一套人工智能系统所具备的安全属性在部署之后仍然能够保持？

8月31日的报告应该从实际运行的角度回答这个问题。国会应该寻找一份精简的控制措施清单，这些措施必须能够得到验证、监控和审计；制定一个明确计划，把价值最高的控制措施转化为采购要求；并建立一种能够根据模型和任务的敏感程度相应调整义务的方法。与此同时，承包商应该假定，未来有关人工智能安全的声明都必须有证据作为支撑。

本届政府反对那些拖慢美国人工智能发展、却无法带来真正安全保障的监管措施，这是正确的。同样的原则也应该适用于国防采购。国防采购应该避免再增加一层只衡量企业填写文件能力的合规体系。五角大楼可以利用8月31日的报告，确定能够使最重要的安全声明接受实际检验的合同条款，并告诉国会它计划如何实现这一目标。