Jinhuasan

注册日期:2025-02-21
访问总量:2464664次

menu网络日志正文menu

人工智能与生物武器的新时代


发表时间:+-

这是《外交事务》杂志周二818日刊发的署名评论,值得所有人关注, 尤其是她提醒的--为一个合成病原体的世界做好准备。作者伊丽莎白·舍伍德-兰德尔(Elizabeth Sherwood-Randall)是哈佛大学肯尼迪政府学院阿什顿·B·卡特访问教授,肯尼迪学院贝尔弗科学与国际事务中心生物融合、生物安全与生物韧性倡议创始人兼主任。她于2021年至2025年担任白宫国土安全顾问和副国家安全顾问。请读她的评论:

突破性的科学发现能够创造具有变革意义的可能性。它们也可能制造灾难性的风险。人工智能、生物技术和生物工程的融合,已经使改变人类生活的成就成为可能,从抗击疾病,到极大提高农业生产力,再到解决能源挑战。但与此同时,这种融合也正在产生一些能力,使越来越多的行为体能够比以往任何时候都更容易地将其武器化。美国尚未做好应对这些威胁的准备。

在可以预见的未来,一个只具备最低限度技能的恐怖组织,就可能获得一个已经越狱的人工智能模型——也就是一个规避了安全控制的模型——而这个模型接受过世界上最全面的生物数据集训练。该组织可以利用这个模型设计出一种新的H5N1禽流感毒株,使其比现有毒株致死率更高,也更容易从动物传播给人类。通过远程连接新一代设备齐全、按合同提供服务的云实验室,该组织可以匿名安排制造和测试这种病毒,然后将其送往生物制造设施进行大规模生产。随后,该组织可以秘密利用遍布美国各地大型畜牧场的空气处理系统散播这种新毒株。

用不了多久,美国的家禽业、牛肉业和乳制品业就会遭受巨大损失。当这种病毒不可避免地传播到人群中时,它将导致严重疾病,并可能造成数十万甚至数百万人死亡。由于既缺乏一体化战略,也缺乏充分的工具,美国公共和私营机构的应对将会过于迟缓、过于缺乏协调、资源过于不足,而且不堪重负,无法阻止病毒传播并减轻其后果。很快,这种病毒还会跨越国界,在世界各地引发粮食不安全、大范围疾病和大规模人员伤亡。

长期以来,美国决策者一直在应对敌对国家发动生物攻击的可能性。除了监测和全球风险降低举措之外,华盛顿还通过威胁实施重大报复——包括使用核武器——成功威慑了此类攻击。然而,这种战略之所以有效,是因为只有少数几个政府在研发最危险的生物武器。在一个人工智能使更多行为体——无赖国家、恐怖组织,甚至个人——都能够自行研发新型生物武器的世界里,这种战略已经不再奏效。

在这种新的威胁环境中,鉴于生物能力不断扩散,而且某些行为体无法通过传统手段加以威慑,生物攻击不太可能被完全阻止。决策者需要一种新的应对战略——这种战略要接受生物攻击很可能发生这一现实,并做好控制损害的准备,帮助国家更快恢复,同时利用新的工具识别肇事者并追究其责任。最终,这种抵御生物攻击的韧性本身可能使恶意行为体打消首先尝试使用生物武器的念头,因为他们知道攻击造成的影响将被降至最低——这是一种通过韧性实现威慑的战略。

再设想一下上面描述的攻击情景,但这一次已经建立了一套全面战略。美国政府将利用一套先进的生物监测系统,对一种新的病毒性病原体的出现提供早期预警。联邦实验室将运用许多最初使这种威胁成为可能的相同技术,根据设计该病毒所使用的人工智能模型中留下的明显特征,确定病毒的来源——从而能够迅速展开追踪并锁定肇事者的行动。公共卫生部门将拥有整合科学数据和情报数据的工具,以遏制疾病传播。根据事先谈判达成的提供应急扩充能力的合同,生物制造行业将加速生产诊断工具、治疗药物和疫苗。虽然这场危机不会被完全阻止,但其影响将得到迅速而有效的控制:易受伤害的人群和动物群体得到保护,传染被降至最低程度,农业生产得到恢复,公众信心得以重建。

这样的生物韧性与今天的现实相距甚远。2024年,H5N1禽流感从家禽传播到奶牛群和肉牛群,最终又传播给70多人。作为当时的白宫国土安全顾问,我协调了联邦政府对这一潜在灾难性威胁的应对。这种病毒是自然产生的,并非蓄意攻击的结果。然而,它仍然表明,即使是在这种最基本的情形下,美国的预防、监测、溯源和应对体系也存在相当严重的弱点和漏洞。有关疾病发病率和传播情况的数据很难获得,而且残缺不全得令人恼火。动员家禽业和养牛业采取充分的预防行动,被证明既困难又缓慢。而为了提供足够数量的人用疫苗以保护美国人民,我们需要投入大量新的联邦资金,迅速研制一种信使核糖核酸疫苗,并调配美国制药行业的生产线进行大规模生产;即便如此,在此后的许多个月里,药品供应仍然会不足。

美国迫切需要建立一套新的体系,以形成抵御人工智能赋能生物威胁的韧性。这项技术的现实意味着,推动革命性发现的创新本身也在制造新的威胁——而使这些威胁如此危险的同样那些工具,也是应对它们不可或缺的工具。因此,这套体系将取决于充分利用人工智能、生物技术和生物工程交汇领域取得的进展——并始终领先于对手对这些同样进展的利用。

美丽新世界

冷战期间,美国安全专家警惕地监视苏联的生物武器项目。他们担心的重点,是炭疽杆菌、马尔堡病毒和天花病毒——后者会导致天花——等罕见但已知的病原体可能被武器化,用于攻击战斗中的美军,甚至攻击美国平民。苏联帝国解体后,我负责监督五角大楼减少其大规模杀伤性武器库所构成威胁的工作。我们密切追踪俄罗斯以及其他新独立国家遗留下来的致命病原体库存,并努力将其清除。

几十年来,华盛顿一直依靠威慑来应对敌手发动生物攻击的可能性——但值得注意的是,它并不是通过威胁发动自己的生物攻击来实现这种威慑。事实上,1969年,美国总统理查德·尼克松(Richard Nixon)正式宣布放弃进攻性生物武器的研究、生产和使用。相反,美国的战略学说建立在可信地威胁实施核报复的基础之上。

随着冷战逐渐远去,莫斯科和华盛顿通过合作减少威胁倡议削减各自的核武库,国家安全专家开始质疑,以威胁使用核武器来威慑生物攻击是否符合道德,以及是否有效。尽管如此,在多届政府任内,美国在这一问题上始终保留着刻意的模糊性。美国最近一次《核态势评估》于2022年发布,其中得出结论:我们的核战略考虑到了现有和新出现的、可能产生战略影响的非核威胁,而对于这些威胁,核武器是实施威慑所必需的。该评估还指出,核武器的根本作用是威慑针对美国及其盟友的核武器使用,但它并没有进一步宣称核威慑是美国核武库的唯一目的。因此,现任川普政府迄今认为没有必要再进行一次核态势评估,并指出川普第一届政府于2018年公布的战略学说已经足够。那次评估指出,核武器可以用于应对非核战略威胁;尽管这一表述并未具体提及生物攻击,但通常被理解为包括此类攻击。

决策者必须接受这样一个现实:生物攻击很可能发生。

鉴于人工智能、生物技术和生物工程交汇领域发生的技术变化——这些变化大幅降低了制造致命病原体的门槛,并使其用途从秘密的国家实验室广泛扩散出去——这种战略学说已经不再适合当前需要,如果说它过去曾经适合的话。十年前,一些顶尖专家就开始关注生物学可能出现的新型恶意用途。例如,2016年底,总统科学与技术顾问委员会首次就生物技术可能带来的国家安全风险发布了一份全面的非机密警告。委员会写道,这些风险是真实存在的,而且随着未来几年生物技术变得更加先进,只会不断增加。

报告作者接着解释了其中的原因。他们写道:生物威胁与核威胁或化学威胁存在重大差异,因为最初制造经过生物工程改造的生物体,只需要少得多的资源和规模更小的设施,而这些设施无法轻易与普通研究实验室区分开来。因此,出于恶意目的开展的工作,更难与出于善意目的开展的工作区分开来。

报告尤其强调了基因编辑工具成簇规律间隔短回文重复序列,因为它既具有革命性的积极潜力,同时也具有恶意利用的潜力。这种工具能够迅速切割和修改脱氧核糖核酸序列,使使用者既能够根除遗传性疾病,也能够在基因组中植入可能影响特定人群的变化——甚至改变决定未来世代遗传特征的人类生殖系。正如这份咨询报告所强调的,这种基因编辑技术还是一种军民两用工具——既有民用用途,也有军事用途——无需巨额投资或高度专业知识便可使用。

换句话说,这个合成生物学的美丽新世界,正在从根本上使制造生物武器所使用工具的获取变得大众化,并使其广泛分散。快速的脱氧核糖核酸测序与合成能力已经使读取和编写遗传信息的成本急剧下降,正如基因编辑之类的工具已经使精确修改基因组的能力更加普及一样。如今,接受过生物数据训练的人工智能系统能够设计蛋白质,并以前所未有的规模预测多种相互作用。人工智能系统和先进计算技术还使生成式生物学成为可能,而生成式生物学则能够构建合成生物系统。最后,数字设计正在与日益自动化的实验室流程连接起来,使数字指令能够更加容易地转化为现实世界中的产物。

所有这些创新都正在推动多个领域取得极其积极的发现,其中最明显的就是医疗保健。但与此同时,它们也正在消除迄今为止使制造危险生物制剂极其困难的那些障碍。复杂的生物学工作已经不再局限于那些接受过高等教育、从事专业职业,并因而能够深刻认识到自己负有不造成伤害这一重大责任的人。今天,更多种类、数量也更多的人,包括那些几乎没有或完全没有接受过正规训练的人,都可以使用人工智能赋能的先进生物工具。这种使用能力的大幅扩展——人工智能专家称之为能力提升”——已经成为衡量人工智能系统与没有人工智能帮助的人类相比究竟能够带来多大能力提升的一项关键指标。而美国的前沿人工智能模型,已经迅速提高了非专业人士能够获得的实质性能力提升,使那些希望获取生物学知识或实验室技能以完成科学任务的非专业人士能力大增。三年前,大型语言模型连简单的生物学测试都无法通过。但到20254月,一批来自大学和非营利机构的研究人员发现,在有关开展实验室实验所需知识的测试中,大型语言模型的表现持续超过拥有博士水平的病毒学家。

如果大型语言模型以及其他尖端生物工具都被严密限制在政府实验室里,这一事实或许不会如此令人担忧。但事实并非如此。它们已经广泛分布,而人工智能科学智能体如今甚至可以受雇提供服务,并随时准备陪伴客户踏上创造性的探索之旅,无论这些探索是出于善意还是恶意。

目前,把一种通过数字方式设计出来的病原体转化为现实世界中的威胁,仍然受到一个事实的限制:在美国,这项工作仍然由人类在传统的湿实验室中完成,而数字指令的实体制造正是在这些实验室中进行。但是现在,机器人和自动化设备越来越多地参与其中,尤其是随着云实验室的出现。这类实验室能够接收数字指令,根据这些指令设计并实施实验,并评估实验结果;与此同时,还有专门提供生物技术生产服务的合同制造商与之配合。目前,所有这些活动都没有受到任何法规监管。

从科幻小说到科学现实

今天,政府官员和私营部门领导人需要担心的,不再只是拥有先进能力的国家研发和使用生物武器,还必须担心有组织的非国家团体,包括恐怖分子、犯罪集团和雇佣兵,以及单独行动者。此外,一些怀有善意的人也可能因为没有充分理解自己所掌握能力的威力,而造成危险事故。

华盛顿需要为无数种情景做好准备。例如,企图制造混乱的恶意网络黑客可能利用人工智能破坏药品制造流程,从而生产出危险的、受到污染的药品。其结果可能使疾病恶化或造成人员死亡——并可能从更广泛意义上损害人们对相关产品的信心,扰乱美国药品市场,或者因为人们不愿再使用此前受到信赖的治疗药物,而对国家医疗保健体系造成有害影响。

在另一种完全可能发生的情景中,一个出于政治动机、组织松散的无政府主义网络,可能利用一个开源大型语言模型,弄清楚如何把一种高致病性病毒传播到大规模人群之中。它可能从多家商业脱氧核糖核酸合成服务商那里订购表面看来无害的片段。随后,一名具备相关专业知识的成员可能把这些片段组装成一种致命的新病毒,并可能把这种病毒释放到纽约或洛杉矶这样的美国主要城市地区,使其迅速传播。在这种情景下,在作出明确诊断之前就会有许多人死亡,治疗手段无法迅速获得,医疗保健体系将不堪重负。紧急应对机制将无法以足够快的速度和足够大的规模作出反应。随后将出现大规模恐慌。

生物技术产业应该被指定为关键基础设施。

人工智能赋能的生物技术还存在一些可能被国家恶意利用的方式。例如,一个技术高度先进的外国对手,可能利用人工智能、生物设计系统和生物制造工具,设计出一种隐蔽性很强的呼吸道病原体。通过先进的生物工程技术,这种疾病的症状可能直到感染六个月后才会出现。作为发动一场军事行动的更广泛计划的一部分,这个对手可能在美国本土以及其他地区的若干美军基地附近秘密释放这种病原体,使其计划发动的军事行动与大规模疾病开始出现的时间相吻合。与此同时,这个敌对国家可能以每年一次的国内流感疫苗接种计划为掩护,秘密为本国人口接种针对这种病原体的疫苗。最终,美军人员以及曾经与他们接触过的平民将开始出现严重症状,从而扰乱美国为应对对手公开发动敌对行动所必需的军事动员和部署。

此外,还有一些可能性超出了人类疾病传播媒介的范围。例如,一个受到意识形态驱动的美国恐怖组织,可能通过基因改造一种植物病原体,使其摧毁美国水稻、玉米或小麦等关键农作物。这将迅速扰乱美国国内食品供应,以及无数人生计所依赖的农业经济,从而在美国国内造成粮食不安全,并在那些依赖美国农作物出口的世界其他地区引发饥荒。

这些情景并不是科幻小说,而美国并没有为应对其中任何一种情景做好充分准备。美国的生物监测和溯源体系是由各种系统拼凑而成的,其中存在重大漏洞。它的各个组成部分并不总是能够相互兼容,而且美国目前并不具备实时、大规模整合和分析不同数据流的能力。美国的监测体系是为诊断、识别和报告现有病原体而设计的,但它目前还无法识别那些可能由人工智能赋能的生物技术创造出来的新型病原体。与此同时,美国用于部署疾病治疗和预防对策的体系并没有做好迅速行动的准备,而且其应急扩充能力相对有限。全球应对体系的缺陷甚至更加严重。过去二十年里,在多届总统任内,美国建立并积极推动了一套针对国际生物威胁的早期预警网络——类似于国家导弹防御早期预警系统;拜登政府时期,这套网络甚至扩展到50多个关键国家。然而,到2025年,这套网络的大部分已经被川普政府拆除。

这些情景还生动地表明,面对新的生物威胁,美国长期以来针对少数国家级对手设计的以惩罚实现威慑理念——即以使对方沦为国际弃儿以及可能针对生物攻击使用核武器相威胁——已经不再充分。今天,人工智能赋能的生物技术挑战从四个方面颠覆了对惩罚性威慑的依赖。第一,存在生物风险的行为体群体已经非常庞大,而且不可避免地会变得远比核武器国家群体更加庞大。生物威慑需要塑造众多国家的行为,而更重要的是,还需要塑造私营部门和个人行为体的行为,而这些行为体对国家层面的利益很可能远没有那么敏感。由于构成生物威胁的基础要素通常都是军民两用技术,而且这些技术具有巨大的积极潜力,因此不可能完全阻止可能有害材料的产生,也不可能像对待核裂变材料那样,把它们全部封存在政府控制的实验室和设施之中。归根结底,以使用核武器相威胁来应对人工智能赋能生物技术所带来的全部风险和威胁,并不是一种可信的战略,因此,实施核武器级别惩罚的威胁也就失去了可信度。

第二,鉴于人工智能赋能的生物技术已经在华盛顿盟友和伙伴的多个经济部门中发挥作用,延伸威慑将不再具有可行性。美国无法像通过延伸核保护伞保护欧洲和亚洲盟友那样,以提供保护为交换条件,要求它们克制使用这些技术。生物融合——人工智能、生物技术和生物工程进步所产生的协同效应——给每个国家的经济和社会福祉带来的好处都太过重要。

第三,华盛顿能否像当年管理与苏联之间的核军备竞赛那样,说服或者迫使美国的竞争对手和敌手可靠地停止发展人工智能赋能的生物技术能力,是极其值得怀疑的,因为核武器除了威慑和作战之外并不存在其他市场价值。相比之下,生物融合蕴藏着巨大的积极潜力,而且事实上已经在释放这种潜力,而人工智能赋能的生物技术经济则是全球性的。

第四,与此相关的是,川普政府曾间歇性地试图加大其他国家获取和使用美国前沿人工智能模型的难度,其中包括20266月突然对神话寓言实施出口管制。这两款由安特罗匹克公司推出的尖端产品曾向英国和欧盟提供人工智能能力。这些管制导致任何外国用户突然并彻底失去访问权限,其中包括美国的盟友以及身在美国的个人。这项严厉措施随后被撤销,但它很可能进一步刺激国际社会发展本国人工智能能力的兴趣,包括发展人工智能与生物技术交汇领域的能力,因为依赖美国可能会造成脆弱性。

以韧性实现威慑

鉴于未来自然发生、意外发生以及被武器化的生物事件几乎不可避免,对不断增长的风险感到忧虑是有充分理由的,而缺乏有效管理这些风险的战略,又进一步放大了这种忧虑。面对这一划时代的挑战,美国人民并非无能为力,但这需要一套全面的行动计划,以及对适应性实施作出的持续承诺,而这两者都必须充分利用充满活力的美国创新生态体系来管理生物风险——包括那些可能构成生存性威胁的风险。

作为生物风险管理的一项基础能力,美国需要建立一个覆盖全国的监测系统,无论新出现的病原体是自然产生的还是人工合成的,这套系统都能够提供早期预警。这需要联邦政府和州政府投资建设基础性的感知和采集设施,例如废水监测,并建立一个分布式实验室网络,以迅速处理这些基础设施产生的数据。

这些工具将为迅速识别恶意行为体的努力提供基础,而这对于建立威慑至关重要。虽然某些攻击者,例如单独行动者,不太可能对惩罚威胁作出反应,但如果国家级或者由国家支持的敌手相信,生物攻击永远不会被追查到自己头上,它们就可以肆无忌惮地采取行动。因此,美国建立迅速确定究竟是哪一个敌对方制造了某种生物制剂的能力,是一个国家安全问题。

一个新的、具有韧性的生态体系,将依赖一个能够快速获取、整合和分析数据的骨干系统。这套系统应该归联邦政府所有,但由联邦政府与私营部门伙伴组成的合作联盟共同管理。这将确保美国能够吸收、融合并评估来自全国各地,而且在最理想情况下来自世界各地的人工智能和生物数据流。这一体系将服务于国家安全和国土安全任务,其中包括能够持续识别新出现的生物威胁,了解它们是什么以及能够造成什么影响——例如识别那些与任何已知生物清单都不相符的人工设计病原体——并迅速制定有针对性的应对措施。它必须具备在保密环境中开展工作的能力,提供专门的计算能力和基础设施,用于训练和评估前沿生物模型,并管理敏感生物数据。

美国生物技术公司已经变得越来越依赖中国。

当然,检测和溯源本身并不能阻止疾病传播。一旦发生攻击,华盛顿必须做好立即采取行动的准备,以挽救生命并保护经济。9·11袭击之后,美国总统乔治·W·布什(George W. Bush)建立了国家关键基础设施认定制度,将其应用于化工、金融服务、能源和交通运输等16个行业,使联邦政府和私营企业能够安全共享信息,并制定周密计划,以实现有效的危机管理。现在,生物技术产业应该被认定为关键基础设施行业。作为这项认定的一部分,华盛顿应该为生物技术行业建立一个协调委员会,其成员包括脱氧核糖核酸合成服务商、人工智能模型开发商、基因组数据平台、云实验室运营商以及高等级生物安全实验室。这个组织应该定期与联邦、州和地方政府合作伙伴举行生物事件应对演练,就像电力行业通过演练加强电网安全并建立抵御各种灾害的韧性一样。

通过利用私营部门的更多能力,实现一种热启动”——即让生物创新生态体系预先做好准备,以便在新出现的生物危机发生时迅速扩大其工具和能力的投入——美国应该建立一套应对生物威胁的国家战略战备储备机制。这可以仿效民用后备航空队;当军用飞机出现短缺时,该机制使联邦政府能够迅速调用商业飞机和飞行员。在发生生物威胁的情况下,类似的预先安排将确保联邦政府能够在紧急情况下获得所需的计算能力、实验室设施和人员以及生产能力,以加速发现、设计和开发诊断工具、治疗药物和疫苗,同时获得能够扩大规模的生物制造能力,以生产迫切需要的检测工具、药物和疫苗。尽管《国防生产法》可以使政府获得这些能力,但它无法提供为建立长期韧性所需要的灵活性,而且在危机发生期间才启动这项法律,可能使美国损失宝贵的、甚至可能挽救生命的时间。

作为战备工作的一部分,美国必须改革联邦临床试验流程,因为这一流程过于缓慢和繁琐,无法有效应对生物危机。这个重大瓶颈已经限制了美国生物技术产业的竞争力,并把相关活动转移到中国,从而形成供应链依赖,而这种依赖可能给美国安全带来不祥的影响。美国现在就能够从改革后的临床试验流程中受益,这将帮助美国企业重新获得竞争优势——并帮助华盛顿向潜在攻击者证明,美国能够迅速采取行动并部署应对措施。

如果不能保持全面的技术优势,美国就无法迅速辨明生物攻击的性质,确定它来自何处,并迅速找到通过部署有针对性的诊断工具、治疗药物和疫苗来减轻其危害的办法。这种能力对于降低敌手使用生物武器的信心、塑造全球规范,以及在预防失败时作出有效应对,都至关重要。

与过去时代不同,美国政府已经无法仅凭自身力量维持国家的技术优势。描述和溯源威胁、开发应对措施以及迅速应对新型病原体的能力,将在很大程度上依赖私营部门;私营部门不仅需要成为供应商,还必须成为持久的国家安全伙伴。因此,美国必须维持一个强大的私营部门人工智能和生物技术生态体系,使其了解新出现的危险,并获得与政府合作降低这些危险的激励。

应对这一挑战,需要持续而有意识地努力重建并保护美国的生物技术创新能力。过去五年来,美国企业越来越依赖中国,既依赖用于许多在美国市场销售药品的各种成分,也依赖获取能够治疗或治愈疾病的治疗性分子领域的最新研究成果,从而形成了重大的供应链风险。美国制药行业还在收购大量中国生物技术资产——购买知识产权以及开发中国药物的权利——尤其是在创新疗法领域。与此同时,尽管人们深切担忧北京正在窃取知识产权,美国制药企业仍在竞相向规模庞大的中国国内市场销售药品。

华盛顿可以通过振兴联邦政府对基础科学的资助,并投资培养赢得生物技术竞赛所需的人才,来应对这一挑战并增强美国企业实力。为此,国会应当通过立法,减少日益加深的对华依赖,并通过有针对性的补贴、公共研发投资、税收激励以及其他措施支持美国生物技术和制药行业。这项法案可以部分借鉴2022年的《芯片与科学法案》,后者为具有战略重要性的行业的研究和制造投入了数千亿美元。这些行动还应当与扩大对美国生物技术创新基础设施保护的措施相配套,其中包括加强针对该行业外国投资的国家安全审查程序。还应优先鼓励与立场一致的外国伙伴开展合作研发和生产。此外,国会应立即通过立法,强制要求脱氧核糖核酸合成公司审查客户以及他们订购的序列,以防止恶意行为体滥用这项技术;这项行动需要与全面加强美国生物技术创新行业的努力同步进行,以抵消这些要求可能带来的沉重负担。

迎接这一时刻

病原体不认识国界。所有国家都应共同承担责任,防止恐怖分子和无赖行为体研发并使用人工智能赋能的生物技术实施大规模伤害。但是,如果没有美国的领导,就不可能建立那些能够推动美国在预防和有效危机应对方面利益、并帮助保护整个世界免受人工智能赋能生物攻击的全球机构、制度、规范和实践。为此,美国应与亲密的国际伙伴合作,启动一系列全球生物安全峰会,其模式可仿照2010年至2016年举行的四届国际核安全峰会。议程可以包括制定脱氧核糖核酸合成筛查的共同标准,为安全且具有韧性的人工智能生物技术工具和体系创造市场激励,开展病原体监测,确保供应链韧性,以及推动负责任的人工智能赋能生物技术发展。无论是在这一框架之内还是与之平行进行,中国和美国都应就人工智能赋能生物风险管理建立一个高层级、具有高度技术专业性的对话机制。

在国内,美国的前沿人工智能公司,例如安特罗匹克、谷歌和开放人工智能,已经承诺测试自己的模型,并确保新手用户无法利用这些模型制造生物武器。但这些承诺仍然是自愿性的,其有效性尚未得到证明,而且这些公司的私人利益激励不可避免地会与公共利益发生偏离。美国政府应与前沿人工智能公司和生物技术开发者协调合作,为最先进的人工智能赋能生物模型建立分级访问框架:这类人工智能模型不是用词语和文本进行训练,而是用脱氧核糖核酸序列进行训练,并能够预测、编辑和设计新的蛋白质、细胞和病毒。双方还应合作建立并执行明确的安全护栏,规定这些模型可以生成什么内容。这包括嵌入能够防止恶意生物武器开发的安全功能,以及嵌入能够使此类滥用行为容易被发现的机制。还包括围绕那些有助于构建新型蛋白质和细胞的生物设计工具建立限制,规定这些工具被允许做什么,以及自主实验室被允许如何运行,尤其要明确在人类是否必须始终参与其中以防止滥用这一问题上的规则。

鉴于创新发展的速度,应对这一多维度挑战将是一个持续不断、反复调整的过程。但这并不是美国第一次应对一种新出现的、可能构成生存性威胁的安全挑战。20世纪90年代初,印第安纳州共和党参议员理查德·卢格(Richard Lugar)和佐治亚州民主党参议员萨姆·纳恩(Sam Nunn)携手推动通过了一项具有里程碑意义的立法,使美国能够在苏联解体后防止核武器和裂变材料扩散。国会授权并拨款实施了一系列全面而具有重大影响的行动——其中一些由美国单独采取,另一些通过合作实施——这些行动遍及美国国内和世界各地,确保苏联遗留下来的核遗产没有催生多个新的核武器国家,也确保恐怖分子无法获得苏联核武器,或者获得制造自己的核弹和运载系统所必需的关键部件。

如果今天能够采取同样具有远见的跨党派行动,美国就能够使自己既在开发具有巨大商业价值的生物技术应用方面表现卓越,又能够有效监测、溯源和应对生物威胁。这将要求在私营部门创新与公共利益之间形成协同,并进行灵活而高明的管理。但美国有能力在这两个必须兼顾的目标之间实现平衡。如果建立一个覆盖全国的生物监测网络,并依赖私营企业提供服务,它将持续带来各种收益,包括针对多种风险提供早期预警和溯源能力。如果临床试验体系能够得到转型,它将通过增强美国工业竞争力并把更多生物技术生产迁回国内,使消费者受益。再加上对美国生物制造行业进行投资并提供激励,这些措施将建设起保护美国人免受生物风险所必需的基础设施。反过来,这将使美国能够在遭受蓄意攻击时迅速作出反应,并降低其面对供应链中断时的脆弱性。美国将由此建立威慑,从而降低风险,形成一种良性循环,使美国人能够开始对一个具有生物韧性的未来拥有更大的信心。


浏览(57)
thumb_up(0)
评论(0)
  • 当前共有0条评论