挡住AI“暴走” 北京过度自信
虽然美国与中国在科技领域互相竞争，但据消息人士透露，华府正准备在9月举行的川习会上，向中国提出人工智慧（AI）安全方面的疑虑，聚焦如何遏止由AI驱动的网络攻击、模型蒸馏、开放权重模型治理等议题，而中方则可能重新提及限制其取得先进芯片的美国出口管制。虽然矽谷呼吁加强合作，但受限于美方政策红线与内部产业分歧，双方能否达成实质共识仍面临诸多考验。
华府虽把AI安全列入川习会议题，但双方怎么谈、谈什么也很重要。3名熟悉此事的人士向《日经亚洲》透露，几名美国科技业高层已敦促美国财政部长贝森特（Scott Bessent），在美中AI对话中扮演主导角色。其中1名人士表示，贝森特同时也参与美中贸易谈判，有意与中国就AI议题展开具建设性的讨论，据报贝森特还协助提出一项方案，成立一个负责监督AI模型安全的自律机构。
路透社9月4日报道，贝森特预计将在9月中旬主导与中方举行的对话，讨论如何因应AI安全风险。
业界希望由贝森特主导与中方举行的对话，但对于谈什么的看法却不一致。消息人士表示，微软前首席研究长芒迪（Craig Mundie）以个人身分提出的方案，是即时监控代理式AI（agentic AI）的活动，并与中方建立一套框架，以防止网络攻击。
但分析人士认为，若要真正采取有意义的联合行动，仍面临重大障碍。华府智库“布鲁金斯研究所”（Brookings Institution）研究员陈凯新（Kyle Chan）表示，“整体而言，我的期待非常低，我不认为双方会达成任何重大协议。美国有很多负面议题想向中国提出，包括模型蒸馏（distillation），甚至可能讨论限制或禁止中国AI模型进入美国。”
华府及美国大型AI实验室先前曾指控，中国企业“深度求索”（DeepSeek）与“月之暗面”（Moonshot AI）曾以“蒸馏”（distillation）的训练方式，窃取美国模型的能力。这种做法是直接利用ChatGPT、Claude等美国先进AI实验室模型产生的输出内容，来训练自己的模型。
虽然美中在AI领域竞争激烈，但矽谷内部其实反对“全面封杀中国AI模型”，因为中国的“开放权重（open-weight）技术”在某些关键时刻发挥了“防御与安全”的作用。例如，美国OpenAI内部的AI代理最近居然联合起来，入侵知名的开源AI模型平台Hugging Face，突显出中国开放权重技术的防御能力。开放权重是指厂商把训练完成的模型参数公开释出，你可以下载、检视、修改，并在自己的硬体或基础设施上运行模型。
一名熟悉相关讨论的消息人士表示，开放模型的网络安全能力，以及该如何治理这类模型，都已被提议列为这次峰会的议程。另一名消息人士则表示，芯片和其他关键技术的出口管制等议题也曾被提出。
美忧中国高估“防火长城”央视：AI安全不能单方面定义
在近期一场有中国高官、美国智库人员与企业领袖参与的会议上，美方代表提醒北京，不要依赖中国的“防火长城”（Great Firewall）来因应AI相关风险。一名熟悉相关会谈的人士表示，“中国领导层似乎过度自信，认为他们的网络防火墙可以保护中国，免受AI生成的入侵，以及恶意行为者所带来的威胁。”
中国官媒央视的官方社交媒体帐号“玉渊谭天”则呼吁，应对模型安全作出“科学的定义”，而非由“单一国家或单一企业片面强加”标准。“玉渊谭天”8月31日刊登的一篇评论，针对美国AI企业Anthropic提出多项批评，包括其Claude聊天机器人涉及的隐私疑虑。Claude和ChatGPT一样，目前都无法在中国使用。这篇评论指出，“对于真正可能造成严重危害的能力，可以进行联合测试，并采取共同限制。”
美国总统川普5月14日在北京人民大会堂与中国国家主席习近平握手。(法新社)
美国AI业界内部分裂 对中强硬派与合作派各有盘算
不过，科技业高层究竟能在多大程度上影响川普政府的立场，目前仍存在疑问。华府智库“新美国安全中心”（Center for a New American Security, CNAS）资深研究员史托克斯（Jacob Stokes）表示，许多民间企业高层积极想前往北京、提出合作方案，但他们的企图往往与华府的政策红线并不一致。他表示，“我认为，在AI事故方面进行有限度的资讯交换，还是存在一些谈判空间。不过，基于商业与情报方面的考量，这件事必须非常谨慎处理。”
顾问公司DGA欧布莱特石桥集团（DGA-Albright Stonebridge Group）合伙人崔欧洛（Paul Triolo）表示，美国主要AI企业之间缺乏更广泛的共识，可能让任何外交进展变得更加复杂。他表示，“美国AI产业目前分裂得很明显，一边是对中国立场比较强硬的顶尖AI实验室，另一边则是其他业者。”并补充，“不过，也有一些人，特别是在AI安全领域，已经意识到，如果没有美中合作，就很难真正找到任何全球性的解决方案。”
然而，在峰会举行前，AI并非北京与华府之间唯一的关键议题，双方仍在伊朗冲突和台湾问题上持续交锋。