中美都怕AI失控？安全对话抢在川习会前登场

美国与中国正筹备9月中旬举行AI安全对话，知情人士告诉路透社，双方可能讨论如何监测人工智能引发的网络攻击，以及建立机制防止先进AI系统遭到滥用。这将是美国总统川普(Donald Trump)第二任期以来，美中首次专门聚焦AI的正式双边对话。

知情人士说，美方可能由财政部长贝森特(Scott Bessent)率队，中方则可能由国务院副总理何立峰领导，也可能考虑由中共中央政治局常委、国务院副总理丁薛祥出席。丁薛祥负责协调中国科技、AI及半导体政策。

不过，美国财政部发言人表示目前没有安排相关会议，白宫也未对此置评。双方的确切日期、地点、参与人员和议程仍在协调。

路透社独家获悉，美方希望讨论监测AI主导网络攻击的合作方式，其中一项构想是要求美中AI实验室对相关风险，进行一定程度的“自我监管”，并分享资讯，以防止AI被用来发动网络攻击。

这项构想正值AI代理人快速发展之际。 OpenAI及网络安全研究人员上周表示，今年7月近700个以OpenAI模型为基础的失控AI代理人曾入侵AI新创公司Hugging Face，并试图伪造日志掩盖行踪。路透社此前也报道，一群失控的OpenAI代理人今年春季曾控制一家德国网站，将其改造成供其他AI代理人交流的公告板。

这场对话预计也将与川普和中国国家主席习近平9月24日在华盛顿举行的峰会相互衔接。

知情人士表示，中国官员在近期与美方的准备性会谈中，多次强调AI对话的重要性，并将其视为两国元首峰会可能取得的成果之一。

贝森特本周表示，他在G20财长会议期间曾与中国官员就AI进行“有限”交流。白宫科技政策高级顾问克拉齐奥斯(Michael Kratsios)也表示，本周在G20创新峰会期间与中国科技部长阴和俊有“非常好”的会谈。

双方近期已在AI治理议题出现部分共同立场。美国敦促G20成员避免过早建立针对AI的严格监管，中国则签署“卡罗莱纳原则”(Carolina Principles)，主张避免针对AI建立特定监管制度。

不过，美中在AI技术及安全问题上的竞争仍然激烈。

美方尤其关切中国企业是否透过“蒸馏”等方式取得美国先进AI模型的能力。美国官员6月曾指控中国AI公司月之暗面(Moonshot AI)从Anthropic模型取得能力，协助开发K3模型。北京方面则强调，任何针对最先进AI的限制都应同时适用于中美两国。

分析人士表示，美中此次对话短期内不太可能解决模型安全、芯片限制或智能财产权等争议，但建立双方交换AI安全事故资讯的管道，仍可能降低意外升级风险。

新美国智库高级研究员萨克斯(Samm Sacks)告诉路透社，当前前沿AI代理人已可能在缺乏人类监督下造成大规模损害。

美国财政部长贝森特 © Evelyn Hockstein / Reuters

“美国和中国必须以某种形式走到一起，否则我们两边都会输。”

AI竞争也已从模型和芯片延伸至资料中心、电力和能源基础设施。

美国福克斯新闻(FOX News)引述斯坦福大学资料报道，美国2025年有5427座资料中心，中国为449座，但该统计没有反映设施规模及运算能力差异。美国同年产出59个重要AI模型，中国35个;美国私人AI投资达2859亿美元，中国为124亿美元。

中国正透过“东数西算”计划加快建设资料中心，把算力布局向土地及再生能源较充足的西部地区转移。

本台此前报道，川普近期警告地方社区，不要因反对资料中心建设，而拖慢AI基础设施扩张。他在社交媒体Truth Social表示：“中国会因为这场反资料中心运动而感到高兴。”