发现ChatGPT被中国用来“反美” 监控“反中”

美国生成式人工智能（AI）巨擘OpenAI廿一日披露，已发现中国利用该公司的AI聊天机器人ChatGPT，助长在海外的影响力活动，包括产生西班牙语的反美假信息; 中国也以AI建立监视工具，即时搜集西方国家社交媒体的反中贴文。

OpenAI发布的安全威胁报告指称，该公司发现有中国团队研发在社交媒体搜集反中贴文的工具。 OpenAI 将此工具命名为“同侪审查”（Peer Review），因有研发者利用ChatGPT为其代码除错。 此外，还有用户以ChatGPT产生营销该工具的宣传文章，宣称可将搜集的反中贴文报告送交中国安全机关。

纽约时报报道，OpenAI首席研究员尼莫指出，这是该公司首次发现这类AI监控工具。 OpenAI已以违反“禁止使用AI进行通讯监视或未经授权个人监控”的政策，封锁相关用户帐户。 尼莫及其团队认为，该监控工具是以Meta公司的开源大型语言模式Llama为基础。

OpenAI也发现，有中国用户利用ChatGPT产生大外宣内容，包括用于攻击中国异议人士蔡霞的英文贴文，以及西班牙语的反美新闻报道。 多篇文章都登上拉丁美洲的新闻网站，其中某些简短评论也出现在X平台。 OpenAI将这项AI大外宣行动称为资助煽动（Sponsored Discontent）。

尼莫表示，这也是OpenAI第一次发现中国大外宣活动将长篇文章翻译为西班牙语后，发布在拉丁美洲媒体，“如果我们不去了解他们使用AI的情况，就无法将那些（X平台）推文与网络新闻文章联系起来。”

OpenAI从去年开始定期发布威胁报告。 在最新报告中，OpenAI表示，已移除多个来自中国与朝鲜的帐户。 不过，报告并未说明移除帐户的数量，也未说明恶意活动发生时间。