DeepSeek被各方揭丑 已千疮百孔?
中国的AI公司“深度求索”DeepSeek爆红后,它的自我审查机制,执行中共叙事逻辑,以及技术抄袭,数据安全问题被越来越多地揭露出来,引发普遍争议。包括美国在内的多个国家采取措施,限制对DeepSeek的使用。
美国众议院情报委员会成员高特海默(Josh Gottheimer)提出,要立即禁止在所有政府设备上使用DeepSeek,要将DeepSeek的危险在民众中广而告知。
目前DeepSeek在意大利的苹果(Apple)和谷歌(Google)应用商店已经下架。
而“中国移动”在2019年是被美国列为国家安全威胁名单里的电信商。“中国移动”由中共掌控,美国联邦传播委员会(FCC)基于用户数据和国家安全考量,禁止“中国移动”在美国提供服务,“中国移动”随后于2021年从纽约证交所除牌。
查林尼的研究也发现,DeepSeek网站版本会为每位用户建立数位指纹,不仅追踪用户在DeepSeek网站内的活动,还能持续监控其后续的所有网络行为。
韩国国家情报院也证实,DeepSeek不仅能把聊天记录发送到其它地方,而且具备搜集键盘输入模式的功能。此功能可用来辨识个人身份,并将资料发送至中国企业服务器。
此外,AI安全专家发现DeepSeek还存在另一个重要问题,就是缺乏防止生成恶意内容的最低限度的防护措施。
《华尔街日报》报道,AI专家和相关测试发现,DeepSeek比西方竞争对手OpenAI的ChatGPT、Google的Gemini和Anthropic的Claude更容易被诱导发生“越狱”,更容易讨论危险话题。
DeepSeek发生“越狱”的案例包括:提供制作燃烧瓶的详细说明、如何逃避执法的建议、生成制作恶意软体,甚至向青少年推广自残自伤的社媒活动。
DeepSeek不仅存在用户隐私和数据安全问题,而且更加引起国际社会高度警觉的是DeepSeek的内容审查机制,它照搬和强化中共宣传和说辞,被外界视为是中共箝制言论、操控国际舆论的又一个工具。
台湾人工智慧实验室创办人杜奕瑾向美国之音表示,近年来国际社会已经对中共利用社群软体算法操弄舆论的威力有所警惕。相形之下,DeepSeek不仅存在更多层次的偏见和思想审查,还可以追踪并搜集个资,储存在中国境内,因此无疑是必须严肃看待的资料安全、认知战与超限战的议题。
有报告指出,当DeepSeek被问及中共敏感或者避讳的问题时,要么不回答,要么在显示推理回答后不久,突然自动删除,然后要求使用者改变话题。当被不同提问方式追问时,会换上中共在相关话题上的陈述,几乎与中国外交部官方声明如出一辙。被测试的话题包括1989年天安门事件、俄乌战争、疫情清零等等。
杜奕瑾指出,这显示它不仅从资料搜集层面就出现偏见,还会针对中国议题,强化拥护中共的论述,但凡遇到在中国“不该讲”的内容,立刻删除并转移话题。如果DeepSeek能像社媒一样被人们广泛地使用,必然成为中共控制人的思想和言论的有力工具。
台湾大学机械工程学系教授林宗男告诉美国之音说,从控制舆情的角度,生成式人工智能对于语言、文字的能力,是胜过一般人类的,所以当中共掌握了这个技术,他在生成扭曲的资讯的时候,就像握了一把屠龙刀,更强化对国内人民的控制。
就在DeepSeek的各种问题持续在国际上被曝光时,周一(2月10日)在巴黎人工智能(AI)全球峰会期间,谷歌的AI首席执行官哈萨比斯(Demis Hassabis)表示,DeepSeek所报告的AI研发成本,可能只报了一部分成本,也就是最后一次训练的成本,而非总体成本。
哈萨比斯说,在最终训练之前,还需要投入大量资源来进行探索、测试和训练。
DeepSeek公司声称,其使用旧款辉达(Nvidia,英伟达)芯片训练模型的计算成本为560万美元。许多研究人员对这一说法提出质疑。
半导体研究和咨询公司SemiAnalysis在1月31日发表的一份研究报告中说,DeepSeek仅在GPU方面的硬件支出就超过5亿美元,服务器总资本支出约为16亿美元,其中高达9.44亿美元用于运行其芯片集群。
哈萨比斯还指出,DeepSeek的AI模型的许多功能“被夸大了,甚至有些误导”。他认为,DeepSeek通过对西方现有的AI模型的输出进行微调来训练它的AI,不具有任何颠覆性的技术突破,或者新的技术发明。
美国商务部长提名人卢特尼克(Howard Lutnick)曾抨击DeepSeek公司窃取美方技术,并称DeepSeek使用美国人工智能(AI)模型及辉达公司(NVIDIA)的芯片进行开发,他表示上任后将阻止这种行为,维护公平竞争。