Jinhuasan

注册日期:2025-02-21
访问总量:2273057次

menu网络日志正文menu

OpenAI、公共利益与科技治理问题


发表时间:+-

《地缘政治情报服务》杂志今日715日早晨发表了RISE-Israel创始首席执行官兼董事会成员乌里·加拜(Uri Gabai)的评论,标题为“OpenAI、公共利益与科技治理问题。加拜先生特别指出--“OpenAI的发展演变揭示了,治理具有变革性的人工智能越来越需要市场和政府之外的制度

简而言之

? 商业成功增强了人工智能创新,但削弱了治理。

? 前沿人工智能正在塑造经济,并要求承担责任。

? 公私合作的人工智能伙伴关系似乎已不可避免。

过去几个月,埃隆·马斯克(Elon Musk)对OpenAI提起的诉讼,让公众难得地窥见了这家比任何其他公司都更能定义新时代人工智能时代的企业内部运作。大量报道将这场争端描述为一场硅谷恩怨:埃隆·马斯克对阵萨姆·奥特曼(Sam Altman),创始人与创始人的对决,自尊与自尊的较量。经过数周庭审后,此案以一种令人意外平淡的方式结束:陪审团基于时效问题作出了不利于马斯克的裁决,认定他提出诉讼的时间过晚。

但程序上的裁决并没有回答实质性问题。马斯克的主张是,OpenAI的慈善使命已被商业化重组所侵蚀。OpenAI的回应则是,没有资本、基础设施、产品和规模,这一使命根本无法持续。

这场审判揭示了这一问题,却没有解决它。当最前沿人工智能——即那些最先进、需要庞大算力支持的人工智能系统——依赖私人资本、云基础设施、产品收入和战略合作伙伴时,一项公共利益使命还能否继续存在?

这个悬而未决的问题,才是整个故事的核心。前沿人工智能如今已经处于为早期技术建立的制度分类之外:仅依靠非营利治理已无法支撑其庞大的资本需求;它又具有太强的公共属性,无法完全适用于普通资本主义;同时,它在战略上的重要性又使其无法仅依靠监管来治理。

作为首个前沿人工智能试验平台的OpenAI

OpenAI在前沿人工智能短暂的发展历史中占据着独特地位。它推出了首个面向大众市场的大型语言模型(LLM)产品——ChatGPT。它经历了第一次全球瞩目的治理危机——董事会解雇、随后又恢复首席执行官萨姆·奥特曼的职务。它也成为第一家其创立使命在法庭上受到检验的前沿人工智能公司。

因此,OpenAI不仅仅是一家领先的人工智能公司;它还是一个试验平台,世界正是通过它发现了前沿人工智能在制度层面存在的种种矛盾。2015年,它作为一家非营利人工智能研究机构成立,其目标是推动数字智能造福全人类,不受创造财务回报需求的约束

这种模式适合那个时代,因为当时人们最担心的是人工智能研究权力过于集中。一个非营利实验室可以公开发表研究成果、开展合作、制定规范,并作为谷歌DeepMind等企业实验室之外代表公共利益的一种制衡力量。但随着前沿人工智能演变为一场算力竞赛,问题发生了变化。要保持在最前沿,就必须投入数十亿美元用于云计算资源、人才和人工智能超级计算机。

2019年,OpenAI建立了有限盈利结构:设立一个营利部门,用于融资并通过股权激励员工,同时限制投资者回报,并继续由非营利机构正式控制。微软(Microsoft)当年投入的10亿美元投资,使这种权衡变得十分明确:OpenAI只有将自己绑定于一家它原本旨在制衡的超大规模云服务提供商,才能继续追求其公共利益使命。

随后,这种模式不断延续。每一次制度调整,都保护了OpenAI使命的一部分,却削弱了另一部分。有限盈利结构带来了资本,却也引入了投资者的预期。微软提供了算力,却带来了对基础设施的依赖。ChatGPT扩大了公众获取人工智能的机会,却也使OpenAI变成了一个拥有用户、收入和竞争压力的产品平台。董事会于2023年试图罢免奥特曼却最终失败,这表明正式的使命控制机制已经很难凌驾于员工、投资者、客户和合作伙伴所形成的现实力量之上。

ChatGPT让人工智能治理成为公共议题

ChatGPT通过重塑OpenAI的社会角色,改变了OpenAI所面临的治理困境。它于202211月作为研究预览版发布,将OpenAI从一家前沿人工智能实验室转变为一个被广泛用于写作、编程、学习、类似搜索查询以及企业办公的大众平台。

治理问题不仅在于这一系统在技术上能够做什么,更在于它在社会、经济以及国家安全层面扮演什么角色。搜索引擎返回的是链接、摘要和排序,但不会直接决定哪一个才是正确答案。然而,人工智能系统会综合生成答案。它们越来越多地站在用户与知识之间,通过流畅自然的交互界面呈现信息,而许多人体验到的已不再只是一个工具,而更像是一种权威。

这使前沿人工智能同时承担了双重角色。它正逐渐成为知识的中介者,同时也是一种通用型经济力量的平台。它塑造着人们获取信息的方式、专业人士的工作方式、组织作出决策的方式,以及各国未来提供公共服务和发动战争的方式。

Anthropic公司的Claude Mythos Preview从另一个角度说明了这一点。Anthropic表示,“Glasswing项目的合作伙伴将获得Claude Mythos Preview的使用权限,以识别并修复关键软件系统中的漏洞,而更广泛的开放仍将受到限制,因为同样的能力也可能增加网络安全风险。

决定发布还是暂缓发布一个模型,不仅仅是产品决策。

它还可能影响整个安全环境。

20266月发生的一系列事件表明,这种判断不会长期掌握在企业手中。62日,唐纳德·川普(Donald Trump)总统签署了一项行政命令,建立了一项框架,允许人工智能公司在模型发布前最多30天,自愿允许联邦政府对其模型进行安全风险审查。

十天之后,这一自愿框架转变为强制性干预。美国政府对Anthropic公司的FableMythos模型实施了出口管制,要求限制外国公民获取这些模型。由于Anthropic无法实时核实用户国籍,因此暂停了所有用户的访问权限。月底,在就安全保障措施进行谈判之后,这些限制有所放宽。此前,Anthropic针对Mythos Preview曾自愿作出的决定——谁可以使用前沿模型,以及应当在何种保障措施下使用——如今已不再由公司自己决定,而是由国家替它作出了决定。川普政府还基于类似原因,要求OpenAI推迟GPT-5.6的更广泛发布。

在华盛顿看来,这种责任是否能够完全交由企业承担,已经不再是一个开放性问题。

AGI条款:一个具有象征意义的转折点

“AGI(通用人工智能)条款或许是OpenAI制度转型最清晰的例证。

该条款是OpenAI与微软商业合作关系的一部分。其目的,是保护OpenAI未来最强大的技术版本,不被普通商业利益所控制。路透社(Reuters)报道称,根据当时的协议条款,一旦OpenAI实现AGI,微软将失去对OpenAI最先进模型的访问权。该条款正是OpenAI创立承诺的制度化体现:商业合作伙伴可以支持这一征程,但最终目标仍将由公共利益使命所主导。

到了202510月,这一保障机制已被放宽。微软表示,一旦OpenAI宣布实现AGI,将由一个独立专家小组对这一声明进行核实。微软对OpenAI模型和产品的使用权被延长至2032年,并涵盖AGI之后的模型,但须遵守安全保障措施。

20264月的修订则更进一步。微软对OpenAI模型和产品相关知识产权的许可将持续至2032年。OpenAI向微软支付收入分成将持续至2030年,与OpenAI技术进展无关,分成比例保持不变,但设有总额上限。

对于双方合作的经济关系而言,AGI已不再是一个分界点。合同中原本用于摆脱商业化约束的退出机制,被固定日期和设有上限的付款义务所取代。一个具有哲学意义的保障机制,先是变成了需要管理的商业不确定性,随后又变成了一项以日历时间为基础的合同条款。

如今,这种逻辑同样体现在OpenAI迈向基础设施规模融资的过程中。StargateOpenAI的基础设施项目,它将公司与工业规模的数据中心、能源和芯片紧密绑定。此外,20266月,OpenAIAnthropic分别秘密提交了首次公开募股(IPO)申请。一项原本旨在不受创造财务回报需求约束的使命,如今正准备向公开市场股东负责。

合法性正受到质疑

研究与商业化之间,以及私人产品决策与公共后果之间日益模糊的界限,已经开始带来合法性问题。20265月,谷歌(Google)前首席执行官埃里克·施密特(Eric Schmidt)在亚利桑那大学(University of Arizona)毕业典礼上讨论人工智能时,遭到了现场观众的喝倒彩。还有几场赞扬人工智能的毕业典礼演讲,也遭到毕业生的嘘声,因为他们担心这项技术对就业造成冲击。

这一事件释放出一个信号。一项塑造工作、知识、创造力、安全和公共服务的技术,仅靠客户采纳和投资者信心是不够的。

这正是普通资本主义在前沿人工智能领域的弱点。它能够扩大这项技术的规模,却无法单凭自身回答这样一个问题:为什么少数几家私人机构应当充当知识的中介者、重塑劳动力市场,并帮助定义国家能力?

一旦合法性受到质疑,问题就不再是前沿人工智能是否应当受到治理,而是哪一种制度模式能够在不破坏其创新能力的前提下,对其进行治理。

事态发展的可能性

最有可能:公私合作的人工智能契约

最接近的现实类比是国防工业基础。国家通常不会亲自经营工厂。私营企业负责执行、竞争和创新,而政府则作为主要客户,制定安全和可靠性标准,审查所有权和投资,控制出口,并对最敏感的系统保留最终权力。

前沿人工智能可能正朝着类似安排发展:公共算力计划、模型发布前的安全审查、先进芯片及其他关键人工智能投入品的出口管制、数据中心和能源规划,以及国家作为核心采购方。

一项前沿人工智能契约将把这种安排正式制度化。它可能包括:将前沿人工智能实验室及其底层算力设施列为关键基础设施;以具有法律约束力的义务和审计权取代自愿承诺;在不取得控股权的前提下,对特定战略决策赋予特殊公共利益权力;以及将融资条件与相应义务挂钩,因为谁为算力提供资金,谁就会影响实验室能够开展什么工作。

这一类比也存在局限。国防主承包商最终服务于国家,而前沿人工智能实验室则同时服务于企业、消费者和政府。因此,这项契约必须治理的是一项面向大众市场、塑造知识体系的技术,而不仅仅是一家战略供应商。

这并非假设。今年6月初,OpenAI提出,可以向联邦政府提供5%的股权,作为一种类似保险机制的安排,这一想法目前也正在其他人工智能巨头中进行讨论。一位美国政界人士甚至呼吁政府应持有人工智能领军企业50%的股份。

一些国家已经开始对具有战略意义的关键人工智能实施控制——不是通过监管,而是通过采购影响力和安全认定,这种现象被称为战略性控制。五角大楼将Anthropic列为供应链风险就是一个明显例子。

但这种类型的控制,恰恰是人工智能契约所要加以规范的对象。真正的选择,已经不再是私人自主还是国家控制,而是在个案中临时形成的控制,与通过制度章程明确界定、并对双方都具有可执行义务的契约之间作出选择。

短期内较有可能:完全由私人主导的前沿人工智能

这大体上是目前民主国家所采用的模式,但未来几年很可能发生变化。这种模式具有自身优势:速度快、人才集中、产品导向明确、能够获得资本市场支持,并拥有高效的运营文化。其弱点则在于合法性。完全私人化的模式,将部署门槛、安全措施、算力分配、定价、访问权限、产品设计,以及宏观经济和社会影响等关键决策,都保留在企业内部结构之中。

最不可能:全面国有化

如果公众负面情绪进一步上升,各国政府可能会认为,前沿人工智能具有过于重要的战略意义,不应继续由私人机构治理。这种做法将确立公众对一项具有广泛社会影响技术的主导权,但同时也会带来风险:政治化、官僚僵化、安全权力过度扩张、产品导向减弱,以及创新速度放缓。


浏览(50)
thumb_up(0)
评论(1)
  • 当前共有1条评论
  • liucarl

    华尔街有人认为,今年变化快,说不定OpenAI都不能上市。

    屏蔽 举报回复