奥特曼重返OpenAI 好人得胜?他可能没那么善良

远见 2023-12-01 17:50+-

OpenAI奥特曼一夕被开除,又在获得700名员工簇拥下光荣回返;曾经背刺他的共同创办人也忏悔....。这个震惊全球的硅谷内斗事件,在外界舆论的讚颂中,似乎迎来“好人赢了”的结局。然而,爬梳宛如Netflix电影的事件细节,诸多线索显示,奥特曼可能没那麽善良。未来,当他回锅后,有可能反让OpenAI组织走向“更不多元,也不公平正义”二部曲;全球人工智慧的发展,也会带来负面衝击?

就像是Netflix上的热门大戏播出结局,原本准备要加入微软的奥特曼(Sam Altman),得到OpenAI超过9成员工支持,宣布回归OpenAI,重新出任执行长一职。从奥特曼的角度来看,可谓双喜临门,因为把他赶走的4位董事会成员中,其中3位去职,另外加入2位新董事会成员,堪称是王者复仇记。不过,这会是一齣“好人胜利”的剧本吗?事情恐怕没有那麽简单。

无论从奥特曼个人,或者从OpenAI的组织角度来看,有3大隐忧:OpenAI组织未来再无煞车可踩、新董事会成员组成反映出的世界观引发议论,以及奥特曼离职背后真相尚待调查。

组织结构设计特殊,就是为了避免OpenAI走偏

“董事会有权开除我,这很重要。”奥特曼说。这是今年6月彭博社的科技高峰会上,奥特曼面对主持人张秀春(Emily Chang)向他提问时,给出的回答。

张秀春质疑奥特曼,“你拥有巨大权力,我们为何应该信任你?”

奥特曼诚恳地说,人们不该信任他,他同意自己拥有巨大权力,因此任何人都有权向他尽可能地提问。他进一步强调,人们不该相信任何一个人,由制度设计避免滥权,比相信个人更为有效,举例来说,他个人没有、也不想要超级投票权的股份(super voting share),OpenAI组织也有多层结构,都是为了确保董事会能够监督公司发展的明证。

奥特曼重返OpenAI 好人得胜?他可能没那么善良

奥特曼回锅后,有可能反让OpenAI组织走向“更不多元,也不公平正义”二部曲;全球人工智慧的发展,也会带来负面衝击?(欧新社)

“我们的公司结构如此怪异(weird),就是因为这些技术会对全人类有益。”考虑到自家公司技术的影响力,未来董事会的决策权甚至应该逐渐民主化,分散至所有人类。奥特曼自己也并不直接持有OpenAI的股权。

如同奥特曼今年世界各地巡迴时所说,人工智慧能带来巨大效益,但发展速度太快,也有可能危害社会。他高声向美国国会要求监管,OpenAI发表报告讨论先进人工智慧模型应该要有安全标准,甚至联合Google、微软在内的科技巨头,向白宫自愿签署安全协议。

考虑到OpenAI可能是现有公司中,离科学家们引颈期盼的圣杯-通用人工智慧(AGI),最为接近者,OpenAI对造福人类的愿景、公司结构独特的设计,还有董事会内部组成的独立性与权力,都让人安心。

OpenAI的制度是有效的吗?不到半年,董事会很快发挥作用,将奥特曼开除。

不过,股东们如微软和其他投资人事前不知情,员工也不买帐,直接向董事会发起连署,警告董事会若不找回奥特曼并自行请辞,就会集体出走。虽然奥特曼回锅,让他自己、拥戴他的属下,还有投资人都满意,但这无疑损害了未来董事会发挥煞车功能的价值。

如果未来董事会发现,OpenAI已经打造出AGI,但公司员工已经忘记创办时照看安全与风险的初衷,又或者出现滥用、恶用风险时,谁还能挡得住奥特曼与一心追随他的员工?

董事会成员名单有争议,观点也不够多元

不仅如此,OpenAI董事会成员变化也令人担心。奥特曼和原总裁布罗克曼(Greg Brockman)因为此事件离开董事会以后,董事会成员从6人变成4人,包含首席科学家萨斯凯博(Ilya Sutskever)、Quora创办人迪安吉罗(Adam D’Angelo)、GeoSim系统公司执行长麦考利(Tasha McCauley)和人工智慧学者托纳(Helen Toner)。

当奥特曼重返OpenAI,仅剩下参与开除奥特曼的迪安吉罗留任,对人工智慧发展有一定担忧的成员全都离开董事会,另外加入前美国财政部长桑默斯(Larry Summers)和科技业打滚多年的泰勒(Bret Taylor),接下来会再加入其他董事,同时新董事会也会调查奥特曼被开除的真相。

其中,桑默斯在许多人眼中争议很大。担任哈佛大学校长时,他曾说科学领域高层中女性较少“可能跟(女性的)内在能力(intrinsic aptitude)有关,”在世界银行(World Bank)担任首席经济学家时,则在备忘录中写下“在工资最低的国家,倾倒大量有毒废物背后的经济逻辑是无可挑剔的,”鼓励已开发国家将污染环境的生产,迁移到发展中国家。在美国财政部任职时,他放鬆对衍生性金融商品的管制,点燃日后金融风暴的未爆弹。当然,并非所有人都反对桑默斯的观点,他广泛得到政商界的赏识,奥巴马政府和拜登政府都向他求教,他也替银行提供顾问服务。

除此之外,在担忧人工智慧发展安全性的成员离开之后,考虑到董事会现有组成清一色男性,又都只能反映出科技圈或者桑默斯类型的观点,这样的OpenAI,还会是当初那间看到Google忽视人工智慧安全性、因此成立的非营利实验室吗?

最后,则是对于奥特曼离职事件的调查。近期不断有内部消息流出,表示奥特曼离职背后是因为OpenAI已经秘密开发出拥有巨大突破的Q*专案,但尚未得到证实。调查能够带来真相吗?这种内部调查可大可小,要看董事会愿意授予多少权力、提供多少空间给独立调查单位。

这并不是一齣“好人胜利”的剧本。未来奥特曼说的话会更受检验,人们也会更加关注董事会的组成与实质功能,失去煞车的OpenAI,恐怕也会更令人担忧。