OpenAI之旅:理想主义的烈焰与现实的挑战

·“除了营利性公司之外,任何其他公司都不是组织公司的正确方式。”

·“这是一个非常糟糕的周末。我没有看到任何明显的赢家。”

在OpenAI的官网上,如今依然能找到2015年12月11日发布的介绍该公司的博客文章。

当ChatGPT去年11月横空出世、震动全球时,其开发机构OpenAI只有7岁。

在OpenAI的官网上,如今依然能找到2015年12月11日发布的介绍该公司的博客文章。“OpenAI是一家非营利性人工智能研究公司。我们的目标是以最有可能造福全人类的方式推进数字智能,不受产生财务回报的需求的限制。由于我们的研究没有财务义务,因此我们可以更好地关注对人类的积极影响。”文章写道。作者是创始人格雷格·布罗克曼和伊利亚·苏茨克维。

8年后,身份是OpenAI董事会成员、首席科学家的苏茨克维主导了一场“政变”,突然将总裁布罗克曼逐出董事会,并解雇了同样是创始人的首席执行官山姆·奥特曼——在过去一年成为人工智能代言人而享誉全球的人物。

这一消息震动全球科技界。OpenAI正如火箭般蹿升,从某种意义上说它设定了整个人工智能行业的风向,而这个行业却前所未有地既发展迅猛又风险巨大。20年来科技界最重大的管理层“地震”并不足以形容此次事件,因为同样被董事会驱逐的苹果公司创始人斯蒂夫·乔布斯和Twitter创始人杰克·多尔西,至少在当时都未处于如此具有非凡意义的行业。

更加富有戏剧性的是,仅仅在几十个小时内,OpenAI就换了三任首席执行官,布罗克曼和奥特曼是否回归公司、董事会是否辞职,一次次悬而未决。而主导罢免行动的苏茨克维最终又表示后悔,决定和几乎所有员工一起辞职。

整个科技企业史甚至所有商业史都难得见到如此奇怪的景象。但这一切的种子,早在2015年就埋下了。

开创:法定责任是对人类负责

上述博客文章反映了浓厚的理想主义气质和脚踏实地的精神:“我们认为人工智能应该是人类个人意志的延伸,并本着自由精神,尽可能广泛和均匀地分布。这个项目的结果是不确定的,工作也很困难,但我们相信目标和结构是正确的。我们希望这对于该领域的佼佼者来说是最重要的。”

文章最后感谢了承诺给予他们10亿美元资助的“金主”们,“尽管我们预计在未来几年内只花费其中的一小部分。”

OpenAI致力于创造能够惠及“全人类”的通用人工智能(AGI)。根据公司的说法,AGI将足够先进,能够在“大多数具有经济价值的工作”上超越任何人。公司的章程指出,OpenAI的“首要法定责任是对人类负责”,而不是对投资者甚至是员工负责。

无论创始人的动机是什么,让OpenAI成为非营利组织的决定不仅仅是说说而已:该公司是一家501(c)3公司。501(c)3是美国税法的一个条款,给于宗教、慈善、教育等组织以免税待遇。比尔·盖茨基金会、美国癌症协会等都属于此类组织。

布罗克曼(左)与苏茨克维。

除了奥特曼、布罗克曼和苏茨克维“三剑客”,特斯拉首席执行官埃隆·马斯克也是创始人之一。当时的马斯克正四处宣传人工智能对人类造成的风险,甚至联系了美国前总统奥巴马。在遇到奥特曼以后,两人一拍即合,决定创办OpenAI,之所以名字里有open(开放),就是因为他们希望实验室的软件是开源的,将努力对抗谷歌在这一领域日渐强大的主导地位。

但这种承诺并没有持续太久。

根据Semafor今年早些时候的报道,2018年,马斯克曾试图接管OpenAI但遭到拒绝。他离开了董事会,也带走了对OpenAI运营费用的支持。这就引出了另一个关键事件:维持大型语言模型的巨量算力需要花钱,奥特曼因而创建了利润上限公司OpenAI Global。

OpenAI Global虽然“被允许寻求和分配利润”,但受非营利组织OpenAI使命的约束。营利性公司的投资者同意其投资回报上限,对于初始投资者来说上限是100倍。

OpenAI网站给出了描述其当前组织结构的图片。

目前OpenAI最大的投资者是微软。从合作协议上看,一旦OpenAI实现了AGI使命,微软就会退出。但微软不仅是投资者,也是客户,并将OpenAI纳入其所有产品中。这就决定了微软的特殊角色。

加速:“低调的研究预览”

下一个关键事件更为重要:2022年11月底,ChatGPT发布。

在本月举行的OpenAI首届开发者大会上,该公司宣布ChatGPT每周拥有超过1亿用户,收入超过10亿美元。过去一年,它从根本上改变了几乎所有大公司和政府关于人工智能的讨论。

但是,对发布ChatGPT的态度并没有在公司内部取得一致。《大西洋》杂志最新一篇文章采访了OpenAI的10名现任和前任员工,称ChatGPT使OpenAI朝着完全相反的方向发展,加剧并恶化了已经存在的意识形态裂痕,即一个群体源自硅谷的技术乐观主义,对快速商业化充满活力;另一个群体深陷对人工智能对人类构成的存在风险的恐惧中,必须极其谨慎地加以控制。

早期OpenAI的办公室。

既然分歧存在,ChatGPT又为何会发布?

根据员工透露,2022年秋天,他们都在为其迄今为止最强大的大型语言模型GPT-4的发布做准备,努力创建支持产品所需的基础设施,并完善政策以决定OpenAI是否允许用户的某些行为。

然而就在此时,OpenAI内部开始流传有关其竞争对手Anthropic正在开发自己的聊天机器人的传闻。Anthropic是一群OpenAI前员工在2020年离开后成立的。3位当时在公司的人士称,OpenAI的领导层11月告诉员工,他们需要在几周内推出一个聊天机器人。为了完成这个任务,他们指示员工发布一个现有模型GPT-3.5,并配备了基于聊天的界面。领导层小心地将这一努力描述为不是一次产品发布,而是一个“低调的研究预览”。通过将GPT-3.5交到人们手中,奥特曼和其他高管表示,OpenAI可以收集更多关于人们如何使用和与人工智能互动的数据,这将有助于公司指导GPT-4的开发。

这种方法也符合公司的策略:逐渐向世界发布技术,让人们逐渐适应它们。包括奥特曼和首席技术官米拉·穆拉蒂在内的高管反复向媒体表示:OpenAI需要让“数据飞轮”转起来。

在OpenAI内部,“低调的研究预览”这一说法立即成为了一个热门梗,员工将其制成了笔记本电脑贴纸。

ChatGPT的飞速成功给公司带来了巨大的压力,加速了为利润而创造产品的竞赛,同时给公司的基础设施和专注于评估和缓解技术风险的员工带来了前所未有的挑战。

来自研究团队的计算能力被重新分配,以处理流量激增。OpenAI的服务器多次崩溃,流量监控工具也屡屡失效。公司内的安全团队推动放慢进程,以努力完善ChatGPT,拒绝某些类型的滥用请求,并对查询作出更合适的回答。

与此同时,产品部门希望借助这股势头加大商业化力度。公司雇佣了数百名员工,以积极扩大公司的产品供应。但一系列新产品使情况变得更糟:流量监控工具的功能严重滞后,API(应用程序编程接口)平台上的欺诈行为激增。一些员工甚至出现了心理健康问题。沟通不畅,员工只有在Slack上注意到同事消失后,才发现他们已经被解雇。

而专注于人工智能安全挑战的“对齐”团队也感到沮丧,他们对GPT-4发布和广泛集成到其他产品的速度感到不安,认为自己所做的人工智能安全工作还不够。

员工们共同描绘了这样一个画面:随着时间的推移,盈利部门商业化的压力日益增加,与公司的既定使命发生了冲突,直到ChatGPT和其他紧随其后的产品发布使一切达到了顶点。

崩裂:奥特曼与苏茨克维

最高的顶点可能就在今年11月6日的OpenAI首届开发者大会。消息人士称,奥特曼宣布允许任何人创建自定义的GPT,激怒了苏茨克维。

苏茨克维曾在Google Brain工作,被奥特曼花费巨大力气挖到了OpenAI。这位以色列裔加拿大计算机科学家在“AI教父”杰弗里·辛顿的指导下取得了一系列惊人成就,包括共同发明了卷积神经网络AlexNet。辛顿今年辞去企业职务,大声疾呼人工智能给人类生存带来的威胁。多年来,他一直与苏茨克维保持密切联系。

奥特曼与苏茨克维今年6月在以色列的一个活动上。

苏茨克维在公司内部也开始表现得像一个精神领袖,3名与他共事的员工告诉《大西洋》。他不断热情重复的口头禅是“感受AGI”。在OpenAI 2022年的假日派对上,苏茨克弗带领员工高喊:“感受AGI!感受AGI!”他也越来越与公司内部关注存在风险的派系结盟。

苏茨克维对安全问题的担忧越来越直言不讳,并在7月组建了一个“对齐”团队,以开发更多人工智能安全技术,并为本世纪可能到来的AGI做准备,公司将为此专门分配20%的现有计算芯片。

在“对齐”团队成立后不久,OpenAI发布了强大的图像生成器DALL·E 3。消息人士透露,苏茨克维和奥特曼的紧张关系在10月以后加剧。然后,公司在开发者大会上宣布推出GPTs,用户无需编码就可构建ChatGPT的定制版本。紧接着,OpenAI经历了一系列停机事件,微软因安全担忧暂时限制员工访问ChatGPT。

与此同时,奥特曼持续地为OpenAI造浪,他告诉《金融时报》公司已经开始研发GPT-5,还在寻求从软银和中东投资者那里筹集数十亿美元,以建立一家芯片公司,与英伟达等半导体制造商竞争并降低OpenAI的成本。

压垮骆驼的最后一根稻草终于来了。

死亡:治理模式的矛盾逻辑

对于一家正在谈判以高达860亿美元估值出售股票的公司来说,理念上的分歧通常不会让它走向灭亡,但正如前面所说,OpenAI不是一家普通公司,它的董事会也不是普通董事会。

OpenAI的董事不持有股权或其他报酬。奥特曼本人只是通过他之前担任Y Combinator总裁的“小额”投资间接持有股份。董事的关键信托责任不是维护股东价值,而是公司的使命——创建安全的AGI,利润对于这一使命来说是次要的。

根据Wayback Machine网站的存档版本,继今年早些时候一批董事离职后,OpenAI于7月首次在网站上发布了现任董事会名单,包括布罗克曼、苏茨克维和奥特曼3名联合创始人,其余3人都不是该公司员工,分别是问答网站Quora的首席执行官亚当·德安吉洛、地理空间技术初创公司GeoSim Systems的创始人塔莎·麦考利和乔治城大学安全与新兴技术中心的战略和基础研究主任海伦·托纳。

“这些人并不是你想要的管理世界上最重要的私营公司的商业或运营领导人。”一位专注于人工智能的风险投资家评价称。

就是这些人,在没有提前通知投资者的情况下突然告之奥特曼被解职、布罗克曼被逐出董事会,甚至通过Google Meet这样的线上会议工具完成这一切。

但是没有人否认,董事会实际上正在按照章程履行其职责:在董事会认为奥特曼和他的派系没有“构建造福人类的通用人工智能”的范围内,它有权开除他。尽管违背直觉:奥特曼是硅谷人脉最广的高管之一,也是一位多产的筹款人和交易撮合者,拥有OpenAI员工的绝对忠诚,几乎所有高层和员工都愿意追随他而去,连苏茨克维都改变了主意。

所以整个OpenAI的治理结构显得如此尴尬。正如知名科技博客Techtris所写:“一组逻辑告诉你:做研究是昂贵的,如果你有钱,做昂贵的事情会容易得多。收入是独立性的最佳保证,因此OpenAI应该将其拥有的技术货币化,以便成为现在人工智能和人工智能安全辩论的主要参与者,并为真正的通用人工智能的工作提供资金。”

“另一组逻辑告诉你,今天的商业干扰和妥协将阻止本应继续建设未来的工作——无论这意味着更加努力、更快地专注于开发通用人工智能,还是首先停下来研究如何安全地做到这一点。”

在这两组逻辑的矛盾中,OpenAI目前的治理模式显然已经死亡,无论奥特曼是否会回归该公司。如果他得以回归,是否愿意容忍对自己权力的限制,使管理层继续在脆弱中重复此前的错误?如果他不回归,OpenAI至少95%的员工已表示将离开,最终留下一个空壳。

未来:暂无明显的赢家

如今,微软正处于关键地位。它以极快的速度宣布接纳奥特曼和布罗克曼,并承诺给于相对独立的运营地位。这相当于,微软以0美元的价格收购了OpenAI,反垄断诉讼的风险也为0。与此同时,微软的收益就是OpenAI的损失。

11月6日,微软首席执行官萨蒂亚·纳德拉出席OpenAI首届开发者大会。

为了获得巨大的短期利益,微软将其未来的很大一部分押在了与OpenAI的合作伙伴关系上,尽管其中大部分投资尚未支付,或以云服务Azure的积分形式授予。OpenAI的技术内置于微软的一整套产品中。该公司已经拥有所有OpenAI IP的永久许可,包括源代码和模型权重。微软还大量投资于为OpenAI定制的基础设施,并且刚刚发布了一款专为运行OpenAI模型而调整的定制芯片。

“最终的结果是,一个致力于人工智能安全发展的实体基本上已经将其所有工作以及(可能很快)其相当一部分人才移交给了地球上最大的营利性实体之一。或者,在人工智能相关的框架中,OpenAI的结构最终与履行其既定使命不一致。”知名科技评论家本·汤普森认为,“长期以来,获取自身利益一直是个人和公司结盟的最佳方式,这是有充分理由的。”

换句话说,虽然OpenAI董事会可能拥有非营利组织的章程,并且有令人钦佩的行动意愿并坚持自己的信念,但他们最终没有影响力,因为他们不是一家有资本的营利性公司从而实现真正独立。

汤普森断定,除了营利性公司之外,任何其他公司都不是组织公司的正确方式。

截至目前,微软首席执行官萨蒂亚·纳德拉仍在等待OpenAI董事会做出最终抉择:集体下台让奥特曼回归,还是放任奥特曼和OpenAI员工前往微软。

如果奥特曼进入微软,就是两个占据人工智能主导地位的实体强强联合。但Cloudflare联合创始人威廉·普林斯并不同意微软就是赢家。他认为,在此之前,微软通过投资抓住了OpenAI大部分的上升空间,同时仍然保持了足够的距离避免被监管机构追责。即使现在微软能够吸收OpenAI的人才,但OpenAI的高层人员在3年内仍然留在微软的机会会逐渐接近于零。“OpenAI的独立性和明确的使命正是能够让这群令人难以置信的人才长期保持积极性和一致性的因素,但让Office365电子表格变得更加聪明并不能凝聚像他们这样的团队。当然,他们会尝试拥有一定程度的独立性,但价值数万亿美元的商业软件巨头的机制很难不陷入困境并被淘汰。”

与此同时,谷歌公司可能需要做出一些重大改变,该公司的最新大模型Gemini已被推迟发布,而且随着支出转向人工智能,其云业务一直在放缓。

Anthropic曾一度看起来像是大赢家,但现在作为一个独立实体却感觉越来越脆弱。该公司已与谷歌和亚马逊达成合作协议,但现在可能面临微软更有力的竞争。

“如果有一家公司准备加入(科技)五巨头的行列,那一定是OpenAI,这要归功于ChatGPT,但现在看来可能性较小(但并非不可能)。”汤普森认为。

“这是一个非常糟糕的周末。我没有看到任何明显的赢家。”普林斯在X上写道。

最后的话

无论奥特曼留下还是离开,都无法解决人工智能发展中存在的一个危险缺陷。

“尽管奥特曼和其他人对监管表示口头支持,并说他们欢迎全世界的反馈,但这个动荡的周末展示了在可能是我们时代最重要的技术进步上,实际上有多少人能发表意见。人工智能的未来正被富有的技术乐观主义者、狂热的末日论者和数十亿美元的公司之间的意识形态斗争所决定。”《大西洋》评论称,“OpenAI的命运可能悬而未决,但公司的自负——它的名称所代表的开放性——显示了其局限性。”

据两位了解情况的人士透露,苏茨克弗曾委托当地艺术家制作了一个木制雕像,意在代表一种“不对齐”的人工智能——即不符合人类目标的人工智能。他将其点燃,象征着OpenAI对其创立原则的承诺。

几天前,苏茨克弗用OpenAI的初衷在董事会再次点燃了烈焰,随之而来的是七百多名员工海洋般的离职潮,现在连他自己也跳进了潮水。

左起:山姆·奥特曼、米拉·穆拉蒂、格雷格·布罗克曼和伊利亚·苏茨克维。