OpenAI的新AI模型:威胁人类还是守护者?探究奥特曼的隐藏秘密

本文来源:时代周报 作者:郭美婷

11月22日,OpenAI“宫斗剧”又迎来逆转。

OpenAI宣布,已经原则上达成协议,奥特曼重返公司担任CEO,“并组建由董事会主席Bret Taylor、Larry Summers和Adam D'Angelo组成的新董事会。”OpenAI在声明中指出,正在合作商讨有关细节,感谢耐心等待。

奥特曼随后转发了这条消息,并回应称:“我爱OpenAI,过去几天我所做的一切都是为了让这个团队及其使命团结在一起。当我决定在周日晚上加入微软时,很明显,这对我和团队来说都是最好的途径。在新董事会和微软CEO的支持下,我期待着回到OpenAI,并建立与微软的牢固合作伙伴关系。”

紧接着,前任OpenAI董事长、总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)、微软公司CEO、董事长萨提亚·纳德拉(Satya Nadella)纷纷表态支持。布罗克曼表示将回到OpenAI,今晚开始编码。后又晒出照片,并配文“我们回来了”。

图源:布罗克曼社交平台

纳德拉则表示此举是OpenAI迈向稳定治理的第一步,“期待在强大的合作伙伴关系的基础上,为我们的客户和合作伙伴提供下一代人工智能的价值。”

自奥特曼17日被开除出局、20日宣布加入微软,到同日OpenAI九成员工联名要求董事会下台,再到最后奥特曼重新掌权。这场震惊硅谷的“宫斗大戏”或许暂时画上了句号。

不过,关于奥特曼之前被赶出OpenAI的真正原因,外界的猜测仍在继续。截至发稿前,路透社发布最新独家报道称,此事或与OpenAI在一项强大的人工智能上取得突破相关。

谁离场了?

奥特曼官宣回归后,埃隆·马斯克调侃道:“这些人忙活了几天但其实什么都没做。”事实真的如此吗?在奥特曼一进一出后,OpenAI发生了什么变化?

“解雇董事会成员”是奥特曼回归OpenAI的重要先决条件。从最新公布的名单看,董事会确实进行了一番大换血。

图源:OpenAI社交平台

对比原董事会组成,离开的人包括乔治城安全与新兴技术中心战略和基础研究基金主任的海伦·托纳(Helen Toner)、OpenAl联合创始人兼首席科学家伊利亚·苏茨克弗(Ilya Sutskever)和机器人公司企业家塔莎·麦考利(Tasha McCauley)。

三人中,苏茨克弗对此消息并未置评,他初期参与了罢黜奥特曼的行动,但后来却签署了让奥特曼复职的联名信。麦考利没有公开其社交平台。

托纳则在转发新董事会消息时配文称:“现在,我们都可以睡一觉了。”

图源:托纳社交平台

据《纽约时报》报道,奥特曼被免职前不久曾与托纳发生过争吵,甚至一度想将托纳赶出董事会。原因是托纳在与人合著的一篇论文中批评了OpenAI的安全性,又赞扬了竞争对手Anthropic。

尽管托纳辩称这是一篇学术论文,旨在分析公众试图了解公司开发AI技术的意图时所面临的挑战。但奥特曼仍然认为这对公司而言是危险的,尤其是在联邦贸易委员会(Federal Trade Commission)调查OpenAI构建技术所使用的数据的时间点。

事实上,外界一直在猜测奥特曼此前被革职的真正原因。

11月23日,据路透社独家报道,在奥特曼被罢免的4天之前,几位研究人员向董事会发出一封信,警告称OpenAI的一个强大的新人工智能模型——Q*(Q-Star)可能威胁人类。消息人士透露,首席技术官米拉·穆拉蒂(Mira Murati)告诉员工,一封关于AI取得突破的信件促使董事会采取了解雇行动。

外界猜测,这可能是导致奥特曼被解雇的原因之一——在了解该人工智能带来的后果之前,董事会表达了对安全性的担忧,并对奥特曼感到不满。

在11月17日OpenAI发布的公告中,前董事会对奥特曼措辞也颇为严厉,暗指奥特曼隐藏了“秘密”:“奥特曼先生的离职是董事会经过深思熟虑后做出的决定,董事会认为奥特曼先生在与董事会的沟通中不够坦诚,妨碍了董事会履行职责的能力。董事会不再相信他有能力继续领导OpenAI。”

根据爆料,这个被称为Q*的模型能够解决某些数学问题,这意味着人工智能将拥有类似于人类智能的更强推理能力。这引发了OpenAI内部的担忧:在将这种先进的人工智能模型商业化时,没有采取适当的保障措施。

新加入了谁?

在反对奥特曼的董事会成员中,仅问答网站Quora首席执行官亚当·迪安杰罗(Adam D’Angelo)被留了下来。

公开资料显示,迪安杰罗在2018年加入OpenAI董事会。他与Facebook的创始人扎克伯格是预备学校的同学,在加州理工学院就读期间曾为Facebook的诞生出过力,随后就任Facebook 的第一位首席技术官,但在2008年6月离开。从2009年起至今,迪安杰罗一直在Quora工作。

据TechCrunch+报道,迪安杰罗深入参与了将奥特曼带回OpenAI的谈判,这使得他获得保住董事席位的必要支持。

另外,董事会新增了两人,分别是前Salesforce联合首席执行官布莱特·泰勒(Bret Taylor)和前美国财政部长劳伦斯·萨默斯(Larry Summers)。

泰勒曾在谷歌工作,是谷歌地图、谷歌地图应用程序接口的联合创始人,并推动了谷歌开发者产品集团的成立。2010年6月,Facebook任命布莱特·泰勒为CTO,2021年11月,布莱特·泰勒任Twitter董事长。如今,他也是OpenAI新董事会的主席。

据知情人士透露,作为董事会主席,泰勒将承担一项艰巨的任务,在过渡过程中弥合分歧,引导重大决策,此前他在Twitter前董事会主席的任职,在这方面有一些经验。

备受关注的是萨默斯的加入。据悉,萨默斯是一名经济学家,他在1999年至2001年担任美国财政部长,2001年-2006年任哈佛大学校长,并于2009年至2011年担任美国国家经济委员会(NEC)主任,在奥巴马政府制定应对大衰退政策过程中发挥了关键作用。在OpenAI公布新董事会名单时,萨默斯也在社交平台转发了这一消息。

图源:萨默斯社交平台

TechCrunch+报道称,随着OpenAI越来越受到政策关注,萨默斯能够让OpenAI与政府、企业和学术界建立必需的联系。

微软或介入董事会?

OpenAI的董事会设计不同于大多数公司。在其原始的设计中,董事会中无一投资人,除了核心管理层,均为不持股的独立董事,且部分人并不具备经营企业的经验。这一设计源于OpenAI的底层设定,是奥特曼的一次“理想主义”尝试,用非营利机构去控制营利机构。

众所周知,OpenAI是个极其烧钱的项目。据美国科技媒体今年4月报道,OpenAI已完成103亿美元的新一轮融资,估值达到270亿-290亿美元。参与本轮融资的风投公司包括老虎全球管理、红杉资本、加州Andreessen Horowitz、纽约Thrive和K2 Global。据了解,Founders Fund也参与其中,风投的总体投资金额略超3亿美元,本轮投资与早先微软入股属于同一轮。而在今年1月中旬,微软对OpenAI投资了100亿美元,占股达到49%。

所以,OpenAI最初设想的治理结构,真的现实吗?经历这次戏剧性的罢免风波,奥特曼是否会改变想法?OpenAI的治理结构迎来怎样的变化?

根据目前OpenAI的声明,最新名单仅仅是“初始”董事会的结构。The Verge报道称,奥特曼和微软都希望在董事会占有一席之地,未来OpenAI董事会或将拓展至9人。但鉴于微软与OpenAI的投资关系,微软的加盟可能会招致监管。

另外,有消息称微软正在计划要求OpenAI董事会进行治理改革,以防止微软在OpenAI未来的重大战略举措中再次被面临措手不及的局面。

据悉,纳德拉对OpenAI董事会在解雇奥特曼之后、正式对外宣布解聘之前,只发送给了他一份简短的通知表示恼火。并且,OpenAI的董事会在寻求与竞争对手人工智能初创公司Anthropic合并时,也没有得到微软的批准。

纳德拉在一次采访中表示:“意外是不好的,我们只是想确保事情以一种能让我们很好地合作的方式完成。”微软将寻求加强这些保护,并增加其拥有否决权或至少通知权的场景数量。

对于目前奥特曼重返OpenAI的结果,投资公司AJ Bell金融分析主管Danni Hewson表示,微软将发挥更大的作用,合作关系将变得更加牢固,两家公司将更加紧密地结合在一起。

新加坡国立大学商学院投资者保护中心主任Mak Yuen Teen则认为,奥特曼的回归可能会暂时结束表面上的动荡,但OpenAl可能会继续存在深层次的治理问题。“奥特曼的影响力非常大,还不清楚是否有任何董事会能够监督他。在微软的扶持下,奥特曼可能已经拥有更多自由。”

他还表示,微软没有董事会席位是有充分理由的。这甚至可能是为了保护微软免受反垄断行动或冲突的影响,因为微软内部也有自己的人工智能部门。