
0 序言:争夺王位
2023年11月17日星期五,太平洋时间中午左右,OpenAI首席执行官、硅谷的“金童”、生成式人工智能革命的象征萨姆·奥特曼(Sam Altman)登录谷歌会议,发现他的五位董事会成员中有四位正盯着他。
从他的视频窗口中,董事会成员、OpenAI首席科学家伊利亚·苏茨克维尔(Sutskever 上图)简短地宣布:奥特曼(下图)被解雇了。这一决定将立即公布。
当时,奥特曼正身处拉斯维加斯一家豪华酒店的房间内,准备参加该市时隔数十年后首次举办的 Formula One 赛事——这场星光熠熠的盛会吸引了从蕾哈娜到大卫·贝克汉姆等众多嘉宾。这次旅行是他自公司一年前发布ChatGPT以来,在严苛的出差日程中短暂的喘息机会。他一时震惊得说不出话来。他转过头去,试图平复心情。随着对话继续,他以一贯的方式试图缓和局势。
“我能做点什么?”他问道。
董事会告诉他要支持他们选定的临时首席执行官米拉·穆拉蒂(下图),她此前一直担任他的首席技术官。奥特曼仍感到困惑,怀疑这是否是一场噩梦,但他还是同意了。
几分钟后,苏茨克维尔又给OpenAI总裁、奥特曼的亲密盟友格雷格·布罗克曼(下图)发送了另一个Google Meet链接。布罗克曼是前一次会议中唯一缺席的董事会成员。苏茨克维尔告诉布罗克曼,他将不再担任董事会成员,但将继续在公司任职。
随后不久,公开声明发布。“奥特曼先生的离职是经过董事会审慎审查后做出的决定。董事会认为,他在与董事会沟通时未能始终保持坦诚,这阻碍了董事会履行其职责的能力。董事会不再对他的领导能力抱有信心。”
1
表面上看,OpenAI正处于其权力巅峰。自2022年11月推出ChatGPT以来,它已成为硅谷最引人注目的成功故事。ChatGPT是历史上增长最快的消费类应用。这家初创公司的估值呈现出令投资者垂涎、顶尖人才争相加入的火箭式增长。就在几周前,它在正在最终敲定的要约收购中被估值高达900亿美元,该要约将允许员工向这些渴望投资的投资者出售股份。几天前,它还举办了一场备受期待且备受赞誉的活动,推出其最激进的产品阵容。
在公众眼中,奥特曼就是让这一切成为可能的人。他曾在春季和夏季环游世界,其知名度已达到让媒体将其与泰勒·斯威夫特(著名的创作歌手和音乐制作人,见下图)相提并论的程度。他以谦逊的体型、大胆的宣言和看似真诚的态度,几乎让所有人惊叹。
在拉斯维加斯之前,他再次周游世界,在亚太经合组织(APEC)首席执行官峰会上担任 panel 成员,以他一贯的迷人风格发表了讲话。
“你为什么要把生命奉献给这项工作?”埃默森集体(Emerson Collective)的创始人兼总裁、史蒂夫·乔布斯的遗孀劳伦·鲍威尔·乔布斯(Laurene Powell Jobs,下图)曾问他。
“我认为这将是人类迄今为止发明的最具变革性和益处的技术,”他说,“在OpenAI的历史上,我四次有幸身处其中——最近一次就在过去几周——当我们拨开无知的面纱,推动发现的边界向前时,能够参与其中,就像是职业生涯中最大的荣誉。”
2
震惊的员工与其他人一样,通过公司内部流传的公开声明链接得知了奥特曼被解雇的消息。令他们最震惊的是,这一消息与奥特曼的光辉声誉之间存在巨大反差。公司此时已接近800人规模。如今,员工与CEO面对面交流的机会越来越少。但他在全球舞台上的迷人风范,与他在全体员工会议、公司活动以及(当他不在出差时)在办公室里的表现并无二致。
随着谣言四起,员工们在X(原推特)上疯狂刷屏寻找任何蛛丝马迹,办公室里有人抓住他们认为最合乎逻辑的解释,大喊:“奥特曼要竞选总统了!”这短暂缓解了紧张气氛,但人们很快意识到并非如此,猜测又以新的强度和恐惧重新开始。奥特曼做了什么违法的事吗?也许与他的妹妹有关,员工们猜测。她曾在一个月前发布的一条广为流传的推文中声称,哥哥曾虐待她。也许这不是非法行为,而是道德上不妥当,他们推测,或许与奥特曼的其他投资或他与沙特投资者为新的人工智能芯片项目筹集资金有关。
苏茨克维尔在OpenAI的Slack上发布了一则公告。两小时后,他将举行一场虚拟全体员工会议,回答员工提问。“那是我经历过的最漫长的两小时,”一名员工回忆道。
3
苏茨克维尔、穆拉蒂(下图)和OpenAI的其他高管并排出现在屏幕上,显得拘谨而未经排练,全员会议通过直播向办公室和远程办公的员工同步播出。
苏茨克维尔神情凝重。他在员工中以深思熟虑和神秘主义者著称,常以充满真诚的灵性语言发言,这种风格对某些人而言令人亲近,对另一些人则可能令人疏远。他也是个爱开玩笑且心地善良的人。他常穿着印有动物图案的衬衫去办公室,还喜欢画这些动物——一只可爱的猫、一群可爱的羊驼、一条可爱的喷火龙——以及抽象的面孔和日常物品。他的一些业余画作挂在办公室里,其中包括一幅以OpenAI标志形状绽放的三朵花,象征着他一直敦促员工构建的: “多种多样的热爱人类的AGI。”
如今,他试图通过在线文档向焦虑的员工传递一种确定感,回答他们提出的连珠炮式问题。但苏茨克维尔并非完美的信使;他并不擅长将信息精准传达给听众。
“是否有特定事件导致了这一情况?”穆拉蒂首先从员工问题清单中朗读道。
“文档中的许多问题都涉及细节,”苏茨克维尔回应道,“具体是什么、何时、如何、谁。我希望我能详细说明。但我不能。”他补充说,任何好奇的人都应该阅读新闻稿。“它实际上说了很多东西。也许读几遍。”
这一回应让员工们感到困惑。他们刚刚收到了一条灾难性的消息。作为受此情况直接影响的人员,他们理应获得比公众更多的具体信息。
穆拉蒂又读了几条问题。这将如何影响与微软的关系?作为OpenAI最大的支持者和其技术的独家授权方,微软是其计算基础设施的唯一供应商。没有微软,这家初创公司的一切工作——进行研究、训练AI模型、推出产品——都将陷入停滞。穆拉蒂回应称她不认为这会受到影响。他们刚与微软首席执行官萨蒂亚·纳德拉(上图)和首席技术官凯文·斯科(下图)特通了电话。“他们都非常支持我们的工作,”她说。
关于OpenAI的要约收购呢?拥有一定年限的员工被给予了出售其股权的机会,这可能价值数百万美元。要约收购来得如此之快,许多人已计划购房,或已完成购房。“要约收购——我们,嗯,我们得看看,”首席运营官布拉德·莱特卡普(下图)含糊其辞。“我已与主导要约收购的投资者以及公司资本表上的部分最大投资者保持联系。所有投资者均已承诺对公司给予坚定支持。”
在更多问题得到模糊回答后,另一名员工再次试图弄清萨姆做了什么。这与他在公司中的角色有关吗?还是涉及他的个人生活?苏茨克维尔再次将人们引导至新闻稿。“答案其实就在那里,”他说。
穆拉蒂继续阅读文件。“关于细节的问题是否会在某个时候得到回答,还是永远不会?”
苏茨克维尔回应道:“降低你的期望值。”
参考资料
- 软件测试精品书籍文档下载持续更新 https://github.com/china-testing/python-testing-examples 请点赞,谢谢!
- 本文涉及的python测试开发库 谢谢点赞! https://github.com/china-testing/python_cn_resouce
- python精品书籍下载 https://github.com/china-testing/python_cn_resouce/blob/main/python_good_books.md
- Linux精品书籍下载 https://www.cnblogs.com/testing-/p/17438558.html
- python八字排盘 https://github.com/china-testing/bazi
- 联系方式:钉ding或V信: pythontesting
4
随着全体会议继续进行,苏茨克维尔的回答似乎越来越脱离实际,员工的不安迅速转变为愤怒。
“当一群人经历艰难的考验时,他们往往会变得更加团结和亲密,”苏茨克维尔说。“这次艰难的经历将使我们作为团队更加紧密,因此更加高效。”
“如何在渴望通过危机共同成长与令人沮丧的缺乏透明度之间取得平衡?”一名员工写道。“通常,真相是和解的必要条件。”
“我的意思是,这很公平,”苏茨克维尔回复道。“情况并不完美。”
穆拉蒂试图缓解日益紧张的氛围。“我们的使命远比我们任何个人都重要,”她说。
莱特卡普呼应了她的观点:OpenAI的合作伙伴、客户和投资者都强调,他们仍然与这一使命产生共鸣。“如果说有什么不同,我认为我们现在有更大的责任去全力推进这一使命。”
苏茨克维尔再次试图安抚众人。“我们拥有所有要素,全部要素:计算机、研究、突破都令人惊叹,”他说,“当你感到不安,当你感到恐惧,记住这些。在脑海中想象集群的规模。想象所有GPU协同工作的场景。”
一名员工提交了一个新问题。“我们是否担心现有董事会成员通过强制性影响进行敌意收购?”穆拉蒂读道。
“敌意收购?”苏茨克维尔重复道,语气中带有一丝锐利。“OpenAI非营利组织董事会完全按照其宗旨行事。这并非敌意收购。绝非如此。我不同意这个问题。”
5
当晚,几名员工聚集在一位同事家中参加一场在奥特曼被解雇前就已计划好的聚会。现场还有其他人工智能公司的来宾,包括谷歌DeepMind和Anthropic。
活动开始前,所有与会者收到一条通知:“今晚我们将新增一个主题房间:‘不谈OpenAI的房间’。大家见!”最终,很少有人在那个房间待很久。大多数人想谈论OpenAI。
布罗克曼当天下午宣布,他将辞职以示抗议。微软的纳德拉对在解雇奥特曼前几分钟才被告知此事感到愤怒,他发布了一条精心措辞的推文:“我们与OpenAI有一项长期协议,拥有实现创新议程和激动人心的产品路线图所需的一切访问权限;我们仍致力于我们的合作伙伴关系,以及米拉和团队。”
随着谣言不断蔓延,又有消息传来,又有三位高级研究员辞职:雅库布·帕霍奇基和西蒙·西多尔,他们是OpenAI早期员工,在公司任职时间最长,以及麻省理工学院的亚历山大·马德雷教授,他最近才加入公司。他们的离职进一步让一些OpenAI员工感到不安,这表明公司正在流失领导层和人才,这可能会吓跑投资者,阻止要约收购,甚至更糟,毁掉公司。在派对上,员工们越来越沮丧和焦躁。要约收购的取消将剥夺他们辛勤工作所带来的巨大财务回报,更不用说公司解散将浪费如此多的潜力和努力。
当晚,公司董事会和剩余领导层正举行一系列愈发对立的会议。全员会议后,Sutskever与其他领导层之间虚假的团结假象已彻底破裂。许多在直播中与苏茨克维尔同坐的执行官们,与其他员工一样感到措手不及,因为他们是在宣布解雇奥特曼的前一刻才得知这一消息。由于对苏茨克维尔的糟糕表现感到愤怒,他们要求与董事会其他成员会面。大约十几位执行官,包括穆拉蒂和莱特卡普,聚集在办公室的一间会议室里。
苏茨克维尔通过视频连线参与会议,与他一同在场的还有三位独立董事:亚当·德安吉洛(Adam D’Angelo),问答网站Quora的联合创始人兼首席执行官;塔莎·麦卡利(Tasha McCauley),企业家兼政策智库兰德公司(RAND)的兼职高级管理科学家;以及海伦·托纳(Helen Toner),出生于澳大利亚的研究员,现任职于另一家智库——乔治城大学的CSET(安全与新兴技术中心)。
在连番质询下,四位董事会成员多次以法律责任为由拒绝进一步披露信息,称需保护机密。多位高管明显愤怒。全球事务副总裁安娜·马卡努(Anna Makanju:下图)——曾多次陪同奥特曼进行全球公关活动——愤怒地说道:“你们在说山姆不可信。这完全不符合我们的经历。”
在场的领导层要求董事会辞职并让位给三名员工,并威胁称如果董事会不立即遵守,他们将全部辞职。首席战略官、曾担任OpenAI总法律顾问的律师杰森·权(Jason Kwon)进一步加码。他表示,董事会不辞职实际上是违法的,因为如果公司崩溃,这将构成董事会成员违反受托责任。
董事会成员持反对意见。他们坚称,解雇奥特曼的决定是经过慎重咨询律师后做出的,且符合其职责范围。OpenAI并非普通公司,其董事会也非普通董事会。该结构由奥特曼亲自设计,赋予董事会广泛权限,以确保人工智能(AGI)造福人类,而非仅服务于股东利益。奥特曼长期以来一直强调董事会解雇他的能力是其最重要的治理机制。托纳强调了这一点:“如果这一行动摧毁了公司,它实际上可能与使命一致。”
领导层实时向员工传达了她的话:托纳不在乎是否摧毁公司。或许,许多员工开始得出结论,这甚至可能是她的意图。想到可能失去所有股权,派对上有人开始哭泣。
6
次日,11月18日星期六,包括OpenAI员工在内的数十人聚集在奥特曼价值$2700万美元的豪宅,等待更多消息。
三位已辞职的高级研究员帕乔基(Pachocki)、西多尔(Sidor)和马德雷(Mądry)曾与奥特曼(Altman)和布罗克曼(Brockman)会面,讨论重组公司并继续他们的工作。对一些人来说,他们讨论的消息加剧了员工的焦虑:一家新的OpenAI竞争对手可能会加剧公司的不稳定性。对另一些人来说,这带来了希望:如果奥特曼确实创立了一家新公司,他们将离开并跟随他。
OpenAI剩余的高管团队向董事会设定了当天下午5点(太平洋时间)的最后期限:恢复奥特曼的职位并辞职,否则将面临员工大规模出走的风险。董事会成员拒绝了这一要求。整个周末,他们焦急地拨打电话,有时甚至在深夜,联系他们人脉名单上任何可能接听的人。面对员工和投资者对奥特曼被解雇的日益愤怒,穆拉蒂不再愿意担任临时首席执行官。他们需要用能帮助恢复稳定的人来取代,或者找到新的董事会成员,如果奥特曼真的回来,他们能与之抗衡。
那天晚上,在最后期限过去后,杰森·权向员工发送了一份备忘录。“我们仍在努力寻求解决方案,并保持乐观态度,”他写道。“所谓解决方案,就是让山姆、格雷格、雅库布、西蒙、亚历山大回归。”
奥特曼以他标志性的全小写风格发推文:“我非常爱OpenAI团队。”
数十名其他员工开始转发这条推文并附上爱心表情。
7
周日,奥特曼和布罗克曼回到办公室,就回归事宜进行谈判。当天,越来越多的员工加入他们,焦急地等待结果。此时,大多数员工、管理层和董事会已超过36小时未合眼;一切开始变得模糊不清。奥特曼发布了一张自拍,嘴唇紧闭,眉头紧锁,手中拿着一张访客证。“这是我第一次也是最后一次戴这种东西,”他在配文中补充道。管理层再次设定下午5点的最后期限,要求董事会恢复奥特曼的职位并辞职。
压力现在从四面八方涌来。微软、OpenAI的其他投资者以及硅谷的重量级人物都公开支持奥特曼。一位消息人士向媒体透露了应对方案:如果决定不被撤销,员工将集体离职,微软将暂停对计算基础设施的访问权限,投资者将提起诉讼。这些因素结合起来,将使没有奥特曼的OpenAI难以维系。
然而,董事会继续抵制。接近晚上9点,再次超过最后期限,苏茨克维尔代表董事会在一条长消息中发布了声明。奥特曼不会回归;前Twitch首席执行官埃姆met Shear(下图)现已成为OpenAI的新任临时负责人。他和Shear将在五分钟内抵达办公室,发表关于公司新愿景的演讲。
“董事会坚定地支持其决定,这是推进并捍卫OpenAI使命的唯一途径,”他写道。“简而言之,Sam 在与董事会互动中的行为和缺乏透明度,削弱了董事会有效监督公司的能力,而这是董事会被授权必须履行的职责。”
Slack 瞬间被员工们数十条愤怒的回复淹没。
“你和你的破军队”
“你疯了”
“Emmett 将成为一个空壳公司的 CEO”
大约200名员工走出办公室抵制演讲。穆拉蒂匆匆将高管们带离大楼。当谢尔与苏茨克维尔抵达时,现场只剩下十余名听众。
安娜·布罗克曼(格雷格的妻子)走向苏茨克维尔——四年前正是他主持了这对夫妇的民事婚礼。她泪流满面地抱住他,恳求他重新考虑自己的立场。
8
许多离开办公室的员工聚集在几位同事家中度过夜晚;数百人加入了一个Signal群组以获取最新消息。当晚晚些时候,纳德拉宣布将聘请奥特曼和布罗克曼领导一个新的AI部门。消息迅速传播:任何想加入奥特曼的人都将在微软获得一份保证的工作。
这一消息将气氛从恐惧转变为反抗。有了备选方案的认知,员工们获得了新的筹码,开始公开反对董事会和谢尔。在一处挤满超过百名OpenAI同事的员工家中,高管和高级研究员起草了一封公开信,以更大力度重申领导团队的威胁:若不恢复奥特曼的职位并要求董事会辞职,他们将立即辞职并加入微软。
该团队努力将这封信件尽可能广泛地传播出去,将其发布在多个私人渠道,并打电话给未到场的员工让他们签名。随着签名人数达到临界点,更多员工在压力下纷纷加入,以避免因缺席而引发质疑。在24小时内,这封信件已获得约770名员工中的700多名签名。数十名员工迅速向董事会发送了内容相同的邮件。他们纷纷涌向X平台,发布同一条信息:“没有员工,OpenAI一无是处。”
随后,在深夜时分,员工们发现Sutskever的名字出现在公开信上。
Sutskever很快公开回应此事。“我对参与董事会行动深表遗憾,”他在周一凌晨发推文称,“我从未打算伤害OpenAI。我热爱我们共同建立的一切,并将尽我所能让公司重新团结。”
9
11月21日(星期二),领导层从Altman家中致电董事会。五天过去,所有人都因缺乏睡眠和疲惫不堪而崩溃。感恩节即将到来,双方的绝望情绪终于为解决问题开辟了一条道路。
当天, everyone开始认真考虑不同的方案。
Altman和Brockman最初坚持要带着董事会席位回到OpenAI,最终同意不再拥有这些席位。董事会意识到没有Altman就无法拯救公司,最终同意他回归。
当晚深夜,他们就三个独立董事会席位达成一致。达恩杰洛将留任;托纳和麦卡利将卸任;布雷特·泰勒(Salesforce前联合首席执行官、Facebook前首席技术官)和拉里·萨默斯(前美国财政部长、哈佛大学前校长)将填补空缺。作为协议的一部分,新董事会最终将增加更多成员。奥特曼将接受调查。
他们还一致认为,对公司而言,最重要的是展现团结、稳定与和解。两天后,奥特曼将发布一条精心策划的推文:“刚刚与@adamdangelo度过了非常愉快的几个小时。祝大家感恩节快乐,从我们的家庭到你们的家庭,火鸡表情符号。”十天后,布罗克曼将发布一张照片:他和苏茨克维尔(Sutskever)手挽手,笑容满面。在办公室里,公司的驻场艺术家将OpenAI的图像生成器DALL-E连接到彩色打印机,制作出小型万花筒心形贴纸。打印机旁是一颗巨大的粉色心脏,上面印着“没有员工,OpenAI一无是处”的字样。
12月,奥特曼在播客中向特雷弗·诺亚描述了这段经历,称这是他人生中第二糟糕的时刻,仅次于父亲去世。次月1月,这笔交易最终敲定,OpenAI的估值达到860亿美元。
但这一切都还在后头。11月21日星期二的夜晚,人们只顾着庆祝。随着奥特曼回归和新协议的宣布,员工们蜂拥回到办公室,拥抱、哭泣、放音乐。某一刻,有人打开了烟雾机。这触发了火灾警报。 everyone kept partying.
布罗克曼与人群合影,照片中洋溢着危机中幸存的狂喜与疯狂。他配文发推:“我们回来了。”
10
奥特曼被解职的消息传出时,我正忙于为这本书进行采访。我已静音手机,对即将到来的混乱一周一无所知。20分钟后,我点开屏幕查看时间,发现一连串未读通知。于是,一段模糊而充满肾上腺素的 days 开始了,我拼命试图弄清楚到底发生了什么。
在接下来的几周里,朋友、家人和媒体会问我几十次:这一切意味着什么,如果有的话?这种来回拉锯只是一个有趣的消遣吗?还是会对我们其他人产生影响?那时,我已经关注OpenAI五年了。2019年,我是第一位获得该公司广泛访问权限并撰写其首篇报道的记者。对我来说,这些事件不仅仅是硅谷的一些无聊权力游戏。这场戏剧凸显了我们这一代人面临的最紧迫问题之一:我们如何治理人工智能?
人工智能是本时代最具影响力的技术之一。短短十余年间,它已重塑了互联网的基石,成为数字活动无处不在的媒介。在更短的时间内,它正加速重构社会诸多关键功能,从医疗到教育,从法律到金融,从新闻到政府。人工智能的未来——这项技术将呈现何种形态——与我们的未来密不可分。因此,如何治理人工智能的问题,本质上就是如何确保我们的未来变得更好,而不是更糟。
从一开始,OpenAI 就将自己定位为一个大胆的实验,旨在回答这一问题。它由包括埃隆·马斯克和山姆·奥特曼在内的一群人创立,其他支持者还包括彼得·蒂尔等亿万富翁,其目标不仅仅是成为一个研究实验室或一家公司。创始人们坚称,他们致力于开发所谓的通用人工智能,即他们所描述的迄今为止最强大的人工智能形式,不是为了股东的财务收益,而是为了人类的利益。为此,马斯克和奥特曼将其设立为非营利组织,并承诺投入10亿美元用于运营。它不会开发商业产品,而是完全致力于研究,仅以最纯粹的意图推动一种能够开启全球乌托邦形式的AGI,而非其相反。马斯克和奥特曼还承诺在研究过程中尽可能分享成果,并与其他机构广泛合作。如果目标是为世界带来好处,那么开放性——因此得名OpenAI——以及在技术发展中实现民主参与至关重要。几年后,领导层走得更远,承诺在必要时做出自我牺牲。“我们担心AGI的后期开发会变成一场没有足够时间采取安全措施的竞争,”他们写道。如果另一项创建有益AGI的尝试超越了OpenAI的进展,“我们承诺停止与该项目竞争,并开始协助该项目。”
但当我开始撰写OpenAI的报道时,其对这些理想的承诺正迅速消退。仅仅一年半后,OpenAI的高管们意识到,他们希望在人工智能开发中走的路将需要巨额资金。马斯克和奥特曼此前作为联***均采取了较为放任的管理方式,但两人均试图让自己成为CEO。奥特曼最终胜出。马斯克于2018年初离开组织并带走了资金。回过头来看,这场分歧是OpenAI并非真正利他主义项目、而是出于个人野心的首个重大信号。
主要资助方的流失使OpenAI陷入财务不确定性。为填补资金缺口,奥特曼重新调整了OpenAI的法律结构。在非营利组织内部,他设立了营利性分支机构OpenAI LP,以筹集资金、商业化产品并为投资者提供回报,与其他公司无异。四个月后,即2019年7月,OpenAI宣布了新的10亿美元资助方:软件巨头兼云服务提供商微软。
我于2019年8月首次造访OpenAI办公室。在与员工共处三天并进行数十次采访后,我发现这场理想主义治理的实验正在瓦解。OpenAI已变得充满竞争、保密且封闭,甚至在掌控这项至关重要技术的迷人力量下,对外部世界心存恐惧。透明度、民主、自我牺牲与合作等理念已不复存在。OpenAI高管们只有一个执念:成为首个实现通用人工智能的机构,并按自己的形象塑造它。
在接下来的四年里,OpenAI变成了它曾誓言不会成为的样子。它名义上仍是非营利组织,却通过激进商业化ChatGPT等产品,追求前所未有的估值。它变得更加秘密,不仅切断了对自身研究的访问,还改变了整个行业的规范,阻止了人工智能开发的大部分内容接受公众监督。它引发了它曾警告过的“劣币驱逐良币”的竞争,大大加速了技术的商业化和部署,却没有解决其有害的缺陷或它可能放大并利用我们社会中存在的裂痕的危险方式。在此过程中,领导层与员工之间的冲突愈演愈烈,公司内部不同派系纷纷试图夺取控制权并按照自己的愿景重组OpenAI。
2023年11月Altman的被解职与复职,最终证明了治理实验的失败。这不仅因为OpenAI的非营利董事会屈服于金钱利益,解散了该组织最后一丝利他主义的外衣。它以最清晰的方式表明,硅谷少数精英之间的权力斗争正在塑造人工智能的未来。即使事件朝着另一种方向发展,董事会成功替换了Altman,也不会改变这样一个事实:如此重大的决策是在闭门会议中做出的。除了少数极度富裕的科技乐观主义者、他们最激烈的意识形态对手以及一家价值数十亿美元的科技巨头外,就连OpenAI的员工也对自己的命运走向知之甚少。
我开始报道人工智能技术时,OpenAI和ChatGPT还远未成为该领域的代名词。我目睹了这项技术在科学与创新的混乱进程中不断演进:研究人员不断尝试新理念,在人满为患的学术会议上展示最成功的成果,并将其应用于全球最大企业的商业产品中,包括谷歌、脸书、阿里巴巴和百度。我阅读了数百篇研究论文,并采访了科学家、工程师和高管,以理解他们的世界观和决策——以及这些决策如何在人工智能的设计和应用中留下痕迹。随着人工智能的足迹在全球范围内扩展,我追踪了它以微妙和戏剧性的方式改变生活和社区的方式。我走访了五大洲,听取人们对这些经历的讲述。在哥伦比亚和肯尼亚,我遇到了在经济危机面前转向为人工智能行业标注数据的人们,却发现自己处于类似于契约奴隶制的劳动条件下。在亚利桑那州和智利,我与当地政客和活动家会面,他们担心不断扩大的数据中心“影子城市”正在消耗他们家中宝贵的水资源。
通过我的报道,我逐渐明白两点:人工智能是一种具有多种形式的技术。它实际上是一系列不断变形和演进的技术集合,其发展不仅基于技术优势,更受制于创造者们的意识形态驱动力以及炒作与商业化的风向。尽管ChatGPT等所谓大型语言模型或生成式人工智能应用目前备受瞩目,但它们只是人工智能的一种表现形式,这种形式体现了对世界现状及未来应有样貌的特定且极为狭隘的认知。这种形式的人工智能的崛起甚至存在本身并非必然;它是成千上万个主观选择的结晶,这些选择由那些有权参与决策的人做出。同样,未来的人工智能技术也并非预先确定。但治理问题再次浮现:谁将有权塑造它们?
我学到的另一件事:当前人工智能的表现形式及其发展轨迹正朝着令人担忧的方向前进。表面上看,生成式人工智能令人兴奋:它是即时脑暴创意和生成文案的创意工具;是深夜聊天以驱散孤独的伴侣;是或许有一天能如此有效地提升生产力,从而增加经济活动的工具。但正如我们曾认为Facebook只是一个分享度假照片、与久未联系的小学同学重逢,或引发积极变革的社会运动的平台,其光鲜迷人的外表下隐藏着更多真相。生成式人工智能模型本质上是怪物,它们通过消耗前所未有的海量数据、劳动力、计算能力和自然资源构建而成。作为初代ChatGPT的继任者,GPT-4据称在某一指标上比五年前发布的初代GPT-1大出超过15000倍。不断膨胀的人力与物质成本正压迫着社会各阶层,尤其是最脆弱群体——我走遍全球遇到的工人、农村居民,无论是全球北部的劳动者还是全球南部的贫困社区,都正承受着前所未有的不稳定性。他们很少看到所谓技术革命的“涓滴效应”;生成式人工智能的收益主要向上流动。
多年来,我只找到一个比喻能概括这些人工智能巨头的本质:帝国。在漫长的欧洲殖民主义时代,帝国掠夺并开采了不属于自己的资源,并利用他们征服的人民的劳动力来开采、耕种和提炼这些资源,以充实帝国的财富。他们宣扬种族主义、非人道的优越感和现代性观念,以 justify——甚至诱使被征服者接受——主权的侵犯、资源的掠夺和人民的压迫。它们以与其他帝国竞争的必要性来为权力扩张辩护:在军备竞赛中,一切手段皆可使用。这一切最终旨在巩固每个帝国的权力,推动其扩张与进步。简而言之,帝国通过建立殖民世界秩序,在时空维度上积累了非凡财富,而这一切都以他人巨大的代价为代价。
人工智能帝国并未像历史上的帝国那样诉诸公开的暴力与残暴。但它们同样掠夺并提取珍贵资源以支撑其人工智能愿景:艺术家与作家的创作成果;无数个体在网上分享的经历与观察数据;以及用于建设并运营庞大数据中心与超级计算机所需的土地、能源与水资源。新的帝国同样利用全球劳动力的劳动来清理、整理和准备这些数据,以将其转化为利润丰厚的人工智能技术。它们通过宣扬令人向往的现代性理念,并以击败其他帝国的必要性为借口,为侵犯隐私、盗窃以及大规模自动化消灭有意义的经济机会提供掩护和动力。
OpenAI 正引领我们加速迈向这个现代殖民世界秩序。在追求一个模糊的进步愿景时,其对规模极限的激进推进已为人工智能发展的新时代制定了规则。如今,每家科技巨头都在竞相超越彼此的规模,投入的资金如此庞大,以至于它们不得不匆忙重新分配和整合资源。当微软向OpenAI投资100亿美元时,它裁员一万人以削减成本。在谷歌目睹OpenAI超越自己后,它将人工智能实验室整合为谷歌DeepMind。当阿里、抖音竞相开发其ChatGPT低版本等价物时,从事人工智能技术研发以推动药物发现的员工不得不暂停研究,并将计算机芯片让渡给开发聊天机器人。当前的人工智能范式也在扼杀人工智能发展的替代路径。与科技行业无关联或未获得其资助的独立研究人员数量迅速减少,导致该领域与短期商业利益无关的多元化想法日益匮乏。曾经投资于广泛探索性研究的公司,如今在生成式人工智能开发成本的压力下,已无法继续如此投入。年轻一代科学家正顺应新常态以提升自身就业竞争力。曾经的异常之举已成常态。
如今,科技巨头从未如此富裕。当我于2025年1月完成本书撰写时,OpenAI的估值已达1570亿美元。其竞争对手Anthropic正接近达成一笔估值600亿美元的交易。在与OpenAI达成合作后,微软的市值翻了三倍,超过3万亿美元。自ChatGPT问世以来,六大科技巨头的总市值已增长8万亿美元。与此同时,关于生成式人工智能真正经济价值的质疑声日益增多。2024年6月,高盛的一份报告指出,该技术研发支出预计将在数年内达到1万亿美元,但迄今为止“成效甚微”。次月,Upwork研究机构对全球2500名员工的调查显示,尽管96%的高管层领导者预期生成式人工智能将提升生产力,但实际使用该工具的77%员工却表示其反而增加了工作量;这部分是因为审核人工智能生成的内容耗时过长,部分是因为上级对工作量的要求不断增加。在11月一篇回顾生成式人工智能经济影响的彭博社文章中,撰稿人帕尔米·奥尔森和卡罗琳·西尔弗曼简洁地总结道——数据“提出了一个令人不安的前景:这种被称为革命性的技术可能永远无法实现其广泛经济转型的承诺,反而只是进一步集中财富于顶端。”
与此同时,世界其他地区正开始在这一新时代爆炸式增长的人力与物质成本重压下崩溃。肯尼亚的工人以饥饿工资为代价,从OpenAI的技术(包括ChatGPT)中过滤出暴力和仇恨言论。艺术家们正被那些未经他们同意或补偿就从他们的作品中构建而来的AI模型所取代。新闻业正因生成式AI技术引发的虚假信息激增而萎缩。在我们眼前,一个古老的故事正在重演——而这仅仅是开始。
OpenAI 并未放慢脚步。它正凭借无与伦比的资源继续追求更大的规模,而整个行业也在紧随其后。为了平息人们对生成式人工智能当前表现的日益增长的担忧,奥特曼愈发高调地宣扬通用人工智能(AGI)的未来益处。在2024年9月的一篇博客文章中,他宣称以“巨大繁荣”为特征的“智能时代”即将到来,超级智能或许将在“数千天内”实现。“我认为未来将如此光明,以至于现在试图描述它的人都无法准确表达,”他写道,“尽管这一过程将逐步推进,但令人惊叹的成就——解决气候问题、建立太空殖民地以及发现物理学的全部奥秘——最终将成为司空见惯的事。” 目前,AGI(通用人工智能)更多是一种修辞手段——OpenAI用来继续追求更多财富和权力的幻想式万能借口。鲜有其他机构具备相似的资本实力来投资替代方案。OpenAI及其少数几家竞争对手将对他们推销的“未来钥匙”技术形成垄断;任何希望分享这一愿景的公司或政府都必须依赖这些科技巨头来实现。
存在另一条前进之路。人工智能不必局限于当前形态。我们无需接受“前所未有的规模与消耗”这一逻辑来实现进步与发展。我们社会真正需要的诸多事物——更好的医疗与教育、清洁的空气与水源、更快摆脱化石燃料的转型——均可通过规模更小的人工智能模型及多样化方法来辅助推进,甚至在某些情况下必须依赖这些方案。仅靠人工智能本身也不够:我们还需要更多的社会凝聚力和全球合作,而这些正是当前人工智能发展愿景所挑战的。
但人工智能帝国不会轻易放弃权力。我们其他人需要夺回对这项技术未来的主导权。而我们正处于一个关键时刻,这仍然是可能的。正如昔日的帝国最终被更具包容性的治理形式所取代,我们也能共同塑造人工智能的未来。政策制定者可实施强有力的数据隐私与透明度规则,并更新知识产权保护措施,以恢复人们对其数据和工作的自主权。人权组织可推动国际劳动规范与法律,为数据标注员提供最低工资保障和人道工作条件,同时巩固劳动权利并确保各行业和领域均能获得体面经济机会。资助机构可以促进人工智能研究的多样性,以开发这种技术可能实现的根本性新形态。最后,我们可以共同抵制OpenAI和人工智能行业向我们灌输的叙述,这些叙述试图用一个模糊的进步愿景来掩盖这项技术日益增长的社会和环境成本。