

谁是领导一家以微软为主要合作伙伴的知名人工智能(AI)公司的合适人选?如果你问ChatGPT这个问题,它肯定不会说出一个认为人工智能对人类构成威胁、讨厌微软的人的名字。然而,在Sam Altman被解雇后,OpenAI的独立董事们决定,接替他的理想人选是Emmett Shea——一个自称末日论者的人,相信人工智能将带来世界末日。
40岁的Shear属于这样一群人,他们认为人工智能很有可能会有自我意识,开启一个不断自我完善的过程,最终毁灭人类。有点像终结者,但没有时间旅行。因此,他赞成放慢人工智能的发展速度,以尽量减少风险。
在去年6月的一次播客采访中,他解释了自己的立场。在表示自己总体上支持新技术之后,他明确表示自己“对人工智能有非常具体的关注”。Shear解释说,人工智能将逐渐具备编程、设计微处理器和其他一切构建人工智能所需的能力,从而进入一个循环,在这个循环中,技术将变得能够越来越快地自我改进。“这种情报本质上是非常危险的,”他说。“我知道Eliezer(人工智能安全活动家Yudkowsky)认为我们都注定要失败。我相信他的末日论。我相信这种逻辑。[…]我厄运的概率在5%到50%之间。所以有广泛的传播,”他补充道。
不过,他说他认为这很可怕:“这应该会让你拉裤子。这不仅仅是人类层面的灭绝;人类灭绝已经够糟糕的了。就像光锥里所有价值的潜在破坏。不仅是对我们,对所有被困在爆炸后的外星物种都是如此。这是一个毁灭宇宙的炸弹,”他补充道,并将人工智能的风险比作有人发明了一种方法,用沙子和碱液制造出10倍于其威力的核弹。
OpenAI的新任首席执行官整个职业生涯都在社交视频网络Twitch度过。作为一名天才的计算机科学家,他创立了Justin。和他的同学Justin Kan一起创办了这家公司,后来发展成了Twitch。他帮助将一个专门从事视频游戏流媒体的平台转变为一家娱乐巨头,亚马逊于2014年以9.7亿美元的价格收购了这家平台。据彭博社(Bloomberg)报道,他在一次关于动视暴雪(Activision Blizzard)战略游戏的公司会议上说:“Twitch的事情是因为我真的、真的、真的、真的很喜欢《星际争霸》。”那时几乎没有人直播游戏。他经营Twitch直到去年3月,当时他决定辞职,把时间花在照顾刚出生的儿子上。该平台因未能通过该网站的评论遏制许多用户所经历的性别歧视、性别歧视、种族主义和骚扰而受到批评。
Shear本人并不是一个在社交媒体上有所保留的人。在X(前身为Twitter)上,他公开反对OpenAI的主要合作伙伴、客户和供应商微软。“当我在微软实习的时候,每一份薪水都让我觉得是在用邮件支付我灵魂的一小部分,”他在7月份发推文说。他的帖子也暴露了他的性别歧视和厌女症。今年8月,在他被任命为OpenAI之前,Shear回应了一条关于女性倡导“自由使用”的信息——同意总是与伴侣发生性关系——声称这只是“BDSM未经同意/羞辱的纠结”。在另一条推文中,他引用维基百科的一篇文章补充说,“40-60%的女性似乎有强奸/未经同意的幻想”。
这位OpenAI的新临时负责人一直直言不讳地支持减缓人工智能的发展:“我赞成放缓。我们不可能在没有实验的情况下学会如何构建一个安全的人工智能,我们也不可能在没有进步的情况下进行实验,但我们可能也不应该以最快的速度前进,”他在两个月前发推文说。
虽然对于一家处于人工智能前沿的公司来说,Shear确实是一个特殊的选择,但任命他为新首席执行官的决定符合目前接管OpenAI的独立董事的想法。三位外部董事表示,允许公司被摧毁“将符合使命”,OpenAI的绝大多数员工在信中威胁说,如果所有现任董事会成员不辞职,他们将集体辞职。Shear与有效利他主义运动有关,现在运营OpenAI的两名独立董事也是如此。该运动对先进的人工智能持强烈保留态度。
与奥尔特曼被解雇不同,OpenAI没有公开宣布对希尔的任命。因此,公司没有解释选择Shear的原因,也没有解释为什么他的职位是暂时的。OpenAI通过一份内部备忘录宣布了他的任命,而Shear本人也在X上公开了这一消息:“今天我接到一个电话,邀请我考虑一个千难逢的机会:成为@OpenAI的临时首席执行官。在与家人商量并思考了几个小时后,我接受了。”
“由于我9个月大的儿子的出生,我最近辞去了Twitch首席执行官的职务。和他在一起的时间和我想象的一样有价值,我很高兴地避免了全职工作。我接受这份工作是因为我相信OpenAI是目前最重要的公司之一。当董事会向我汇报情况并邀请我担任这个职位时,我并没有轻易做出决定。最终,我觉得我有责任尽我所能提供帮助,”他在长长的信息中补充道。
“我对Sam和整个OpenAI团队所创造的一切充满敬意。它不仅是一个了不起的研究项目和软件产品,而且是一家了不起的公司。我来这里是因为我知道这一点,我想尽我所能保护它,让它进一步发展,”Shear在帖子中肯定道,这篇帖子读起来更像是一份使命宣言。
Shear的日子不会好过。OpenAI公司95%的员工因解雇山姆·奥特曼而威胁要离开公司。微软已经表示,如果有必要,它愿意聘用所有这些人,但其他科技公司也发出了邀请。这一切都让这家人工智能公司的未来前途未卜。据彭博社(Bloomberg)报道,希尔本人已将调查奥尔特曼被解雇的情况作为首要任务,如果没有证据表明他的前任有不当行为,他愿意辞职。
奇怪的是,当ChatGPT被问及谁会成为OpenAI的优秀CEO时,它列出了五大候选人:特斯拉和SpaceX的创始人埃隆·马斯克;微软首席执行官萨蒂亚·纳德拉;DeepMind联合创始人Demis Hassabis;Facebook前首席运营官谢丽尔·桑德伯格;以及Coursera联合创始人吴恩达。
当然,另一种选择是让ChatGPT这样的人工智能工具来掌舵公司。但这是希尔的想法,而不是我们的:“大多数首席执行官的工作(以及大多数高管的工作)都是可以自动化的。当然,偶尔有些关键决定是你无法取代的,”他在山姆?奥特曼(Sam Altman)被解雇前夕发推文说。