OpenAI的董事会戏剧可能会搅乱你的未来
OpenAI的董事会戏剧可能会影响你未来的发展
今年6月，我在OpenAI总部与首席科学家伊利亚·萨茨凯弗进行了一次对话，正如我在ENBLE的 十月封面故事中 报道的。我们讨论的话题之一是该公司独特的结构。OpenAI最初是一个非盈利的研究实验室，其使命是以安全方式开发人级别或超越人级别的人工智能，即被称为人工通用智能或AGI。该公司在生成极其流畅的文本的大型语言模型中发现了一条有前途的路径，但是开发和实施这些模型需要大量的计算设备和大量的现金。因此，OpenAI决定 创建一个商业实体 来吸引外部投资者，而且它获得了一位重要合作伙伴：微软。公司的几乎所有人都为这个新的营利子公司工作。但是，对公司的商业活动设定了限制。向投资者提供的利润将被限制，对于最早的投资者，利润将是他们投入的100倍，之后OpenAI 将恢复成一个纯非营利组织。整个公司由最初的非营利组织的董事会管理，该董事会只向最初的使命和也许上帝负责。
当我开玩笑说出这种关系的奇怪组织架构看起来像未来的GPT会提出的一个避税方案时，萨茨凯弗并不喜欢。 “我们是世界上唯一一个利润被限制的公司，” 他责备我说。 “以下是合理的原因：如果您像我们一样相信，如果我们非常成功，那么这些GPU将夺走我的工作，你的工作和每个人的工作，那么看起来不错，如果那家公司不会获得真正无限的回报。” 与此同时，为了确保公司中寻求利润的部门不会忽视对AI不受控制的承诺，有一个董事会，监测事物。
这个曾是人类守护者的董事会就是上周解雇萨姆·奥特曼的同一个董事会，他们称之为“他在与董事会的沟通中不一致，阻碍了董事会履行职责的能力。” 对于这种行为的具体例子没有提供，几乎没有人在公司里知道此次解雇，直到被公开宣布之前。微软首席执行官萨蒂亚·纳德拉和其他投资者没有得到提前通知。代表该六人董事会中的大多数的四位董事，还将OpenAI总裁兼主席格雷格·布洛克曼踢出董事会。布洛克曼迅速辞职。
经过与了解董事会思维的某人的交谈，我觉得董事们在解雇奥特曼时认为他们正在执行确保公司安全发展强大人工智能的任务——这是其生存的唯一原因。增加利润或ChatGPT的使用、保持工作场所的和谐以及让微软和其他投资者满意不是他们的关注点。在亚当·丹吉洛、海伦·托纳和塔莎·麦考利以及萨茨凯弗的观点中，奥特曼没有诚实地对待他们。底线是：董事会不再信任奥特曼追求OpenAI的使命。如果董事会不能信任首席执行官，那么它如何保护甚至监控使命的进展呢？
我无法说奥特曼的行为是否真正危及了OpenAI的使命，但我知道这一点：董事会似乎忽视了一种可能性，即对一位备受喜爱和魅力非凡的领导人的解雇不当执行可能会损害使命。董事们似乎认为他们会解雇奥特曼，然后毫不费力地找个接替者。相反，后果是立即而猛烈的。奥特曼作为一名已成为某种崇拜对象的教派英雄，在这个新叙事中变得更加崇高。他几乎没有采取任何行动来消除随之而来的抗议声。对于董事会而言，奥特曼试图重新夺回他的职位，以及过去几天里员工的反抗，这是对他们解雇他的正确性的肯定。机智的萨姆仍在不断进取！同时，整个硅谷都在争吵，也让OpenAI的地位受到了损害，也许是永久性的。
奥特曼的指纹并未出现在昨天发布的 公开信 上，该信由OpenAI约770名员工中超过95％的人签署，称董事会“无法监督OpenAI”。信中说，如果董事会成员不复职奥特曼并辞职，签署的工作人员可能会辞职并加入奥特曼和布洛克曼创建的微软新的先进AI研究部门。董事们似乎并不觉得这一威胁会动摇他们的决心，他们显然觉得自己被要求与恐怖分子谈判。据推测，其中一位董事的看法不同——萨茨凯弗，他现在表示后悔自己的行动。他的签名出现在这封要么辞职要么我们辞职的信上。似乎删除了对奥特曼的不信任，这两个人一直在另一个OpenAI联合创始人拥有的平台X上互相写情书，而现在这位联合创始人与该项目疏远了。
就目前而言，董事会正在挑战众多员工的虚张声势，几乎冒着 OpenAI 的员工群体走出大门加入微软的风险。根据这封信，董事会告诉 OpenAI 的领导者，让公司被毁灭“符合使命”。（《纽约时报》后来将这些话归功于 Helen Toner。）这似乎有些极端。如果每个人都离开，很难想象 OpenAI 如何继续成为促进奇点到来的领导者 – 如果有其他人实现了奇点，公司的董事会就无法决定其安全性。即使 OpenAI 提供的咖啡和午餐很棒，也无法吸引到填补公司当前巫师们突然空出的工作空间所需的顶级机器学习研究人员。听到董事会和 Altman 代表之间的谈判报道并不让我感到惊讶。
当然，OpenAI 的全部员工都加入微软的想法似乎是 ChatGPT 绝不敢幻想的事情。当然，对于微软来说，能够抓住人工智能研究人才梯队中的佼佼者将是一次绝妙的胜利。但这将十分昂贵，而那些 OpenAI 员工中有很多人从事着诸如界面设计、产品管理和开发者关系之类的通俗工作，而微软已经有很多人从事这些工作。而且，OpenAI 的产品会与基于 OpenAI 技术推出的 Copilot 应用程序竞争吗？但最疯狂的事情是，OpenAI（字面意义上是为了阻止像微软这样的公司主导人工智能技术而成立的）竟将其精英人才 – 体系、存货和数据集 – 交到了一家市值数万亿美元的巨头手中。微软对未来的突破毫不犹豫地会从前 OpenAI 员工那里“真正无限的回报”中收入囊中 – 这是任何人在跟随 Altman 去那里之前都应该思考的事情，考虑到他们之前在一家有不同创始原则的公司工作过。（我认为很高比例的 OpenAI 研究人员最终会加入其他崛起中的人工智能初创公司或自立门户创办新公司。）
这整个故事在过去的五天里发生了很多不可思议的曲折，我不会推测接下来会发生什么。但这并不意味着我们应该坐下来享受乐趣，就像迈克尔·杰克逊将爆米花丢进嘴里的那张无处不在的 GIF 图片一样。我们对这个戏剧并不是冷眼旁观者。潜在在这个极客版《继承者》实际发生的事件中潜藏着将决定我们共同未来的问题。
“我认为超级智能对人类来说是最终挑战，”Sutskever 在那次六月的采访中对我说。“那么我们该怎么应对呢？我的观点是，如果有高质量的理解，如果所有聪明的知识分子和思想家都能齐聚一堂，如果有讨论和强大的想法在流动，也许会发生一些好事情。”这是对未来前景的乐观看法。然而，眼下，今天领先的候选人智能正在捍卫中，被卷入了一个狂热的董事会战斗。当我们悄悄踏向人工通用智能时，这是一个令人担忧的干扰。
不要错过这个专栏未来仅限订阅者阅读的版本。今天就订阅 ENBLE（Plaintext 读者享受5折优惠）吧。
