Sam Altman:这是一个好问题。我认为进步是一个持续的指数过程。就像我们不能说这是AI从无到有的那一刻。我很难确定一个具体的事物。我认为这是一个非常连续的曲线。历史书籍会写关于GPT-1、GPT-2、GPT-3、GPT-4还是GPT-7?这取决于他们如何决定。我不知道。如果我一定要选一个的话,我会选择ChatGPT。关键的并不是底层模型,而是它的可用性,包括RLHF(Reinforcement Learning from Human Feedback)和与之交互的接口。
Lex Fridman:ChatGPT是什么?RLHF是什么?是什么让ChatGPT如此惊艳?
Sam Altman:我们在大量文本数据上训练这些模型。在这个过程中,它们学到了一些底层的知识,它们可以做很多惊人的事情。其实当我们第一次使用被叫做基本模型的模型完成训练后,它在评估中表现得非常好,可以通过测试,可以做很多事情,有很多知识,但它并不是很有用,或者说,至少不容易使用。而rlhf是我们利用人类反馈来做调整的方法,最简单的版本就是展示两个输出,询问哪一个更好,哪一个人类读者更喜欢,然后用强化学习将其反馈到模型中。这个过程用相对较少的数据就能让模型变得更有用。所以rlhf让模型与人类期望的目标保持一致。
Sam Altman:我认为那会非常有帮助。但是真正重要的是,我们投入了这么多的精力、金钱和时间来完成这个项目,从中得到的结果对人们有多大的价值?它能给人们带来多少快乐?它能否帮助人们创造一个更美好的世界、新的科学、新的产品、新的服务等等,这是最重要的。或者我们把它理解为一组特定的投入,能为人们提供多大的价值和效用。我认为我们对此有了更好的了解。我们是否了解模型为什么会做一件事而不做另一件事?并不是,至少不总是这样,但我会说我们正在逐步揭开更多的神秘面纱。
Sam Altman:关于我们如何训练这些模型的一个有趣之处是,我怀疑太多的处理能力(如果没有更好的词汇的话)被用于将模型作为数据库,而不是将模型作为推理引擎。这个系统真正令人惊叹的地方在于,它可以在某种程度上进行推理。当然我们可以对此进行争论,有很多定义是不准确的。但对于某些定义,它确实能做到一些推理,也许学者、专家和Twitter上的批评者会说:“不,它不能。你误用了这个词!”等等。但我认为大多数使用过这个系统的人会说:“好吧,它朝着这个方向做了一些事情。”从吸收人类知识的过程中,它产生了这种“推理”能力,无论我们如何讨论这个问题,在某种意义上,我认为这在现在将增加人类的智慧。而在另一些意义上,你可以用GPT-4做各种事情,然后说它似乎完全没有智慧。
Sam Altman:当我还是个小孩子的时候,我以为构建人工智能(当时我们并没有称之为AGI)是世界上最酷的事情。我从来没有想过我真的会有机会参与其中。但是如果你告诉我,我不仅有机会参与其中,而且在制作了一个非常初级的原型AGI之后,还必须要花时间去与人们争论一个人说了多少好话的字符数量是否不同于另一个人的字符数量。如果你把AGI交给人们,他们想要做的就是这个,我是不会相信的。现在我更理解这个问题了。
Sam Altman:小问题在总体上确实是大问题,所以我明白了人们为什么争论,我也理解到这是一个非常重要的问题。然而,我们却在这些问题上纠结,而不是关注AI对于我们的未来意味着什么。你可能会说,这对于我们的未来意味着什么是至关重要的问题,关于一个人说了多少好话的字符数量是否不同于另一个人的字符数量。谁在决定这些?这是如何被决定的?用户如何对此进行控制?也许这确实是重要的问题,但当我8岁的时候,我是不会去猜测这些的。
Sam Altman:我们去年夏天完成了GPT-4,并马上开始让人们对其进行红队测试,同时进行一系列内部的安全评估,尝试寻找不同的方法来规范模型(align the model)。虽然我们并没有做到十全十美,但这种内外结合的努力,再加上建立一整套新的方法,模型在对准度方面的提高速度比其性能提升的速度快,这在未来会变得更加重要。我们在这方面取得了进展,GPT-4是最具竞争力和最能够对准的模型。虽然人们可能希望我们当时马上就推出GPT4,但我很高兴,我们花了时间对模型进行了调整。
Sam Altman:我想先声明一下,目前我们还没有找到一种方法来对齐超级强大的系统。但我们开发出了一种名为rlhf的方法,它为我们当前的模型提供了一种解决方式,RLHF解决的并非仅仅是对齐问题,它能帮助构建更好、更有用的系统,而这也是人们往往忽视的一点。实际上,这是一个我认为业外人士不太了解的问题。对齐和性能提升其实是相辅相成的,更好的对齐技术会带来更强大的模型,反之亦然。这种区分很模糊,我们所做的工作包括让GPT-4更加安全和对齐,看起来与其他研究和工程问题的解决非常相似。
Sam Altman:其实没有一种固定的人类价值观,也没有一种固定的正确答案适用于人类文明。所以我认为我们必须要做的是,在一个社会中,我们需要就在系统内可以做什么事情达成非常广泛的共识,在这些共识之下,也许不同的国家会有不同的rlhf调整。当然,个别用户的偏好也会非常不同。我们在GPT-4中推出了一项名为“系统消息”的功能,虽然它不是RLHF,但它是让用户在很大程度上能够控制他们想要的东西的一种方式。我认为这很重要。
Sam Altman:系统消息就是一种让模型扮演某个角色的方式,比如,请模型装作莎士比亚来回答这个问题,或者只用JSON格式来回答,我们在博客文章里举了一些例子。当然,你也可以想象其他种类的指令。然后我们调整GPT-4,确保系统消息在整个系统中具有更高的权威性。虽然不能总是保证没有错误,但我们会不断从中学习。我们以这样的方式来设计模型,使其学会如何正确处理系统消息。
Lex Fridman:能谈谈编写和设计一个好的提示的过程吗?就像你引导GPT的过程一样。
Sam Altman:我不擅长这个。但我见过一些擅长这项技术的人,他们在创意方面有很高的造诣,他们几乎把这种创意当作是调试软件。我见过有些人每天花12个小时、持续一个月不间断地研究这个。他们真的了解了模型,也了解了不同提示部分如何组合在一起。
Sam Altman:GPT的最初版本只能进行单轮对话,你说出你想要的,它会写出一些代码,就这样。但现在,你可以进行多轮对话,可以说:“不,我是想这样”,或者“不,修复这个错误”,或者“不,这样做”。下一个版本的系统可以在生成代码的过程中发现并修复错误。与计算机进行对话并将其作为创意伙伴的想法是一个很大的改变。
Sam Altman:我认为AI社区有时会有一点把戏,人们谈论将AI与人类偏好和价值观对齐时,他们隐藏着一种心态,即“我认可的价值观和偏好”。而我们需要解决的问题是,谁有权决定真正的限制是什么,我们如何构建一项将产生巨大影响且超级强大的技术,同时在让人们拥有他们想要的AI系统之间找到正确的平衡,尽管这可能会冒犯很多其他人,但仍要划出我们都同意必须划定的界线。
Sam Altman:如果我们能就我们希望AI学到的东西达成一致,那么模型就能学到很多东西。我的理想情况(虽然我们可能无法完全实现,但我们可以看看能接近多少)是,地球上的每个人都能一起进行深思熟虑的对话,讨论我们希望在这个系统上划定的边界。我们可以进行类似美国宪法制定的过程,就问题展开辩论,从不同的角度审视问题,说:“嗯,这在真空中是好的,但在现实中需要进行检查”。然后我们就会达成一致,这就是这个系统的总体规则。这是一个民主过程。我们没有人得到完全想要的,但大家都得到了感觉不错的东西。然后,我们和其他开发者构建一个内置这些规则的系统。在此基础上,不同的国家、不同的机构可以有不同的版本。因为在不同的国家关于言论自由的规则是不同的。然后,不同的用户想要非常不同的东西,那可以在他们所在国家允许的范围内实现。所以我们正在试图弄清楚如何促进这个过程。显然,正如所陈述的那样,这个过程是不切实际的。但是我们能尝试着看看可以接近到什么程度。
Lex Fridman:OpenAI是否可以将这些任务交给人类完成?
Sam Altman:不,我们必须参与其中。我认为让联合国之类的组织去做这件事然后我们接受他们的结果是行不通的。因为我们负责推出这个系统,如果出问题,我们必须修复并对结果负责。我们比其他人更了解即将到来的事物以及哪些事情更容易实现。所以我们必须积极参与。我们必须在某种程度上负责,但不能仅有我们的意见。
Sam Altman:我们曾考虑将基础模型提供给研究人员或其他人使用,但它并不那么好用。每个人都说,给我基础模型,我们可能会这样做。我认为人们主要想要的是一个符合他们世界观的模型。这关于如何规范他人言论。在关于脸书动态的争论中,每个人都说,我的信息流不重要,因为我不会被激进分子影响,我能应对任何事情。但我真的很担心脸书展示的东西。
Sam Altman:人们在这方面做得很好。如果你问同一个问题10000次,然后从最好到最差对输出进行排序,大多数人看到的当然是排名在5000左右的输出。但是吸引所有推特关注的是排名第10000的输出,我认为世界需要适应。这些模型有时候会有一个非常愚蠢的答案,在一个点击截图和分享的世界里,这可能并不具有代表性。我们已经注意到越来越多的人会回应说,嗯,我尝试了一下,得到了不同的回答。所以我认为我们正在建立抗体,但这是一个新事物。
Sam Altman:基础模型有很多技术飞跃,我们在OpenAI擅长的一点是,赢得很多小胜利,并将它们相乘,这样每一个可能都是一个相当大的飞跃,但实际上是它们的乘法效应以及我们投入的细节和关注使我们取得这些大飞跃,然后从外面看起来就像我们可能只是做了一件事,从3到3.5再到4。但实际上是几百个复杂的事情。
Lex Fridman:所以是训练方面的小事物,还有数据组织之类的?
Sam Altman:是的,我们如何收集数据、如何清洗数据、如何进行训练、如何进行优化、如何进行体系结构设计等等。
Sam Altman:我认为人们在参数数量竞赛中陷入了困境,就像他们在1990年代和2000年代的处理器千兆赫竞赛中一样。你可能根本不知道你手机处理器的千兆赫数,但你关心的是这个东西能为你做什么。有不同的方法可以实现这一点,你可以加速,但有时候这会导致其他问题,这也不一定是获得收益的最佳途径。我认为重要的是获得最佳性能。而且,我认为Open AI里有一件非常好的事情是,我们非常追求真理,只做任何能提供最佳性能的事情,不管它是否是最优雅的解决方案。所以我认为,大型语言模型在部分领域是一种令人讨厌的结果。每个人都想找到一种更优雅的方法来实现普适智能,而我们愿意继续做有用的事,并且看起来未来也仍然有用。
Sam Altman:我不这样认为,但我也不能肯定地说这些东西。我们在这里深入探讨的是未知领域。对于我来说,一个无法显著增加我们可以获取的科学知识总量的系统,不能发现、发明或称之为新的基础科学,那么它就不是超级智能。为了做好这个,我认为我们需要扩展GPT范式的一些非常重要的方式,我们仍然缺少这些想法。但我不知道这些想法是什么。我们正在努力寻找它们。
Sam Altman:我对这个系统如此兴奋的原因不是因为它是一个能够自我发展的系统,而是因为它是人类正在使用的这种反馈循环中的工具,在很多方面对我们都有帮助,我们可以通过多次迭代来更多地了解其发展轨迹。我对一个AI作为人类意志的延伸、以及我们能力的放大器的世界感到兴奋。这是迄今为止人类创建的最有用的工具。看看Twitter就知道,结果是惊人的,人们发表了很多自己与AI合获得的高水平幸福感。所以,也许我们永远不会建立AGI,但我们会让人类变得非常出色,这仍然是一个巨大的胜利。
Sam Altman:当俄罗斯国际象棋大师加里·卡斯帕罗夫(Garry Kasparov)输给了人工智能深蓝(Deep Blue)时,有人说,既然AI能在国际象棋中击败人类,那么人们将不再玩国际象棋,因为我们还有什么目标呢?那是30年前、25年前的事了。我相信现在国际象棋比以往任何时候都更受欢迎,人们一直想玩、想看比赛。顺便说一下,人们不怎么看两个AI之间的对战,某种程度上,它们的比赛会比其他同类比赛都更好看,但这不是人们选择做的事情。比起关心在两个更强大的AI之间的比赛中发生了什么,在某种意义上,我们对人类的行为更感兴趣。
Sam Altman:我不想听起来像个过于乐观的技术专家,但如果你允许我这么说,AI能带来的生活质量提高是非凡的。我们可以让世界变得美好,让人们的生活变得美好,我们可以治愈疾病,增加物质财富,我们可以帮助人们更快乐、更充实,所有这些都可以实现。然后人们会说,哦,没有人会工作。但是人们想要地位,人们想要戏剧,人们想要新事物,人们想要创造,人们想要感到有用,人们想要做所有这些事情。即使在一个好得无法想象的生活水平的世界里,我们也将找到新的不同方式去实现这些目标。
Sam Altman:首先,我想说的是,我认为这种可能性是存在的。非常重要的一点是要承认这一点,因为如果我们不谈论它,如果我们不把它当做潜在的真实问题来对待,我们就不会付出足够的努力去解决它。我认为我们确实需要发现新的技术来解决这个问题。我认为很多预测,无论是在AI能力方面,还是在安全挑战和易解决部分方面,都是错误的。这在任何新领域都是如此。我知道解决这样的问题的唯一方法是通过反复迭代学习,尽早发现问题,并限制犯错的次数。
Sam Altman:在人们甚至不相信深度学习,特别是大型语言模型之前,很多AI安全的形成性工作已经完成了。我认为现在我们已经学到了很多东西,而且在未来我们还会学到更多,但是这些工作还没有得到足够的更新。因此,我认为必须建立一个非常紧密的反馈循环。当然,理论也起着重要的作用,但是继续从技术发展轨迹中学到的东西也非常重要。我认为现在是大力推进技术对齐工作的非常好的时机,我们正在努力找到如何做到这一点的方法。我们有新的工具、新的理解,还有很多重要的工作需要做,而现在我们可以做到这些。
Sam Altman:关于GPT-4的反应,它并没有让我感到惊讶。ChatGPT确实让我们有点惊讶,但我仍然一直在倡导我们去做这件事,因为我觉得它会取得非常好的成果。也许我认为它本可以成为历史上增长速度第十快的产品,而不是第一快的。不过,我觉得很难预料到某个产品会成为有史以来最成功的产品发布。但我们认为它至少会取得很好的成绩。对于大多数人来说,GPT-4似乎并没有带来太多的改变。他们认为,哦,它比3.5好,但我觉得它应该比3.5好。但就像周末有人跟我说的那样,你们发布了一个AGI(人工通用智能),但我却没有感受到它的影响,反而我对此并不感到惊讶。当然,我并不认为我们发布了一个AGI,世界运转如常。
Sam Altman:我觉得尽管GPT-4相当令人印象深刻,但它肯定不是AGI。但GPT-4依然很了不起,就我们正在进行的这个辩论来说。
Lex Fridman:那你为什么认为它不是呢?
Sam Altman:我认为我们正在进入一个具体定义AGI的阶段,这真的很重要。或者我们只是说,我看到了就知道,甚至不用管定义。但在我看到的情况下,它不觉得离AGI很近。如果我正在读一本科幻小说,里面有一个人物是AGI,而那个人物就是GPT4,我会说,这是一本糟糕的书,不是很酷。我本来希望我们做得更好一些。
Lex Fridman:在我看来,人类因素在这里很重要。你认为GPT-4有意识吗?
Sam Altman:我觉得没有。
Lex Fridman:我问过GPT-4,当然它说没有。
Sam Altman:你认为GPT-4有意识吗?
Lex Fridman:我认为它知道如何伪装意识。
Sam Altman:如何伪装意识?
Lex Fridman:如果你提供正确的界面和正确的提示。
Sam Altman:它肯定能回答得好像它有意识一样。
Lex Fridman:然后事情开始变得奇怪了。假装有意识和真正的意识之间有什么区别?
Sam Altman:你并不知道(这两者之间的区别)。显然,我们可以像大学新生那样谈论这个问题。你不知道你自己不是某个高级模拟中的GPT-4。如果我们愿意到那个层面,那当然可以。
Sam Altman:也许我可以分享一些不相关的想法。但我告诉你一些Ilya Sutskever很久以前对我说过的话,一直留在我脑海里。
Lex Fridman:Ilya和你一起。
Sam Altman:是的,Ilya Sutskever是我的联合创始人和首席科学家,是AI领域的传奇人物。我们讨论过如何知道一个模型是否有意识,听到了许多想法。但他说了一种我认为很有趣的想法。如果你训练一个模型,数据集在训练过程中极其小心,没有意识或任何接近意识的提及,不仅没有这个词,而且也没有关于主观经验或相关概念的任何东西。然后你开始跟这个模型谈论一些你没有训练过的东西,对于大多数这些东西,模型会说,“我不知道你在说什么。”但是如果你向它描述自己关于意识的主观经验后,模型立刻会回答说,“是的,我知道你在说什么。”这会让我有些新看法。
Sam Altman:坚持你的信念,坚持你的使命。我相信人们会在各种方面超越我们,采取我们不会采取的捷径。我们就是不会那么做。你如何与他们竞争?
Sam Altman:我认为世界上会有许多AGI,所以我们不必与所有人竞争。我们将贡献一些,其他人也将贡献一些。这些AGI的构建方式、所做的事情和关注的焦点会有所不同,这是好事。我们公司是有限盈利的组织,所以我们没有追求无限利润的动力,我担心那些有这个动力的人,但希望一切都能顺利进行。我们是一个有些奇怪的组织,擅长拒绝项目。像我们这样的组织长期以来一直被误解和嘲笑。当我们2015年底宣布要研究AGI时,人们认为我们疯了。我记得当时一个著名的人工智能科学家在一家大型工业人工智能实验室私信给一些记者,说这些人并不很优秀,谈论AGI是荒谬的,我不敢相信你们会关注他们。这就是当一个新团队说要尝试构建AGI时,圈子里会出现何种程度的小气和恶意。
Sam Altman:我们开始是一个非盈利组织,但我们很早就意识到,我们需要的资本远远超过了我们作为一个非盈利组织所能筹集到的。我们的非盈利组织仍然完全控制,同时我们成立了一个有限利润的子公司,使我们的投资者和员工可以获得一定的回报。除此之外,其他所有东西都流向非盈利组织,非盈利组织具有投票控制权,让我们做出一系列非标准决策,可以取消股权,还可以做其他一些事情,比如让我们与另一个组织合并,保护我们不做出任何不符合股东利益的决策等。所以我认为这个结构对我们做出的很多决策都很重要。
Lex Fridman:从非盈利转为有上限的盈利组织的决策过程中,你当时在权衡哪些利弊?
Sam Altman:真正转变的原因是为了完成我们需要做的事情。我们尝试过以非盈利组织的身份筹集资金,但失败了。所以我们需要资本主义的一些优势,但不要太多。我记得当时有人说,作为一个非盈利组织,我们很多事还没做到;作为一个盈利组织,我们做到的事太多了。所以我们需要这种奇怪的中间状态。
Sam Altman:我们无法控制其他人会做什么。我们可以尝试去构建一些东西,谈论它,影响他人,为世界提供有价值和良好的系统,但他们最终还是会按照自己的意愿行事。我认为现在某些公司内部的发展速度非常快,但并非十分深思熟虑。然而,随着人们看到进步的速度,他们已经开始意识到这里面所涉及的利害关系,并为之努力。我相信最终善良的一面将会战胜恶劣的一面。
Lex Fridman:能详细说明一下什么是“更好的天使般的个体”吗?
Sam Altman:资本主义创造和捕获无限价值的动力让我有点担忧,但同样,我认为没有人想要摧毁这个世界,没有人醒来就说,今天我想摧毁这个世界。所以我们一方面面临着这个问题,另一方面,我们有很多人非常清楚这一点,我认为关于我们如何合作以降低这些非常可怕的副作用的讨论已经非常健康了。
Sam Altman:当然。我认为你希望这项技术的决策,以及谁来运营这项技术的决策,会随着时间的推移变得越来越民主。我们还没有完全弄清楚如何做到这一点,但部署这样的技术的部分原因是让世界有时间去适应、反思并思考这个问题,通过监管、制定新的规范,让人们共同努力。这就是我们部署这个技术的一个重要原因。尽管你之前提到的许多AI安全专家认为这很糟糕,但他们也承认这有一定的好处。我认为任何一个人完全掌控这个技术都是非常糟糕的。
Lex Fridman:所以试着分散权力。
Sam Altman:(这是一种)解决方案。我不想要任何超级投票权或者类似的特殊权力。我不喜欢控制OpenAI的董事会或者类似的事物。
Lex Fridman:但是,如果创建了AGI,它将拥有很大的权力。
Sam Altman:你认为我们做得怎么样?诚实地说,你觉得我们的决策是好是坏?我们还能做得更好吗?
Sam Altman:我认为OpenAI的人们感受到了我们所做事情的责任重大。如果新闻记者对我们更友好,Twitter上的喷子给我们更多的疑虑余地,那当然会很好。但我认为我们在做什么、为什么以及其重要性方面有很大的决心。但我真的很想知道,我问过很多人,不仅仅是在摄像机拍摄的时候,你有什么建议可以让我们做得更好。我们现在置身于未知的领域。与聪明人交谈就是我们如何找出做得更好的方法。
Lex Fridman:你是如何从Twitter上获取反馈的?
Sam Altman:我的Twitter无法阅读,所以有时候我会从信息流中取一点样本,但我主要是通过像跟你这样的对话来得到反馈。
Sam Altman:我认为我们在AGI的潜在劣势、确保AI安全性,以及使人们因为AGI的存在而比从未构建AGI时更好的世界方面,达成了一致。
Lex Fridman:你们在哪里产生了分歧?
Sam Altman:Elon显然现在在Twitter上针对我们的某些方面进行了攻击,我感同身受,因为我相信他对AGI安全性的担忧是可以理解的。我敢肯定还有其他一些动机,但这肯定是其中之一。很久以前,我看过一段Elon谈论SpaceX的视频。也许他在某个新闻节目里,很多早期的太空先驱们都在严厉地批评SpaceX和Elon,他显然对此非常受伤,说他希望他们能看到团队正在努力。尽管他在Twitter上是个混蛋,但我从小就把Elon当作我的英雄。我很高兴他存在于这个世界,但我希望他能更关注我们为了做对这些事情而付出的努力。
Lex Fridman:多一点爱。在爱的名义下,你钦佩Elon Musk的什么?
Sam Altman:太多了,他以重要的方式推动了世界的发展。我认为如果没有他,我们会比现在更慢地实现电动汽车的普及。如果没有他,我们也会更慢地进入太空。作为世界公民,我对此非常感激。此外,除了在Twitter上偶尔像个混蛋外,在很多情况下,他都是一个非常幽默和热情的家伙。
Sam Altman:我现在几乎不知道“觉醒”是什么意思了。我曾经知道,但我觉得这个词已经变味了。所以我会说,我认为它有偏见,世界上永远不会有一个公认为无偏见的GPT版本。我认为我们已经取得了很大的进展,甚至我们最严厉的批评者也在谈论3.5和4的比较时感叹说,“哇,这些人真的变得好多了”。不是说不需要继续努力,我们当然也要努力,但我很欣赏那些表现出诚实的批评者,这些人比我想象中的要多。我们会尽量让默认版本尽可能中立,但如果要为每个人做到中立,那可能就不是那么中立了。所以,我认为真正的发展方向是让用户有更多的操控能力,特别是通过系统消息。正如你指出的,这些微妙的答案可以从多个角度来看待问题。
Sam Altman:100%会。我们试图避免旧金山的团体思维泡沫,更难避免的是到处的AI团体思维泡沫。
Lex Fridman:我们100%生活在各种泡沫中。
Sam Altman:我很快就要进行一个为期一个月的环球用户调研,去不同的城市和我们的用户交谈。我非常期待,这么多年来我从来没有这样做过。我过去在YC时经常这样做,和处在非常不同背景下的人交谈。这在互联网上是行不通的。(你得)亲自去见他们,坐下来,去他们去的酒吧,像他们一样走过城市。你会学到很多东西,摆脱泡沫。我认为我们比我所知道的任何一家旧金山公司都更擅长避免陷入旧金山的疯狂,但我相信我们仍然深陷其中。
Lex Fridman:是否有可能区分模型的偏见和员工的偏见?
Sam Altman:我最担忧的偏见是人类反馈评价者的偏见。
Lex Fridman:人类评价者是怎么选拔的?你能从一个较高的层次谈谈关于人类评价者的选拔吗?
Sam Altman:这是我们理解得最不好的部分。我们在预训练机器方面做得很好,现在正试图弄清楚如何选择这些人,如何验证我们得到了具有代表性的样本,如何针对不同地区采用不同的方法。但我们尚未构建出这样的功能。
Lex Fridman: VS Code有很多优点。我很高兴,并且在与其他人交流时也得到了很多正面的反馈。但是在做出这个决定的时候,我也有很多不确定性和紧张。即使是采用Copilot这样的新技术,也会让人感到紧张。但是,就我作为一个纯程序员而言,我的生活变得更好了,不论是从什么角度来看。但是,我们在面对这种不确定性时,应该如何安慰人们的紧张和担忧,通过与他们交流,我们可以更好地理解这些问题。
Sam Altman:我认为UBI是我们应该追求的一部分,但不是全部的解决方案。人们工作除了为了钱之外还有很多原因,我们会发现令人难以置信的新工作,整个社会和个人的生活水平会大大提高。但作为一个在巨大转变中的缓冲阶段,就像我认为世界应该消除贫困一样,如果能够这样做,我认为这是一件好事。作为解决方案的一小部分,我参与创立了一个名为Worldcoin的项目,这是一个技术解决方案。我们还资助了一个非常大型、最全面的UBI研究,由Open AI赞助。我认为这是一个我们应该继续研究的领域。
Sam Altman:我很喜欢你把它们放在一起问,因为我认为它们非常相关。我认为经济转型将驱动政治转型,而不是相反。我过去5年的工作模型是,在接下来的几十年里,智能和能源成本将从今天的水平急剧下降。它的影响,你已经可以看到了,比如你现在有了超越个人编程能力的工具,社会将变得更加富裕,更加富有,这可能是难以想象的。我认为每次这种情况发生时,它的经济影响也会带来积极的政治影响。我认为它也是相互关联的,启蒙时期的社会政治价值观促成了我们过去几个世纪以来持续不断的技术革命和科学发现过程,但我认为我们只会看到更多的变化。我相信形式会改变,但这会是一个长而美丽的指数曲线。
Sam Altman:需要明确一点,我和OpenAI的其他人都没有阅读所有ChatGPT消息的权力。但是从我听到的说法,至少是我与之交谈的人和我在Twitter上看到的内容来看,我们大多数人肯定是善良的。但是,一方面,并非所有人总是如此;另一方面,我们想要推动这些系统的边界,也想要测试一些更黑暗的世界理论。
Sam Altman:我们面临着不同的挑战,这些挑战是前一代公司所面临的,人们谈论GPT的言论自由问题,但这并不完全相同。这不是一个计算机程序,它可以自由地表达。这也不是关于大规模传播和Twitter、Facebook 等公司所面临的挑战,他们所面临的挑战是如此之大。因此,我们将面临非常重大的挑战,但这些挑战将是非常新的和非常不同的。
Sam Altman:这并不容易,但总的来说,他们一直是我们的杰出合作伙伴。Satya、Kevin和Mikhail与我们高度一致,非常灵活,超越了职责的范围来做我们需要的事情,让这一切得以实现。这是一个大型的复杂工程项目。而他们是一个大而复杂的公司。我认为,像许多伟大的合作伙伴或关系一样,我们继续加强彼此的投资,效果非常好。
Lex Fridman:它是一家营利性公司。它非常有推动力。它是大规模的。是否有压力要赚很多钱?
Sam Altman:我认为大多数其他公司可能不会。现在也许会了。在当时,他们可能不明白我们为什么需要所有这些奇怪的控制规定,为什么我们需要所有这些像AGI一样特殊的东西。我知道这是因为我在与微软达成第一笔交易之前,曾与其他一些公司交谈过,我认为在那个规模的公司中,他们是独一无二的,因为他们了解我们为什么需要我们拥有的控制规定。
Sam Altman:这就是我想说的,我不认为这是一小群人的事。我认为这是,(无论你怎么称呼它)都是人类惊人的努力的顶点的产物。所有的工作,几十万几百万人,不管是什么,从第一个晶体管到把我们所做的数字打包到一个芯片中,并找出如何把它们连在一起,以及其他所有的东西,比如所需的能量。科学,就像每一步,就像这是我们所有人的产出。