专题：科技早报

　　开端：华尔街见闻

　　Bob McGrew认为，大模子的越过是一个相配巩固的过程，比如GPT-5可能之比GPT-4只强十倍，不会像前几代模子那样显耀。他预测，异日视频模子的质料将得到显耀擢升，完全由AI生成的、足以获奖的电影可能会在两年内出现。他还信托机器东说念主期间将在五年内得到普及，认为现在是一个创建机器东说念主公司的好时机。

　　在东说念主工智能领域，很少有东说念主比Bob McGrew更引东说念主细心。行为OpenAI的前首席研究官，McGrew在畴昔六年半中一直是AI期间已毕冲突的要道东说念主物。周三，在离开OpenAI一个多月后，McGrew荒僻接受了外界的采访。

　　当地期间18日，Bob McGrew在RedPoint AI播客中，推敲了AI的异日，包括大模子是否遭逢了瓶颈，机器东说念主、AI视频异日怎样发展等问题。

　　McGrew首先回话了当前对于大模子的才智是否达到极限的争论，他认为，大模子还有相配大的越过空间，但这是一个巩固的、需要数年来完善的过程。

　　他指出，外界对于模子才智的看法与实验室里面的看法存在较大各异。对于外界来说，大模子的发展似乎是一个快速的过程，但对于实验室里面东说念主士来说，每一个越过都需要插足巨大的计算资源。比如，从GPT-3到GPT-4，计算才智增多了100倍，这种增长不仅来自于增多更多的芯片和数据中心，还包括算法的修订。

　　McGrew强调，预教学的越过需要巨大的计算量，这时常触及到建造新的数据中心，而这又是一个巩固的过程。他提到，从GPT-4进化到GPT-5的过程中，GPT的才智可能只出现了10倍的增长。

　　McGrew还预测，异日视频模子的质料将得到显耀擢升，完全由AI生成的、足以获奖的电影可能会在两年内出现，而且成本将大幅着落。

　　在推敲机器东说念主期间时，McGrew发达出了相配高的心境。他信托机器东说念主期间将在五年内得到普及，认为现在是一个创建机器东说念主公司的好时机，因为基础模子在快速启动和泛化方面取得了冲突性进展。

　　McGrew还认为，AGI（通用东说念主工智能）可能不会有一个明确的转机点，而是一系列渐近的发展。他预测，跟着AI的越过，咱们将进入一个智能无处不在且免费的寰球，到那时能动性将是最稀缺的资源之一。

　　华尔街见闻整理了本次访谈的亮点不雅点：

从GPT-2到GPT-3，或者从GPT-3到GPT-4，有用的计算量增多了100倍。这即是这种增量所代表的道理。你不错通过增多浮点运算次数、增多芯片、扩大数据中心和修订算法来已毕这极少。算法修订不错带来一些收益——50%、2倍或3倍就一经很了不得了。但从根蒂上说，你必须恭候新的数据中心建成。 从根蒂上说，这是一个相配巩固的、需要数年期间的过程。事实上，在你看到好意思满的代际过渡，比如从 GPT-4 到 GPT-5 之前，你将会看到一些只消10倍擢升的东西。东说念主们时常健忘，咱们是从 GPT-3 到 GPT-3.5 再到 GPT-4 的。 我认为咱们必须恭候，望望下一代模子何时发布。淌若你望望像O1这么的东西，咱们一经能够哄骗强化学习取得进展。通过多样目的来看，O1代表着比GPT-4高100倍的计算量。有些东说念主可能莫得相识到这极少，因为决定将其定名为O1而不是GPT-5。然而，践诺上，这是一个新一代的模子。 是以淌若我议论一下今天的视频模子和两年后的视频模子之间的各异，首先是质料会更好。现在的瞬时质料一经相配好了。另一方面，另一个类比是，我践诺上认为它会相配像大型语言模子，淌若你想要一个GPT-3质料的token，它比GPT-3刚出面前低廉100倍。Sora的情况也会如斯，你将能够看到这些相配漂亮、传神的视频，而且它们的成本简直为零。 （AI生成电影）赢得一个奖项某种进程上来说门槛太低了，对吧？我想有好多授奖仪式．．．．．．我以为咱们会在两年后看到它，但它践诺上会比我刚才说的更没那么令东说念主印象深远，因为你想看它的原因不是因为视频自己，而是因为有一位导演领有创意愿景，并使用视频模子来已毕他的创意愿景。 我信托机器东说念主期间将在五年后得到日常应用，尽管会有一些放手。因此，我认为现在是创办一家机器东说念主公司的好时机。我不会预测机器东说念主何时进入家庭，但我认为你会看到它被日常应用。 我很难贯穿AGI的宗旨。而且，我认为，淌若说有什么的话，我对AGI有一个很深的批判，那即是不存在一个明确的转机时刻，践诺上，这些问题是分形的。而且，咱们将看到越来越多的事物被自动化。但不知怎样的，咱们——我不知说念。我有一种嗅觉，它会变得相配世俗，不知何故，咱们都会开着自动驾驶汽车去办公室，在那儿率领着东说念主工智能雄师。然后咱们会以为，哦，这有点枯燥。嗅觉仍然像在办公室，我的雇主仍然是个傻子。这约略即是咱们AGI的异日。 咱们正在从一个智能可能是社会中最稀缺资源的期间，过渡到一个智能将无处不在且免费的期间。那么，稀缺的坐褥要素又是什么呢？我猜是能动性。你需要提倡什么正确的问题？你需要追求哪些正确的名堂？我认为这些类型的问题对于东说念主工智能来说很难为咱们解决。我认为这些将是东说念主类需要弄明晰的中枢问题。

　　以下是本次访谈的翰墨实录全文（由AI翻译）：

主办东说念主Jacob：

Bob McGrew 在 OpenAI 担任首席研究官六年半。他最近在几个月前下野，咱们有幸能在“无监督学习”播客上成为他初度亮相的播客之一。因此，咱们有契机向他研究对于东说念主工智能异日的一切。咱们推敲了模子是否一经触及瓶颈，还推敲了机器东说念主模子、视频模子、计算机使用模子，以及 Bob 预感的异日期间线和才智。咱们谈到了 OpenAI 专有的文化以及是什么使其研究如斯有用，以及一些要道的决策点和阅历这些决策的感受。咱们探讨了为什么 AGI 可能嗅觉和今天没什么不同，Bob 还共享了他离开 OpenAI 的原因以及下一步的计算。我认为大众会相配心爱这一期节目。话未几说，底下是 Bob。Bob，相配感谢你来参加播客。谢谢邀请，我很期待此次对话。真的很雀跃你能来。我知说念咱们会挑剔好多不同的话题。我想咱们不妨从一个我以为现在大众最暖热的问题开动，也即是对于模子才智是否一经触及瓶颈的猛烈狡辩。咱们很想听听你对此的看法，以及你以为预教学方面还有若干后劲可挖。

Bob McGrew：  好的，我以为这可能是外界不雅察者和大型实验室里面东说念主员看法分歧最大的地方。我认为，淌若从外界来看，好多东说念主当先开动关注东说念主工智能是因为 ChatGPT。然后过了六个月，GPT-4 就出现了。嗅觉一切都在快速加快，况且正在取得进展。然而，GPT-4 是一年半前发布的，而且大众都知说念它在此之前就一经教学好了。那么，现在发生了什么？为什么莫得新的东西出现，对吧？

里面的看法截然相背。在外面，东说念主们想知说念，咱们是不是遭逢了数据瓶颈？到底发生了什么？但你必须记着，要取得预教学的进展，超过是，需要大幅增多计算量。从 GPT-2 到 GPT-3，或者从 GPT-3 到 GPT-4，有用的计算量增多了 100 倍。这即是这种增量所代表的道理。你不错通过增多浮点运算次数、增多芯片、扩大数据中心和修订算法来已毕这极少。算法修订不错带来一些收益——50%、2倍或 3倍就一经很了不得了。但从根蒂上说，你必须恭候新的数据中心建成。

正在建设的新数据中心并不少。你只消望望新闻就能发现，像 Meta、X 和其他前沿实验室也在竖立新的数据中心，即使这些新闻并不老是登上面条。但从根蒂上说，这是一个相配巩固的、需要数年期间的过程。事实上，在你看到好意思满的代际过渡，比如从 GPT-4 到 GPT-5 之前，你将会看到一些只消 10 倍擢升的东西。东说念主们时常健忘，咱们是从 GPT-3 到 GPT-3.5 再到 GPT-4 的。

现在好奇的是，预教学正在进行中。我认为咱们必须恭候，望望下一代模子何时发布。淌若你望望像 O1 这么的东西，咱们一经能够哄骗强化学习取得进展。通过多样目的来看，O1 代表着比 GPT-4 高 100 倍的计算量。有些东说念主可能莫得相识到这极少，因为决定将其定名为 O1 而不是 GPT-5。然而，践诺上，这是一个新一代的模子。

当下一代，假定的 GPT-4.5 被教学出来时，好奇的问题是，这种预教学的进展怎样与强化学习过程比较较？我认为，咱们只可拭目以俟，望望会发布什么音讯。

主办东说念主Jordan： 这就引出了一个问题，议论到进入 2025 年的多年过程，你认为来岁东说念主工智能的进展会像前年一样多吗，照旧你认为事情会开动放缓？

Bob McGrew：  嗯，我认为会有进展。我认为这会是不同的进展。一件事是，当你进入任何下一代时，你老是会遭逢在前一代中莫得看到的问题。因此，即使数据中心一经建好，东说念主们也需要期间来解决问题并完成模子的教学。

咱们用来教学 O1 的强化学习过程，也即是 OpenAI 用来教学 O1 的过程，创建了一个更长、更连贯的想维链，有用地将更多的计算量融入到谜底中。是以，你知说念，淌若一个模子需要几秒钟才能生成谜底，而另一个模子需要，比如说，几个小时才能生成谜底，那么淌若你能真确哄骗它，那即是 10000 倍的计算量，对吧？

淳厚说，咱们从节略 2020 年就开动想考怎样使用测试期间计算。终末，我认为这践诺上是怎样作念到这极少的真确谜底，即如安在不浪费多半计算资源的情况下作念到这极少。这么作念的平允是它不需要新的数据中心。在这里，有好多修订的空间，因为这是一种刚刚开动的新期间，况且有好多算法增强的契机。

从表面上讲，莫高兴义说用于使 O1 从几秒钟，比如 GPT-4 不错在几秒钟内完成的事情，到 O1 破耗 30 秒、1 分钟或几分钟来想考的疏导基本道理和想法不成彭胀到几个小时以至几天。就像从 GPT-3 到 GPT-4 一样，莫得基础的新期间；两者都以大致疏导的方式进行教学，但彭胀是非常艰辛的。

是以这践诺上是问题的中枢：你真的能进行彭胀吗？我认为这将是咱们将会看到的越过类型，况且它会是最令东说念主振作的。

主办东说念主Jacob：  是的，在 2025 年。议论到对测试期间计算的关注以及当前使用的 O1，我认为想考东说念主们践诺上将怎样使用这些模子真的很好奇，对吧？我认为你最近发了一条推文，我以为很特地想，内容是对于你需要这些新的家具形态（form factor）来解锁某些模子的功能。是以也许不错稍稍张开一下。举例，你有莫得看到任何你以为在使用这些模子时很好奇的早期家具形态？

Bob McGrew：  嗯，是的。为了解释这个问题，聊天机器东说念主一经出现一段期间了。今天东说念主们与聊天机器东说念主的大多数互动，GPT-4 级别的模子都能很好地完成这些任务。你知说念，淌若你问 ChatGPT，谁是第四位罗马天子？或者我怎样加热印度香米？咱们的大多数日常对话都能很好地处理。

当咱们议论发布 O1 预览版时，有好多对于东说念主们是否会使用它以及他们是否会找到用它来作念什么的问题。我认为这些问题是正确的。这干系到贯穿需要用这个模子作念什么才能真确从中赢得价值。编程是这方面的一个很好的用例，因为它提倡了一个结构化的问题，你试图在很长一段期间内取得进展，况且它显耀地哄骗了推理才智。

另一个例子是淌若你正在撰写战略简报。在这种情况下，你需要撰写一份需要有道理且具有凝合力的长篇文档。事实是，天然有好多圭表员，但大多数非圭表员的东说念主并莫得每天都需要解决这么的任务。然而，回到这里潜在的冲突，伏击的是要有一个连贯的想维链和一个结构化的方法来解决问题。

这个过程不单是包括想考问题；它还不错包括采选行为和制定行为计算。对于像 O1 这么的模子，我最振作的事情——我信托很快会有其他实验室推出雷同的模子——是使用它们来已毕耐久行为，本色上是充现代理。天然我认为“代理”这个术语被过度使用了，况且莫得明晰地传达咱们试图已毕的主义，但在我的生活中，我有好多任务但愿模子能为我预订东西、为我购物，并以触及与寰球其他部分互动的方式来解决问题。

我认为这是咱们真确需要解决的家具形态：贯穿它是什么以及咱们怎样有用地部署它。就面前而言，我认为还莫得东说念主弄明晰这极少。

主办东说念主Jacob： 这太好奇了。我的道理是，这完全说得通。我以为每个东说念主，你知说念的，都会对这些智能体能作念什么以及它们能为东说念主们和企业解决什么问题产生无穷设计。那么，今天已毕这一切的最大进攻是什么呢？显然，你们一经看到了早期的一些模子，比如 Anthropic 发布的计算机使用模子，而且，我确信其他实验室也在研究这个。但是，当你想考是什么粉碎咱们达到主义时，有哪些难题仍然需要解决？

Bob McGrew： 是的，有好多问题。我认为最径直的问题是可靠性。是以，你知说念的，淌若我条件作念某事，先抛开动作不谈，对吧？淌若我条件智能体代表我作念某事，即使只是想考或为我编写一些代码，而我需要离开五分钟或一个小时让它作事，淌若它偏离了任务并犯了极端，等我回顾时它什么都没作念，那我只是白白浪费了一个小时。这然而个大问题。

现在再加上这个智能体将要在现实寰球中践诺动作。也许它在为我买东西。也许它在提交一个公关稿。也许它在代表我发送条子、电子邮件、Slack 音讯。淌若它作念得不好，就会有后果。我至少会感到难熬，以至可能会失掉一些钱。因此，可靠性就变得比畴昔愈加伏击。

我认为在议论可靠性时，有一个训戒法例，即从 90% 的可靠性提高到 99% 的可靠性，计算量可能会增多一个数目级。这是 10 倍的擢升。要从 99% 的可靠性提高到 99.9% 的可靠性，则需要再增多一个数目级的擢升。因此，每增多一个“9”，都条件模子性能有巨大的飞跃。这 10 倍的修订是显耀的，代表了一两年期间的作事量。

是以我认为这是咱们首先要濒临的问题。我认为第二个好奇的问题是，到面前为止，咱们所挑剔的一切都是针抵阔绰者的，对吧？你莫得镶嵌到企业中。但是，当你在挑剔智能体在践诺任务时，对于咱们好多东说念主来说，那将是咱们在作事中作念的事情，是镶嵌在企业中的事情。我认为这会带来一系列其他的议论身分。

主办东说念主Jordan： 这很好奇。咱们今天在企业中看到，许多督察公司践诺上作念得很好，因为面前向企业部署这些期间需要好多手把手的指导。你认为这种手把手指导以及企业对匡助的需求会陆续一段期间吗？照旧你认为它会变得愈加易于使用，企业将来不错相配容易地部署这些大型语言模子？

Bob McGrew： 是的，我认为这是一个相配好奇的问题。而且，我的道理是，即使是开动构建，那么在企业中部署大型语言模子的问题是什么呢？好吧，淌若它要为你自动化一个任务或者作念你的作事，它可能需要落魄文。因为在阔绰者领域，莫得太多落魄文。好吧，你心爱红色，很好。没什么道理。

主办东说念主Jacob：  感谢你用红色行为例子（我方的播客叫RedPoint）。

Bob McGrew： 但是，你知说念，在企业中，你知说念，你的共事是谁？你正在从事什么名堂？你的代码库是什么？你知说念，东说念主们尝试过什么？东说念主们心爱和不心爱什么？扫数这些信息都在企业中以一种环境的方式存在。它在你的 Slack 中。它在你的文档中。你知说念，也许它在你的 Figma 或其他什么地方。那么你怎样赢得打听权限呢？

好吧，你需要我方构建一些一次性的东西。我认为肯定有一种方法是东说念主们构建这些联结器的库，然后你就不错进来作念到这极少。这与咱们在 Palantir 所作念的作事相配相似，Palantir 解决的根蒂问题是集成企业中的数据。我认为这亦然为什么像 Palantir 的东说念主工智能平台 AIP 如斯好奇的原因之一。是以我认为这是第一条旅途，你有点像在构建这些东西的库。不错基于此构建扫数这个词平台。

另一个是进行计算机使用（Computer Use）的契机。是以现在，你不再需要这种相配具体且可能定制的方式来作念，你现在领有一个不错用来处理扫数事情的器具。Anthropic 推出了这个；这真的很好奇，咱们在 Anthropic 的东说念主在 2020 年离开 OpenAI 之前就一经在推敲这些计算机使用的智能体了，Google DeepMind 也发表了对于这方面的论文。每个实验室都议论过这个问题，并悉力于于解决这个问题。

计算机使用的智能体与这些圭表化 API 集成不同之处在于，现在，由于你适度的是鼠标和键盘，你现在采选的行为触及更多圭表。你可能需要 10 倍以至 100 倍于使用这些圭表化集成所需的令牌数目。

是以现在，咱们又回到了什么？你需要一个具有相配长且连贯的想维链的模子，能够在很长一段期间内永恒如一地决问题，这恰是 O1 所解决的那类问题。我信托还有其他方法不错解决这个问题。但我认为这将是咱们异日几年将会看到的一个冲突。

主办东说念主Jacob： 来岁。你认为最终会怎样发展？因为我想一方面，显然，不错在职何落魄文中使用计算机的通用模子似乎很有诱骗力。我想，要达到 99.999% 的可靠性可能很艰辛。而且，你知说念，在不同的点上可能会有好多圭表出错。你知说念，对于这怎样运作的另一种不雅点是，我确信，淌若以某种方式绽开底层应用圭表 API，这些问题中的一些可能会被简化，对吧？或者其他方法，或者你不错为使用 Salesforce 或我不知说念的某些特定器具提供特定的模子。淌若你不错打听底层体验，那么集成最终将成为一个巨大的上风。这么你就不错在倏地完成事情，而不是坐在那儿看着计算机在屏幕上作念事。

Bob McGrew：  是的，嗯，我的道理是，我认为你肯定会看到这些方法的搀杂使用，其中一些使用这些集成，而另一些，你知说念，计算机使用成为一种备用决策，淌若你莫得定制的东西不错使用。然后也许你会望望东说念主们使用哪些东西，淌若可行，你会提倡更详备的集成。

我认为对于你会看到 Salesforce 专用的计算机使用（Computer Use）智能体的问题，从期间上讲，这对我来说莫得太大的道理，因为我认为你从根蒂上哄骗的是数据。有东说念主出去会聚了多半对于怎样使用 Salesforce 的数据集。

你不错把这些数据扔进——与 Anthropic、OpenAI 和 Google 共享这些数据集对 Salesforce 故意。他们教学我方的模子。我认为每个应用圭表提供商都会但愿这是公开的，况且是每个基础模子的一部分。是以我不认为，你知说念，对我来说，这似乎莫高兴义以这种方式领有专门的模子。

主办东说念主Jacob： 不，这确乎是一个很有劝服力的不雅点，因为我以为，当你在一个竞争猛烈的领域，而你的竞争敌手正在公开他们的数据，况且他们的家具变得更容易使用时，你肯定也但愿你的家具是这么的。

Bob McGrew： 是的，对我来说有点奥秘，为什么还没出现那种东说念主们把数据塞进大型语言模子的生态系统。这践诺上就异常于谷歌的SEO。

主办东说念主Jacob： 这确切个很好奇的不雅点。你认为咱们离计算机使用的日常应用还有多远？

Bob McGrew： 嗯，我的道理是，我认为对于这些事情有一个很好的训戒法例，那即是当你看到一个演示，它超等有诱骗力，但还不太好用。用起来会很苦难。然后，你知说念，给它一年期间，它就会好十倍。而且，这种修订是呈对数线性增长的。是以好十倍，你知说念，只是一个级别的修订。但一个级别的修订一经异常了不得。你会开动看到它被用于有限的使用场景。然后再给它第二年。到那时，它会特地地有用，但你不成每次都依赖它。咱们现在用聊天机器东说念主即是这么，你仍然需要驰念它们会产生幻觉。那么，接受的问题践诺上取决于你条件的可靠性水平。任何不错容忍极端的领域都会比那些不成容忍极端的领域更快地已毕自动化。

主办东说念主Jacob： 是以我想回到乔丹当先的问题，基本上，现在你需要多半的提拔才能集成到正确的数据中，并界说定制的阻碍措施和作事历程，这是完全有道理的。那么，在“嘿，很棒的计算机使用模子，企业准备签约”之间，会存在什么样的中间层呢？这个中间层会是什么样的？

Bob McGrew： 伴计，我认为应该有初创公司来界说它。你知说念，我认为咱们还不完全知说念谜底。我认为，当你领有像计算机使用这么的一般器具时，你会看到一个好奇的形势，它解决的问题在难度上是分形的，它不错解决好多问题。但随后你会看到一个真确伏击的问题，而你无法完全解决它。然后你会说，好的，现在咱们要针对这个作念一些相配具体的，也许咱们会为此接受一种圭表化的方法。是以我认为咱们会在一段期间内看到多样方法的搀杂。

主办东说念主Jordan： 我很好奇，你显然一直在研究方面作事，并讲求一些真确顶端的研究。咱们稍稍谈到了测试时计算。你对其他哪些领域超过感风趣？

Bob McGrew： 嗯，我认为咱们一经谈过了预教学。咱们一经谈过了测试时计算。另一个真确令东说念主振作的事情是多模态。多模态的伏击日子。是的，今天发布了Sora。践诺上，这在某种进程上是这个漫长历程的极点。大型语言模子，咱们假定是2018年发明的。很显着，你不错应用Transformer和一些疏导的期间来适应其他模态。是以你包含了视觉，有了图像输出、音频输入和音频输出。

首先，这些东西一开动是行为雷同DALLE或Whisper的提拔模子。最终，它们被集成到主模子中。耐久以来一直贬抑这种作念法的模态是视频。我认为Sora是第一个进行演示的；其他公司，如Runway，以及一些其他的模子也接踵出现。现在Sora自己一经发布了。我认为视频与其他模态比较，有两个真确好奇且不同的地方。

当你创建图像时，你可能真的只想通过一个教导来创建一个图像。也许你尝试几次。淌若你是专科的平面设计师，你可能会剪辑这个图像中的一些细节。但说真话，咱们都不是。这里的好多用途是，你需要一些幻灯片吗？你是否想要一张图片来搭配你的推文或演示文稿？这是一个相配径直的过程。

然而，对于视频来说，哇。我的道理是，这是一系列彭胀的事件。它不是一个教导。是以现在你践诺上需要一个好意思满的用户界面。你需要议论怎样使这个故事跟着期间的推移而张开。我认为这即是咱们在Sora发布中看到的事情之一。Sora在这方面破耗了更多的期间想考；家具团队在这方面插足了比其他一些平台更多的元气心灵。

你还需要议论的另一件事是，视频的成本相配高。教学这些模子相配腾贵，运行这些模子的成本也相配高。是以，天然看到Sora质料的视频很好奇——而且我认为Sora的质料确乎更好——但你必须稍稍提神一下才能看到它的质料更好，至少淌若你只看一个片刻的片断的话。

现在，任何领有Plus账户的东说念主都不错使用Sora。OpenAI发布了每月200好意思元的Pro账户，其中包括无放手的Sora慢速生成。当你领有这种水平的质料和分发时，两个难题一经解决了。这将是其他竞争敌手难以企及的高门槛。

主办东说念主Jacob：视频模子在异日几年的发展会是什么样的？我的道理是，显然在大型语言模子领域，咱们一经看到了巨大的越过，嗅觉前年的模子现在低廉了十倍，而且速率快得多。你认为视频方面也会有雷同的修订吗？

Bob McGrew： 践诺上，我认为类比相配径直。是以淌若我议论一下今天的视频模子和两年后的视频模子之间的各异，首先是质料会更好。现在的瞬时质料一经相配好了。你不错看到反射。淌若你共享一些东西，扫数难以解决的难题，你不错指出，哦，看，那儿作念了反射。有一些烟雾。你知说念，艰辛的是彭胀的、连贯的生成。

是以SOAR家具团队领有一个故事板功能，允许你在不同的期间点，比如每五秒或每十秒树立查验点，以匡助为生成提供指导。你知说念，从根蒂上说，淌若你想从几秒钟的视频变成一个小时的视频，这是一个相配艰辛的问题。我认为这是你将鄙人一代模子中看到的东西。

另一方面，另一个类比是，我践诺上认为它会相配像大型语言模子，淌若你想要一个GPT-3质料的token，它比GPT-3刚出面前低廉100倍。Sora的情况也会如斯，你将能够看到这些相配漂亮、传神的视频，而且它们的成本简直为零。

主办东说念主Jacob： 我以为瞎想是有一部由东说念主工智能生成的好意思满电影，赢得一些奖项之类的，你知说念，用一个无耻的播客问题来问，你认为咱们什么时候会有这么的电影？

Bob McGrew：  我只可猜一下。哦，天哪。是的。说真话，赢得一个奖项某种进程上来说门槛太低了，对吧？我想有好多授奖仪式。真的，这是一部你真确想看的电影吗？是的。我以为咱们会在两年后看到它，但它践诺上会比我刚才说的更没那么令东说念主印象深远，因为你想看它的原因不是因为视频自己，而是因为有一位导演领有创意愿景，并使用视频模子来已毕他的创意愿景。我认为他们这么作念是因为他们不错在这种前言中作念一些他们无法拍摄的东西。咱们不错联想一下。咱们这里莫得东说念主是导演，但咱们都不错联想好多可能性。咱们不是平面设计师，也不是导演，但，是的，异日会是这么。

主办东说念主Jordan：   没错。是的，咱们这里有一些相配特定的手段。是的，咱们看到好多公司涌现出来，试图成为东说念主工智能领域的皮克斯。咱们老是会问这个问题，什么时候这才是真确可行的？是以听起来比咱们至少意料的要快得多。

Bob McGrew：   这是我的猜测。一朝事情进展到不错演示的阶段，之后的进展会相配快。在此之前，进展相配巩固，或者至少它是不可见的。

主办东说念主Jordan：   我想从视频转向机器东说念主，你一开动加入 OpenAI 是为了研究好多机器东说念主方面的东西。咱们很想了解你对这个领域的看法，以及咱们今天的处境，以及你认为它将走向何方。

Bob McGrew：  这确乎是一个相配私东说念主的问题。当我离开 Palantir 时，我的一个想法是，机器东说念主将成为深度学习变得实在的领域，而不单是是某东说念主网站上的一个按钮。是以，我在 Palantir 和 OpenAI 之间花了一年的期间深入了解机器东说念主期间，用深度学习编写了一些对于视觉的早期代码。这是一个相配具有挑战性的领域。其时，我以为可能还要五年；那是2015年，而那是完全极端的。但是，我认为现在是对的。我信托机器东说念主期间将在五年后得到日常应用，尽管会有一些放手。因此，我认为现在是创办一家机器东说念主公司的好时机。

一个异常显着的不雅点是，基础模子在快速启动和运行机器东说念主方面取得了巨大冲突，使其能够在伏击方面进行泛化。这有几个不同的方面。其中比较显着的是，哄骗视觉并将视觉迁徙为行为计算的才智，这是基础模子带来的。稍稍不那么显着，也许更好奇的方面是扫数这个词生态系脱色经发展起来了。现在我一经离开了 OpenAI，我花了一些期间和首创东说念主在一皆，我和一些机器东说念主首创东说念主聊过。一位机器东说念主首创东说念主告诉我，他们践诺上一经树立了让机器东说念主能够对话。这真的很酷而且容易得多；你不错告诉机器东说念主作念什么，它会贯穿粗俗。它使用一些专门的模子来践诺操作。以前，写出你想要的东西很费事，你必须坐在电脑前，而不是看着机器东说念主。现在你只需要和它话语就行了。

我认为咱们仍然不明晰驱散的一个主要区别在于，你是在模拟中学习照旧在现实寰球中学习。咱们在机器东说念主领域这两年的主要孝顺是展示了你不错在模拟器中教学，并使其推行到现实寰球。使用模拟器有好多原因；举例，在坐褥系统或现实寰球中运行是很费事的。你不错进行免费测试等等。但是，模拟器擅长模拟刚体。淌若你正在用坚韧的物体进行握取和舍弃的任务，那就太好了。但是，寰球上的好多东西都是软绵绵的物体。你必须处理布料，或者，当议论仓库时，要处理纸板。不幸的是，模拟器在处理这些场景方面作念得不是超过好。因此，对于任何想要真确通用的东西，咱们现在独一的方法即是使用现实寰球的演示。正如你从最近出现的一些作事中所看到的，这践诺上不错产生有但愿的驱散。

主办东说念主Jacob：   着力相配好。然后，我想，显然这在某种进程上是不可知的，比如，你知说念的，当东说念主们在机器东说念主期间中发现缩放定律，以及东说念主们可能需要若干长途操作数据时，但是你以为咱们离它很近了吗？或者，我的道理是，显然，你知说念，在2015年，你认为还有五年。你认为咱们离东说念主们所说的机器东说念主期间像 ChatGPT 那样的时刻还有多远，东说念主们会说，哦，那真的很棒，那看起来很不一样而且有用。

Bob McGrew：  对于预测，尤其是对于机器东说念主期间的预测，你真的要议论这个领域。是以我对机器东说念主期间的大限制阔绰者接受持异常悲不雅的作风，因为在家里有一个机器东说念主是很可怕的。机器手臂是致命的。它们可能会杀死你，更伏击的是，它们会杀死你的孩子。而且，你知说念，你不错使用不同种类的机器手臂，它们莫得这些缺点，但它们有其他缺点。家是一个相配不受不断的地方。

但我确乎认为，在多样款式的零卖或其他作事环境中，我认为五年后咱们会看到这种情况。淌若你去亚马逊的仓库，你以至不错看到这种情况；他们一经领有解决了他们移动问题的机器东说念主。你知说念，他们正在研究握取和舍弃。我认为你会在仓库环境中看到多半机器东说念主推出。

然后，你知说念，它将在一段期间内以领域为单元慢慢鼓励。我不会预测它何时进入家庭，但我认为你会看到它被日常应用。我认为在五年后，咱们会以一种今天会嗅觉奇怪的方式在日常生活中与它们互动。

主办东说念主Jacob：   我的道理是，显然一经有一些孤独的机器东说念主公司。在某种进程上，显然机器东说念主期间哄骗了基础，你知说念，LLM 的越过。我很好奇，比如，你知说念，这一切是否会会通？显然有些公司只作念视频模子。有些公司专注于生物、材料科学。当你议论它的耐久发展地方时，你知说念，是否会有一个宏大的模子涵盖扫数这些？

Bob McGrew：  在最前沿的模子限制上，我认为你应该不绝渴望这些公司推出一个模子。它将在他们所领有的每种款式的数据的每个维度上作念到最佳。这是一个伏击的劝诫。

专科化真确给你带来的是性价比。在畴昔的一年里，你一经看到最前沿的实验室在领有多半智能的小模子方面作念得更好，这些模子不错以相配低的成本完成雷同聊天机器东说念主的用例。

淌若你是一家公司，在这极少上，一个非时常见的模式是，你弄明晰你但愿东说念主工智能为你作念什么，然后你使用你心爱的最前沿的模子来运行它。然后，你生成一个宏大的数据库，并微调一些更小的模子来践诺该操作。你知说念，这是一个非时常见的作念法；OpenAI 提供这项服务，我信托这在每个平台上都是一个常见的模式。

你不错说，你知说念，这相配相配低廉。现在，淌若你像这么教学了一个聊天机器东说念主，你的客户服务聊天机器东说念主是这么教学的，淌若有东说念主偏离了剧本，它就不会像你原本使用前沿模子那样好。但这不要紧；这是东说念主们温存接受的性价比。

主办东说念主Jacob： 有一件我以为很好奇的事情，咱们之前聊天的时候，你提到了一个对于东说念主工智能进展的宏不雅不雅点，基本上是在说，在2018年，咱们曾揣度，到了2024年，咱们会领有多样模子才智，你会从第一性道理登程认为，这些东西一经透顶转换了。就像寰球相对于2018年简直修葺一新。天然你们确乎对更稠密的寰球产生了巨大的影响，但我还不成说东说念主工智能的普及一经完全转换了扫数这个词寰球运作的方式。你认为为什么会这么？

Bob McGrew： 嗯，我只是想稍稍重述一下，我以为，天然听起来很奇怪，但对于东说念主工智能的正确心态应该是深深的悲不雅。比如，为什么进展如斯巩固？为什么，你知说念，有东说念主说东说念主工智能导致了GDP增长了0.1%。但这并不是因为使用东说念主工智能带来的坐褥力擢升，而是因为竖立教学东说念主工智能所需的数据中心所产生的成本支拨。是以，为什么东说念主工智能在坐褥力统计数据中并不显着？就像东说念主们在20世纪90年代挑剔互联网时所说的那样。

我认为这有几个原因。首先，2018年的那种不雅点认为，一朝你不错和它对话，它就不错编写代码，那么扫数东说念主都会立即已毕自动化。这和工程师被条件编写一个功能时的想法是一样的。你可能会想，“哦，是的，我不错在几个星期内处分。”但是当你开动编写代码时，你就会相识到，“哦，践诺上，这个功能比我联想的要复杂得多。” 淌若你是一个优秀的工程师，你可能会预计两周，但践诺上名堂可能需要两个月。淌若是一个灾祸的工程师，他们可能会发现这个功能根蒂就写不出来。

我认为当咱们真确深入研究东说念主类怎样完成作事时，就发生了这种情况。是的，你可能会在电话里和他们交谈，但这并不虞味着他们所作念的只是和你交谈。其中触及到真确的作事。从根蒂上说，东说念主工智能不错自动化的只是一项任务。然而，一项作事是由许多任务构成的。当你仔细研究实在的作事时，你会发现，对于大多数作事来说，有些任务是无法自动化的。

即使你望望编程，举例，样板代码首先被优化，而那些更难办的部分，比如详情你到底想作念什么，则是终末才被解决的。是以我认为，跟着咱们不绝推行东说念主工智能，咱们将发现它在自动化东说念主类作事的全部范围方面存在越来越多的复杂性和局限性。

主办东说念主Jordan：  那么议论到这极少，就进展而言，你认为今天有哪些领域被低估了，应该比现在得到更多的关注？

Bob McGrew：  嗯，好的。这里有一个谜底，我真确感风趣的初创公司是那些东说念主们哄骗东说念主工智能来解决一些相配枯燥的问题的公司。

联想一下，你计齐截家公司，你不错雇佣扫数你想要的灵巧东说念主去作念一些超等枯燥的事情，比如查验你扫数的支拨，并确保你进行了合适的比价。比如，淌若你的采购部门都是像埃隆·马斯克那样的东说念主，他们真的相配仔细地适度支拨，那么你可能会省下好多钱。

莫得东说念主这么作念，因为，你知说念，那些真确能省钱的东说念主，他们会以为枯燥。他们会愤激这份作事，对吧？但是东说念主工智能是无穷耐烦的。

它无谓无穷灵巧。而且，你知说念，我认为在职何地方，淌若你在计划你的业务，你不错从那些无穷耐烦的东说念主所作念的事情中赢得价值，那么这即是东说念主工智能应该自动化的东西。

主办东说念主Jacob：  这很好奇，因为我一直认为督察师是让灵巧东说念主去解决枯燥问题或在枯燥行业作事的套利方式。而显然，有了顶端的东说念主工智能模子，你就不错让一个技艺很高的东说念主去解决你永远不可能让一个灵巧东说念主去作念的问题。

Bob McGrew：  是的，我的道理是，我第一次据说有东说念主作念了坐褥力研究，驱散标明东说念主工智能确乎带来了20%到50%的擢升。我就想，哇，太棒了。然后我就发现，哦，是督察师。嗯，你知说念，东说念主工智能相配擅长“扯淡”，而督察师的作事即是“扯淡”。是以也许咱们不应该感到骇怪，坐褥力的擢升首先出现在这里。

主办东说念主Jacob：  是的，我认为在发达较差的后一半东说念主中擢升幅度亦然最大的，对吧？

Bob McGrew：  没错。嗯，践诺上，我认为这有点令东说念主充满但愿。因为淌若你望望发达较差的后一半东说念主，你知说念，他们领有东说念主类领有的、难以自动化的手段，这是这个事情充满但愿的版块。他们知说念他们在作念什么，但他们不知说念怎样编写代码来已毕它。然后模子出现了，它说，哦，我知说念怎样编写代码来已毕它，但我不知说念我应该作念什么。是以现在这些发达较差的东说念主践诺上不错在他们的作事中得到真确的擢升。是以我以为这相配令东说念主充满但愿。

主办东说念主Jordan：  我想，就发达而言，你也曾况且正在与寰球上一些最优秀的研究东说念主员合作。你认为是什么让一个东说念主工智能研究东说念主员成为最优秀的？

Bob McGrew：  有许多不同类型的研究东说念主员作念着不同的事情。淌若你意象像亚历克·拉德福德这么的东说念主，他发明了GPT系列和CLIP，你会发现他基本上发明了大型语言模子（LLM），然后不绝进行多样款式的多模态研究。亚历克是一个心爱在夜深的奇怪期间独自作事的东说念主。比较之下，其他像伊利亚·苏茨克维和雅各布·皮乔基这么的特出东说念主物，他们折柳是OpenAI的第一任和第二任首席科学家，他们有伟大的想法和愿景。他们匡助其他东说念主解决挑战，并在为公司制定举座阶梯图方面领会着要道作用。

最优秀的科学家们都有一个共同的要道特征，那即是一定的坚毅。我永远铭刻看着阿迪亚·拉梅什，他发明了DALL-E，英勇解决生成一张不在教学蚁合的图像的问题，以诠释神经会聚具有创造力。DALL-E的当先想法是望望它是否能创造一张粉红色熊猫在冰上溜冰的图片，阿迪亚确信这张图片不存在于教学数据中。他为此作事了18个月，也许是两年，试图已毕这个主义。

我铭刻节略一年后，伊利亚过来给我看了一张相片，说：“你看，这是最新一代的。它真的开动起作用了。” 我看到的是一派混沌，顶部朦胧可见粉红色，底部是白色——只是像素开动聚积在一皆。我其时还看不出什么，但阿迪亚迎难而上。这种顽强是每一个顺利的科研东说念主员在解决基础问题时必须具备的。他们必须把这看作是他们的“终末一战”，况且决心为此宝石数年，如有必要的话。

主办东说念主Jacob：  为了使其领会作用。你从组建这么一个由这么一群东说念主构成的研究机构中学到了什么？

Bob McGrew：  嗯，好奇的是，我能意象的最佳的类比践诺上来自 Palantir 的 Alex Carp，他老是说工程师是艺术家。这很有道理。当你和一位真确优秀的工程师交谈时，他们只想创造。他们心中有某种东西。代码是他们将心中的雕琢变成现实的方式。

在 Palantir，你知说念，你必须让他们成立bug，但每次你这么作念，他们艺术家的那一面都会感到悲悼。你必须有一个历程来让东说念主们协同作事，但他们艺术家的那一面会感到悲悼。事实是，工程师是艺术家，一个 10 倍工程师是 10 倍的艺术家，而研究员是任何工程师的 100 倍艺术家。

要竖立一个领有研究东说念主员的组织，需要议论的事情要多得多。有一种工程约束方式，你会说淌若每个东说念主都是可互换的零件，况且你有一个允许他们协同作事的历程，那就太好了。然而，与研究东说念主员合作是非常需要密切关注的，因为最要道的是你不成消除他们的艺术性。

恰是他们头脑中对愿景的心境，使他们温存承受扫数将愿景变为现实的挑战。

主办东说念主Jordan：  你很行运曾在 Palantir 和 OpenAI 作事过，而且有好多著述都在推敲 Palantir 的文化相配超过。当你想起 OpenAI 时，我信托异日也会有好多对于其文化的著述。你认为这些著述会怎样说？

Bob McGrew：  是的。我的道理是，我认为其中极少是像咱们刚才谈到的那样，与研究东说念主员合作。对于 OpenAI 另一件纵容的事情是它阅历了若干次转型，或者我更心爱把它看作是屡次重建。是以当我加入 OpenAI 时，它是一个非牟利组织。公司的愿景是通过撰写论文来构建 AGI。咱们知说念这是极端的；嗅觉不太对劲。早期的好多东说念主，Sam、Greg 和我，都是创业东说念主士，而这条通往 AGI 的说念路嗅觉不合。

几年后，公司从非牟利组织转型为牟利组织。这在公司里面引起了很大的争议，部分原因是，咱们知说念在某个时候咱们将不得不与家具互动。咱们必须议论怎样得益。与微软的合作成了另一个重建时刻，这也引起了很大争议。我的道理是，也许得益是一趟事，但是把它给微软，给大型科技公司，哇，太灾祸了。

此外，相通伏击的是，咱们决定说，好吧，咱们不仅要与微软合作，咱们还要使用 API 构建我方的家具。终末，通过 ChatGPT 将阔绰者服务添加到企业服务中。这些都是初创公司会阅历的决定性的转型。在 OpenAI，嗅觉好像每 18 个月或每两年，咱们都在从根蒂上转换公司的宗旨和在那儿作事的东说念主们的身份。

咱们从撰写论文是你的作事的宗旨，退换为构建一个寰球上每个东说念主都不错使用的模子的想法。真确纵容的是，淌若你在 2017 年问咱们正确的职责是什么，那不会是通过撰写论文来已毕 AGI；相背，那会是咱们想构建一个每个东说念主都不错使用的模子。但是咱们不知说念怎样已毕这一主义，是以咱们只可探索并一齐找出扫数这些事情。

主办东说念主Jacob：  你认为是什么让你们在进行这些首要退换时如斯顺利？

Bob McGrew：  嗯，我的道理是，首先是必要性。这些都不是削弱遴荐的，对吧？你有一个非牟利组织，你花光了钱，也许你需要找到一种筹集资金的方式；也许为了筹集资金，你必须成为一家牟利性公司。你与微软的合作，也许他们莫得看到你正在创建的模子的价值，是以你需要构建一个 API，因为它可能真的有用。然后你不错向他们展示，东说念主们践诺上想要这些模子。

ChatGPT，我认为这是咱们在 GPT-3 之后真确信托的，通过正确的越过，正确的款式不单是是东说念主们必须通过中介才能与模子对话的 API，而是该模子将是你不错径直与之交谈的东西。是以这是我认为相配刻意的一件事。但大众皆知，它的发生方式是一个不测。咱们正在研究它。咱们践诺上一经教学了 GPT-4，况且咱们但愿在模子弥漫好，以至于咱们每天都使用它时发布。

咱们在 11 月都看了 ChatGPT，咱们想，它通过了门槛了吗？不完全是。带领这个团队的结合首创东说念主之一 John Schulman 说，听着，我真的只想发布它。我想赢得一些外部训戒。我铭刻其时在想，淌若有一千东说念主使用它，那将是顺利。你知说念，咱们对顺利的圭表异常低。咱们作念出了一个决定，莫得把它放在恭候列表之后。

然后，你知说念，寰球再次迫使咱们动手，倏地之间，寰球上每个东说念主都想使用它。当你发布它时，当先的几天是什么样的？哦，我的天啊，那是非常病笃的。最先，东说念主们有些不信托这真的会发生。有一些蹙悚。咱们飞速尝试找出怎样赢得 GPU。是以咱们暂时把一些研究计算资源迁徙到了那儿。

然后就出现了这个问题，它什么时候会住手？这种情况会不绝下去照旧会成为一种前锋？因为咱们简直在 DALL-E 上也阅历过雷同的事情。DALL-E 2 模子曾在互联网上引起震憾，然后就消除了。是以东说念主们驰念 ChatGPT 践诺上也会消除。这是我相配信服它不会消除的地方，它践诺上会比 API 更伏击。

主办东说念主Jacob：  我的道理是，何等好奇的阅历啊。我想其中一件很酷的事情是，你离顶端 AI 研究相配近。我很好奇，在畴昔的一年中，你在 AI 领域转换了什么想法？

Bob McGrew：  好奇的是，我不认为我转换了什么想法。在 GPT-3 之后，进入 2020 年、2021 年，淌若你身处其中，那么异日四五年需要发生的事情，好多都嗅觉是理所天然的。咱们将领有这些模子。咱们将使模子变得更大，它们将成为多模态的。即使在 2021 年，咱们也在挑剔怎样需要在语言模子上使用 RL，并尝试找出怎样使其作事。而且，2021 年和 2024 年之间的真确区别不是说需要发生什么，而是咱们能够让它发生这个事实。而且，你知说念，咱们，扫数这个词领域，都能够让它发生。但在某种道理上，咱们现在的处境也嗅觉有点掷中注定。

主办东说念主Jacob：  我猜想，瞻望异日，当你议论彭胀预教学和彭胀测试时计算时，嗅觉它也像是掷中注定要仅凭这两者就达到 AGI 吗？或者，你是怎样看待这个问题的？

Bob McGrew： 我很难贯穿AGI（通用东说念主工智能）的宗旨。而且，我认为，淌若说有什么的话，我对AGI有一个很深的批判，那即是不存在一个明确的转机时刻，践诺上，这些问题是分形的。而且，咱们将看到越来越多的事物被自动化。但不知怎样的，咱们——我不知说念。我有一种嗅觉，它会变得相配世俗，不知何故，咱们都会开着自动驾驶汽车去办公室，在那儿率领着东说念主工智能雄师。然后咱们会以为，哦，这有点枯燥。嗅觉仍然像在办公室，我的雇主仍然是个傻子。这约略即是咱们AGI的异日。咱们迫不足待地恭候下昼五点放工之类的。

更严肃地说，我一直以为，而且我认为这在OpenAI里面以偏执他前沿实验室亦然一种精深的不雅点，即解决推理是彭胀到东说念主类水平智能所需的终末一个基本挑战。你需要解决预教学，你需要解决故障模态，你需要解决推理。此时，剩下的挑战即是彭胀。但这相配伏击。

彭胀相配艰辛。践诺上，根蒂莫得若干基础性的想法。简直扫数的作事都是在怎样将它们彭胀到接受越来越大的计算量。这是一个系统问题。这是一个硬件问题。这是一个优化问题。这是一个数据问题。这是一个预教学问题。扫数的问题践诺上都只是对于彭胀。是以，是的，我认为在某种进程上，它一经是注定的了。这里的作事是彭胀它，但这很难。多半的作事。

主办东说念主Jacob： 显然，我认为东说念主们在挑剔这些模子彭胀其才智的社会影响。我认为咱们仍然处于这种推敲的早期阶段，可能有好多不同的对话需要进行。但您对哪些方面超过感风趣和充满心境，您认为咱们应该挑剔哪些方面？

Bob McGrew： 是的。我认为最好奇的是，咱们正在从一个智能可能是社会中最稀缺资源的期间，过渡到一个智能将无处不在且免费的期间。那么，稀缺的坐褥要素又是什么呢？而且，我认为咱们不知说念。我猜是能动性。也即是说，你不错去完成事情。你需要提倡什么正确的问题？你需要追求哪些正确的名堂？我认为这些类型的问题对于东说念主工智能来说很难为咱们解决。我认为这些将是东说念主类需要弄明晰的中枢问题。而且，并非每个东说念主都擅长这极少。是以，我认为咱们需要想考的是，咱们怎样发展那种让咱们能够与之合作的能动性。

主办东说念主Jordan： 您认为这是现在，照旧异日？

Bob McGrew： 我认为它会嗅觉相配连气儿。这是一条指数弧线。而指数弧线的特质是，它们莫得驰念。你老是嗅觉，你老是在以疏导的速率、疏导的节拍前进。

主办东说念主Jacob： 这些模子最终不会也弄明晰，我的道理是，淌若你议论一下弄明晰要作念什么或名堂主义，你刚刚提到了几次？举例，你不错联想，在异日最基本的档次上，对模子说，嘿，竖立一家好公司，或者创作一件好奇的艺术作品，或者制作一部电影，等等。跟着这些模子变得更强劲，这种能动性，我想，也许不错谈谈这极少。

Bob McGrew： 是的，我的道理是，你能否径直条件东说念主工智能解决扫数问题？好吧，我认为你不错，而且你会得到一些驱散。但咱们以Sora为例。淌若你在制作一个视频，你给它一个相配混沌的教导，它会完全为你创建一个视频。也许它会是一个相配酷的视频。也许它会比你能意象的最酷的视频还要好。但它可能不是你想要的视频。

因此，你也不错与它互动，你给它一个相配详备的教导，你说，我对我想看到的视频作念了这些具体的遴荐。这让你能够创建让你我方或你的不雅众惬意的视频。

我认为这种张力将陆续存在，不管东说念主工智能何等先进，因为你怎样填充空缺将决定最终家具的好多内容。

主办东说念主Jacob： 您今天是怎样使用最先进的O1模子的？

Bob McGrew： 我贯穿模子，并与之交互的首选方法是，我花了好多期间教我八岁的女儿学习编程。他心爱问问题，是以我老是在想怎样将他今天感风趣的事情与我想教给他的课程研究起来。

举例，有一天他说，“爸爸，什么是会聚爬虫？它是怎样作事的？”这给了我一个契机，我说，好吧，我不错用一个苟简的圭表来教他会聚是怎样作事的吗？我尝试使用一个O1模子，英勇创建一个弥漫苟简的圭表，况且不引入太多我还莫得教过他的新宗旨。

主义是教他对于会聚的学问，这是我但愿他贯穿的中枢宗旨，同期确保内容对于一个八岁的孩子来说是易于贯穿的。这花了一些期间来休养圭表，但我信托学习过程的一部分是实验，测试不同的想法是其中一个伏击的方面。

主办东说念主Jordan： 我想在测试方面，当您从研究测试的角度议论时，当新模子出面前，您时常会进行哪些中枢评估，况且您最依赖哪些评估？

Bob McGrew： 好吧，我的道理是，这里首先要指出的是，它跟着每一代模子而变化。你知说念，当咱们开拓O1模子时，要看的正确目的是GPQA，它代表谷歌诠释问题解答。然而，当咱们准备发布时，它不再是一个相配好奇的目的，因为咱们一经从一开动简直什么都没作念到，到它完全饱和。终末剩下的几个问题时常是措辞不当或不太好奇的问题。因此，你遴荐的目的很猛进程上取决于你在研究中试图作念的作事，我认为这是一个精深的训戒。

然而，在畴昔几年中一直有用的事情是编程。编程是一项结构化的任务，包括我我方和其他研究东说念主员在内的许多东说念主都不错贯穿，这相配伏击。它不错从完成一滑代码彭胀到编写扫数这个词网站。咱们还莫得达到编程被完全解决的进程，我认为咱们还有很长的路要走。我信托，在咱们不错真确完成一个真确的软件工程师的作事之前，还有几个数目级的差距。

主办东说念主Jacob：  你早期的行状生存中有一件事很显着，你其时正在攻读计算机科学博士学位，而且我铭刻至少有一部分专注于博弈论。显然，我认为使用这些模子来探索博弈论中的课题有好多好奇的含义。我想问的是，一般来说，你认为东说念主工智能将怎样转换社会科学研究、战略制定以偏执他关联领域？淌若你今天用这些模子的力量从头注视你之前的作事，你会尝试作念些什么？

Bob McGrew：  首先，我其实对学术界相配失望。我认为它有一套灾祸的引发机制。在某些方面，我把OpenAI的组织设计成学术界的镜像，创造一个配合不错昌盛发展的地方。

贸易中一个好奇的方面是，好多家具约束的作事都雷同于实验社会科学。你有一个想法，你想在东说念主类身上测试一下。你但愿在接受致密方法的同期，望望它是怎样作事的。A/B测试即是一个很好的例子；当你这么作念时，你践诺上是在进行一种社会科学。

这是我超过振作的事情之一：淌若你在进行A/B测试，为什么不把你现在与用户的扫数互动都拿来，用这些数据微调一个模子，然后你就倏地有了一个模拟用户，它的响应方式与你的践诺用户一致？这意味着你不错在不插足坐褥的情况下进行A/B测试。也许之后，你不错对其中一个模拟用户进行深入访谈，了解他们的想法。

这在今天可行吗？我不知说念。我还莫得尝试过，但来日也许就行了。我认为这是一个很好的精深原则：每当你发现我方想让别东说念主为你作念某事时，议论一下是否不错条件东说念主工智能来作念。而且，东说念主工智能可能不错处理数百个任务，而东说念主类可能只可完成一个任务，而且还很而已。

主办东说念主Jordan：  是的，我让雅各布为我作念了好多任务，是以。

主办东说念主Jacob：  是的，你应该住手那样作念。你应该开动问我的模子。感谢你委派了它。你帮我简略了好多期间。你提到，我想，你设计了学术界现存的引发机制，并设计了与此酿成对比的OpenAI组织。能多谈谈这方面吗？

Bob McGrew：  是的，是的。我的道理是，纪念一下2017、2018、2019年。其时，东说念主工智能研究实验室还不是一个大产业。它们只是研究实验室。好多参与其中的东说念主来自学术界。淌若你望望学术界的结构，就会发现它有一套引发机制，对于其当先的设计来说是弥漫好的。然而，东说念主们相配关注功劳——到底是谁作念了这个？论文上的东说念主名按照什么章程摆设？这对于具有学术布景的东说念主来说相配伏击。

也许你不想与他东说念主合作，因为它会冲淡你对驱散的孝顺。淌若有两个东说念主一皆解决问题，这时常更像是竞争，而不是一个把作事速率提高一倍的契机。在这种布景下，我认为DeepMind议论竖立一个效法学术界但又在公司框架内运作的实验室，这么我就不错指导东说念主们，并只专注于深度学习。

另一方面，我认为Brain当先的主义是聚积一些学者，以一种相配学术的方式进行探索性研究。我不会强加地方，而是会在外部安排家具司理，以便他们可能会收拢这些伟大的想法并将其迁徙为家具。与此同期，咱们是一群创业东说念主士，以及一些特出的研究东说念主员，包括像伊利亚这么的东说念主。咱们的不雅点是，研究实验室应该像一家初创公司一样运作。

咱们认为，在明确前进地方的同期，给以东说念主们好多解放相配伏击，超过是那些特出的研究东说念主员——其中一些东说念主咱们其时以至莫得相识到他们很出色。咱们的主义是让他们找到他们温存“为之激越”的“山头”，以创造他们渴慕创造的超卓作事。咱们强调合作，确保东说念主们为了一个长入的主义而共同英勇，而不是只是专注于发表多半的论文。

主办东说念主Jacob：  我心爱这个说法。我想你早先一经回顾了OpenAI历史上一些最驰名的决定，从非牟利组织到转型，与微软的合作，发布ChatGPT的API。有莫得哪个也许不是那么有名，但你认为是要道的决策点？或者说，你认为哪个决策是很难作念出的，或者哪个决策真确转换了组织的走向？

Bob McGrew：  我认为我之前莫得谈到的一个决定，但其时也颇具争议，那即是决定加倍插足语言建模，并使其真确成为OpenAI的中心焦点。这个决定很复杂，原因有好多。这么的转换触及到重组和休养结构，东说念主们必须转换他们的作事。

再次强调，咱们当先的文化荧惑尝试多样不同的方法，望望哪些方法生效。咱们第一个伏击的首要英勇是共同英勇玩Dota 2游戏，这延续了东说念主工智能解决越来越难的游戏的伟大传统。你从海外象棋到围棋，然后到Dota 2和星际争霸，这在某种进程上嗅觉没那么酷。然而，我不错向你保证，从数学上讲，这些游戏真的比围棋和海外象棋更难，即使它们没那么优雅。

Dota 2名堂取得了巨大顺利，它教导了咱们好多东西。从那次训戒中，咱们得出了这么一个信念：你不错通过扩大限制来解决问题，并有一套用于此目的的期间器具。因此，通过决定关闭更多探索性名堂，举例机器东说念主团队和游戏团队，并真确将要点从头放在语言模子和通用生成模子上，包括多模态作事，我信托这是一个相配要道的遴荐，尽管其时相配苦难。

主办东说念主Jacob：  我早先提神到一件事，你显然提到，你在用你八岁的孩子测试这些模子。而且，我想在你作念父母的这段期间里，显然八年前的寰球与现在大不疏导，这在很猛进程上归功于你在东说念主工智能领域推动的越过。我想知说念，不管是为了你的生活，照旧你养育孩子的方式，你是否基于你对这些模子的力量将在多快的期间内知道在这个寰球上而更新的信念，从而转换了什么？

Bob McGrew：  是的，我认为事实是我并莫得转换什么。而且我认为这可能是我的一个失败之处，对吧？比如，谁比我更适合去搞明晰孩子们应该学习什么呢？然而，我认为我简直还在尝试教他们和八年前一样的东西。

当ChatGPT不错为他编码时，我为什么要教我八岁的女儿编码呢？我认为这是一个谜。但是，在某种道理上，异日是注定的，但践诺的运作方式的概述，我认为将是非常奥秘的，况且会跟着期间的推移向咱们揭示。

因此，我认为尝试那些刚好在你才智范畴上的事情的陈腐说念理相配伏击。你要英勇学习数学，英勇学习编码，写稿，学习写好著述，学习日常阅读。我认为这些将培养孩子们和坦率地说，成年东说念主需要的手段，不管东说念主工智能最终会作念什么。

因为从根蒂上说，这与编码无关。这与数学无关。而是对于你学习如因何结构化的方式想考问题。

主办东说念主Jordan：   好的，这一切都太棒了。我信托咱们不错和您再聊上几个小时。但咱们心爱用一些快速问答来扫尾对话。第一个问题是，在现在的AI领域，什么是被过度炒作的，什么是被低估的？

Bob McGrew：   哇，好的。嗯，对于什么是过度炒作的，一个浅薄的谜底是，我认为是新的架构。市面上有好多新的架构。它们看起来很好奇，但经常在限制化时会崩溃。是以，淌若有一个在限制化时不会崩溃的架构，那它就不会被过度炒作。在那之前，它们都是被过度炒作的。至于被低估的，我认为是01。我以为它被炒作得很狠恶，但它是否被悲不自胜地炒作了呢？莫得。我认为它被低估了。

主办东说念主Jacob：   我知说念咱们的听众都会很好奇，是以我会问，但您能否共享一些对于您在这个时候离开OpenAI的原因？

Bob McGrew：  嗯，事实是，我在那儿作事了八年，我真的以为我完成了当初我来这里时想要完成的大部分事情。而且，我书记辞职的期间是在O1预览版发布之后，这并非偶合。你知说念，咱们开拓了一个特定的名堂，一个研究名堂，再次强调，是预教学，多模态推理。这些问题都得到了解决。坦率地说，这是一份费事的作事。当我以为我一经完成了我需要作念的事情时，是时候把它交给下一代对这份作事充满心境并悉力于于解决剩余问题的东说念主了。我认为他们濒临的问题相配令东说念主振作。

你对异日有什么盘算吗？我离开Palantir后，在加入OpenAI之前花了两年期间。我开动贪图一家机器东说念主公司，况且尝试了好多事情。我躬行动手制造东西，并与好多东说念主交谈。坦率地说，我犯了好多极端，但莫得哪个极端是真确伏击的。在这个过程中，我学到了好多，并酿成了我方对于什么对寰球伏击以及期间越过的本色是什么的表面。

扫数这些阅历，我遭逢的东说念主，以及我想出的想法都匡助我加入了OpenAI。事实诠释，这比我离开Palantir后的前六个月里所能遴荐的任何事情都要好得多。是以，我不蹙悚。我将不绝与东说念主会面并弄明晰事情。我真的很享受想考和学习新事物的过程。

主办东说念主Jacob：   既然您现在有更多的期间了，有莫得什么您超过想深入研究的领域，或者是一些您一直想花更多期间但由于日常作事勤恳而无法顾及的事情？

Bob McGrew：   嗯，你知说念，好奇的是，我以为我方好像被困在一个盒子里八年了。这是一个相配酷的盒子。是的，一个相配酷的被困在里面的盒子。但是外面发生了好多事情。而且，就像我说的，我一直在和机器东说念主领域的首创东说念主交谈，看到在OpenAI莫得作念机器东说念主研究的这段期间里发生了好多很酷的事情。而且，与首创东说念主、研究东说念主员、作念好奇事情的东说念主竖立研究，这真的很好奇，也很诱骗东说念主。

主办东说念主Jacob：   嗯，这是一次完全令东说念主沉溺的对话，我知说念这对我和乔丹以及咱们的听众来说都是如斯。感谢您来这里并共享这一切。我想把终末的话语权留给您。有什么东说念主们不错去了解更多对于您的信息的地方吗？您想给咱们的听众留住什么？或者您想命令大众一皆探索的，您感风趣的地方？或者果决说点什么都不错。

Bob McGrew：   是的，嗯，淌若你想关注我正在想考的事情以及我的进展，最佳的地方是在Twitter上关注我，账号是@Bob McGrewAI。我认为这里最适应的扫尾语是，东说念主工智能的越过将不绝下去。而且这将是非常令东说念主振作的。它不会放缓，但它会转换。这很好奇。是以我荧惑大众不绝英勇。

主办东说念主Jacob： 好的，鲍勃，相配感谢。真的，这太令东说念主沉溺了。随时迎接你再来。

海量资讯、精确解读，尽在新浪财经APP

株连剪辑：刘亮堂