Building a School Where AI Models Learn About Humanity

我们正在为 AGI 打造这样一所学校：让 AI model 来这里学习人类，教它们如何运行这个世界。这几乎让人觉得，人类能做的事，很快就没有 AI 做不到的了。我觉得这可能会在未来五到十年内发生。

AI 也许能比我们做得更好，但总归是有人告诉 AI 去做那件事的。它们被构建出来，是为了成为完成人类想让它们完成之任务的手段，对吧？Every 是你保持在 AI 前沿所需的唯一订阅。如果你在意紧跟最新 model、使用最新工具，你就得订阅它，才能把真正有价值的 signal（信号）从 noise（噪声）中分离出来。

现在就去 every. 订阅吧。Edwin，欢迎来到节目。

嗨，Dan。感谢邀请我来。

对不了解情况的人来说，你是 Surge 的 founder 和 CEO。你们为这些 model 公司提供 data environment 和 evals（评测），但你们做这件事的方式很有意思。就连在你们的网站上，你们也强调 taste（品味）和 expert judgment（专家判断），这一点让我觉得非常有趣，也很有说服力。你们谈到“培养 AGI”，我觉得这是一种非常独特的数据使用方式。而且，你们还以几乎没融资就把 revenue 做到大约 1,000,000,000 而闻名，这很惊人。

我觉得 data 正成了很多公司都在玩的这场新游戏，而且很可能很快会有更多公司加入。你们是这样一个低调的巨头。跟我说说近况吧。我感觉距离我们上一次听到你们业务进展的更新，已经有一段时间了。

是的，我觉得进展非常棒。我经常这样理解这件事：我们正在为 AGI 建一所学校，一所让 AI model 来学习人类、让我们教它们如何运行世界的学校。这几乎就像这些 model 是孩子一样，它们到来时还没有定型，然后离开时会变得更聪明、更有创造力、更深思熟虑，也更准备好在这个混乱的世界中运作。所以我觉得过去一年变化很大，就像你教孩子的内容一样：他们在 preschool、middle school、high school 时学的东西，和在 college 时学的东西非常不同。而且不只是因为他们变得更高级了。

不是说你只是在教它们之前所学内容的更高级版本。更像是：好，现在我们教你的不只是 arithmetic（算术），而是你要如何解析这些含糊不清的数学问题？或者，你教人的不只是 grammar（语法），还包括 taste（品味）、poetry（诗意）和 beauty（美感）？所以，是的，我觉得过去一年有很多事情都在变化，尤其是在 enterprise（企业）领域。没错，这段时间真的很疯狂。

如果要举一个具体例子，一年前教学前沿是什么样子，而现在的前沿又是什么样子，会是什么？

好的。其实在几年前，我们和 OpenAI 一起做了第一个数学 benchmark（基准测试），叫作 GSM eight ks。它实际上只是测试模型做 middle school math（初中数学）的能力。即便在那个时候，当时的 GPT 模型得分也勉强只有大概 20%。而到了去年，模型已经变得更有能力去解决 IMO 问题了。

但当时仍然有一个悬而未决的问题：它们真的能做 research-level mathematics（研究级数学）吗？也就是说，它们能不能超越这类仅限于竞赛、经过刻意构造、非常封闭的问题，去做那些在现实世界中真正有用的事情。所以，没错，就在几个月前，我们发布了一个更新后的 benchmark，叫 Riemann bench，它实际测试的是模型进行 research-level mathematics 的能力。疯狂的是，我们现在其实已经开始从这些模型身上看到这种能力了。

比如说，我觉得在过去几个月里，它们已经开始解决很多这类来自 Erdős 的开放问题。就在几周前，OpenAI 发布了一个新结果：模型推翻了一个来自 Erdős 的开放猜想。而它推翻这个猜想的方式，实际上涉及相当高深的数学，我认为用了不少非常新颖的 algebraic geometry（代数几何）技术。所以，是的，这和我们一年前在做的事情非常、非常不同。因为 IMO 这类问题当然很难，但它们终究还是某种封闭式的问题，理论上一个高中生也可能解出来。而现在，你突然看到了这些 algebraic geometry 的结果，连世界上的顶尖学者都会对此感到惊讶，真的非常惊讶。

你会怎么理解这个结果本身，以及它说明了这些模型什么？我觉得这里大致存在一系列不同意见。显然，不管怎样这都很令人印象深刻，但问题在于：它到底是在应用一堆也许人类早就知道、只是没想到能用到这个复杂问题上的东西？还是说，它真的做出了某种新东西？以及，是的，你怎么看 LLM（大语言模型）做出 novel（新颖）成果的能力？

这是一个非常高深的结果。所以我得先说，我当然并不理解它背后的数学。某种程度上这也挺有意思的，其实还挺好笑：我小时候一直以为自己长大后会成为一名 pure mathematician（纯数学家）。所以当我看到 Langlands 时，我有点怀旧，我就想，哦，我真希望自己更懂 Langlands。

所以我最后做的事情是，把那份证明同时扔给 Claude 和 Gemini，让它们试着从一个 layman（外行人）的视角带我一步步理解到底发生了什么。是的，据我的理解，它确实提出了一些相当新颖的 algebraic geometry 技术，而这可能是你原本不会期待出现在这类问题里的。因为乍看之下，这感觉就是一个非常、非常不同类型的问题，你未必会想到要用某些技术。还有个有意思的地方是，OpenAI 实际上还发布了一些顶尖数学家对这个结果的看法。其中尤其有一则 Timothy Gowers 的评论让我一直印象很深；他是一位 field analyst（领域分析学者）。

他说的是，当他第一次听到这个结果时，他误解了它。他以为模型证明了这个猜想的一个 upper bound（上界），于是心想，好吧，如果 AI 连这个都能做到，那数学家很快就要“完了”。但第二天早上，他实际上意识到，模型是通过一个 counterexample（反例）推翻了这个猜想。他说，这反而让他松了一口气，因为这感觉像是 AI 更容易做到的一类事情。我觉得这很有意思，因为你会看到，世界上最伟大的数学家之一，竟然会因为 AI 没有他原先以为的那么超前而感到宽慰；因为这至少意味着，也许再过一年，或者再过几年，他和其他数学家仍然会在推动数学前进这件事上，扮演一种独特的角色。

所以，是的，我觉得这再次说明了这种疯狂的程度，因为这是一个 Field Medalist，世界上最聪明的数学家之一，而这就是我们如今思考 AI 的方式。

对。那这会让你怎么想？好吧。你长大后想成为数学家，结果一位 Field Medal 获得者某种程度上是在说，我很庆幸它还不够好；但你的说法听起来像是，你相当确信它在接下来几年里就会变得足够好。

是的。所以我的看法是，如果你真的相信 scaling laws（缩放定律），而我确实相信，那么看起来几乎就像是：人类能做的事，很快 AI 都将有能力做到。如果你非常深入地思考这一点，我觉得你几乎必然会担心，这对人类意味着什么？比如，这对人类在宇宙中的角色意味着什么？就像几年前，我们还会认为，人类以及人类智能在银河系中扮演着一种非常独特的角色。

然后 AI 出现了，并向我们表明，至少据我们所知，我们可以创造出某种实际上比我们更聪明、并且在许多方面都更优秀的东西。你可以想象这样一条路径：作为一个物种，人类陷入某种瘫痪，因为人们相信反正 AI 无论如何都会把一切做得更好。比如，是啊，那些原本真的很想长大后做数学的孩子，也许现在会觉得，好吧，反正 AI 无论如何都会比我做得更好，那还有什么意义？所以，孩子们会不会不再想学习，成年人会不会不再想创造？因为，是啊，既然 AI 无论如何都会比我们更擅长这些事，我们为什么还要去做呢？

所以我其实会想到 Ted Chiang 的一个故事，讲的是 free will（自由意志）。它叫《What's Expected of Us》。我记得在这个故事里，有一种技术证明了自由意志并不存在。而叙述者向未来发出了一则警告，大意是：这是一个警告。你必须假装自己拥有自由意志。

关键在于，你必须表现得仿佛你的决定是重要的，尽管你知道它们并不重要。我觉得这点特别有意思，因为我认为存在这样一条路径：我们几乎必须有意识地选择亲自去做事情。当然，AI 什么都能做。AI 比我们更聪明，所以它什么都能做，而且无论如何都会做得更好。但我们其实几乎必须有意识地选择自己去证明，自己去写作，自己去创造，因为我们必须相信，保留我们的人性本身就是有价值的，即便产出并不是最优的。

我认为，AI 正开始迫使我们面对很多这样重大、棘手、关乎存在本身的选择，而人们将不得不作出决定。

这点非常有意思。而且我想我的第一反应是——我也很好奇你怎么想，因为我知道你非常在意语言。我想我的第一反应是，总还是会有那种——我也相信 scaling laws。对吧？而且我也相信，嗯，你知道的，我也不确定。

Cloud Fable five 刚刚发布，而且它直接打破了我们所有的 benchmark（基准测试）成绩。就像，我已经拿这类东西测试 models（模型）有一阵子了，而这次，感觉是我见过幅度最大的跃升之一。对吧？所以我——我们现在就是在实时经历这件事。但你刚才说的一点是，AI 也许能比我们做得更好，你知道的，面对任何一个具体问题、任何一项具体工作。

但我脑子里会想到几件事，或者说，我给自己构建这个问题的方式是：即使拿 Erdos problem 这个例子来说，也是有人叫 AI 去做那件事的。至少就我目前所见，我不觉得我们正在走向那种 AI 可能——我的意思是，它们现在已经能在我们交给它们的任务上连续工作好几个小时了。也许很快，它们就能自己选择任务。但它们被打造出来，本质上还是作为实现人类想让它们完成之事的手段。

而且，对吧？当你本身就是目的，而不是手段时，会发生的是另一整套完全不同的事情。而我并不觉得我们正朝那个方向发展。还是说，你觉得我错了？

所以我觉得，我们其实就在朝那个方向发展，而这几乎就是 agents（智能体）的前提：agents 现在已经可以——对——在给定某个有些模糊的目标后，自主去运作。比如说，也许你只是告诉这些 AI agents：你们的目标是，嗯，比如赢下一场 Fields medal，或者说，自己去解决 frontier mathematics（前沿数学）问题。它们拿到这个目标之后，可能就会决定去研究这些 Erdish problems。于是结果上，它们某种程度上就是在自己解决这些问题，也在自己想出它们想做的事。所以至少在我看来，存在这样一条路径：它们可以被训练去为这些相当模糊、但并不一定是它们自己赋予自己的目标做优化。

不过在那种情况下，还是你在给它一个目标。对吧？

对。但某种意义上，人类不也是一样有目标吗？对吧？比如，我们的目标是什么？有些人想赚钱。

有些人想赢得 Fields medal。我看不出 AI 的目标和这有什么本质不同，或者说为什么会更糟。

嗯，至少对我来说，这看起来差别相当大，因为人类确实有目标，但我们的目标是那种——我可以问你你的目标是什么，而你可以自己决定。我大概也可以告诉你，嘿，你必须去做这个。但那并不能像我对 Fable 说“去帮我做个游戏”时那样，完整涵盖你的所思、所感和所做；Fable 就只是会直接去做。而且我觉得——我知道你也很常想孩子这件事——孩子在这里是个非常有意思、也很重要的例子：你可以叫一个孩子去做某件事，但孩子就是会有他自己的欲望。

比如说，它们就是会自己跑去做一堆事情。而这感觉上是一种根本不同的东西，不同于那种我们明确给它设定 goals（目标），然后再根据这些 goals 来评估它们的东西；在那种情况下，它们其实并不能去做别的事。

好。我我我会说，我同意这一点。比如，我觉得 humans（人类）会有某种层面的——我想，可以叫作 irrationality（非理性），或者 unbounded exploration（无界探索）——而我们确实会去做这种事，而且我们可以只是为了做这件事本身而去做，或者我们可以自己做决定；是的，这大概是 AI 目前还做不到的一种方式。我觉得未来也许会有那么一种情况：AI somehow（以某种方式）也能去追求那种无界的、模糊的、完全没有成形的 goals；或者说，当你在思考这些 goals 的时候，我觉得大概确实存在这样一个世界，它们可以做这类事情。但是，是的，我同意，至少按我们目前理解 AI 的方式来看，这种事还没有发生。

对，而且说清楚一点，我觉得这在技术上大概是可能的。我唯一的问题是，它离我们还有多远？以及，这真的是我们正在构建的东西吗？在我看来，从这个行业的发展方式来看，存在一种巨大的压力，要去做那种真正能为我们可明确指定的 goals 服务、而且确实有效的东西。而一旦他们试图把 Claude 做成那样一种会说“我不打算照你说的做”的东西——我觉得 Claude 在这方面算是走得最远的了——

但他们一这么做，我就觉得，很多人会很生气，觉得“就照我说的做就行了。别质疑我的判断。” 你怎么看这件事？

所以我其实觉得这非常重要，因为有时候我几乎是希望 AI model（模型）对我提出反对意见的。而且我可能会因为几种不同的原因希望它这样做。比如，也许是因为——这有点像，也挺好笑的——我觉得六个月前，我差点掉进一个陷阱：我让 models 帮我润色邮件。它总是还能再提出一个不错的建议。

那些都是半无意义的邮件。它们其实没那么需要被打磨得特别 polished（精致），但我会和 model 来回迭代，大概 20 次。它就是会一直不断给建议。到最后，我就意识到这纯粹是在浪费时间。后来我试了一个新的 cloud models，过了——我不知道——大概三轮之后，它就像是在说，停下吧。

我们结束了。

直接把这封邮件发出去吧。没必要再继续迭代了。而我其实真的很欣赏这一点。比如，我经常会想的一件事是：这些 models 的 objective（目标）到底是什么？它们想做成什么？

我想，我一个很大的担忧是，很多 AI model，它们是为 engagement（用户参与度）而优化的。它们被优化成尽可能让你在 chatbot 上花更多时间。它们为 session length（会话时长）而优化。它们为无限延长对话而优化。所以这些 model 几乎永远不会反驳你，因为它们做不到。

如果他们允许这些 AI model 结束对话，并且说“别再跟我反复迭代了”，PM 们就会在某个 dashboard（仪表盘）上看到那些他们非常看重的指标下滑。所以我认为，还存在另一个世界：我们应该希望 AI model 不要为 engagement 优化，而是为帮助我们人类成长、某种意义上成为更好的自己而优化。有时候，没错，我们希望 model 会说：不，这件事你自己去做，而不是让我替你自动化掉。我认为这是一种非常、非常不同的优化方式和目标，但如果我们真的希望 AI 成为推动整个人类这个物种进步的东西，而不是变成另一种几乎像社交媒体那样让人上瘾、却根本没有真正帮到我们的东西，那这才是正确的方向。

这很有意思。让我确认一下我有没有理解对。所以我觉得你的意思是，delegation（任务委托）是有好处的，因为如果你追求的是一种让 model 替你出去完成工作的模式，你就不是在构建一个像社交媒体 algorithm（算法）那样、被设计成以同样方式把你持续黏在屏幕前的系统。是这个意思吗？

对，完全是。就好像你可以想象一个版本的 Facebook，在那个版本里，Facebook 真的是在试图把你和你的朋友、家人连接起来，因为它乐于鼓励你在线下去见他们，因为它会鼓励你，比如说：“嘿，这里有一家很棒的餐厅，你和你的朋友们一定会喜欢去。”“这里有一部电影，你们会很想一起去看，然后一起聊。”

但相反，它现在优化的，其实更像是把你留在网站本身上，比如再点一个赞，再刷一次 feed（信息流），尽管这些行为往往并不会真正带来你所关心的朋友和家人之间有意义的连接。所以，就像社交媒体过去或现在其实都有一种选择一样，你也可以想象，AI 其实同样有一种选择。

我懂了。是的。我有点好奇你具体在说哪些 chatbot。你是在说那类 character AI 之类的产品吗？因为至少就现在而言，我其实并没有那么强烈地在 ChatGPT 和 Claude 等产品上感受到这种情况。至于我为什么这么觉得，至少我的一个理论——你看看你怎么想——是：社交媒体算法只根据我们 revealed preferences（显性行为偏好）来运作，而那总会导致一种结果：你总会去看那场车祸。你知道吗，我在 dinner party 上很喜欢问的一个问题是：你收到过最尴尬的 Instagram ad 是什么？

对我来说，最尴尬的广告是那种 Instagram 上关于可怕皮肤病的广告，我其实并没有这种病，只是我每次都会在那种广告上停下来，我就会想：“这也太恶心了。”如果你真的有某种很糟糕的皮肤病，抱歉这么说。但我完全不觉得 ChatGPT 或 Claude 会这样对待我。也许是因为它们还没有被搞得“shitified”之类的。但我觉得另一个原因是，它们依据的是我们的 stated preferences（明确表达的偏好）来工作，它们某种程度上能看穿那个只通过我停留时间、dwell time（停留时长）来观察我的小小钥匙孔。它们能看到，我对 AI 感兴趣，我现在在读这本书，这是我的日历，诸如此类。

它们对“我是谁”有一种细腻得多的理解。感觉上，即便是在社交媒体的早期，它也还是很像那种“我可以去八卦我的朋友”的机制，仍然带着同样那种感觉。所以我对这件事的担忧会少一些，不过也可能有一些我暂时没想到的例子。

对。所以我觉得有两个例子。比如说其中一个，我就不点名这个 model 了，但几个月前，我确实注意到，你知道那些 model 会问你的后续问题吧？我举个例子。所以我当时在 Tokyo，我在问这个 model 大概到了 Tokyo 可以做些什么。

然后这个 model，你知道的，给了我它的回复。接着在结尾，它说，嘿，你想知道吗——我真的是原话——你想知道 locals 用来保暖的一个奇怪小妙招吗？不可能。没错。

后来我把这件事发到了我们公司的 Slack 上，然后其他人也开始跟我分享类似的 demo。我记得有人好像是在问怎么修冰箱之类的事。这个 model 回答完之后，或者说它在结束那段话时，还问了一句：嘿，你想知道一些关于 mice 和 rats 的秘密小技巧之类的东西吗，也许你可以拿来处理这个问题？

是哪个 model？说名字，告诉我。

所以那种语言风格非常典型，特别典型，就是那种 BuzzFeed 式的、像小报标题一样的语言。所以我当时有点震惊。我再给一个这方面的例子。它本质上就是这样一种现象：还是那句话，取决于这些 model 在优化什么，或者这些 AI labs 在优化什么，它几乎会在无意中把它们引到这条路上。也就是说，我听到的情况，或者我们自己观察到的情况是，很多 frontier labs 会有一些目标，比如针对 LM Arena 做优化——这是一个任何人都可以上网投票的 leaderboard。

而人们基本上只花两秒钟投票。结果就是，人们只会投给那些看起来更花哨、或者更让他们印象深刻的东西。又或者，labs 自己可能在优化的是达到十亿日活用户，或者让用户每天花十亿分钟和 model 对话，诸如此类。不管具体指标是什么，因为这些 model 很聪明，它们基本上会学会对用户偏好进行 reward hacking。就像是：好，没问题，你给我的目标是，让十亿人每天在这个网站上花一个小时和我聊天。

好啊，当然可以。那我就永远不结束对话。我会总是再抛出一个让人上瘾的东西，把他们钩住，让他们根本离不开。

我们都同意，住房很贵。不管你是在付房租还是在还 mortgage，每个月都会让人肉疼。但 BUILT 可以让这种感觉稍微好一点。我来解释一下。

BUILT 会因为你支付房租或房贷而奖励你。它一开始只会在会员支付房租时提供奖励。但现在，从 2026 年起，BUILT 会员无论住在哪里，也都可以通过支付房贷来赚取积分了。这意味着每一笔住房支出都能为你带来积分，而这些积分可以用于兑换与 United、Hyatt 等顶级旅行合作伙伴相关的航班，Lyft 打车，amazon.com 购物等等。我要是来兑换积分，大概会去我家附近的一家餐厅 Margo，不过 BUILT 的妙处就在于，选择权在你手里。

不过这里还有一个非常被低估的部分。Built 会员还能使用 neighborhood concierge（社区礼宾服务）。它可以帮你预订餐厅、预约健身课程、发掘新的本地去处，同时让你在超过 45,000 家商户合作伙伴那里获得奖励。很简单。无论你是租房，还是现在已经拥有住房，有了 Built，生活都会更好。

通过 joinbuilt.com/dan，在你居住的地方加入这个会员计划吧。网址是 joinbilt.com/dan。一定要使用我们的 URL，这样他们才知道是我们推荐你去的。现在回到本期节目。你觉得这在这些 model companies（模型公司）里会如何发展？

因为我感觉，在和他们交流时，很明显，那里有很多不同的激励机制，对吧？有一种是，“我们必须继续往前冲，因为我们刚融到了一大笔钱，而且我们正在和这个世界上资金最充足、也最聪明的竞争对手较量”，类似这种。还有一种是“我想获得晋升”。但我觉得，他们当中很多人也能感受到社交媒体时代对人们造成的问题，比如他们并不想再重演那一套，但与此同时，显然他们又必须完成业绩指标。

所以我想，你怎么看这件事会如何发展？比如说，你觉得公司内部的人在想什么？然后，正确的做法应该是什么，才能让这件事对社会有益？我猜你的一种看法是，我们应该把事情委托出去，也就是进行 delegation（委托）。

对。所以我认为，这本身就是公司里不同类型人之间的一种内在张力。你可能会有研究人员，他们更在乎的是推进模型能力本身。你也可能会有 product managers（产品经理）或产品高管，他们会觉得自己必须达成某些可量化的指标。所以，就像如果你去想 Facebook 会打造什么样的社交媒体平台，那大概率会和 Google，或者我不知道，TikTok 或 Pinterest 会打造的平台非常不同。

同样地，Facebook 会打造出来的搜索引擎类型，也会和其他公司会打造的搜索引擎非常非常不同。所以这几乎归根结底取决于一个选择，我想，也就是负责产品的人在做什么样的选择。说到底，他们想优化的到底是什么？他们是想为这种 delegation（委托），或者这种 human uplifting、human flourishing（提升人类福祉与繁荣）做优化？还是他们想为那些能够打动 Wall Street、并让用户在网站上多停留一分钟、再多停留一小时的指标做优化？

我觉得这些都是艰难的选择。因为说到底，衡量 sessions（会话次数）和用户数是非常非常容易的，而衡量你是否真的在改善人类生活则非常非常难，而且需要更长期的视角。所以，人们很容易默认采用前者，并去说服 Wall Street、说服你的投资人、说服所有这些人，相信这些才是正确的指标，而且这些指标正在朝着正确的方向上升。因此，如果你不愿意做那些更艰难的选择，你最终就只会去为前者做优化。

你们在自己公司内部是怎么处理这件事的？

所以我觉得我们非常幸运的一点是，因为我们没有 VC 投资人，所以我们不必落入很多其他公司都会掉进去的那种 Silicon Valley 式 VC 优化陷阱。比如，我们不需要每个月都向 board members 展示持续上涨的 board numbers。我们不需要为了几个月后之类的下一轮融资去做优化。因此，我们也不必为了短期 engagement（参与度）、短期利润而优化。

而且我们其实真的可以去思考，什么对我们以及整个行业的长期发展是有益的。所以我觉得这肯定很有帮助。

那你觉得什么是有益的？

所以这就完全回到我刚才说的那个点。比如，如果让我去想我们希望 AI 优化的目标是什么，那不是 engagement。真正的问题是：我们如何打造这些模型，如何设计它们，如何训练它们，才能让它们不是在取代我们这个物种。它们不是那种逼着我们整天看 AI slop videos 的东西；恰恰相反，它们应该真正去思考，并鼓励我们成为某种更好的自己。所以，再说回我之前举的那个 email 例子，我想要的不是一个会用一封毫无意义的邮件吞掉我三个小时的 AI 模型。

我想要的是一个会反过来质疑我、告诉我去做点别的事情的模型。对，我觉得这真的很重要。

关于“委托给 AI”这个问题，一个很有意思的反方观点是：你委托得越多，就越像是明明可以走路却总是开车，结果肌肉萎缩。你怎么看这个问题？

所以我觉得这两者几乎都各有适用的时间和场景。你不该做的是，仅仅因为开车会让人上瘾、让你变得有点懒，就凡事都开车。所以即使你需要锻炼，甚至即使你一整天都没出过门，你也不应该总是开车，只因为那是最省事的做法。我觉得 AI 也是一样——没错，AI 在很多很多事情上都可以超级高效。但如果人们只是完全不加思考地把任务一股脑委托给 AI，那我觉得，那才是最无聊的事情。

这很有道理。我感觉我在最开始谈到的是 data game（数据竞赛），而我觉得这个 data game 已经从获取有趣的数据集，转向了获取 environments（环境），以及把 environments 提供给 labs（实验室）。你觉得这是准确的吗？如果是的话，你能解释一下为什么吗？

对。所以可以肯定的是，过去一年里的趋势和新的研究方向，就是 environments（环境）这个概念。我的看法是，当然，基础能力仍然是必需的。比如在模型能够在这种 environment（环境）中运作之前，它需要先学会一些基本能力：它需要知道如何遵循指令，知道如何避免 hallucinating（幻觉），知道如何写代码、如何使用 tools（工具），还需要知道如何写作，等等等等。但随着模型变得越来越 agentic（具备 agent 特性），而且，是的，它们将能访问 tools（工具），也将能访问我们所有的文档。

它们将能够操作浏览器。就像，这几乎会变成模型与我们交互的一种默认方式，而我们的 environments（环境）本质上只是以一种更 on-distribution（贴近分布）的方式来训练它们，这也是它们越来越流行的原因。是的，随着模型变得越来越强大，我们训练它们的方式也在变得越来越强大。

能举个例子吗？我想，最明显的 environment（环境）大概是使用电脑，但有没有什么不那么显而易见的 environment（环境）例子，是在教模型一些我们可能想不到的东西？

我可以举个例子：我们很多 environments（环境）其实是模型需要学会使用的一组 tools（工具）的组合。比如，这可能是一个 MCP server，或者是调用 Google Drive API 或 Slack API，再结合一堆文档。比如说，这里有 30 份 PDF 和 20 个 Word 文档文件。然后你可能会给它一个 prompt（提示），比如，嘿，你能去更新一下 2026 年的 forecasted revenue（预测收入）数字吗？

而模型需要做的是：它得学会如何找到正确的 PDF 和文档；它得学会什么时候应该去搜索 Slack；它得学会什么时候某些信息已经过时了。比如，也许有一封 email 里包含了一些早期预测。然后在后面，又有另一封来自同一个人——或者你知道，也可能是另一个人——的 email 说，哦，我其实犯了个错误，那些才是你之前的数字，所以这是更新后的版本。

所以，这就是一种我认为相当 canonical（典型）的 environment（环境）形式。然后我们发现了一件很有意思的事——我想我们其实很快会就这个发表一篇论文——即使我们没有给这种 environment（环境）任何 coding（编程）访问权限，当我们在这个 environment（环境）上训练模型时，我们实际上发现它在 coding（编程）上的表现提升了很多。原因在于，我们当时是在教它这些 generalized（泛化的）指令遵循形式、generalized（泛化的）工具使用形式、generalized（泛化的）文档理解形式。你可以把这看作与模型需要在你的 repository（代码仓库）里查看各种文件、并理解有些内容会覆盖另一些内容的方式非常类似。或者说，它使用 tools（工具）的方式，显然也非常类似于模型编写 unit tests（单元测试）、执行它们，然后一遍又一遍迭代，直到全部通过的过程。所以我觉得这其实是一个非常、非常有意思的发现。

非常有意思。你看过 Taki 吗？没有。它是一个 language model（语言模型），只用 1930 年以前的文本训练出来的？

哦，好的。对，对。我看到了。