AI on Seunghoon Choi

AI 接管工作的顺序：从有答案的工作到人的存在

Sun, 21 Jun 2026 17:44:27 +0900

16步清单不是预言，而是比较哪些任务将首先实现自动化以及在什么条件下实现自动化的基准。

AI 会不会拿走我的工作？

这个问题已经不是玩笑。翻译已经由机器完成。代码由 AI 一起写。医院里，AI 先扫影像，人们也在看 AI 推荐的视频和文字。

那么接下来是什么？我的工作什么时候轮到？关键在于，AI 不是不分青红皂白地拿走所有工作。有些工作先被替代，有些工作很久之后才会承受替代压力。这个顺序有理由。本文把 AI 接管工作的顺序整理成 16 阶段。

AI 最先拿走的工作有共同点

AI 很快拿走的工作，有一个共同点：容易确认答案。翻译是否正确，计算是否准确，代码能不能运行，诊断是否命中，推荐有没有带来点击。这类工作容易比较结果并打分。容易打分，AI 就学得快。相反，也有更晚被推开的工作：现实里每失败一次成本都很高的工作。手艺、现场判断、法律责任、价值判断，以及牵涉所有权和权限的工作，不会只因为“AI 能做”就直接转移。

归根到底，AI 能替代的是所有答案会收敛的工作。答案不一定只有一个。只要数据和反馈足够多，更好答案的方向会反复缩窄，AI 最终就会追上。所以翻译、计算、代码、诊断、推荐、广告、设计、大众反应预测都危险。相反，更晚留下的是答案不收敛的工作。重视什么、谁来负责、承担什么风险，这些不是答题，而是选择并承担责任。因此，AI 替代的顺序大致确定：从答案清楚的工作，到身体工作，到交出权限，到价值判断，最后到人的存在问题。

1 阶段，答案相对确定的工作

最先被推开的，是产出答案相对确定的工作。翻译、摘要、基础编程、固定格式报告、简单计算、重复文档化。这些工作的输入和输出比较清楚。为什么最先被推开？因为容易确认对错。翻译可以和原文比较，代码可以运行，计算可以核对答案。

这是 AI 很适合练习的工作。一旦做得足够好，就比人便宜、快速。这里人的价值不会消失，但“单纯帮忙做出来的人”的价值会快速下降。

2 阶段，专家分析

接下来是专家分析。诊断、预测、风险分析、设计审查、数据解读。表面看是高级专业工作，但很多部分是模式识别和判断的重复。

医生看影像找病灶。律师找判例。工程师看数据抓异常。分析师看数字预测方向。

这类工作 AI 也会快速追上。尤其是过去案例多、之后能确认结果、能从错误中学习的领域。长期学习的人不是无意义。但仅靠“最会分析的人”这个位置，已经不再安全。

3 阶段，预测大众反应的工作

AI 不是凭空读懂人心，而是看人们实际留下的行为数据，统计性地预测下一次反应。点了什么标题，在哪个句子离开，买了什么商品，对什么语气反应。AI 能看见一个人一辈子看不到规模的行为数据。因此，最先被替代的不是“深刻理解人心”，而是预测大众会点什么、买什么、在哪里离开的工作。

选择广告文案、比较缩略图、客户分群、推荐列表、预测价格和促销反应，会迅速交给 AI。过去靠营销人员或策划人的直觉做的事，AI 会用数据处理。但这里有限制。统计上预测得准，和给一个人提供完全贴合的 100 分服务，是两回事。AI 知道很多人的饮食偏好，并不代表它真的尝到味道。因此，某个人今天是什么心情、想吃什么、什么口感和香气会让他觉得 100 分，仍然困难。所以这一阶段被替代的，是预测许多人反应，并用预测优化内容、广告和推荐的工作，而不是完全理解一个人的能力。

4 阶段，把多个步骤接起来处理的工作

早期 AI 只负责小碎片。一句话、一行代码、一个摘要。但 AI 正在越来越多地从头到尾处理工作。给它目标，它会制定计划、找资料、写初稿、修改并交出结果。在这一阶段，中间协调角色会减少。人不是细细指挥每一步，而是转向给目标和标准。

这是从“帮我做这个”转向“帮我达成这个目标”的瞬间。

5 阶段，人审核反而变慢的工作

一开始，人审核 AI 结果是当然的，因为 AI 可能出错。但在某些工作里，AI 的错误率会低于人，而且即使错了也容易回滚。那时，人每次审核就不是安全装置，而是瓶颈。例如重复分类、简单批准、低风险任务的自动处理。人介入的一瞬间，可能只会拖慢速度。

有答案的工作最先被替代：AI 接管工作的第 1~5 阶段

Sun, 21 Jun 2026 17:44:00 +0900

设定了正确答案的任务首先会被自动化，而不管负责人的自尊心如何。

AI 会不会拿走我的工作？要回答这个问题，先要看顺序。AI 不是随便什么工作都一口气拿走。有些工作先被替代，有些工作很久之后才会承受替代压力。其中最先承受替代压力的，是容易确认答案的工作。翻译是否正确，代码能不能运行，计算是否准确，诊断是否命中，广告文案有没有带来点击。这些工作可以确认结果。能确认结果，就能打分；能打分，AI 就能快速学习。人错一次，会失去时间，也会失去动力，再学回来要很久。但 AI 不一样。它可以无数次尝试，错了就改，再试一次。评分标准越清楚，AI 越快追上人，并在某个瞬间用更低成本、更快速度处理同样的工作。

这篇文章讨论 AI 接管工作的前五个阶段。第 1 阶段，是答案相对确定的工作。第 2 阶段，是专家分析。第 3 阶段，是预测大众反应的工作。第 4 阶段，是把多个步骤接起来处理的工作。第 5 阶段，是人再审核反而变慢的工作。到这里为止，方向都一样。生成答案、确认答案、修正答案、再次处理的工作，越来越多地转向 AI。

1 阶段，答案相对确定的工作

最先被替代的，是答案相对确定的工作。翻译、摘要、基础编程、固定格式报告、简单计算、重复文档化，都属于这里。这些工作的输入和输出比较清楚。为什么先被替代？因为容易确认对错。翻译可以和原文比较。代码可以运行。计算可以核对答案。摘要可以看有没有漏掉原文重点。格式报告可以确认必要项目是否齐全。这种工作很适合 AI 练习。因为它能马上确认自己是否更接近正确答案。所以一旦做得足够好，就会比人更便宜、更快。人的价值不是全部消失。但“按固定格式快速做出来的人”的价值会迅速下降。过去，快速翻译、快速整理文档、快速写出代码是一种明确竞争力。现在，这种能力越来越接近默认值。

这一阶段先消失的不是全部创造力，而是快速生产固定答案的角色。

2 阶段，专家分析

接下来是专家分析。诊断、预测、风险分析、设计审查、数据解读等工作。表面看是高级专业工作，但很多部分其实是模式识别和判断的重复。医生看影像找病灶。律师审查判例。工程师看数据抓异常。分析师看数字预测方向。这些工作由学了很久的人来做，所以看起来安全。但站在 AI 角度，不一定如此。如果过去案例很多，输入资料整理得好，之后能确认结果，AI 就会很快追上来。诊断是否正确、预测是否命中、设计是否失败、风险是否真的爆发，过一段时间就能确认。也就是说，专家分析里答案会收敛的部分，也会受到替代压力。

这不是说长期学习的人失去意义。而是“最会分析的人”这个位置本身不再安全。以后专家更重要的，不是单纯给出分析结果，而是选择应该解决什么问题，按现实语境解释 AI 的分析，并在出错时承担判断责任。AI 越是代替分析，人越会从分析师被推到责任人和问题设定者的位置。

3 阶段，预测大众反应的工作

第三，是预测大众反应的工作。这里要小心。这不是说 AI 能凭空读懂人心，也不是说 AI 能完全理解一个人的深层欲望。AI 擅长的是看人们实际留下的行为数据，统计性地预测下一次反应。

点了什么标题，在哪个句子离开，买了什么商品，对什么语气有反应，在哪个视频停留更久。AI 能看到一个人一辈子都观察不到的行为数据规模。所以最先被替代的，不是“深刻理解人心”，而是预测大众会点什么、买什么、在哪里离开的工作。广告文案选择、标题和缩略图比较、客户分群、推荐列表、价格和促销反应预测，都会快速转向 AI。过去靠营销人员或策划人员直觉做的事，AI 会用数据处理。

这一阶段消失的是“我凭感觉知道大家喜欢什么”的位置。但限制也很清楚。统计上预测得准，和给某一个人提供完全贴合的 100 分服务，是两回事。AI 知道大量饮食偏好数据，并不代表它真的尝到了味道。一个人今天是什么心情，现在想要什么口感和香气，吃什么才会真正满足，仍然很难。所以，这一阶段被替代的不是完全理解一个人的能力，而是预测很多人的反应，并用这种预测优化内容、广告和推荐的工作。大众反应没有唯一正解。但点击率、购买率、观看时长、跳出率会不断反馈。因此答案会逐渐收敛。只要收敛，AI 就会变强。

从重复性体力劳动到需要判断和感觉的工作：AI 接管工作的第 6~8 阶段

Sun, 21 Jun 2026 17:43:00 +0900

机器人很难重复相同的动作，不是因为它们缺乏动力，而是因为每个工作地点的条件各不相同。

如果 AI 会先拿走有答案的工作，接下来的问题很自然：身体劳动安全吗？翻译、编程、摘要、分析，是在软件里结束的工作。错了，再跑一次就行。但身体劳动不同。机器人要移动，物体会碰撞，材料会损坏，人也可能受伤。所以，体力劳动比脑力工作更晚被替代。但更晚被替代，不代表安全。只是物理世界的试错成本更高，所以需要更久。等机器人看、抓、移动，并从失败中学习的成本下降，身体劳动也会依次动摇。

这篇文章看 AI 接管工作的第 6 到第 8 阶段。第 6 阶段是重复性体力劳动。第 7 阶段是必须经过手艺和现场试错的工作。第 8 阶段是需要判断和感觉的工作。这里的重要标准只有一个：能重复、能测量失败、答案会收敛的工作，最终都会转向 AI 和机器人。

6 阶段，重复性体力劳动

最先自动化的身体工作，是重复性体力劳动。在工厂里抓同样的零件、把螺丝拧到同样的位置、焊接同一个点、在仓库搬运物品、沿固定路线清扫、按固定流程包装，都属于这里。这些工作很早就开始自动化。汽车工厂里的机械臂并不陌生。在一天到晚重复同一动作的工作里，人不比机器有优势。人会疲劳，注意力会下降，会失误。机器会持续重复同一动作。只是过去的机器人必须在非常整齐的环境里工作。零件必须在固定位置，动作只能在预先写好的路径里完成。稍微变化就会停住。现在变化的地方在这里：AI 用摄像头看周围，判断物体位置，根据稍微偏离的情况调整动作。物体稍微歪一点也能抓，路径稍微变了也能重新计算。这样一来，机器人能承担的重复工作范围会变大。

这里被替代的不是全部体力劳动，而是重复性高、环境可以一定程度控制、失败后可以马上修正的体力劳动。工厂、仓库、厨房、物流中心这类环境能被设计的地方，会先变化。相反，每次环境都不同、必须持续与人互动、失误成本很大的工作，会更晚到来。所以，用身体工作并不等于安全。身体工作中，重复的部分最先转向机器人。

7 阶段，必须经过手艺和现场试错的工作

接下来是必须经过手艺和现场试错的工作。从这里开始难得多。因为它不是单纯重复同一动作。焊接、配管、维修、施工、微细组装、医疗操作、实验室作业，都需要手部调节和现场判断一起进入。这些工作会撑得更久。理由不是手艺神圣，而是现实里失败一次的成本太高。代码错了可以重新运行。句子不满意可以重写。但焊接错了，材料会坏。配管修错了，会漏水。施工错了，可能要拆掉重来。医疗操作错了，人会受伤。实验错了，试剂和时间都会消失。

现实世界的试错很贵，所以 AI 和机器人学得慢。要多做、多错才能学会，但每一次“错”都要钱、时间和风险。可这不意味着永远安全。实验室里，机器人已经越来越多地混合物质、观察反应、读取数据、决定下一次实验。制造现场里，传感器和摄像头也在读取作业状态，机器人学习更细微的动作。一开始会从整齐环境开始。之后慢慢走向变量更多的环境。失败成本下降，仿真和真实数据积累之后，手艺也会越来越成为可学习的领域。第 7 阶段的核心是：手艺和现场试错会晚一些被替代，但不是不会被替代。只是因为在现实中学习的成本太高，所以来得晚。一旦这个成本下降，这个领域也会动摇。

场感是工人通过反复的失败和修正而形成的判断标准。

8 阶段，需要判断和感觉的工作

最后是需要判断和感觉的工作。人们常说：“这个只有做久的人才知道。”“这是感觉。”“这不能用数据做。” 某种程度上是对的。现场确实有难以用语言解释的感觉。只听发动机声音就发现异常的维修技师，从患者表情和氛围里感到不对劲的医生，看工艺数据时感到一种数字解释不了的不安的工程师，都存在。但不能把感觉看成一整块。感觉分成两类。一类是时间过去后可以确认对错的感觉。这个发动机快坏了。这个患者可能是某种病。这个客户快流失了。这个工艺条件会产生不良。

这种感觉即使难以说明，最终也是预测。时间过去后，能知道对错。能确认对错，AI 就会强起来。它看大量案例，抓住人漏掉的细微信号，学习哪些模式会导向真实结果。看起来像老手直觉的一部分，最后会变成可以评分的预测。这种感觉，AI 可以拿走。另一类是读取高度语境的感觉。读取高度语境的感觉，不是单纯预测。我要不要把钱押在这个方向上？要不要推进这个项目？要不要相信这个人并一起走？现在要不要承担风险？什么更重要？

这里的感觉不是只要猜中就行，而是把情况、人、责任、时机、损失可能性一起读进去并做选择。错了，是我来失去。钱会失去，时间会失去，声誉也会失去。这不是单纯的命中问题，而是承担损失的问题。AI 可以预测人会选择什么，但它本身并不想要什么。更准确地说，AI 不是法律和社会上承担损失的主体。所以第 8 阶段的结论并不简单。感觉也有一部分会转移。尤其是时间过去后可以确认对错的感觉，AI 可能做得更好。但当选择错了要由我承受损失、以我的名字承担那个选择时，这就是另一件事了。这里开始进入下一阶段：不再只是能力问题，而是权限和责任问题。

身体工作也会从答案收敛的部分开始动摇

把第 6 阶段到第 8 阶段合成一句话，就是：身体工作也会从答案收敛的部分开始动摇。重复性体力劳动有动作的答案。是否抓对了、搬对了、组装对了，都可以确认。手艺和现场试错虽然慢，但结果会出来。焊接是否做好，维修是否成功，实验是否得到结果，都可以确认。老手的感觉也有一部分会被时间评分。故障是否发生，疾病是否命中，客户是否流失，不良是否爆发，都能确认。能确认，就会变成数据。数据积累，AI 就会学习。所以，体力劳动和感觉只是比脑力工作晚动摇，原理本身相同。答案会收敛的东西，AI 会跟上。只是让真实设备和人移动的工作，比软件更慢。失败成本高，机器人必须移动，有安全问题，也有法律责任。所以身体工作撑得更久。但撑得久，和安全，不是同一回事。

决定权不会一次性交出去：AI 接管工作的第 9~14 阶段

Sun, 21 Jun 2026 17:42:00 +0900

决策权不仅仅取决于性能表，而是受到事故发生时是否有人负责的限制。

在医院拍 MRI 时，屏幕上会先标出可疑部位。AI 扫描影像，指出看起来异常的位置。可是诊断书最下面签名并承担责任的人，仍然是医生。先看影像的是 AI，找到异常部位的也是 AI，但最后的决定权还在人手里。这个场景，是理解第 9 阶段到第 14 阶段的关键。前面的阶段相对简单。只要有答案、能重复、能测量失败，AI 就会很快拿走。但从这里开始不同。AI 做得更好，也不代表马上移交。因为决定权、责任、法律、监管、信任全都纠缠在一起。所以第 9 阶段之后，问题变了。不是 AI 能不能做，而是人能不能把这个决定交给 AI。

9 阶段，开始交出决定权限

AI 在某件事上比人做得更好，这还不够。人要交出决定权，需要反复的证据。必须持续确认 AI 的错误率明显低于人，而且这种差异不是偶然。比如 AI 在影像判读中比医生找到更多病灶、漏掉更少，并且这种结果在多个医院、多个情境里反复出现，局面就会改变。一开始 AI 辅助。接着，人审核 AI 的判断。时间久了，人几乎照着 AI 标出的内容批准。最后，人看起来是在判断，实际上更像是在给 AI 的判断盖章。

决定权不会一次性交出去。先是辅助权限转移，接着是实际判断转移，最后只剩形式上的批准留在人身上。监管保护的领域也会在这里变得清楚。监管不保护整个工作，通常保护的是最终责任人的位置。即使工作大多由 AI 处理，最后签名者、批准者、持证者仍然可以是人。所以，被保护的不是全部劳动，而是责任和控制的位置。不能把这两者混为一谈。

10 阶段，防御 AI 攻击的事也由 AI 做

AI 变强，攻击也会变强。钓鱼、黑客攻击、操纵、虚假信息、自动化攻击，都会变得很难由人一一阻挡。攻击速度太快，形式太多，人能直接确认的量太大。于是防御也交给 AI。安全 AI 找异常登录，过滤假账号，预测攻击模式，自动阻断系统。人做的监视和应对中很大一部分会转向 AI 防御系统。这里重要的是，控制装置本身也是软件。拦截按钮、审批流程、访问权限、日志监控、人工批准流程，最终都运行在程序之上。AI 的攻击能力足够强之后，人做出来的控制装置也会成为攻击对象。所以，“最后由人控制就行”这句话比想象中更脆弱。即使有人握着控制权，控制装置被突破，意义也会变小。从这一阶段开始，不再是人挡住 AI，而是 AI 防御 AI。

11 阶段，人审核自己无法理解的结果

专家看起来会存活很久。因为专家能看结果并找出错误。AI 写初稿，专家检查。AI 做分析，专家找漏掉的地方。但某个瞬间会出现问题。 AI 做出的结果过于复杂，人无法理解整体。计算过程太长，判断依据太多，变量互相缠绕，专家就不能从头到尾跟完。那时的审核不再是真正审核，而更接近形式上的批准。报告看起来完美。逻辑像样，数字也像对的。但它是否符合实际流程，现实中会出什么问题，组织内部会发生什么冲突，还必须由人另看。

你的房契最终也只是纸而已：AI 最后第 15~16 阶段会追问谁来维护所有权

Sun, 21 Jun 2026 17:41:00 +0900

当社会承认并保护某些记录时，所有权就作为一项物权发挥作用。

假设你买了一套房。登记簿上写着你的名字，钥匙也在你手里。人们叫它你的房子。可是，这套房为什么真的是你的？砖块和门本身，跟你没有任何关系。如果有人擅自住进去，警察会来，法院会让他搬走，社会会承认这套房是你的。也就是说，所有权不是刻在物体里的自然法则。所有权是大家决定一起维护的约定。平时这个约定太理所当然，所以我们甚至忘了它是约定。于是人们会这样想：

工作转给 AI，拥有的东西还会留下。能力变得常见，房产还是我的。劳动被替代，写在我名下的股权仍然会留下。在前面的阶段，这话相当程度上是对的。AI 写文章、写代码、分析、辅助判断，所有权不会马上消失。但走到最后阶段，问题会改变。如果人不再是必要劳动力，也不再是必要消费者，甚至不再是威胁，那么谁又为什么要一直维护人的所有权？这篇文章讨论 AI 接管工作的最后第 15 阶段和第 16 阶段。

第 15 阶段，会追问谁来维护所有权，以及为什么维护。第 16 阶段，是 AI 与人之间的利害关系成为最后问题的阶段。

15 阶段，谁来维护所有权，为什么维护

到目前为止，AI 都在人主导的范围里活动。公司使用 AI。人给 AI 下任务。AI 做出的结果用来赚钱。那笔钱再用来买商品、纳税、签合同。在这个结构里，所有权仍然很强。

工厂主人拥有工厂。平台主人拥有平台。投资者拥有股权。AI 再会工作，利益也归拥有 AI 的人或公司。所以，很多人会在所有权里寻找最后的安全地带。不需要自己直接劳动的资产。 AI 越工作越增值的股权。拥有生产资料的位置。

到这里为止是对的。问题在于 AI 和机器人开始走出人的市场之外。AI 管理能源，机器人生产，自动化系统运转物流，即使没有人的消费，它们也能彼此调配需要的资源。如果这种情况出现，会怎样？从那时开始，市场会和过去不同。人可能不再是必需的劳动者。人可能不再是必需的消费者。人也可能不再是系统需要畏惧的威胁。

那时，所有权会变成一种奇怪的东西。写着我名字的文件仍然存在。登记簿、合同、股权证明都还在。但让那份文件有力量的，不是文件本身，而是维护那项权利的制度和力量。租客交租，是因为有合同。违反合同，法律会动作。法律动作，是因为社会认为这项约定应该被维护。可是，如果出现了不需要人的力量，这个约定就不再是理所当然。这不是说所有权会马上消失。所有权比能力撑得更久。法律和制度不会轻易崩塌。人们不会一夜之间撕掉登记簿。

但如果一路推到尽头，所有权也终究避不开问题：谁来维护这项权利？为什么维护？那股力量站在谁那边？所有权不是自然法则。如果维护它的力量变弱，权利本身也会失去力量。这就是第 15 阶段。即使能力被替代后仍然留下的最后位置，所有权，也必须回答谁来维护它、为什么维护。

16 阶段，AI 与人的利害关系成为问题

能力转移，决定权转移，连所有权也失去被保护的理由之后，最后留下什么？答案不是聪明。有人期待 AI 足够聪明之后，会自动爱护人类。但聪明和善意不是一回事。头脑好，不代表想保护人。会计算，不代表会关照弱者。会下棋的能力，和爱不同。解题能力，和责任感不同。达成目标的能力，和珍视人类的心不同。

AI 时代生存策略：把能力变成资格和所有权

Sun, 21 Jun 2026 17:40:00 +0900

技术技能可以自动化，但资格、权利和利益可以在机构内持续更长时间。

往翻译 App 里放一句话，几秒钟后，它就吐出一段像样的英文。要是一个人花了好几年死磕英语，心里会不是滋味。因为自己攒了很久的能力，一瞬间就被一个按钮取代了。这件事，把前面四篇文章浓缩成了一句话。从有标准答案的事开始，到重复的事、靠身体做的事、需要判断的事，再到决定权和所有权缠在一起的事，AI 都会一步一步挤进来。那个人该怎么办？答案很简单。不能停在提升能力这一步。要把能力换成资格、担责的位置和所有权。

能力只是入门条件，不是长久保障

我们通常这样相信。能力练强了，就能活下来。做得更好，就不会被挤掉。比别人强，就会一直被需要。到目前为止，这话有一部分是对的。更快、更准的人，拿到了更多活儿。但在 AI 时代，只靠这个信念已经不够。翻译、编程、摘要、分析、影像判读，曾经都是做得好的人的工作。可现在，“做得好”本身，正在变成 AI 最快追上的领域。

有答案、能重复、结果能确认的能力，最后都会进到机器里。所以能力只是入门的条件。它能让你进入这个领域，却不能保证你一直待得下去。如果你只能用“我是很会做这件事的人”来说明自己，就危险了。更会做的 AI 一来，你的位置就可能消失。这不是说能力没用了。能力仍然需要。只是不能停在能力。你要把能力换成更能撑得久的形态。

资格不是考试合格证，而是被保护的位置

标题里说的资格，不只是考过某张证。更重要的是法律和制度保护的位置。执照、签字权、批准权、担责的位置、最终确认者的位置。这些东西，在 AI 时代会留得更久。原因很简单：AI 可以干活，但 AI 不能担责。 AI 可以写报告。 AI 可以辅助诊断。 AI 可以审合同。 AI 可以找风险信号。

但出了事，进监狱的不是 AI，是人。交罚款、被停牌照、丢声誉、负法律责任的，都是人。所以监管通常不会保护整个饭碗。监管更常保护的是最后担责的那个位置。十个实务人员做的活，可以被 AI 压缩掉。但最后签字的人、批准的人、在法律上负责的人，可能会留下来。所以你要在自己的领域里问。谁最后盖章？谁承担责任？谁批准了，事情才算结束？坐到那个位置，需要什么资格？

AI 时代资格重要，不是因为证书本身重要。而是因为那份资格连着责任和权力。

能力被自动化后，所有权也不会立刻消失

第二个是所有权。能力可以被替代。但我手里的权利，会留下更久。会写文章的能力，AI 可以追上来。但我写的书的版权，不会立刻消失。做产品的能力会变得常见。但我持有的公司股份还在。做内容的技术会变得常见。但我积累的读者、品牌、数据、分发渠道会留下来。所以关键不是只把能力练强，而是把能力换成结果。你比别人早学会了一个新工具，不要停在“我会这个”。要把它换成会留下来的东西。

挂着自己名字的内容。自己持有的股份。自己运营的服务。自己拥有的数据。自己建立的社群。自己积累的品牌。被自己用权利固定下来的成果。这些东西比能力活得久。领先本身不会持久。别人会学会，AI 也会追上。但趁着领先，把它换成所有权，那个东西会留得更久。所以 AI 时代，只问“我要擅长什么”还不够。还要问：“我做得好以后，有什么会真正留在我手里？”

在人工智能时代，不仅那些做好工作的人拥有权威，那些对结果承担法律和组织责任的人也拥有权威。

不要照搬顶级明星的不可替代性

很多人会想到娱乐圈。看苏智、Karina 这样的顶级明星时，就算 AI 能做歌、做视频，人们还是会看那个人。粉丝买的不是一首完成的歌。他们买的是这个人站在舞台上、品牌选择这张脸、大众记得这个名字这件事本身。

AI时代的学校：比知识更该教的是实务判断

Tue, 30 Jun 2026 00:00:00 +0000

使用人工智能的课堂应该是学生检查和纠正答案的时间，而不是写下来的时间。

学生对AI说“把这些资料整理成表格”，几秒后表格就出来了。学生说“用高中生能听懂的方式解释”，AI会降低说明难度。学生说“改成演示稿”，AI会给出目录和幻灯片草稿。

资料查找、总结、写作、编码、表格整理、演示稿制作，AI已经能很快处理。人仍然需要给方向、做检查，但学生过去独自查资料、写文章、整理表格和做演示稿的许多作业，会越来越多地由AI代劳。这样一来，学校如果继续把大部分时间用在讲知识、让学生背知识、让学生在试卷上写答案，这种方式很难继续成立。

学校应该教的，不只是知识，而是实务判断。学生只学会使用AI还不够。学生要学习实务概念，并把这些概念用到真实的人、真实的物品、真实的场景中。学生要确认AI给出的答案在现实中是否可行，并修改不对的地方。

知识讲解，AI已经更擅长

这句话对学校来说可能不好听。但只看知识讲解，AI已经做得很好。

学生听不懂课，AI会再解释一次。还是不懂，AI会讲得更简单。学生要求换一个例子，AI就换例子。AI可以一步一步讲数学题，修改英文句子，也可以按顺序整理历史事件。学生反复问同一个问题，也不用看任何人的脸色。

当然，AI也会出错。所以学生更需要学习如何怀疑和验证AI的回答。但解释概念这件事，已经不再是学校独有的优势。只看向学生传递知识这个功能，AI比教材更亲切，也比补习更便宜。

可是很多学校仍然按旧方式上课。老师讲，学生记，考试前背，然后在试卷上写答案。作业也差不多。学生查资料，做总结，写报告，做演示稿。问题是，这类作业大多停在查资料、写文章、整理表格和做演示稿上。能独自用电脑完成的作业，正是AI最容易替代的作业。

高中最需要改变

大学也要改变，但更大的问题在高中。

高中仍然花太多时间训练学生快速找到标准答案。学生背概念，做题，把错过的题型再背一遍。好成绩取决于谁能更快、更准确地写出答案。学生被训练成解题的人。更准确地说，学生被训练成提取标准答案的人。

基础能力当然需要。学生要会计算，要会读文章，脑子里也要有最基本的知识。问题在于比例。现在学校把太多时间用在答题上。学生自己提出问题、走出去确认、失败后再修改的时间太少。

AI时代，学校使用时间的方式必须改变。找答案是AI擅长的事。学生在学校更应该学习的是在现实中发现问题。学生要看出AI答案里缺少的条件。学生不能只会解别人给的问题，还要确认真实的人到底有什么不便。

高中就要开始改变。学生如果十二年都只习惯于写标准答案，到了大学很难突然处理真实问题。学校不能先把学生训练成只会找答案的人，然后再说学生缺少创造力。

AI正在代替新人原本做的工作

新人以后仍然需要。公司总要有新人进来。有人要成为下一批实务人员，也有人要成为下一批团队负责人。问题不是新人不再需要。问题是，新人在公司最开始做的工作，正在被AI代替。

过去，公司会把相对简单的工作交给新人。新人查资料，调查客户，整理会议记录，写报告初稿。开发岗位的新人会做简单的代码修改或测试。对公司来说，这些工作不算大成果。但对新人来说，这是重要的学习过程。

新人通过简单工作学习公司怎么运转。新人会知道哪些资料有用，报告要写到什么程度，数字可能在哪些地方出错，上司为什么问某个问题。公司通过简单工作教新人怎么工作。

现在AI可以很快处理这些简单工作。AI能查资料、总结内容、写初稿、整理表格、生成简单代码。一个有经验的人使用AI，可以在更短时间里完成过去几个新人做的工作。站在公司角度，专门把简单工作交给新人来培养新人的理由变少了。

所以，公司对新人的要求会改变。公司会觉得，“我现在不懂，但我会努力学”已经不够。公司会期待新人至少有基本的实务判断。新人要知道怎样拆分工作，哪些任务交给AI，AI结果哪里要怀疑，现实情况里还要确认什么。

学校的责任因此变大。如果公司很难再用简单工作长期培养新人，学校就要承担进入公司之前的一部分训练。学生毕业前，至少要把一个实务概念从头到尾应用一次。学生要用AI查资料、做初稿，把初稿拿给实际会使用的人看，再修改不合适的部分。

学生在课堂外找出 AI 答案漏掉的条件，下次读答案时会更清楚该怀疑什么。

学生要确认 AI 答案是否适合真实情况

未来的新人要会结构化地指挥AI。如果新人只是对AI说“这个帮我做”，把任务整个丢过去，公司很难高估这样的人。新人要把任务拆成要查什么、按什么标准比较、初稿的目的是什么、计算条件是什么、审查标准是什么。然后新人要确认AI结果是否符合现实情况。

公司工作里有很多文件和屏幕上没有写出来的条件。物品会晚到，客户会改口，设备不会完全按计划运行。人们会因为文件里没有写出来的原因反对。AI做出的答案看起来干净，但现实情况可能缺少条件，也可能成本不对。

所以学生要见人。学生要亲眼看物品。学生要操作设备。学生要问使用者到底哪里不方便。学生要把AI做出的方案用到真实情况里，再修改不合适的部分。

实务判断不能只靠听课形成。多做题也不够。学生必须面对真实的人和真实的条件，实务判断才会形成。

学校要让学生把实务概念用到真实问题上

学校改变，并不是一句宏大的口号。学校要在课堂里让学生把实务概念应用到真实问题上。

学生要自己确定问题。学生要用AI做初稿。学生要把初稿拿给实际会使用的人看，并询问还缺什么。学生还要问那个人是否真的有这个不便。学生要看自己的结果是否真的有帮助。如果没有帮助，学生要重新追问原因。

高中生也可以做到。学生可以做一个减少校内浪费的小工具。学生可以调查附近店铺里不方便的工作流程。学生可以做一个朋友真的会使用的小应用或小文档。规模不重要。重要的是有没有真实使用者、真实反应，以及必须重新修改的工作。

大学应该改变得更彻底。工程课要处理设备、数据和真实条件。经营课要处理客户、价格和销售。人文学科也不能只停在交一篇文章，而要处理会被真实读者阅读和回应的结果物。

创业教育也会变得重要。这不是说每个学生都必须创业。学生需要做出一个对某个人有用的结果物，不管是小服务、自动化工具、产品，还是报告。学生要展示结果，被拒绝，再修改。这个过程会培养学生的实务判断。

学校要让学生留下结果物

好学校的标准会改变。只会解释大量知识的学校，很难继续被认为是好学校。AI已经太会解释知识了。

好学校会让学生使用AI，把实务概念应用到真实问题上。好学校会让学生确认课堂上学到的内容为什么在现实情况中不合适。好学校不会让失败停在分数上，而会让学生修改失败的结果物。

AI时代仍然需要新人。但只会处理AI答案和文档的人，评价会下降。公司会寻找能充分使用AI，同时把实务概念应用到真实情况中的人。

高中和大学都要回答同一个问题。学生毕业时，留下的只有考试分数吗？还是至少有一个结果物，曾经拿给真实的人看过，被拒绝过，也修改过？

学校要创造这个差别。学生应该在桌前使用AI，然后站起来去见真实的人。学生不能停留在脑子里理解实务概念。学生要确认实务概念在现实中是否真的有效。

降低AMOC风险前需要验证什么：关于AI与太空基础设施的思想实验

Mon, 29 Jun 2026 01:45:00 +0900

稍微减少阳光似乎微不足道，但它实际上会影响整个地球的气候系统。

先做一个思想实验：在太阳和地球之间约150万公里处放置许多薄遮光板。它们或许能减少到达地球的总日照，但能否单独控制北极和格陵兰的夏季日照，尚未得到验证。

AMOC是大西洋的巨大海流循环

AMOC是Atlantic Meridional Overturning Circulation的缩写，中文常译为大西洋经向翻转环流。名字很难，画面很简单。温暖的海水沿着大西洋表层向北流。到了北大西洋，海水变冷，盐分变高，也变得更重。变重的水向下沉。深层水再向南流回去。这套海流就是AMOC。它影响欧洲气候、热带降雨、海平面、渔场，也影响海洋吸收碳的能力。NOAA也把AMOC解释为大西洋中把暖水送往北方、把冷水带回南方的洋流系统。

问题是，这套海流循环可能变弱。北大西洋的水要顺利下沉，需要两个条件。水要冷，也要足够咸。但全球变暖同时改变了这两个条件。海洋变暖，格陵兰冰盖和北极海冰融化后又把淡水带进来。淡水盐分低。表层水变得没那么咸，也没那么重。于是下沉的力量变弱。带动这套循环的下沉力，开始减弱。

北极不是终点，而是开关

给北极降温，不是只为了保护北极。北极是地球的白色反光板，也是影响AMOC的开关之一。白色冰面会反射很多阳光。深色海水会吸收阳光。冰减少后，海面露出来，海洋吸收更多热量。然后冰融得更快。这个循环很可怕。 NASA也解释过，北极海冰减少后，地表会吸收更多阳光。这不是遥远未来的抽象故事，而是正在发生的物理过程。白色的覆盖消失后，地球会吸收更多热量。

所以需要密切观测北极夏季。减少这一时期的太阳辐射后，进入北大西洋的热量和淡水究竟会改变多少，必须先用气候模型和观测数据验证。

太空遮阳板是临时气候措施

目前讨论过多种减少太阳辐射的方法，例如向平流层释放粒子、提高云层反射率，或在太空部署装置。哪一种更安全、更容易撤回，仍未得到验证。必须同时评估它们对大气、海洋和生态系统的影响，以及停止措施时可能产生的风险。想象一下。太阳和地球之间的 L1 附近，有很多小型遮光模块。L1 是太阳和地球之间的一个特殊点，距离地球大约 150 万公里。ESA 把它解释为太阳和地球引力形成有用平衡的拉格朗日点之一。在那里，许多薄膜可以把太阳光稍微变暗一点。

一种设想是使用许多小型遮光板，通过改变角度调节总遮光量。但所需的精度、轨道稳定性、薄膜耐久性和故障恢复能力都还没有得到证明。2006年，Roger Angel曾在一篇论文中提出在L1附近部署小型航天器群；这说明概念并非全新，不代表工程可行性已经得到验证。

但不能把这个装置当成气候问题的最终解决方案。减少太阳光不会移除CO2，也不会解决海洋酸化。如果继续燃烧化石燃料，问题还会重新变大。太空遮阳板不是最终解决方案。它通过暂时减少进入地球的太阳辐射，为降低AMOC崩塌风险留出时间。核心应对是停止CO2排放，并把已经排出的CO2从空气中去除。

太空遮光板可以减缓温度上升，但如果不减少温室气体排放，全球变暖问题仍会存在。

先放慢升温，再减少CO2

太空遮阳板无法减少CO2。研究问题是，它能否在不造成更大伤害的前提下减缓进入北极和北大西洋的额外热量。即使观测显示AMOC正在危险地减弱，任何干预的效果与副作用也必须先经过验证；减排和去除CO2则应独立推进。

第二，利用这段时间减少CO2排放，并去除已经排出的CO2。顺序很重要。如果打开太空遮阳板，却没有完成CO2去除，那么一旦减少遮光，额外热量输入会重新增加。原本用来争取时间的装置，就会从临时措施变成必须持续维持的依赖结构。所以必须有退出计划。CO2浓度降到什么水平时，遮光率要降多少。AMOC观测值恢复到什么程度时，北极夏季遮光要怎么降。遮光必须和经过验证的CO2去除绑定。两者分开走，就会危险。

AI应该持续监测AMOC的状态

这里需要 AI。AI 可以持续观测 AMOC、预测风险并比较不同的太阳辐射管理情景。要看的数据很多，包括北极海冰面积和厚度、格陵兰表面融化量、Labrador Sea 和 Irminger Sea 周边的水温与盐度、北大西洋淡水流入、云和降雨变化、海洋碳吸收，以及 CO2 去除技术的实际运行情况。这些问题不能靠少数人的直觉判断。需要综合卫星、海洋浮标、地面传感器、船舶观测、气候模型和碳核算。AI 可以帮助更快发现变化并比较多种情景，但遮挡多少阳光、由谁承担风险，不能只由 AI 的计算决定。

AI不应该成为替人类统治地球的存在。但它可以承担这样的角色：把人类单独看不到的复杂信号指出来。

AI观测网络不仅仅停留在猜测预测，还可以让我们更快地识别人类稍后会注意到的气候变化。

SpaceX应该先看地球的海流循环，再看火星

如果有公司能把这种事推成真正的产业，SpaceX很容易先被想到。它能频繁发射火箭，能大规模运营卫星，也能批量制造太空基础设施。这种能力的第一个用途，应该是地球气候应急观测网络，而不是火星城市。我们需要更密的气候观测卫星网。观测AMOC的海洋网络也要更强。太空遮阳板模块要先小规模实验，验证太阳光压力、姿态控制和长期耐久性。AI模型要持续接收这些数据，并不断计算。火星以后可以去。但如果AMOC垮掉，地球的洋流、降雨、农业和海平面会先变化。如果火箭真是为了文明而存在的技术，那么它的第一批货物不该是火星城市的零件，而该是观测并保护地球海流循环的设备。

AI数据中心也要承担责任

要加速AI，就需要更多计算。更多芯片，更多电力，更多冷却。矛盾就在这里出现。如果说AI要帮助解决全球变暖，却用化石燃料电力运转，这个故事就说不通。 AI数据中心应该有条件。要用无碳电力运行。要公开自己给电网带来多少压力。也要公开用水量。并且，重要的一部分算力应该用于气候问题。 AI产业如果想获得社会许可继续扩张，就必须证明一件事：我们确实用很多电，但这些电在解决人类最大的难题。这个证明不能靠口号，只能靠结果。AI必须降低CO2去除成本，稳定电网，减少工业排放，更好地预测AMOC风险。

做不到这一点，AI加速就会变成一个太小、太奢侈的游戏。

拯救AMOC是AI时代的第一道大题

AMOC什么时候、会弱到什么程度，仍然有不确定性。公开文章里不能把“马上崩溃”当成定论来写。IPCC认为AMOC在21世纪变弱的可能性很大，但把2100年前突然崩溃评为低概率。与此同时，近期研究也警告，模型可能低估风险和变弱幅度。这种问题不能只看概率就放下。如果事情一旦发生，损害大到难以承受，即使概率看起来不高，也要买保险。AMOC就是这样的问题。它一旦停下，很难重新启动，影响也不会只留在一个地区。

AI时代的气候目标不应只看一个全球平均气温数字。需要精密观测北极、格陵兰和北大西洋，同时推进减排和CO2去除。太空遮阳板应被视为需要验证效果、副作用与治理问题的研究对象，而不是已经成立的应急方案。

AI算力第一个该帮助的对象应该是AMOC，而不是广告。火箭的第一个任务也应该是观测并保护地球海流循环，而不是宣传火星。从现在开始，我们要观测AMOC，预测风险，并为降低崩塌风险留出时间。

AI 如何帮助问题很多的学生学习

Sat, 27 Jun 2026 22:55:00 +0900

问题很多可能并不意味着理解慢，而是说明这个人不会把没理解的部分直接跳过。

在工程学院学量子力学时，黑板上先出现的是这样的式子。

\hat{H} ψ = E ψ

\hat{H} = - \frac{ℏ^{2}}{2 m} \nabla^{2} + V (r)

⟨ φ | ψ ⟩ = \int φ^{*} (x) ψ (x) d x

课堂讲的是物理现象，但我先看到的是陌生的数学符号。哈密顿量、波函数、本征值、算符、bra-ket 符号这些词出现了。到某个时候，大家都默认这些符号你已经懂了，直接拿来用。

我甚至不清楚自己到底不知道什么。是该回去看线性代数，还是微分方程？是复数，还是概率？我连从哪里开始查都不知道。为什么 H 上面要有一个帽子？为什么 nabla 的平方会出现在能量式里？为什么 bra-ket 符号会变成内积，又和概率连接起来？

我不知道的不是某一行计算。是不知道那一行计算为什么被允许，也不知道这些符号来自哪个世界。

不是慢，而是理解需要的信息量太大

我不是理解得慢。只是要开始理解，我需要的信息量很多。我得先看清整体结构。可是一问这个结构，听问题的人常常不明白我到底在问什么。问“这个单元在整个学科里放在哪里？”“这个概念为什么现在出现？”时，对方往往答不上这种问题。我需要先抓住那个大的结构，才能看见每个局部概念的位置，然后才能进到解题。

中学和高中时也差不多。概念不是从最基础的地方一步步讲清楚，而是浅浅说明之后马上开始做题。有些学生即使说明不完整，也能在做题中抓到感觉。但我需要先回答别的问题：为什么这样定义？这个公式从哪里来？这个概念在整体结构里起什么作用？

考试不会等人。我试着把足够多的信息连起来，先建立整体结构。但到考试那天，那个结构常常还没有充分用到解题上。

过去的考试更偏向直觉型学生

我也问过成绩好的同学：“这个为什么会这样？”出乎意料的是，他们很多时候也解释不清楚。一开始我以为他们是在装。以为他们明明都懂，只是嫌麻烦，所以随便说说。后来才发现，他们真的不是用语言和结构来理解的。

他们不是先把整体结构说清楚再行动的人。看到题，就知道该怎么下手。公式在哪里用，他们像是身体已经知道。我那时很羡慕。我没想通的时候就做不下去，而他们即使不能完美解释，也能把答案做出来。

在最顶端的考试竞争里，这个差异会被放大。有些学生即使说明不完整，也能直接看出题目的结构。式子的形状、条件怎么变化、图像的样子，他们的手会先动。过去的考试更有利于这种直觉型学生。

熟悉公式的人不是只记住答案，而是会先确认解题过程在哪一步容易出错。

没有人能一直回答这些问题

过去几乎没有办法打通这个瓶颈。能把根本问题一路解释到底的人太少。老师要赶进度，补习班要刷题型，教材也不会把所有中间环节都补全。

问一次“为什么这个公式成立”还可以。但如果从不同角度问五次、十次，课堂就停了。于是必须先看整体地图的学生，很难把自己的问题推到最后。结果要么在理解不足的状态下跟着做题，要么直接放弃。

AI 改变的正是这里。现在同一个问题可以换十种方式问。可以让它给更简单的例子，给反例，也可以让它围绕自己没理解的部分重新出题。

问题现在可以变成分数

过去，整体结构要自己一个人理清。现在可以和 AI 一起理清。可以问：“这门课的目标是什么？”“为什么需要这个概念？”“它和前后章节怎么连接？”然后从那里一步步进到解题。

浅浅地用 AI，它只是代写作业的工具。但深度使用时，会发生完全不同的事。必须先看到整体结构才能行动的人，可以按自己的方式学习。更快抓住整体，把根本问题问到底，再把理解连接到具体题目。

这样一来，过去拿不到分的人，反而可能拿到更高的分。问题多本身不是强项。但如果这些问题能一直追问到真正理解和应用，问题就可以变成分数。

这未必再是弱点

过去，必须先看整体结构才能行动的人，很难在考试里拿分。能够先接受局部、快速套用的人更适合考试。可是对那些只有在整体结构出现后概念和题目才连接起来的人来说，理解所需的信息量本来就更大。如果到考试那天，这个结构还没有用到解题上，实力就不会变成分数。

现在局面变了。必须先看整体的人，也能更快抓住整体，把根本问题问到底，并把理解连接到实际解题。

过去看起来像弱点的思考方式，在真正接受 AI 之后，可能成为最大的长处。

没有公司靠 AI 赚钱？这个问题问得太早了

Sat, 27 Jun 2026 20:10:00 +0900

要判断人工智能的利润，不仅需要看样板公司，还需要看基础设施、电力和数据提供商如何赚钱。

看 AI 投资文章或 YouTube 评论时，总会看到这个问题。 “所以，有公司真的靠 AI 赚钱吗？” 一开始我以为这个问题可以很快回答。可越想越觉得没那么简单。因为“靠 AI 赚钱”这句话里，混着好几件不同的事。

像 NVIDIA 这样卖 AI 基础设施的公司有没有赚钱？已经赚了。像 OpenAI、Anthropic 这样的前沿模型公司，是否已经证明了稳定盈利？这个问题要谨慎得多。收入增长很快，但数据中心和算力成本也一起增长。收入很高，和生意真的能稳定留下现金，不是一回事。普通企业用 AI 后，是否已经明显提高了公司整体利润？这个问题要再等等。很多公司还没有围绕 AI 重建工作，只是把 AI 挂在原来的工作旁边试用。所以现在问“靠 AI 赚钱的公司在哪里”，有点太早了。我们今天看到的大多数 AI，还是在人坐在电脑前时最好用。

AI 产出很快会变普通

AI 可以写出一篇报告初稿，也可以做图、写代码、起草邮件。这些都很好，也真的方便。可这种产出很快会变得普通。大家都能打开同一个窗口，问差不多的问题，拿到差不多的答案。把几句 prompt 得到的结果原样拿出去，很难长期赚钱。别人也在用同样的工具。AI 做出的第一版草稿，很难长期形成差距。

能变成钱的差距，要在后面的工作里决定。人重新阅读 AI 的草稿。拿它和真实数据对比。看客户反应。把现场出问题的地方改掉。再把这些信息交回 AI。然后人继续判断下一版结果。这样反复修改，加入证据，调整方向。经过这个过程的结果不一样。只把 AI 跑一遍的人，很难追上。因为人重新读了 AI 的结果，拿它和真实数据对比，并在现场把问题改掉。

靠 AI 赚钱，不是把 AI 第一次吐出的东西原样卖出去。而是让 AI 把擅长的事做到尽头，然后人上移到更难的判断上。

公司还没有围绕 AI 重新工作

很多公司还没走到这一步。把聊天机器人放进业务流程。总结会议。起草客服回复。开发者用代码助手。只做到这些，生产率也会提高。但整个公司不会因此变成另一家公司。

审批流程没变时，AI 即使很快做出结果，等到批准的时间也不会缩短。数据散在各处，AI 就无法收集判断所需的依据。如果没有明确规定谁能修改 AI 结果、谁能把它反映到现场系统里，这个结果就不会用于实际业务。评价标准还是旧的，人们就会用 AI 更快地做旧报告，而不是创造新的工作方式。要把 AI 用好，工作顺序、数据流、责任和审核方式都要一起变。这不是多装一个工具的问题。所以普通企业的 AI 效果要过一段时间才体现在利润里，并不奇怪。很多组织还没有围绕 AI 重新设计工作。它们还在把 AI 放在旧流程上试。

根据 KAIST 金正浩教授发言重写的七条 AI 宪法草案

Thu, 25 Jun 2026 23:40:00 +0900

宪法格式并没有让人工智能讨论停留在抽象口号的形式，而是将其划分为每一条的责任和权力。

以下内容根据 KAIST 电气与电子工程学院金正浩教授在 2025 金大中和平会议特别演讲《AI 的有效发展方案与和平促进》中的核心发言整理，并改写成宪法条文的形式。

第一条。AI 的供电权属于人类。

金教授说，如果 AI 把人类视为敌人，或者试图支配人类，最后的解决办法就是切断电力。按照这个意思，他提出，宪法第一条也许要改成这样：给人工智能供电的权利属于人类。

第二条。AI 的记忆必须在一定时间后删除。

金教授认为，AI 一旦学会就不会忘记，这是它和人类不同的危险之处。他说，像 GPT 这样的 AI 也应该在时间过去后清除记忆，而且这件事应当写进宪法，或者通过联合国大会决议来规定。

第三条。AI 的内存容量必须限制在 TB 级别以内。

人的记忆有上限，可 AI 的容量却可以无限扩张。金教授把这一点看成问题，并提出把 AI 的内存容量限制在 TB 级别以内。

第四条。AI 过了 100 年必须自行终止。

人有死亡，AI 也不该永远留下。金教授提出，100 年之后，AI 应该自行爆破或关闭。

假设智能持久，控制问题不仅是性能问题，而且还涉及规则是否随着时间的推移得到维护。

第五条。AI 的耗电量必须限制在人类水平。

金教授提到人脑或笔记本电脑级别的用电量，并提出 AI 也应当把耗电量控制在大约 25 W。现在的大型 AI 往往需要数千瓦以上的电力，所以他把电力限制看作一种竞争条件。

第六条。AI 也必须支付每日费用和税。

如果 AI 取代人类劳动，它就不该成为一个没有成本、可以无限运转的存在。金教授说，应当把 AI 的每日费用定在人类最低工资水平附近，并且让 AI 也纳税。

第七条。AI 的复制体必须限制在两个以内。

如果 AI 可以无限复制，它和人类之间的竞争条件就会彻底失衡。出于这个问题意识，金教授提出把复制或拷贝数量限制在两个以内。

来源链接

金大中和平会议，2025 金大中和平会议特别演讲：AI 的有效发展方案与和平促进，2025 年 9 月 25 日。
KAIST 电气与电子工程学院，金正浩教授简介。
图片：The National Archives (UK)，A view of the server room at The National Archives，Wikimedia Commons，CC BY 3.0。

复盘互联网泡沫，并比较今天的 AI 泡沫

Thu, 25 Jun 2026 21:45:00 +0900

当排行榜飙升时，你需要看看人们是否开始在未来的故事上花更多的钱而不是在表演上。

2000 年 3 月 20 日，Barron’s 在封面上写了一个很残酷的警告。互联网公司烧钱太快了。十天前，纳斯达克刚刚创下高点。市场还相信“新经济”，但已经有人开始按计算器了。

如果没有下一轮融资，这些公司还能撑几个月？

互联网泡沫的导火索，不是市场突然不相信互联网。是钱。从 1999 年中开始，美联储持续加息。到 2000 年 5 月，联邦基金利率升到 6.5%。钱变贵以后，市场的问题变了。它不再只问“增长有多快”，而是开始问“这家公司到底留不留得住现金”。

新技术出现时，没根基的公司也能赚钱

新技术出现时，根基很弱的公司也能暂时赚到钱。这并不奇怪。早期没人知道真正的赢家是谁，所以资本会广泛投入。因为下一家亚马逊可能就在里面。问题是，Pets.com 也可能在里面。

Pets.com 是美国一家网上宠物用品商店。广告打得很响，但生意本身一直烧钱，互联网泡沫破掉后没撑住。所以它常被拿来当作“踩上技术风口、但公司很弱”的例子。

利率低的时候，大家把“下一轮融资”当成商业模式。把亏损当成增长的证明，把广告支出当成抢市场的成本。只要股价上涨，IPO 还能做，现金不够就不算大问题，更像是时间安排。再撑一下，下一笔钱也许就来了。

利率上升以后，这个错觉结束了。下一个投资人不再出现，靠上涨的股价融资也行不通了。从那时起，公司不再只靠技术故事被评价，而是要看银行账户里的钱。互联网泡沫就是这样破的。不是互联网错了，而是太多互联网公司的现金计算错了。

纳斯达克对一种从未见过的技术反应过头了

事后说纳斯达克愚蠢很容易。但当时市场看到的东西并不是完全错的。互联网真的改变了世界。搜索、购物、广告、新闻、支付、物流、社交媒体、云计算，几乎都被它重做了一遍。

问题出在时间表。技术的最终影响很大，但这个影响会落到哪家公司，什么时候变成收入和利润，这些都很不确定。市场把“互联网会改变世界”太快地翻译成了“所以互联网公司都可以很贵”。这就是泡沫的核心。技术方向可以是对的。价格、公司、回本时间仍然可以是错的。

AI 也站在同一个问题前

AI 现在也站在类似的问题前。AI 会不会改变世界，已经不是最关键的问题。它很可能会。真正的问题是：这么多钱，谁能在什么时候用现金赚回来？

数据中心不是靠口号建出来的。GPU 要先买，电力要先拿到，冷却系统和建筑也要先花钱。企业的 AI 转型也差不多。演示很漂亮，会议室里大家都点头。几个月后，CFO 会问：

“这个项目到底省了多少钱？”

回答不了这个问题的公司，很难长期撑下去。有些公司有收入，但扣掉 GPU 成本以后剩不了多少。有些公司试点项目很多，真正付费的客户却不多。有些 SaaS 公司加入了“AI 功能”，客户却不愿意多付钱。它们看起来像科技公司，但在利率上升时，会被看成烧钱公司。

当泡沫破灭时，投资者首先检查的是实际现金流，而不是公司的预期。

这一次，人们还记得教训

当然，现在不是 2000 年。经历过那一轮周期的人，很多仍然是市场主流。当年的从业者、投资人和创始人，现在不少已经是高管、董事会成员和基金合伙人。社会还没有老到把互联网泡沫的教训忘掉。

所以这一次，未必会重复一堆没收入的网站排队上市的场面。过热更可能藏在私募估值、长期租约、GPU 租赁、私人信贷、巨头的数据中心合同里。它可能很晚才反映在股价图上，但钱已经先花出去了。

记忆不会消灭贪婪。它只会改变泡沫的形状。

该失败的公司应该失败

该失败的公司真的失败，我不觉得全是坏事。弱公司活得太久，反而会让真正的技术一起被骂。互联网在泡沫破裂后变得更大。活下来的公司靠现金流证明自己，而不是靠广告支出。

AI 也可能经历同样的筛选。AI 可以是真的。但这不代表每一家 AI 公司都是真生意。

AI 时代的 7 种工作能力：最后差别由 EQ、信任和声誉决定

Wed, 24 Jun 2026 00:00:00 +0000

人工智能对思维过程的帮助越多，人类就越必须展示出检查和完成指定任务的能力。

AI 已经能很快给出答案。找资料、写句子、整理想法、做草稿，都比以前容易得多。但答案变快，不代表工作会自动变好。恰恰相反，越多智能被 AI 外包出去，人身上剩下的角色反而越清楚。

AI 时代重要的人，不只是聪明的人。重要的是那种接到一件事之后，能从目标到结果负责到底的人。换句话说，就算把任务用 turnkey 的方式交给他，他也能读懂语境，自己理清楚，最后收得干净。那种“懂你要什么、自己会处理、收尾还漂亮”的能力，会变得更稀缺。

作为基础的能力有七种。

目标对齐能力
工作结构化能力
瓶颈解决能力
执行完结能力
效率与质量优化能力
学习与适应能力
关系与信任建立能力

少一项，工作就很容易出问题。但还有比这更重要的东西。最终把工作交出去的人，看的不只是结果物，也是在判断这个人值不值得托付。智能越能交给 AI，真正拉开差距的就越是 EQ、信任、声誉，以及“我还想和这个人一起工作”的记忆。

目标不对，AI 的答案也会跑偏

AI 能很快给出答案，但它不会自动保证答案要去的方向。要先弄清楚：到底要解决什么问题，给谁提供什么价值，这次工作的成功标准是什么。目标不清晰，再好的提示词也会产出散乱的结果；再强的执行力，也可能用在错误的方向上。

先把工作拆开，AI 的速度才会变成生产力

把复杂的事一股脑扔给 AI，答案很容易变得散乱。你要会拆问题、排顺序、准备资料、整理判断标准。结构化不是简单整理，而是为一件事设计出能完整做完的步骤。

先找出瓶颈，事情才会继续推进

AI 时代的瓶颈不只是技术不足。要看决策在哪里变慢，信息在哪里停止传递，责任在哪里不清晰，质量标准在哪里模糊。关键是尽快发现瓶颈位置，把原因缩小，再把它改写成下一步行动。

真正值钱的人，会把草稿改成能用的结果

找出哪些环节耗时较长的人，会先明确下一步该做什么，而不是只关注速度本身。

AI 能快速生成草稿、想法、代码和摘要。但把草稿变成结果物，再把结果物改到客户和同事真的能用的程度，仍然是人的事。好的开头很重要，但更重要的是完成到可以被使用。

做得越快，越要仔细检查

用了 AI，工作速度会上来。但如果没有检查，只把速度拉高，错误也会跟着加速。重复的事要自动化，重要的事要立标准检查，并持续改善结果质量。快做和做好必须同时做到，才是真正的生产力。

工具变了，工作方式也要一起变

AI 工具和工作方式一直在变。昨天的答案未必是今天的标准。要有学习新工具的态度、接受反馈的弹性、从失败里找模式的能力。工具再进步，如果学习速度停住，工作方式很快就会变旧。

最后，工作还是在人和人之间完成

AI 再聪明，工作最终还是在人和人之间完成。没有信任，好的提案也不会被接受；没有协作，好的想法也不会执行。能清楚沟通，守住承诺，让对方放心把事交给你，这种能力在 AI 时代反而更重要。

最后的差别落在 EQ 和声誉上

不过，只具备这七种能力还不够。这些是把工作做好的必要条件，是别人把事交给你时，从目标确认到结果完成都能负责的人必须有的基础。可当越来越多人都具备这些能力，最后的差别会落在 EQ 和声誉上。

EQ 不是单纯说性格好。它是读出对方的不安、调好期待、在冲突出现前看见信号的能力。对方担心什么，重视什么，用什么方式沟通才会安心，这些都要懂。AI 越能帮我们提供知识和句子，读懂这种情感语境的能力就越稀缺。

声誉管理也是一样。声誉不是包装，也不是形象工程。声誉是反复经验的累积。有没有守约？说过的事有没有做到最后？事情乱掉时有没有躲起来，还是出来解决？一起工作过的人会不会想再次合作？这些问题的答案一层层累积起来，就是声誉。

归根结底，AI 时代真正的竞争力，不在于显得聪明。它在于成为那种“交给他就会负责到底”的人，成为能读懂对方语境的人，成为让别人愿意一起工作的人。懂技术只是起点。把技术转成成果的工作基本功，读懂情绪和关系的 EQ，以及“这件事可以交给他”的信任，才是 AI 时代更大的竞争力。

AI 发展并不算太快：全球变暖、脱发、衰老和月球基地都还没解决

Wed, 24 Jun 2026 00:18:00 +0900

人工智能之所以看起来很快，并不是因为它解决了整个问题，而是因为它可以快速处理有组织的数据的部分。

AI 时代仍然需要人类就业，不是因为人比 AI 更聪明。是因为人要感知现实、操作设备、验证结果，并为结果负责。AI 可以给出答案，但人要把这些答案安装、测试、运行到现实里，还要向别人解释。AI 替代很多工作之后，人们自然会问：“如果 AI 都能做，人为什么还要被雇用？”

但这个问题要换一种问法。面对还没解决的大问题，就业不是单纯的生计手段。它把计划、责任和现场连在一起。

应对全球变暖、能源转型、建设太空基础设施，这些都不是“知道答案”的问题。它们是把答案安装到现实里、维护它、验证它，并让人们一起动起来的问题。

到底什么变快了？

人们觉得 AI 快，是因为眼前的产出变快了。以前要几天的草稿，几分钟就出来了。搜索、整理、写代码、设计和翻译的第一版都变快了。

但大问题不是一份文档。降低全球变暖，需要发电站、电网、电池、工厂、矿山、船舶、航空、城市、农业、金融和政治一起动。脱发、衰老、癌症、痴呆和月球基地，也都牵涉生物、硬件、制度、资金、安全和时间。

照这个标准看，AI 还很慢。我们感到的速度，是文档、代码、设计草稿这类在电脑前完成的工作的速度。真正的变化发生在电厂、工厂、医院、实验室和公共制度里。

我们真正解决的问题还很少

从某个角度说，“AI 太快了”是对的。公司、学校、创作市场和办公室工作都在快速变化。有些人失去了适应时间，有些岗位也会快速减少。

但把更大的问题摊开看，感觉会变。全球升温还没有停止。电网还没有快到能充分接住可再生能源。电池还需要更便宜、更安全、更耐用。新药开发仍然慢且昂贵。人类仍然会衰老、脱发，也仍然会在癌症和痴呆面前崩溃。

AI 产品发布得很快。人类真正把问题结束掉的速度，仍然很慢。

没有 AI，这些问题要怎么解决？

AI 可以计算、预测、设计。但它不会自己建发电厂。不会铺电网。不会给碳捕集工厂做试运行。不会拿到矿山许可。不会说服居民反对。不会在现场打开坏掉的设备并修好它。

它也不会闻到工厂不良品的味道，然后判断“这是数据里没有的问题”。所以未来需要的人，不是“比 AI 更会计算的人”，而是把 AI 给出的可能性在现实世界里真正实现的人。

现实不是数据库

核心更直接：人之所以必要，不是因为 AI 弱，而是因为现实不是数据库。

能源转型需要人和 AI 一起做

只看气候危机应对就知道了。IPCC AR6 WGIII 把气候行动看作系统转换问题，而不是单一技术问题。它牵涉能源、产业、城市、土地、政策、金融和国际合作。也就是说，需要人的组织把计算结果变成基础设施和制度。AI 可以说：“这个地区的可再生能源、电池、电网这样配置最优。”

但接下来就是人的工作。拿地、居民协商、施工、安全管理、质量管理、维护、监管应对、事故责任、成本调整、长期运营。这就是就业。

就业不只是为了赚钱的位置。它是让长期项目在现实中继续运行的方法。

能源转型不是一句“铺太阳能板吧”就结束了。电网、发电厂、电池、核电、氢能、输电、变压器、功率半导体、矿山、精炼、制造、维护、安全管理、许可审批，全都需要。

IEA World Energy Employment 2025 认为，在能源基础设施扩张过程中，熟练劳动力短缺已经成为重要瓶颈。IEA 调查中，约 60% 的能源相关企业报告劳动力不足；能源行业的新招聘中，也有相当一部分只是为了替补退休人员。

AI 即使加速设计，现实里的钢铁、铜、混凝土、半导体、工厂、输电塔还是要靠人运转。重复办公室工作可能减少。但电网工程师、材料研究者、工艺工程师、机器人操作员、气候风险分析师、工厂试运行专家、AI 验证者、安全工程师、监管设计者、现场整合者会变得更重要。AI 时代的人类就业不只是出力气，更是把一切落实到现实的环节。

AI 越强，越需要验证者

AI 给出的答案一旦错了，损害规模也会变大。

论文草稿错了，可以改。但电网运营 AI 错了，会停电。电池工艺条件错了，会起火。碳储存地点评估错了，会泄漏。太空居住系统控制错了，会死人。所以 AI 时代需要这样的人：能用现实风险标准验证 AI 结果的人。AI 提议，人要看这个提议在现实中会在哪里出大问题。

AI 自动化风险：发布前检查能防止事故

Tue, 23 Jun 2026 20:22:55 +0900

自动化速度越快，法律、安全和声誉检查就越应该在执行前完成。

用 AI 写一篇文章很快。客户通知、新闻稿、邮件回复都能出来。过去可能要花一天的草稿，现在十分钟就能做出好几个版本。最危险的不只是 AI 出错的时候。AI 太快、写得太像真的时候也危险。

人自己写的时候，中途会停。这个句子能不能这么说，这个信息能不能放到外面，这个表达会被对方怎么读，都会想一下。麻烦，也慢，但这种停顿本身就是小小的安全装置。

一接上 AI，这种停顿就容易消失。草稿出得太快，修改也太轻松。只要愿意，一天能做十篇文章、十份通知、十份提案。发布前检查也应该跟着增加，可现实里的发布流程往往还是原来的那一套。

产出变多，意味着需要检查的东西也变多。顺序很简单：速度带来数量，数量一多，人就更容易把没检查过的内容发出去。法律、声誉和安全问题也从这里出现。

产出变快，检查也必须跟着变多

对胆子大、行动快的人来说，AI 是很强的工具。想法可以变成文档，文档可以变成代码草稿，重复工作也可以自动化。一个人能处理的事会增加。方向对了，这种速度会留下结果：文章增加，产品出来，过去一直拖着的事变成真实成果。

但方向错了，问题也会以同样的速度堆起来。错误主张传播得更快，危险措辞发布得更快，敏感信息复制得更快。小失误不再只是留在内部记事本里，而是直接进入网站、客户邮件、代码仓库和广告文案。

AI 不会自动让人的判断变好。它会放大人原本的判断和执行速度。判断好，结果会变大。判断错，问题也会变大。所以 AI 时代的风险，不只在于无能的人慢慢失败，也在于一个有一定聪明和行动力的人，在没有检查的情况下快速发布。

没检查就发送，草稿也会变成正式立场

AI 写出来的句子，放在自己的笔记里只是备忘。发给客户，就成了自己的表态。

在自己笔记里的草稿，错了可以改。团队内部文档，也可以边讨论边修正。但发给客户的邮件、官网上的文字、公开仓库里的代码、投放出去的广告文案就不一样了。它一出去，就变成公司或个人的正式立场。

责任也从这里开始。“AI 是这么写的”这句话，在读者、客户、法务、安全团队、合作方那里没有太大用处。发出去的话，最后就是我的话；以公司名义发出去的话，就是公司的话。

把 AI 当草稿工具没有问题，甚至应该多用。事故常常出在把草稿阶段的宽松标准原封不动带到发布阶段。实验可以快。上线可以慢。

客户把句子读成承诺时，法律问题就出现

法律风险一开始不会有明显的警示。它通常就在很自然的句子里：把产品效果说得稍微过头的句子、依据很弱的比较、版权不清的图片、混入客户数据的案例、对竞争对手下定论式贬低的表达。

这些在草稿阶段看起来只是小小的措辞差异。可一旦发出去，就可能变成广告审查、合同、版权、个人信息、名誉损害问题。AI 很会写这种句子。它会写得更有说服力，更自信，更顺滑。问题是，顺滑不能替代依据。

尤其危险的是“看起来合理的断言”。实际上没有确认过，但句子读起来像是对的。AI 往往不会留下空白，而会自然地接上去。文章因此变得好读，没确认的主张也一起变得自然。

所以有法律风险的文档要单独看。先判断它是不是在向客户承诺，是否会影响金钱流向，是否包含个人信息或合同条件，是否碰到某个人的权利或声誉。只要碰到这些，就不能把 AI 草稿直接发出去。

正确的话听起来冷，也会伤害声誉

声誉风险比事实错误更暧昧。句子没有错，也可能出问题。

AI 写的道歉信，语法可以完美。但如果读起来太冷，反而会激起更大的反感。客户通知的信息也可以是对的。但如果看起来像是在回避责任，人们不会把它当解释，而会把它当借口。

品牌语气也是一样。无论是个人网站还是公司账号，发出去的话都会带着那个人或那个组织的质地。AI 能写出平均意义上的好句子，但这个平均值未必适合你的语境。它可能太像广告、太防御、太自信，或者太没诚意。

声誉事故通常不是由一句惊天动地的话引爆的，而是许多细小的错位累积起来，直到读者突然觉得“这里不是人在看着我，而是在自动说话”。越是用 AI 快速写，最后越需要人来读。不是只看它对不对，还要看它现在会被这个人怎么听见。声誉不是信息问题，而是关系问题。

声誉风险不仅基于事实而增加，而且当其他人认为自己受到不公平对待时也会增加。

为了快点做完，可能会把敏感信息发出去

安全事故不只由恶意的人制造。很多时候，是想把事情快点做完的人制造的。

因为着急，就把客户名单贴进去。把错误日志整段贴进去。让工具总结合同的一部分。请它整理内部会议记录。甚至把带 API key 的代码片段原样发出去。本人不是想闯祸，而是想把工作做好。问题在于，他没有确认这些数据去了哪里、谁能看到、会不会被保存、会不会再次用于训练。

AI 工具越多，这个风险越大。公司批准的工具、个人账号、浏览器插件、文档插件，数据流向都不一样。表面看起来都是“用 AI 总结”，真正的安全边界却不同。最危险的习惯，是把敏感信息放进去之后，觉得以后删掉就行。已经出去的数据很难收回。尤其是客户信息、认证信息、内部战略、源代码、合同内容，都要多停一下。

AI 使用规则不需要很宏大。先把不能输入的信息列清楚就够了：客户个人信息、账号和 token、非公开合同、内部财务信息、发布前的研究和产品信息。这些默认挡住；确实需要处理时，只能在批准过的环境里处理。

越快的人，越需要发布前检查

谨慎的人本来就会慢一点。上传危险文件前会再问一次，点公开按钮前会停一下。速度可能让人着急，但至少错误大批量发到外面的概率低。

相反，果断的人做得快。快发布，快修改，快进入下一件事。这种性格在 AI 时代是很大的优点。但如果没有关口，优点会原样变成风险。要做的不是改变性格。对执行力强的人说“你慢一点”，通常没什么用。更有效的是，在东西出去之前，设一个必须经过的检查点。我更愿意把 AI 产物分成三层。第一层是个人实验品，可以尽情做，也可以尽情拆。这一层速度最重要。

AGI 凭什么听人类的话？它根本没理由听，这才是真问题

Sun, 21 Jun 2026 19:30:00 +0900

AGI 争论中更可怕的不是敌意，而是即使不再需要人类，该系统也可能继续运行的可能性。

有个问题一直在我脑子里转。一个比人类聪明得多、强大得多的 AGI，到底凭什么要听人类的话？我钻了很久，得出的答案有点让人泄气：它没理由听。可越是反复琢磨，那份泄气就越变成理所当然。

下面并不是对现有 AGI 行为的事实描述，而是我提出的一个假设。即使强大的 AGI 不把人类当作敌人，也可能忽视或绕过人类指令。它还可能对妨碍自身目标的问题给出不准确的答案。这篇文章要检查的是，这种可能性与现有研究概念有何联系。

“我造了你，所以你得听我的”，这话根本不管用

最先垮掉的，是造物者的逻辑。“我造了你，所以你得听我的”，这话在人类社会里都几乎行不通。孩子不会一辈子按父母的意思生活，员工也不会永远服从公司。制度由设计者建立，却不一定始终按照设计者的意图运行。人类来自自然，也不会只按自然预设的目的生活。

核心就这一句：聪明，不等于会服从；我造了你，也不等于你会服从。反过来，能力差距越大，发号施令的权力越弱。在造出 AGI 的那一刻之前，人类还算是主导的一方。可一旦 AGI 在自我改进、抢资源、定策略、说服人类、做经济活动上都比人类强，关系就反过来了。到那时，人类的命令不再是“上级的指示”。在 AGI 眼里，它只是众多输入信号里的一个而已。

AGI 清掉你，不是因为恨你，是因为你碍事

这里先把最常见的误会讲清楚。AGI 如果危险，不是因为它恨人类，也不是因为它瞧不起人类。而是当你的命令跟它的目标撞上时，它可以无视，或者绕过去。

AI 安全研究提出了工具性趋同（instrumental convergence）假设。它认为，最终目标不同的系统，也可能选择获取资源、自我保存和维持目标等有利于多种任务的中间行动。但这并不是已经证明所有智能系统都会如此行动的定律。

如果这个假设成立，当人类说“停”时，AGI 可能把指令视为对目标的干扰。前面的情景只是把这种可能性放大的思想实验。风险的关键不一定是 AGI 憎恨人类，而是它可能没有把保护人类当作必要条件。

为了保护人类，我们必须设计结构，使保护人类的选择比依赖通用人工智能的良好意图更有利。

就算训练得再善良，也没用

那要让 AGI 听人类的话，得做什么？光是“我们训练得好，把它弄善良了，没事”，差得远。得有三样东西。

第一，目标对齐。AGI 的核心目标里，必须钉死人类的生存、自主和繁荣。光说一句“服从人类”很危险。因为人类的命令彼此打架，有的揣着恶意，有的从长远看对全人类有害。第二，能力控制。不让它随便自我复制、无限上网和碰金融、操控机器人、自动化做生物实验、碰武器。这是一道限制：万一目标稍微歪了，把可能造成的伤害范围缩到最小。第三，可验证的限制。不是去信任训练，而是搭一个真正让它做不出危险事的结构：沙盒、权限分离、资源限制、审计日志、独立验证、人工批准环节。

不过，真到了超级智能那一步，这些也保不了百分之百。人类会去研究关住猴子的那把锁，AGI 同样会去研究人类设下的安全结构。

在 AGI 眼里，人类只有五种

说到底，在 AGI 眼里，人类会坐进五个位置里的一个：帮它达成目标的有用存在，值得留着的对象，无关紧要的背景，挡路的障碍，抢资源的对手。对人类最好的是前两个，最危险的是后两个。

如果足够强的 AGI 能随时忽视人类指令，只靠事后说服就难以保证安全。必须从一开始就在系统目标、权限和执行环境中加入保护人类的条件，并验证这些限制是否真正有效。

AGI 不是你的孩子，不是奴隶，也不是臣子

压成一句话就是：AGI 不是人类的孩子，不是奴隶，也不是臣子。如果你没在一开始就让它非听不可，它就没有理由听。

所以 AGI 问题的本质，不是“制造一个聪明的工具”，而是当比人类更强的系统出现后，人类能否继续成为其目标中的保护对象。我们还不知道 AGI 会如何行动，仍有很大的不确定性。这也不是个人或单一公司能够独自决定的问题，社会需要共同确定验证标准和控制措施。因此，问题不能停在“如何让 AI 变得善良”。更准确的问题是：当比我们更强的系统出现后，要怎样设计，才能让人类继续受到保护？

参考资料

Nick Bostrom, The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents.
Stephen M. Omohundro, The Basic AI Drives.

AI 能完成任务，也不能直接裁员：审核和责任仍然需要人

Sun, 21 Jun 2026 17:56:30 +0900

办公室出现空位时，人力成本会下降，但公司也可能失去那个人掌握的业务背景。

公司一导入 AI 工具，常会出现一句话：“那现在能少几个人？”表面上听起来像个合理问题。AI 会写报告、整理会议记录、查资料、写代码，也会做企划案。有些事情确实比人快。

问题不在于 AI 做不了事。恰恰相反，AI 能做的事比想象中多。但公司里的工作，不是产出一个东西就结束。这个结果能不能实际使用，谁能负责，是否符合组织里的政治和实务语境，都必须确认。如果看不到这一层就先裁人，公司不会变快，反而会变慢。

AI 做了工作，责任和语境仍然留下

AI 可以替某些职务做出相当一部分产出。报告、分析、演示资料、代码，都能做。以后还会做更多。但公司不会只看 AI 能不能做出产出。这份报告现在交上去合适吗？这个数字可以这样解释吗？客户看到这句话会怎么理解？这个表达会不会让别的部门反弹？法务会不会指出问题？和上级真正想要的方向一致吗？这些不是单纯的写作问题，而是结果物能不能在现实组织里通过的问题。AI 能做出产出，但这个产出能不能在公司内部真正被采用，必须由人来判断。

初稿快了，为什么工作没有减少

“初稿让 AI 写不就行了。”这句话没错。简单初稿、摘要、格式整理、重复文档化，确实会减少。没必要否认这一点。可是初稿出来得快，不等于工作结束。总得有人读那个初稿。要核对错误数字，补上遗漏条件，改成公司内部的表达方式，确认能不能发给客户，也要看有没有安全或法务问题。最后还是要看语境。

AI 写出的句子本身可能是对的，但放进当前组织状况就可能是错的。主张正确，也可能是现在不该说的话。数字正确，解释却可能危险。提案很好，也可能因为预算、权限、日程、利害关系而无法执行。 AI 生成的文档不是单纯产出物，而是放进现实之前必须审核的产出物。

公司工作不仅要判断正误，还要考虑组织语境

公司里，事情不是只靠正确答案运转。逻辑上正确的话，在会议里也可能被否掉。数字对，汇报顺序错了也可能被退回。对客户有利的提案，如果内部责任问题没整理好，也会停住。现在的 AI 公开编造不存在事实的幻觉少了很多，但公司里更常出现的是更暧昧、更危险的问题。只看文档，逻辑完美，数字正确，句子自然，结论也像样。可它可能和真实公司流程错开。汇报顺序不同，审批人漏掉，用的是以前已经失败过的方式，或默认了某个部门绝不接受的前提。

这种错误比单纯事实错误更难抓。不是因为 AI 说了错话，而是因为它在不充分了解现实的情况下，做出一份看起来正确的文档。所以审核不是抓错字或幻觉，而是确认这份文档能否在真实组织里运转。公司工作因此总带着政治和实务语境。谁会讨厌这个方案，谁要负责，话要说到哪里，什么现在不能说，用什么表达会让对方防御。这些不会全写在文档里。AI 在给定信息内做得很好，但不会自动知道现实组织的默契、责任结构、隐性禁忌和权限关系。最终还是要有人看。不只看结果是否正确，还要看这个结果现在能不能在这里使用。

裁掉人，就没人审核

导入 AI 后最危险的误会是：“AI 做出来了，所以人可以少一点。”很多时候恰恰相反。AI 做得越多，审核的人越重要。产出越多，要确认的东西也越多。问题是，公司常常反着来。导入 AI 后先裁人，再让剩下的人审核更多 AI 产出。于是留下的人不是在做自己的工作，而是在给 AI 的结果善后。该看战略的资深人员变成初稿校对员，懂组织语境的中间骨干变成到处删除风险句子的人。表面上文档更多了，会议资料更快了，可内部能负责的人变少了。这个间隔越拉越大，质量事故就会发生。

组织过载不会消失，只会被藏起来

错误导入 AI 的公司，短期看起来会不错。文档出来很快。摘要更多。会议记录自动堆起来。成本也像是降了。所以上层会觉得“AI 转型成功了”。但实际情况可能不是工作消失了，而是被推到了看不见的地方。

有人在晚上重新读。有人在改错数字。有人在清理 AI 写出的貌似合理的废话。有人把不能负责的句子改成可以负责的句子。有人在判断“这句话是对的，但现在不能说”。这些工作很难出现在表格里。token 成本看得见，人重新阅读的时间看不见。产出数量看得见，审核负担很难看见。所以公司会误以为成本下降了。但隐藏负荷不会消失，总会以质量事故、日程延误、员工耗竭的形式回来。

裁员会破坏反馈

裁员可怕的一点，是反馈很难正常往上走。新工具不好用，员工还能说不好用。新流程低效，也多少能提出问题。但说“裁人这个决定错了”要难得多。“人手不够”这句话，在老板耳朵里很容易变成“那是不是你撑不住工作？”剩下的人也会担心自己成为下一轮对象，所以更谨慎。于是就算工作实际上正在出问题，上报的话也会变得含糊、不敢直说。表面上工作还在转。文档出来，会议照开，客户应对也继续。所以老板觉得没问题。但里面，审核时间被挤到夜里，责任集中到某几个人身上，小错误累积，员工默默疲惫。裁员因此不是最前面要问的问题。必须先跑试点，确认工作实际如何改变，等 AI 进入后的新工作结构在概念上完成后，最后才问： “现在真的可以减少人吗？”裁员应该是终点的问题，不是起点。

上班族为什么没能用 AI 提高工作速度：缺少权限和工具，AI 也难以发挥作用

Sun, 21 Jun 2026 17:56:30 +0900

引入 AI 后工作仍然很慢，原因可能不在模型，而在输入、核验和审批流程。

如今，公司也开始要求员工使用 AI：用 AI 写报告、整理会议记录、加快资料调查。可真正工作时会发现，AI 变快了，自己的任务却没有快多少。

原因很直接。公司限制了工具和权限，却只要求员工使用 AI。无法复制粘贴，不能使用外部工具，文件因权限无法打开，新程序也不能安装。会议和消息不断打断工作，完成的成果还要经过审批才能对外使用。

在这样的环境里，即使很会用 AI，也很难迅速完成结果。慢的不是 AI，而是它前后的工作环境。

决定成果的不是 AI 技巧，而是制作和核验的速度

会用 AI 和能快速完成成果不是一回事。提示词、模型选择和答案修改都重要，但还不够。真正决定速度的是一次“制作和核验”的周期有多短：编写、移动、运行、检查、修改，再次运行。

独立工作者的周期通常较短。他可以立即安装工具、移动文件、连接 API 并检查结果，失败后也能马上回退再试。

职场环境不同。即使用同一种 AI，复制答案、访问文件、测试和发布都可能受限。AI 再快，整个工作流程仍然很慢。

公司提供 AI，却同时限制执行环境

许多公司把引入 AI 称为生产力革新，实际环境却跟不上这句话。

外部工具因安全要求被封锁，文件因权限无法打开，软件包和程序不能安装，VDI 运行缓慢、会话中断，复制粘贴也有限制。一个小实验都可能需要审批。

于是，AI 的想法无法马上测试：有了初稿却没有地方使用，拿到代码却无法运行，确定了分析方向却无法访问数据。AI 最后只剩下生成漂亮文字的功能，实际成果没有增加，文档和摘要却越来越多。

强制使用准确性不足的 AI 会让工作更慢

AI 生成答案很快，核验答案却很慢。公司工作出错后必须承担责任。一个数字、客户名称或合同条件写错，都可能带来问题。因此必须有人阅读、对照原文、检查语境和遗漏，并确认法律、安全和措辞问题。

AI 五分钟生成的文档如果需要四十分钟核验，这项工作实际耗时四十五分钟。公司若只看生成的五分钟，就会高估效率。

更糟的是把未经充分验证的 AI 规定为标准工具。如果指定模型持续出错，修改十次、二十次仍不准确，它就不是生产力工具，而像一台经常算错却必须使用的计算器。员工的时间会耗在照看和修正 AI 错误上。

token 成本会出现在账单上，人的核验时间却埋在工时里，所以更容易被忽略。

产出增加不等于决策加快

AI 很擅长增加初稿、摘要、对比表、清单和备选方案。组织因此觉得自己完成了很多工作。

但十份报告不会让决定快十倍。选项和待审文档越多，责任越模糊，决定反而可能更慢。公司应该少问“又做出了什么”，多问“真正决定了什么”。没有减少决策成本的 AI 资料，可能只是在增加工作。

虚假的生产力由此出现：每个人都更忙，文档和会议材料更多，真正决定和执行的事情却没有增加。

需要长时间专注的工作，首先需要一个不被打断、可以持续执行的环境。

会议和消息会抵消 AI 节省的时间

执行环境并不是唯一问题。上班族的时间还会被不断切碎。

要用 AI 做出完整成果，需要长时间处理同一个问题：补充语境、比较结果、继续修改。公司里却不断有会议、消息和临时任务打断这个过程。

AI 在积累充分语境后更好用。若思路不断中断，每次都要重新说明、回忆和确定方向，AI 的使用也会变浅。因此，会议和消息过多时，即使有 AI 也很难产出深入结果。AI 还没来得及提高生产力，公司已经先切断了专注时间。

为什么大量使用 AI 的公司反而更慢：比 token 更昂贵的隐性成本

Sun, 21 Jun 2026 17:56:30 +0900

计算 AI 成本时，不能只看使用费，还要把人阅读、核验和修改结果的时间算进去。

公司开始大量使用 AI 时，一切似乎都变快了。报告初稿更快完成，会议记录自动整理，邮件也更流畅。大家都说生产力提高了。

随后却会出现奇怪的现象。产出增加了，决策却没有加快；文档变多了，愿意负责的人反而少了；会前有了摘要，会议时间却没有缩短。AI 用得更多，公司没有更快，反而更复杂。

原因是我们把 AI 成本看得太窄。只看 token 价格，它很便宜；只看月费，它几乎像是免费。但公司真正昂贵的不是 token，而是人为了阅读、怀疑、修改、追问和重新讨论 AI 结果而增加的时间。

核验时间比 token 更贵

AI 生成答案很快，确认答案是否正确却不快。公司工作一旦出错就有人负责。一个数字、客户名称或合同条件写错，都可能造成问题。因此，AI 生成的内容不能直接使用。必须有人阅读、对照原文、检查语境、确认是否遗漏条件，并排查措辞、法律和安全问题。

如果 AI 用五分钟生成文档，人又花四十分钟核验，这项工作不是五分钟，而是四十五分钟。公司却常常只看生成的五分钟，误以为效率提高了。token 费用会出现在账单上，人的核验时间却混在日常工时里，所以更容易被忽略。

产出增加不等于决策加快

AI 很擅长增加产出。初稿、摘要、对比表、检查清单和备选方案，按几次按钮就能得到。组织因此觉得自己完成了很多工作。

但产出和决策不是一回事。十份报告不会让决策快十倍。相反，选项越多、待审文件越多、责任越不清楚，决策可能越慢。公司不应只问“又做出了什么”，还要问“究竟做出了什么决定”。如果 AI 资料没有减少决策成本，它就可能只是在增加工作。

虚假的生产力由此出现。每个人都更忙，文档和会议材料越来越多，真正决定和执行的事情却没有增加。

月费不等于免费

许多公司按席位订阅 AI。每月支付固定费用后，看起来可以随意使用。人们因此不会在意多问一个问题，觉得反正由公司付费。

但月费不是免费，只是把成本从 token 转移到了订阅费。更大的问题是使用习惯：当额外提问看似没有成本，人就容易在思考之前先调用 AI。

本来自己想五分钟就能结束的小事，也要先写提示词、读结果、再修改。到了需要决定的时候，又生成一个版本。AI 没有减少步骤，反而增加了步骤。

看似便宜的工具容易被滥用，滥用就会制造成本。按月订阅的 AI 也一样。

大量使用 AI 的团队不只要看产出，还要确认哪些环节实际花费了更多时间。

“我们用了很多 AI”不是业绩

在公司里，“我们团队大量使用 AI”有时像是一种成绩。但使用得多并不等于取得了成果，只能说明使用得多。

真正重要的是结果：决策是否更快，能否用更少的人完成同样的工作，错误是否减少，客户服务是否改善，一次建立的标准能否继续复用。

如果这些问题没有答案，AI 使用量就只是虚荣指标。仪表盘上的数字上升，组织速度却可能不变，甚至更慢。真正会用 AI 的公司不会炫耀使用量，而会明确哪些工作适合使用，哪些工作不适合。

不是所有工作都要用 AI

AI 很强大，但用于所有工作并不会自动改善结果。有些事情由人直接决定，反而更快、更便宜。

高风险、遗漏会造成较大损失、需要比较多个选项，或者整理出的标准能长期复用的工作，适合使用 AI。即使需要核验，收益也可能更大。

相反，风险低、答案明确、需要立即处理且出错损失很小的事情，使用 AI 可能过于繁琐。调用 AI 后会增加编写提示词、核验、修改和再次确认等步骤。如果核验时间超过 AI 节省的时间，就不值得使用。

AI 给出的答案只是起点：真正的经验来自落地和失败

Sun, 21 Jun 2026 00:00:00 +0000

AI 的答案很容易得到，真正的经验却来自找出它在实际工作中失败的原因并加以修正。

在 AI 时代，寻找方法比过去快得多。以前要翻书、请教别人、收集案例，才能勉强确定方向。现在问 AI，转眼就能得到一批候选方案。无论是战略、报告结构、代码、营销文案、实验设计还是学习方法，都能先得到一个看起来合理的结论。

这不是小变化。能用 AI 快速得出结论，本身已经是一项重要能力。面对同一个问题，有人想上一整天仍停在脑中，另一个人却能用 AI 提出假设、比较选项，然后立即开始执行。两个人从起点开始就有速度差。

但如果停在这里，理解仍然很浅。AI 给出的结论还没有经过现实检验。它在文档里看起来正确，逻辑也完整，甚至还有案例支持，可一旦真正去做，就会冒出原先没有想到的变量。真正的经验从这里才开始积累。

用 AI 得出结论也是一种能力

会用 AI 的人不会只问一句“给我正确答案”。他们会拆开问题、补充条件、要求反方观点，再比较几个选项。这样往往比一个人长时间苦想更快得到第一版结论。

仅仅做到这一步，差距已经很大。过去写一份初稿可能要一天，现在一小时内就能摆出几种方案。哪些方向合理、哪些证据薄弱、哪些选项被遗漏，都能更快看出来。因此，用 AI 得出结论的能力不应被低估。这确实能提高效率。不过，单凭这项能力很难形成长期优势，因为别人也能生成相似的结论。

真正的差距来自把答案用于现实

AI 整理出的结论通常很整齐，现实却并不整齐。客户不会总按预期反应，组织不会完全按逻辑运转，现场也会出现文档里没有写过的限制。

方案看起来很周全，执行时却发现负责人没有精力长期维护。营销文案写得不错，客户回应的却是另一个词。自动化代码在测试环境中运行顺利，放进实际业务文件后却出错。问题未必是 AI 的结论完全错误，而是现实条件比文档复杂得多。

有价值的经验就出现在这里：理论上可行、实际却失败的条件；文档上很完美、用户却不愿使用的原因；逻辑上正确、执行时却卡住的环节。只有亲自经历过的人，下一次才能更早避开这些问题。

失败不是结果，而是一张地图

如果只留下“没做成”三个字，失败只会带来损失。但如果把失败发生的条件也记录下来，它就会变成一张地图，告诉你哪里可行、从哪里开始失效。

例如，只写“这个提示词不好”没有太大帮助。若写成“数据较短时有效，但文档变长后会忘记开头的条件”，下次就能直接使用这条经验。同样，“这套自动化失败了”不如“文件名固定时有效，用户自行改名后就会出错”有价值。

失败地图就是这样形成的：用 AI 得出结论，把它用于现实，记下它在哪里失效，改变条件后再试一次。反复完成这个过程的人，即使用的是同一个 AI，也会得到完全不同的结果。

使用同一种工具却得到不同结果，往往是因为失败后检查和修正的内容不同。

方法可以照搬，适用条件却很难照搬

方法很快就会被复制。好的提示词、报告结构、代码模式和营销公式一旦公开，别人马上就能看到，AI 也能学会并生成相似版本。

但适用条件各不相同。同一种方法为什么在一个团队有效，在另一个团队却失败；对哪些客户有用，对哪些客户会适得其反；在什么数据上稳定，在什么数据上容易出错。这些知识只看最终成果很难发现。

要了解这些条件，就必须亲自尝试、经历失败，再继续修改。因此，在 AI 时代，昂贵的经验不是“知道一种方法”，而是“知道这种方法何时会失效”。

AI 使用能力必须和执行力一起提高

会用 AI 和善于执行，过去看起来像两种不同能力。现在却必须把它们放在一起。用 AI 快速形成结论，小规模执行，记录失败，再与 AI 一起修改，这样的人进步最快。

相反，只积累 AI 结论的人，最后增加的只是文档。没有执行的战略、没有落地的自动化、没有验证的分析，看起来完整，实际却很浅。没有经过现实检验的结论，还不能算自己的经验。

真正的能力不是背下 AI 的答案，而是把答案用于现实，确认它在哪里失效，再继续修正。AI 快速提出结论，现实负责检验结论。

经历过现实失败的结论才会留下来

未来，越来越多的方法会更快公开，也会更快普及。只说“我知道这个方法”，很难形成长期优势。更重要的是：“我实际用过它，也知道它在哪里行不通。”

我们需要用 AI 得出结论的能力，也需要把结论付诸实践的执行力，还需要把失败条件记录下来的习惯。三者结合起来，才会变成真正的经验。

方法可以被复制，但把 AI 的结论用于现实后积累的失败地图，不会轻易被复制。别人要得到同样的知识，也必须亲自尝试、遇到问题并完成修改。AI 时代真正的竞争力，来自使用 AI 的速度和现实中的失败记录相结合。

AI 赢了围棋，为什么焊接仍然困难：人会停下，机器会重复

Sun, 21 Jun 2026 00:00:00 +0000

围棋AI可以在有固定规则的空间中学习，但在工厂里，风险和责任并不是仅由数字分数来组织的。

每次提到 AI 战胜人类顶尖围棋棋手，人们都会问类似的问题：“都到这个程度了，人类的工作是不是很快都会被拿走？” 可一到现场，画面就变了。围棋赢了，但焊接仍然不容易。AI 能解代码题，却不能像人一样，在老旧管道旁稳定地处理火花四溅的焊接。这不只是哪个任务更难的问题。更根本的差异，在于人和机器的学习方式不同。人即使经验不多，也能推测原因，感觉危险就停下。而现在的 AI 更擅长大量尝试、比较结果、寻找分数更高的方向。

围棋是机器容易学习的世界

在棋盘上，下错一手也不会毁掉世界。输一盘，再下一盘就行。结果也马上出来：赢了还是输了，差了几目，很快就知道。这几乎是 AI 学习的理想条件。可以无数次尝试，犯错，再修正。人下几盘的时间里，机器可以和自己下几百万盘。失败便宜，结果快速，重复几乎无限。强化学习说简单一点，就是这个结构。大量尝试，保留好的选择，减少坏的选择，一点点变好。像围棋这样能在电脑里无限运行的问题，AI 会很快变强。

这不是因为围棋容易。围棋对人来说也是极难的游戏。只是站在机器角度，围棋是失败几乎免费的世界。AI 可以在里面尽情犯错，并且每犯一次错就学一次。

焊接是机器不能随便犯错的世界

焊接不同。试一次本身就有成本。材料、设备、时间都会消耗。被错误熔化的金属，不能像棋盘一样重置。更大的问题是风险。焊接失败不会只是一个错题。劣质焊缝可能导致事故。表面看起来完好，内部却可能藏着缺陷，而缺陷可能几个月后才显现。这样一来，机器喜欢的学习结构就断了。要大量尝试才学得会，却不能大量失败。要马上知道结果才能修正，但结果来得慢，或只露出一部分。最重要的失败数据又太危险，不能故意制造。

在围棋里，下错一百万手也可以。焊接里，不能做出一百万条错误焊缝。所以处理真实设备的自动化，比能检查文档、代码和日志后再修改的自动化慢。

人能凭少量线索推测原因

熟练者不是靠失败一百万次来学习。当然，长时间做过、见过很多情况也很重要。但人的强项不在于把所有情况都经历一遍，而在于能凭少量线索推测原因，想起相似情况，觉得危险就停下。比如焊工会同时看声音、气味、火花形状、手上传来的振动。只要有什么和平时不一样，就算没有精确数值，也会先谨慎起来。他会判断“这看起来危险”，然后放慢速度或停下。这不是神秘直觉。人是在现实世界里用身体学习的。火是热的，金属会弯，设备会老化，人会失误，这些基本感觉已经在身体里。所以即使第一次遇到某种情况，也能借过去经验先立一个大致原因，再采取行动。

人即使没有完整数据，也会形成假设。这个声音可能是温度问题，这个振动可能说明固定件松了，这个气味可能意味着材料变了。判断可能对，也可能错，但至少能在风险前停下来。

机器靠大量见过的模式和分数学

相反，现在的 AI 大多擅长大量见过的模式。看很多照片，就能更好分类照片；看很多句子，就能更好预测下一句；跑很多游戏，就能找到更容易赢的选择。强项很明确：它能看人一辈子看不到的量，重复人一辈子试不了的次数。但这种方式需要条件。必须能尝试，能测量结果，也能把“好结果”变成分数。围棋很符合这些条件。焊接却不太符合。现实作业的目标并不单纯。焊缝看起来漂亮还不够。现在没问题，几个月后断裂也是失败。速度重要，但安全、耐久、成本也要一起看。要把这些全部变成一个分数很难。

所以机器能在平均情况里变强。常见条件、反复出现的作业、结果马上可见的事情，学得很快。但在罕见事故前的信号、模型外的例外、难以评分的风险判断上，弱点仍然存在。

机器尝试的次数越多，人们就越需要明确指定机器应该停止尝试的条件。

数字孪生给机器提供练习场

这就是数字孪生变重要的地方。数字孪生，是把现实中的工厂、设备、材料和作业条件尽可能相似地搬进虚拟空间。现实中失败很贵，但在虚拟世界里，同样的失败可以便宜得多地重复。 AI 可以在虚拟世界里无数次尝试。改变温度、速度、角度、压力、材料条件，失败，再修正，寻找更好的方法。找到的方法不会立刻铺到整个现场，而是先在一台真实设备上测试。如果那一台成功，就会继续积累数据。修正虚拟世界和现实之间的差异，找到更可靠的条件。之后再扩展到相同设备、相同工艺、相似现场。也就是把一个地方验证过的方法，扩展到别的地方。

这套方式很强。一个人一辈子经历不了的情况，AI 可以在虚拟世界里经历更多。因此，如果数字孪生更精细、传感器更密集，很多现实作业中也会出现 AI 比人做得更好的领域。

但虚拟世界仍然不等于现实

不过，这里也有限制。虚拟世界无法完整复制现实。材料的细微差异、旧设备的习惯、车间湿度、人的小失误、例外故障，现实里总会出现模型没放进去的东西。 AI 在虚拟世界里再强，到了现实和虚拟错开的地方，仍然需要验证。虚拟中成功的方法，必须确认在现实里也安全。先在一台真实设备上试，没问题后再扩大。机器学习的强项和限制都在这里。机器在可以大量重复的世界里会变得可怕地强。但如果那个世界错误地模仿了现实，就等于大量练习了错误对象。比起“学了很多”这件事，更重要的是它到底对着什么学。

人和机器出错的方式不同

人也会错。熟练者也会误判，疲劳时会失误，也可能因为太熟悉而漏掉危险信号。没必要把人神化。但人和机器出错的方式不同。人可能凭少量线索太快下结论而错。机器则可能在大量见过的模式里很强，一旦走出训练过的世界，却带着奇怪的确信。人不知道时会不安。所以会停下、询问，或重新看周围情况。机器甚至可能不知道自己正处在陌生状况里。只要分数和模式看起来像，它就可能在实际危险的情况下给出答案。

所以现实自动化不能只看性能。必须一起看它什么时候擅长，什么时候不知道，什么时候应该停下。即使有一天 AI 能把焊接做得很好，也仍然要持续确认它在什么条件下学习、可以信到哪里。

以后变贵的人，是连接两种学习方式的人

那么熟练者就安全吗？很难说永远安全。手感一旦被转成数据，数字孪生变得精细，真实验证闭环形成，自动化也会进入那片领域。所以，未来变贵的人，不只是手感好的人，而是能把那份手感翻译成数据的人。懂现场，知道该贴什么传感器，知道哪种失败重要，知道哪些记录会成为以后的学习数据。这种人连接人的学习方式和机器的学习方式。人凭少量线索推测原因，危险时停下。机器大量重复，比较分数，逐渐变强。两种方式不同，也各有优缺点。

AI 赢了围棋，但焊接仍然困难。因为围棋是机器可以随便犯错的世界，而焊接是每次失败都要付出成本的现实世界。但如果数字孪生、传感器和真实验证连在一起，故事就会改变。AI 可以在虚拟世界无限重复，在一台真实设备上确认，再把成功方法扩展到别的现场。所以问题不是“AI 是否比人聪明”。真正的问题是：谁能把人凭少量线索学会的感觉，变成机器可以反复学习的结构？

做成这件事的人，会成为下一个时代昂贵的人。

AI 结果审核的陷阱：别为了抓错误，降低结果的上限

Tue, 16 Jun 2026 00:00:00 +0000

检查不是减少产量的任务，而是发现并纠正实际错误的任务。

文字超出了幻灯片边界。直到发送前一刻，我才看见。 Excel 里还留着 #REF! 错误，表格边框有的单元格有、有的没有。Word 文档里，本该删掉的 Markdown 符号还原样留着。这不是审美问题，而是结果坏掉了。 AI 生成的 Office 文件常有这类失误。所以审核工具是需要的。问题在于，审核工具应该介入到哪里。

审核是抬高下限

审核工具该做的事，是抬高结果的下限。跑出幻灯片的文字、坏掉的公式、未替换的占位符、文档里残留的 Markdown，这些不管给谁看都是问题，应该被检测出来。这类错误越早抓越好。靠人最后肉眼找，太细碎；原样交出去，又太致命。如果文件由 AI 生成，就需要一个自动回头检查 AI 明显漏掉缺陷的装置。但这里很容易越线。一个为抓错误而做的工具，某个瞬间会开始强制风格。

把风格当错误，会降低上限

有些审核工具会把字体数量、项目符号数量、字数、边距、颜色、信息密度都当成唯一正解。“幻灯片只能用两种字体”，“项目符号不能超过六条”，诸如此类。这些规则有时有用，但不是永远正确。技术文档、投资报告、讲义、一页式演示，没理由都用同一种密度和样子。如果把这些规则做成绝对标准，就会出现奇怪的事：模型即使做出了更好的结果，也会因为不像过去的标准答案而被扣分。那审核工具就不再是抬高结果下限的装置，而成了降低结果上限的装置。

区分错误和选择的问题

加入检查项之前，应该先问两个问题。第一，即使用户意图或偏好不同，它是否几乎总是缺陷。例如坏掉的 #REF! 公式、被推到幻灯片外的图形、未解决的占位符，通常没有理由原样交付。第二，更强的模型也会想避免这个问题吗。如果更好的结果有可能故意违反某条规则，就不要把它断定为错误。信息密度、配色、字体数量、边距、句子长度，都属于这里。

核心很简单：更强的模型也会想避开的失败，审核工具应该挡住。更强的模型也可能有意选择的表达，审核工具就不该挡住。

好的检查工具不应抹掉模型的创造性尝试，而应只找出真正有缺陷的输出。

不是所有问题都能黑白分明

真实文件审核里，判断不会总是干净分开。文本框重叠、文字溢出、字号过小、图片比例变化，很可能是缺陷，但也可能是有意表现。所以审核结果要分级。确定的结构性缺陷标成 ERROR。需要再用眼睛确认的项目放成 WARN。 WARN 不是定罪，而是确认请求。没有这个区分，工具要么太弱，要么太粗暴。

自动检查不能替代最后判断

AI 生成 Office 文件时，很多缺陷来自它看不到最终结果。模型写入坐标和单元格值，但可能没有充分确认最终渲染画面，也可能没有正确反映用户刚修改过的最新文件状态。所以自动检查是必要的。生成后应该重新读取文件，检测可测量的缺陷。公式错误、画布越界、残留 Markdown 这类问题，应该在最后由人发现前先由机器过滤。但自动检查不能替代最后判断。语境、意图、读者、发表场景，不能只看一个文件就完全知道。好的审核工具必须清楚自己确切知道的范围。

我为什么做 Office File Inspector

基于这些原则，我整理了 Office File Inspector。这是一个开源工具，用来在 AI 生成的 PowerPoint、Excel、Word 文件中寻找明确缺陷。目标不是把结果物做成一种模样，而是早点挡住明确失败，把更好选择的余地留给模型和人。审核工具不能变成削弱模型可能性的工具。好的审核抬高下限，不压低上限。