新内容
1
AGI 凭什么听人类的话？它根本没理由听，这才是真问题
我们还不知道 AGI 会如何行动，因此需要把保护人类的条件写进目标、权限和执行环境，并验证这些限制是否有效。
#未来
标签 · 7
2
AI 接管工作的顺序：从有答案的工作到人的存在
AI 不是随便什么工作都拿走。它会按顺序替代答案会收敛的工作、责任、控制、所有权、价值判断，最后到人的存在问题。
3
有答案的工作最先被替代：AI 接管工作的第 1~5 阶段
翻译、编程、分析、预测大众反应这类结果可验证的工作，会最先转向 AI。
4
从重复性体力劳动到需要判断和感觉的工作：AI 接管工作的第 6~8 阶段
身体劳动比脑力工作更晚被替代。但只要能重复、能测量失败、答案会收敛，最终都会转向 AI 和机器人。
5
决定权不会一次性交出去：AI 接管工作的第 9~14 阶段
即使 AI 做得更好，决定权也不会立刻交出去。每当 AI 错误率低于人的证据累积，并明确谁来负责，权限就会一点点移向 AI。
6
你的房契最终也只是纸而已：AI 最后第 15~16 阶段会追问谁来维护所有权
能力和决定权移向 AI 之后，人仍会依靠所有权。但所有权不是自然法则，而是社会共同维护的约定。
7
AI 时代生存策略：把能力变成资格和所有权
能力需要有，但它守不到最后。AI 时代，要把能力换成资格、担责的位置和所有权。