← 回到题墙

001 期 · 2026-07

当 AI 可以替我执行时,哪些决定仍必须自己做?

把判断、证据与外部后果留在人手里;把可逆的执行交给工具。

哪些步骤可以委托,哪些步骤必须保留人工确认?

谁在决定
正在把 AI 放进日常写作、研究与产品工作的独立创作者/开发者。
眼前情境
工具已经能整理材料、起草内容、修改代码,甚至代替人完成网页上的操作。
需要选择
哪些步骤可以委托,哪些步骤必须保留人工确认?
要守住什么
获得真实的执行效率,同时不把方向、证据和公开后果交给一个无法承担责任的系统。
现实约束
一个人时间有限;不同任务的可逆性、隐私风险和错误成本并不相同。
判断失误的代价
边界太松,错误会以产品、声誉或隐私的形式出现;边界太紧,工具只剩下表演性的效率。
本期不讨论
本期不比较模型优劣,也不提供合规建议;它只讨论独立工作中应由谁作最终判断。

可以把可逆、可复核的执行交给 AI;但问题的定义、证据的确认、风险的取舍与会产生外部后果的动作,仍必须由承担结果的人做最后决定。

每条证据,只检验一个判断。

  1. SIGNAL 01 · NIST · AI RMF 1.0

    目标、情境与可接受风险不能由执行者替你决定

    NIST 将 AI 风险管理拆为 GOVERN、MAP、MEASURE、MANAGE,并强调用途、情境与风险容忍度会改变判断方式。

    检验的判断

    只要任务写得足够详细,代理就能自己决定什么结果算好、什么代价能接受。

    它把「判断」变成委托之前的具体责任:目标、边界与可接受的失败先由人定,AI 才有可执行的框。

    编辑判断

    提示词可以传递任务,不能转移取舍。先把目标、边界和可承受的失败写清,才谈委托。

    查看来源 →
  2. SIGNAL 02 · NIST · Generative AI Profile

    流畅的检索与总结,不等于证据已经成立

    NIST 的生成式 AI 补充文件要求审阅来源与引用,并提醒自动化偏见和检索数据中的提示注入风险。

    检验的判断

    只要 AI 给出了出处,公开判断就已经完成核验。

    它给研究和写作画出可守的线:AI 可以检索与综述,但证据是否足以支撑公开结论必须由人确认。

    编辑判断

    研究可以交给 AI 加速;「这条证据够不够支撑公开结论」必须由编辑亲自确认。

    查看来源 →
  3. SIGNAL 03 · OpenAI · ChatGPT agent

    外部动作越接近后果,人工确认越不能省略

    ChatGPT agent 的发布说明区分了网页操作与具有后果的动作,并描述了对部分关键操作的确认和监督要求。

    检验的判断

    既然工具能点击、发送或发布,就可以把最后一步也交出去。

    它把「责任不能外包」落成操作上的区分:草稿与可回滚的改动是一类,发布、发送、购买、改账户是另一类。

    编辑判断

    草稿、分析和可回滚的改动是一类工作;发布、分享、购买和改账户是另一类。后者需要明确的人来按下确认。

    查看来源 →
  4. SIGNAL 04 · METR · AI productivity trial

    感觉变快,不代表整个工作流真的变快

    METR 对经验丰富的开源开发者进行了随机试验;在该样本与当时工具条件下,允许使用 AI 的任务平均完成时间更长。

    检验的判断

    只要 AI 产出了更多内容,就应扩大它在工作流中的权限。

    它防止「委托执行」变成未经测量的效率口号:是否扩大委托,应由对照测量决定,而不是由体感决定。

    编辑判断

    把审阅、修正和维护也算进去。是否继续扩大委托,应由自己的对照结果决定,而不是由新鲜感决定。

    查看来源 →

边界不应按「AI 能不能做」划分,而应按「谁定义目标、谁核验证据、谁承担外部后果」划分。执行越自动,确认点越要清楚。

可以做什么挑一条你已在用的 AI 工作流,写下一个人工确认点:发布前、发送前、付款前,或把结论公开前。

仍然不确定不同任务的风险与工具能力会变;这不是一张永久不变的委托清单,而是一套需要随实际后果复核的规则。

下一期问题当一个平台让你更快上线,哪些依赖成本必须先写进账本?

往期 Issue

  1. 003现金 runway 应怎样改变长期原创投入的强度与复核时间?
  2. 002当一个平台让你更快上线,哪些依赖成本必须先写进账本?