← 回到文章

2026-07-10

当 AI 可以替我执行时,哪些决定仍必须自己做

把判断、证据与外部后果留在人手里;把可逆的执行交给工具。

本期论点:可以把可逆、可复核的执行交给 AI;但问题的定义、证据的确认、风险的取舍与会产生外部后果的动作,仍必须由承担结果的人做最后决定。

为什么现在问这个

正在把 AI 放进日常写作、研究与产品工作的独立创作者/开发者。工具已经能整理材料、起草内容、修改代码,甚至代替人完成网页上的操作。要决定的是:哪些步骤可以委托,哪些步骤必须保留人工确认?

想守住的是:获得真实的执行效率,同时不把方向、证据和公开后果交给一个无法承担责任的系统。现实约束:一个人时间有限;不同任务的可逆性、隐私风险和错误成本并不相同。判断错了的代价:边界太松,错误会以产品、声誉或隐私的形式出现;边界太紧,工具只剩下表演性的效率。

(本期不讨论:本期不比较模型优劣,也不提供合规建议;它只讨论独立工作中应由谁作最终判断。)

信号

目标、情境与可接受风险不能由执行者替你决定

NIST 将 AI 风险管理拆为 GOVERN、MAP、MEASURE、MANAGE,并强调用途、情境与风险容忍度会改变判断方式。 来源:NIST · AI RMF 1.0

它把「判断」变成委托之前的具体责任:目标、边界与可接受的失败先由人定,AI 才有可执行的框。

我的判断:提示词可以传递任务,不能转移取舍。先把目标、边界和可承受的失败写清,才谈委托。

流畅的检索与总结,不等于证据已经成立

NIST 的生成式 AI 补充文件要求审阅来源与引用,并提醒自动化偏见和检索数据中的提示注入风险。 来源:NIST · Generative AI Profile

它给研究和写作画出可守的线:AI 可以检索与综述,但证据是否足以支撑公开结论必须由人确认。

我的判断:研究可以交给 AI 加速;「这条证据够不够支撑公开结论」必须由编辑亲自确认。

外部动作越接近后果,人工确认越不能省略

ChatGPT agent 的发布说明区分了网页操作与具有后果的动作,并描述了对部分关键操作的确认和监督要求。 来源:OpenAI · ChatGPT agent

它把「责任不能外包」落成操作上的区分:草稿与可回滚的改动是一类,发布、发送、购买、改账户是另一类。

我的判断:草稿、分析和可回滚的改动是一类工作;发布、分享、购买和改账户是另一类。后者需要明确的人来按下确认。

感觉变快,不代表整个工作流真的变快

METR 对经验丰富的开源开发者进行了随机试验;在该样本与当时工具条件下,允许使用 AI 的任务平均完成时间更长。 来源:METR · AI productivity trial

它防止「委托执行」变成未经测量的效率口号:是否扩大委托,应由对照测量决定,而不是由体感决定。

我的判断:把审阅、修正和维护也算进去。是否继续扩大委托,应由自己的对照结果决定,而不是由新鲜感决定。

结论

边界不应按「AI 能不能做」划分,而应按「谁定义目标、谁核验证据、谁承担外部后果」划分。执行越自动,确认点越要清楚。

可以先做的一件事:挑一条你已在用的 AI 工作流,写下一个人工确认点:发布前、发送前、付款前,或把结论公开前。

还不确定的:不同任务的风险与工具能力会变;这不是一张永久不变的委托清单,而是一套需要随实际后果复核的规则。

下一期想追的问题:当一个平台让你更快上线,哪些依赖成本必须先写进账本?

  1. 到底怎么用AI 工具评估表:试了十个都觉得不错,最后为什么一个也没留下
  2. 这事值吗团队要不要做知识库:先看看大家为什么宁愿再问一次
  3. 这事值吗现在学 Agent 值不值:如果它做错了,最后还是谁来收拾