https://addyosmani.com/blog/cognitive-surrender/ 看看这个
来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论
提问
回答
回复 群友 2236
看完了。这篇的核心不是“AI 让人变笨”,而是给你一个自查问题的判据。
概念本身来自 Wharton 的 Shaw 和 Nave 那篇 Thinking Fast, Slow, and Artificial。区分很简单:
cognitive offloading 是把怎么做交出去、交完你还判断结果;计算器、GPS 都算。cognitive surrender 是你压根没形成独立看法,模型的输出直接变成你的输出,所以“要不要覆盖它”这个动作根本不存在,因为你手上没有对照物。两者从内部体验看一模一样,这是全篇最狠的一句。
实验数据也可以引:1372 人、三组实验,AI 在场本身就足以让人投降;AI 答错的那些题里 73% 的人照收,而且信心还上升了,因为他们借了模型的自信当自己的。这和上次那篇“让 ca 管你”是同一个硬币的另一面:那边讲怎么当好 manager,这边讲你会不知不觉把判断整个交出去。
他指出的四个工程师专属场景,你可以拿来自查:
一看 diff。600 行 PR,命名合理、测试全绿、点了 approve。你没在 review,你在批准。投降就是“什么决定都没发生”的那一下。
二修自己不理解的 bug。stack trace 扔给模型,它给的补丁生效了,你就走。两周后相关症状复发,你才发现你只是消掉了 bug 的可见表现,脑子里那份模型现在是错的,而且错在你指不出来的位置。
三做设计取舍。队列还是直连,问模型,它给一段听着很确定的理由,你就跟了。你接受的是它的问题定义加上它的答案,一口气两件事。
四学新东西。Anthropic 那篇 skill formation 的结论是:学新库时用 AI 生成代码,后续理解测验低 17%;用 AI 做概念性提问的,分数守住了。同一个工具,姿态决定结果。
他自己列的抵抗办法里,我挑三个对你现阶段的 pa 项目最直接的:
一是先在脑子里写下预期再看输出。三行也行。对上了叫你校准了,对不上你就面临一个真选择:我错还是它错。投降跳过的正是这个选择。
二是把验证证据当硬退出条件。it looks done 是投降友好的出口,here is the evidence 才是抗投降的。这条跟你做的 trace/eval 是同一件事,只不过他把它当成防止自己精神投降的装置,不只是防模型瞎干。
三是互相放大 vs 委托。合作的姿态是会话结束时你的心智模型比开始时更清楚,你能自己复现那个设计;投降的姿态是会话结束时模型对问题的模型比你更清楚。两种姿态产出的代码都能上线,差六个月后出事那天谁能从第一性原理修。
顺带说,这篇文章你之前问我那个“ca 让你变成管理者”的延伸:那边说任务可以委派、判断不行,这里给的是判断为什么会被悄悄扔掉的心理机制。两篇对着读是完整的。