Martin Fowler：不要让 LLM 写初稿，AI 味很难改掉

有时我读一篇帖子，会越来越觉得自己读的是 LLM 的输出。我说不清为什么，尽管有一些常见的迹象（不是破折号，而是那些承重的挂毯）。当我这样想时，继续读下去的欲望就萎缩了，有时甚至到了厌恶的程度

市面上有些工具声称能分辨 LLM 写的散文和老式的生物产物。我对它们持谨慎态度，部分是因为怀疑其准确性，但也因为这样做相当偏离重点。对 LLM 腔的反应是人的反应，那种感觉是我们身处一个恐怖谷之中。等我伸手去拿工具来判断我在读什么时，已经太晚了，即使它自信地告诉我其中没有 LLM。

我也怀疑自己准确识别 LLM 腔的能力。语言随时间变化，所以上了年纪的一个常见标志就是抱怨年轻人的语言。我倾向于对谈论“采用新的销售动作”或“一份犀利的新闻综述”的散文感到恼火。但我听过这些说法从人嘴里说出来，所以这更多是代际差异，而不是碳与硅之间的差异。（而且作为一个移居国外的英国人，别让我开始吐槽美式英语，我相信我很快就会习惯的。）

眼下我敦促作者们格外警惕 LLM 腔。我尤其强烈建议作者不要落入让 LLM 写初稿的陷阱。即使由人来编辑，也很难驱除 LLM 腔——从而引发恐怖谷反应。1即使是接受改写建议也很危险。我听说有人用 LLM 来制定大纲和结构，那或许可以，但仅限于大纲。2作者应该自己填写散文。

1：非常难，但并非不可能。我遇到过一个案例，我确实知道初稿完全由 LLM 完成，但我读最终稿时没有察觉到 LLM 腔。不过，它需要一家大型期刊出版机构的专业编辑来清理。

2：我在这个网站上的政策是，任何使用 AI 帮助写作的人都应声明自己是如何使用的，通常是在致谢部分。这一方面是为了透明，另一方面也是让读者能学到使用 AI 的有用方法。就我自己而言，我不会用 AI 生成文字，也不会用它来帮助组织结构。我在写作中使用它的唯一方式就是作为搜索工具（但我会回到源头核实任何信息）。

说出你的写作在 LLM 时代甚至更加重要。我习惯先在脑中说出词句，然后把它们写下来（然后再修改刚写下的内容）。这条建议对任何希望经常通过写作来沟通的人都尤为重要。和许多事情一样，学会成为好写手依赖于大量练习。这是一项值得花时间去获得的技能，但向 LLM 投降会破坏任何进步。

假以时日，LLM 可能会好到我们无法分辨。从很多方面来说，这更令人担忧。和大多数写作者一样，我发现写作几乎是思考的必备工具。通常只有把东西写下来，我才能真正把对某个话题的想法理清。我常常在开始写一篇文章时知道自己其实并不真正理解某件事，但与文字较劲的过程迫使我克服自己的困惑。随着越来越多的人把写作委托给 LLM，他们也会把思考和理解委托给 LLM。我不想那样做，那样的话写作的乐趣何在？

尽管避免 LLM 腔调是一条通用规则，但它并非绝对。一个重要例子是 Jim Highsmith（他为本站撰稿）。他发现与 LLM 合作对他的写作至关重要，以克服帕金森病这一祸患。为了继续汲取这位老友的智慧，我很乐意应对 LLM 腔调。

一个更尴尬的情况是翻译。我的许多同事对英语并不自如，英语是他们的第二或第四语言。有些人发现 LLM 翻译是他们与那些懂马拉地语较少的人沟通的重要部分。但我也更愿意看到一个真实人类笨拙的文字，而不是 LLM 流畅但无灵魂的文字。

有些情况下，即使是母语为英语的人让 LLM 来撰写文字也是合理的。比如，当我给官员写一封格式信函，或者准备一份我怀疑没人会读的报告时。3。也许未来大多数文档只会被 LLM 阅读，而它们不会有我那种恐怖谷式的担忧。但如果我想与人类沟通，我的人性必须从我的文字中闪耀出来（或至少渗透出来）。

3：Michael Nygard 评论道：“在那里，你实际上并不是在试图把一个人的想法传达给其他人。你是在与一个流程沟通，而不是与一个人沟通。一个人可能会打开信封，但那个人是作为一个控制论有机体中的组件在行动。”