斜坡的问题 我大部分时间花在推特和代码上的两个地方，越来越多地充斥着人工智能生成的内容，而不是人类编写的内容。 我的本能反应是这很糟糕，但一个常见的反驳是，“谁在乎它来自哪里，就凭它自己的质量来判断工作。此外，人工智能比很多人都聪明”。 编译器类比 想象一个虚构但现实的故事。世界上一些最聪明的人发明了一种新的Rust编译器。它将构建管道的速度提高了100倍，将小时变成了秒。有时，它生成的字节码也会带来运行时的加速！ 但有一个问题：它永远不会出错。如果你的高级源代码无效，它不会通知你，它只会编译不正确的行为。字节码将始终编译、部署和运行！但它的运行时行为有时会出错。 你应该使用这个编译器吗？为什么或为什么不呢？ 支持者声称，效率的提高实在太大了，不容忽视。只需查看编译后的字节码，并修复出现的任何错误。现在，任何人都可以成为程序员，而不是费力地解决讨厌的错误。 反对者表示，朝着错误的方向更快地前进并没有帮助。字节码的生成速度比以往任何时候都快，但同行评审非常激烈。他们担心人们不再出于质量考虑发布源代码，而只是提交编译后的字节码。 AI写作 快速错误编译器的故事是假的，但一个平行的故事正在所有媒体上上演——书籍、文章和推特。 创意=源代码 媒体=编译字节码 一个想法要经过一个转变过程，才能为大众消费做好准备。你可以创造一个简洁的流行语，或者一个视觉隐喻，或者一篇长文来传播你的想法。 这是一项艰巨的工作！用帕斯卡的话说，“很抱歉给你写这么长的信，我没有时间写一封短信。” AI写作将这项工作的速度提高了100倍或更多。你可以输入一个半生不熟的原始想法，拼写错误等等，并在LLM的几秒钟内获得一篇美学上引人注目的文章来捍卫这一立场。让它对一个矛盾的想法做同样的事情，它会立即遵守。 本质上，这是一个速度快100倍的Rust编译器，永远不会抛出任何错误。你的想法或源代码可以是任何东西。无论这个想法是否有效，它都会将其“汇编”成一个表面上令人信服的论点。 DDoS的审判 在人工智能出现之前，这部作品的基本正确性与其表面美学之间存在很强的相关性。在代码中，如果不了解底层结构，就很难生成编译并通过测试的代码。同样，如果不理解一个主题，就很难写得很好。即使是故意欺骗作者的极端情况，也必须为良好的美学付出认真的努力。 现代LLM几乎总是产生美学输出。一阶启发式不再过滤掉糟糕的写作或糟糕的代码。一切表面上都是合理的。 为什么这么糟糕？因为我们没有消除错误，而是混淆了它们。一篇不正确的人工撰写的文章可能会在五秒钟内被驳回，一篇人工智能撰写的文章需要五分钟。糟糕的人工编写代码会被PR发现，糟糕的人工智能编写代码会让产品下线。 将每一个无效的想法转化为美学呈现是对品味和判断的DDoS攻击。 人为错误比人工智能错误更容易检测。 美学和基础之间一定有联系。就像GitHub PR是用源代码而不是字节码完成的一样，书面想法也应该以人工生成的形式进行审查和讨论。这是保持品味和判断力的唯一方法。