今天，AI 已经不再是一项“隐藏在幕后”的技术，特别是生成式 AI，它们以普通人工更容易感知到的方式参与到了很多工作当中去。

　　从写代码到拟合同，从生成图片到写小说，AI 们都能胜任，而且在一些领域的表现甚至比人类“新手”还要好。看起来，人类再也不用做那些“基础又枯燥”的事情了。而且有了 AI 之后，我们似乎也可以把所有的精力都集中到更具创造力的事情上去了。

　　也有人对此表现出了担忧，既然 AI 能完成的事情越来越多，人类是不是就越来越不重要了？其实，用机械设备以及计算机帮助人类操作和思考不是今天才有的想法。比如自动化设备早已进入了工厂，很多复杂系统的调度规划和操作也都是计算机完成的。

　　而在这些领域已经发生的事情，或许能为今天的我们提供一些参考借鉴。

　　自动化的反讽

　　早在 1983 年，英国认知心理学家莉桑·贝恩布里奇(Lisanne Bainbridge)就在自动化控制领域的顶级期刊《自动化学》(Automatica)上发表了一篇文章，名为《自动化的反讽》(Ironies of Automation)。

　　贝恩布里奇写这篇文章的时候，并没有像今天这样功能强大的生成式 AI，但在当时自动化系统已经开始出现了，这与今天的 AI 化有着一定程度的相似之处。

　　贝恩布里奇在当时的文章里，就提到了自动化可能会带来的问题，我们也顺着贝恩布里奇的观点来看一看。

　　首先，贝恩布里奇认为，自动化这件事本身就很有讽刺意味。

　　“自动化”要做的事情，就是用机械、计算机等不需要人类参与的装置系统替代人类，去执行某些操作或者进行规划决策。但是，即便是高度自动化的系统，比如电力网络、复杂的生产线，仍然需要人类投入大量的时间去监督、调整、维护、改进等。

　　自动化的经典目标是用自动设备和计算机替代人工控制、规划和问题解决......本文指出，工程师对人因工程日益增长的关注反映了一种讽刺现象：控制系统越先进，操作人员的贡献可能就越关键。

　　而且，自动化的控制系统越先进，人类在系统中发挥的作用可能更关键。

　　比如自动化系统的设计者在遇到无法自动化的任务时，会把这些任务留给人类来完成。而这些任务往往是复杂度高、难以形式化和规范化的。系统越先进，留给人类处理的任务复杂度往往也越高，也就更依赖人类的能力。

　　试图减少人类操作员的设计师，仍然会把不知道如何实现自动化的任务交给人类操作员去完成。

　　另外，为了确保复杂的系统能够顺利运行，在它们出现异常状况时能够及时被发现、及时作出正确的干预，同样也需要有专业技能过硬、经验丰富的人类提供保障。

　　所以，自动化本身是要让机器来替代人类，但实际上，为了设计以及确保自动化系统的顺利运行，又极度依赖人类的能力。

　　这是贝恩布里奇认为，自动化“反讽”的原因之一。

　　AI 时代，人类的能力同样关键

　　而在 AI 工具蓬勃发展的今天，情况也是类似。

　　当我们使用 AI 去完成任务的时候，能够熟练运用 AI 工具，并且确保它们生产出的内容能够稳定运行，同样对人类知识和经验有更高的要求。

　　比如，Fastly(一家美国先进的云服务提供商)在 2025 年 7 月进行了一项调查，对比了在 IT 领域，初级开发者(0~2 年工作经验)和资深开发者(10 年以上工作经验)使用 AI 写代码的情况。

　　结果发现，有 30% 的资深开发者使用 AI 编写的代码比例超过 50%，而在初级开发者中，只有 13% 的人会用 AI 完成这么高比例的代码。

　　这并不是因为初级开发者不知道这些 AI 开发工具。

　　而是 AI 编写的代码如果存在问题或者不那么完美适配(这个情况很常见)，资深开发者有能力去进行调整，而初级开发者可能无法快速识别出代码中的问题、没法高效率地进行编辑调整，所以会适当减少 AI 生成代码的比例。

　　在笔者所在的写作行业，同样是生成式 AI“横行”的领域。而且 AI 写出的内容确实会比很多新手作者写得更好。

　　但是在特定的领域，比如科普类文章撰写上，AI 生成的文章可能存在事实性错误，这样的错误属于硬伤，如果直接发布会对科普类内容的公信力产生影响。

　　而对知识性内容进行核实和修改，还是依赖人类的知识和经验积累。

　　至少目前，AI 还无法确保内容的真实可靠，依然有可能出现“AI 幻觉”(比如生成不存在的文献资料、编造一些事件。)只要 AI 编造内容的概率不是 0，就意味着需要人工检查每一条信源。

　　另外，AI 写出的文章结构不一定那么完善，所以在使用 AI 之前，需要作者构思好文章的整体结构，每一部分的核心讲述内容，以及想表达的思想，这样生成的文章才不至于那样有“AI 味”。而这些也都要在长期的写作、修改过程中建立起来。

　　这些例子都印证了贝恩布里奇的观点，即便是先进的自动化系统，同样依赖人类的能力。

　　人类能力“训练场”正在消失

　　可是，当大量的自动化系统和计算机代替人类之后，人类实际动手操作的机会越来越少，这种实际操作机会的缺失，对知识和技能的积累来说是十分不利的。

　　贝恩布里奇的文章里就提到，当时的人们已经意识到了这一点，并且希望通过理论学习和培训的方式来解决这个问题，但她认为理论学习和培训的作用有限，很多领域的知识需要在使用中才能真正被理解和掌握。

　　一方面，从长期记忆中高效提取知识取决于使用知识的频率。另一方面，这类知识只能通过使用以及使用后的有效反馈，才能得到发展。如果人们仅仅在课堂上接受理论教学，而没有适当的实践练习，他们可能很难理解这些知识......

　　这一点在 AI 时代也是相似的。

　　我们还是以前面提到的 AI 编程领域为例，对于刚刚入行的“初级开发者”来说，他们似乎是赶上了“好时代”，相比于十年前，现在的 AI 编程工具功能强大，甚至可以直接通过自然语言对话生成还不错的代码。

　　看起来，现在的新人开发者们可以直接跳过“写出烂代码→出 BUG→调试→理解底层逻辑→修正→更好的代码”这个痛苦的过程。

　　但这个过程，恰恰对开发者的技能以及理解力的提升很有帮助。正是这样的成长过程，让一字一句敲代码成长起来的资深开发者能更好地驾驭 AI 工具。

　　可是在当下，留给初级开发者练习的机会正在减少。

　　正如我们前面提到的，老板们希望用少数经验丰富的人类+AI 工具，替代原本的人类大团队，这样的设想确实有可能实现，或者说，已经在实现中了。

　　比如 2025 年 8 月，斯坦福大学研究者发表的一篇文章就提到，22 到 25 岁“入门级”职位受到 AI 的冲击影响更大。而在软件开发领域影响尤其明显，22 到 25 岁的初级开发者工作机会比之前减少了约 20%。

　　于是，初级开发者面临着需要实践操作来成长，却又没有实践机会的尴尬局面。

　　所以，假如某个行业过度依赖 AI，完全用它们来生产内容，可能会对这个行业的初级从业者产生影响，让越来越多的行业新人失去“训练场”，不利于这些从业者未来的能力、经验积累，进而影响到整个行业的未来人才储备。

　　AI 真的能让创造力更好地释放？

　　当然，我们并不是说自动化和 AI 化是不好的，自动化和 AI 化确实可以让人们从机械重复的体力活动以及简单琐碎的智力活动上释放出来。

　　比如，虽然 AI 编写出来的程序需要人为调试，但 AI 确实能够帮助资深程序员省去写具体代码以及在大量的代码文库中检索特定片段的时间。

　　靠着自动化系统和 AI 工具，一些精英个体或者小团体确实能把自己的能力发挥到极致，创造出更大的价值。

　　而且我们也不怀疑，自动化、AI 化的转型将会为社会带来新的岗位，在未来解放出来的生产力可以投入到新的更有创造性的事情中去。

　　但在转型发生的当下，并不一定会有真正的创造力释放。

　　还是借鉴贝恩布里奇的观点，她认为在自动化的影响下，人的工作可能不再是一个完整的闭环，而是去弥补自动化系统无法完成的一小部分任务，这些任务非常复杂但又很碎片化，并不能真的让一个人的能力提升。

　　这意味着留给操作员的任务可能是随意拼凑的，并且很少考虑到为他们提供一些帮助。

　　而且贝恩布里奇还发现，在自动化过程中，很多人从具体的操作者变成了监督者，而人类本身算不上是优秀的监督者。

　　对于一个相对稳定、很少发生故障的系统，人类很难对这样的系统保持 30 分钟以上的高度专注状态。

　　所以人类在长时间监督之后，容易懈怠，在这样的状态下，如果真的出现了紧急状况，人类很难及时做出反应。

　　另外，处于监督者状态的人类操作员因为没有实际上手操作，会缺少对整个系统状态的详细认知，不一定能在紧急情况下做出合理的决策。

　　这有点类似一辆 L3 级别的自动驾驶汽车。在大部分情况下，它能够自主运行，理论上驾驶员也要时刻保持警惕，但在长时间的平稳驾驶情况下，人类的警惕性会不自觉地降低。这时候如果自动驾驶汽车遭遇了无法处理的场面，会让人类紧急接管。这时候的人类驾驶员很可能“不在状态”，这时候要在短时间里处理自动驾驶汽车都无法应对的复杂局面，很可能会出错。

　　所以，当公司开始向 AI 化转型的过程中，如果仅仅是让人类成为 AI 的监督者，人类也很难发挥出更好的创造力。

　　不反对技术，不漠视人类

　　最后，我们也要再次说明，技术本身并无善恶。自动化与 AI 化的浪潮也不可阻挡，它们确实为我们带来了前所未有的效率提升。

　　我们应该警惕的是，在“AI 化”转型过程中对人本身的工具化和漠视。真正的“降本增效”，不应该是简单地用 AI 剔除初级员工，而是利用 AI 带来的效率红利，给人类留出更多的试错和成长的空间。

　　一个健康社会在转型的过程中，理应承担起对受影响者的职业过渡支持、对新人成长路径的重新设计，以及对“人机协作”中人类角色的重新定义。

　　毕竟，无论是多么强大的智能系统，当警报灯亮起的那一刻，我们能信任的只有经验丰富且具有社会责任感的人类。

　　作者丨科学边角料 科普创作者

　　审核丨于旸 腾讯玄武实验室负责人

　　策划丨徐来

　　(科普中国微信公众号)

【编辑:李岩】