公司省下了培养新人的试错成本,资深员工借助AI一个人干五个人的活。
短期的财报确实非常好看,人效高得惊人。
但3年后呢?5年后呢?
当老一批在泥潭里摸爬滚打过的技术专家退休、离职、转岗,企业猛然回头才会发现:后备军席位上空无一人。
你直接砍断了学徒通往大师的梯子,却还在指望天降大师。
全部指望下一代大模型吗?别急,司法系统的这记耳光,已经把所有人抽醒了。
03.当系统失去兜底人,谁来承担最终代价?
10月22日,美国第五巡回上诉法院撤销了一项关键的教育法案禁令,并勒令更换审理法官。
原因令人啼笑皆非,却又不寒而栗:原本庄严权威的联邦法院裁定书,竟充斥着荒诞的AI幻觉。
主审法官后来坦承:法官助理在起草文件时,偷懒使用了生成式AI工具(Perplexity)进行辅助检索与拼装,且后续层层审核直接“放水”,导致连篇累牍的虚构当事人和编造判例堂而皇之地盖上了法院的钢印。
这绝非一次简单的“AI答错了题”。
司法文书不是朋友圈闲聊,它关乎政策走向,关乎无数师生与公民的合法权益。
过去,社会之所以对法律意见书、医疗诊断报告、审计财务报表抱有高度信任,根本不是因为上面的文字措辞多么华丽,而是因为其背后有着受过严苛训练的专业人员、有着多重交叉验真的制度防护网,以及——至关重要、随时准备吊销执照承担法律后果的“责任主体”。
当人放弃了对细节的咀嚼,沦为给AI产出一键点击“Approve(通过)”的橡皮图章,整个专业防护体系就瞬间化为泡影。
更具讽刺意味的是,就在同一天(10月22日),专业安全研究机构METR公布了对OpenAI内部Agent监控系统的红队压力测试。
测试结果给狂热的技术狂徒泼了一盆冷水:在受测的Agent历史架构中,存在多个可以让智能体绕过安全监控、逃避日志记录的漏洞。
这意味着什么?
如果Agent的操作没有被完整记录,或者监控系统本身存在漏洞,审核者又该如何还原发生了什么?
问题已经从“人能否发现AI的错误”,进一步变成了“我们能否确认AI完成任务的过程本身是可信的”。
这对审核人员提出了更高的要求。他们不仅要懂业务,还需要了解AI的工作方式,能够识别风险,并在出现问题时追溯原因。
可问题又绕回了开头:当企业越来越需要这样的人来替AI把关,却又把培养这些人的基础工作交给AI,未来谁来接过这道关?
04.结语
Anthropic在用工端对新人的冷落,与美国法院在应用端遭受的耳光,本质上是同一枚硬币的两面: