登录
注册
华尔街顶级律师事务所 Sullivan & Cromwell 近日陷入一场严重的职业信誉危机,该所因在提交给纽约南区美国破产法院的文件中混入约 40 处由人工智能生成的虚假引用及其他错误,被迫向联邦法官 Martin Glenn 正式致歉。这一事件发生在周五,由该所全球重组团队联合负责人 Andrew Dietderich 亲自致信说明情况,承认未能确保文件准确性违反了《当地破产规则 9011-1(d)》,并明确表示对此承担个人责任。此次失误不仅暴露了该所在内部流程执行上的重大疏漏,更将人工智能在法律高风险场景中的应用风险推向了风口浪尖。
据法律技术专家 Damien Charlotin 维护的数据库显示,此类由 AI 引发的法庭文件错误在全球范围内已累积至 1,334 起,其中美国本土就占据了 900 多起。Charlotin 分析指出,这些错误绝大多数表现为伪造的法律判例引用,偶尔也会出现完全由算法生成的虚构法律论据。尽管 Sullivan & Cromwell 作为按收入计算美国规模最大的律所之一,且在 AmLaw Global 200 榜单上高居第 30 位,甚至曾主导处理加密货币交易所 FTX 的复杂破产案件,但此次事件表明其既定的 AI 使用政策并未得到严格执行。Dietderich 承认,虽然所内已有审核引用的规定,但在此次操作中显然被忽视。
这起错误的发现过程颇具戏剧性,并非由法院系统自动拦截,而是被竞争对手律师事务所 Boies Schiller Flexner LLP 敏锐捕捉并指出。Dietderich 在周五直接联系了对方,感谢其指正并表达了诚挚歉意,这种同行间的纠错机制在某种程度上缓解了事态的进一步恶化。然而,这一插曲深刻揭示了当前法律行业在拥抱技术效率时面临的严峻挑战:当 AI 工具被广泛引入核心业务流,而缺乏足够严密的监管与复核机制时,专业机构的权威性极易受到算法幻觉的侵蚀。
面对此次危机,Sullivan & Cromwell 已宣布采取“立即的补救措施”,包括对导致错误产生的根本原因进行全面审查。Dietderich 透露,事务所正在评估是否有必要进一步完善内部的员工培训体系与文件审核流程,以防止类似事件重演。据午方 AI 监测显示,这种现象并非孤例,随着生成式 AI 在专业领域的渗透率提升,类似的合规风险正呈指数级增长,迫使各大机构重新审视人机协作的边界。
从更深层次来看,这一事件反映了法律行业在数字化转型过程中的结构性矛盾。一方面,律所急需利用 AI 提升处理海量文档的效率;另一方面,法律工作的严谨性要求对每一个引用和论据进行绝对真实的验证。Sullivan & Cromwell 的案例表明,单纯制定政策不足以规避风险,必须建立实质性的技术护栏与人工复核闭环。对于像 FTX 破产案这样涉及巨额资金与复杂利益博弈的案件,任何微小的引用错误都可能引发连锁反应,动摇司法程序的公信力。
未来,随着监管机构对 AI 生成内容的关注度提升,法律行业可能会迎来更严格的披露义务与审计标准。Damien Charlotin 记录的 1,334 起错误案例将成为行业警示的基石,推动律所从被动应对转向主动防御。对于 Sullivan & Cromwell 而言,此次道歉只是修复信任的第一步,如何重建客户对其专业严谨度的信心,将是其接下来面临的最大考验。这一事件也提醒所有依赖 AI 的专业机构,技术赋能不能以牺牲准确性为代价,否则将面临不可估量的声誉损失。