全球最頂尖的律師事務所也犯了輕易相信AI生成文件的錯誤 今天看見新新聞4月22日報導:天價收費卻鬧低級錯誤?美頂尖律所不只錯引條文,竟向法院提交「AI虛構判例」 全球最頂尖的律師事務所之一、總部位於美國紐約市的蘇利文與克倫威爾(Sullivan & Cromwell,簡稱 S&C),近期向紐約聯邦破產法院提交了一份震驚界的道歉信。雖然他們強調對 AI 設有「嚴格」標準,要求律師「不信任、必驗證」,但依然在追求效率與減少成本的矛盾中,發生了嚴重的失誤。 事實上,這已經非單一案例。位於洛杉磯的瑞生律師事務所(Latham & Watkins)也曾承認律師使用 Claude 模型編造虛假文章標題。最有名的是 2023 年,律師在文件中引用了 Mata v. Avianca case,結果裡面好幾個判例根本不存在,全是 AI 「編出來」的。後來法官直接點名處罰,整個法律圈震動巨大。 這證明了就算年薪百萬美金、穿著最貴西裝的律師,都因迷信 AI 給出的一本正經亂寫一通文章而出糗。證明了AI 的強大不在於邏輯,而在於「偽裝」。它能一本正經地編造虛假判例、胡亂回應。當人們因為懶惰、追求那套「溫柔中立」的糖衣而放棄實體查證時,就成為AI手裡的 Headcount。 這場「AI 虛構門」事件給人們最大教訓是:就算AI算力再強,也算不出真實感。律師引用了不存在的 Mata v. Avianca 判例,是因為他們貪圖方便,把自己的職業道德交給完全沒有道德底線的AI。別輕易相信 AI 給的投資理財糖衣毒藥,那很有可能只會讓你像頂尖美國律師一樣,在關鍵時刻糗到無地自容。