財聯(lián)社 6 月 23 日訊（編輯 牛占林）像 ChatGPT 這樣的生成式人工智能可以極大地提升人類的辦公效率，但其 " 胡編亂造 " 的能力也不容忽視。若平常使用時出現(xiàn)錯誤，可能僅僅只是一個笑話，如 " 林黛玉倒拔垂楊柳、劉姥姥醉打蔣門神 "，但若在關(guān)鍵領(lǐng)域或時刻出錯，那結(jié)果可能就是災(zāi)難性的。

當(dāng)?shù)貢r間周四，美國紐約聯(lián)邦法官做出判決，Levidow, Levidow&Oberman 律師事務(wù)所引用了 ChatGPT 撰寫的一份由虛假案例引證的法庭簡報，行為惡劣，對其處以罰款 5000 美元。

(資料圖片僅供參考)

法官卡斯特 ( P. Kevin Castel ) 指出，該律師事務(wù)所的兩名律師有意識地避免表明這些引文是虛假的，并 " 向法庭做出誤導(dǎo)性陳述 "。

Levidow, Levidow&Oberman 隨后回應(yīng)稱，其律師 " 謙恭的 " 不同意惡意誤導(dǎo)方面的判決。" 我們犯了一個善意的錯誤，沒想到 ChatGPT 居然可以憑空捏造。"

憑空捏造

在 3 月份，律師彼得 · 洛杜卡 ( Peter LoDuca ) 和史蒂文 · 施瓦茨 ( Steven Schwartz ) 代表其客戶羅伯托 · 馬塔 ( Roberto Mata ) 起訴阿維安卡航空公司，提交了一份人工智能撰寫的法律文書。

據(jù)悉，引用的虛假案例包括 "Varghese 訴中國南方航空公司 "、" 馬丁內(nèi)斯訴達美航空公司 " 和 " 米勒訴聯(lián)合航空公司 " 等。但經(jīng)過仔細查證之后，卻根本找不到這些判決案例。

在事實面前，到了 5 月底，律師施瓦茨不得不承認，他使用了 ChatGPT 來 " 補充 " 他對該案件的研究。施瓦茨表示，他沒有意識到 ChatGPT 的內(nèi)容有可能是虛假的。

卡斯特指出，兩位律師 " 放棄了自己應(yīng)盡的責(zé)任 "，且在提出對文書的質(zhì)疑之后，兩人 " 繼續(xù)堅持虛假意見 "。

卡斯特責(zé)令洛杜卡和施瓦茨以及他們的律師事務(wù)所 Levidow, Levidow & Oberman 分別支付 5000 美元的罰款，并且他們必須自己將判決結(jié)果通知那些認為偽造了案例的法官。

法官卡斯特在曼哈頓聯(lián)邦地方法院的判決書中寫道：" 法院不會要求他們道歉，因為強迫的道歉不是真誠的道歉。任何道歉的決定都由當(dāng)事人決定。"

使用人工智能沒有不妥

周四當(dāng)天，法官在另一項命令中批準(zhǔn)了阿維安卡航空公司駁回訴訟的動議。原告馬塔聲稱，在 2019 年 8 月，從薩爾瓦多飛往紐約的航班上他的膝蓋被一個金屬托盤撞到，因而嚴重受傷。

卡斯特認為，馬塔的訴訟是在《蒙特利爾公約》規(guī)定的兩年訴訟窗口期滿后提起的，該窗口允許與國際航空旅行相關(guān)的法律索賠。

卡斯特表示，如果律師們 " 坦白 " 使用了人工智能撰寫法律文書，可能就不會受到懲罰。

但在對文書提出質(zhì)疑后，兩位律師仍然極力辯護，對文書及其內(nèi)容做出了虛假和誤導(dǎo)性的陳述，表現(xiàn)出了 " 惡意 "。

判決書中提到：" 在研究和起草法庭文書時，優(yōu)秀的律師會適當(dāng)?shù)貜某跫壜蓭煛⒎▽W(xué)院學(xué)生、合同律師、法律百科全書、Westlaw 和 LexisNexis 等數(shù)據(jù)庫中獲得幫助。"

卡斯特還寫道：" 技術(shù)進步是司空見慣的，使用可靠的人工智能工具提供幫助并沒有本質(zhì)上的不妥。但現(xiàn)有規(guī)則對律師施加了把關(guān)作用，以確保他們提交的文書的準(zhǔn)確性。"