美國聯邦最高法院首席大法官羅伯茲（John Roberts）警告說，人工智慧（AI）科技對於法律領域「好壞參半」，敦促任何AI的使用都「需要審慎和謙遜」，因為不斷發展的科技正改變法官與律師的工作方式。他強調，AI可能虛構事實，也無法複製人類法官的自由裁量權。
羅伯茲在去年12月31日發布年終報告指出，AI可能增加貧窮訴訟當事人訴諸法律的機會，並協助法院更快、更便宜地審理與解決案件，「消除法院系統中可用資源與迫切需求之間的任何不匹配」。他承認，AI顯然具有巨大的潛力，讓人們更易獲取關鍵訊息，「但同樣明顯的是，它有可能侵犯隱私利益，使法律失去人性。」
羅伯茲表示，AI可能虛構事實，也無法複製人類法官的自由裁量權。他說，法律判決往往涉及灰色地帶，需要人工判斷，「機器無法完全取代法庭上的關鍵角色」。羅伯茲寫道：「我預測人類法官仍會存在好一段時間。但我同樣有信心預測，司法工作（尤其是審判層面）將會受到AI的顯著影響。」
羅伯茲也強調，「任何AI的使用都需要審慎和謙遜」。他並提到所謂「AI幻覺」（AI hallucinations）導致律師在法院文件中，引用並不存在的案例。
「AI幻覺」指的是，AI生成誤導性訊息，並以實際存在的事實出現。
上個月，紐奧良的美國第五巡迴上訴法院公布一份擬議中的規則，旨在規範出庭律師對OpenAI的ChatGPT等生成式AI（Generative AI）的使用。它將要求律師證明他們在起草文件時未依賴AI程式，或所有AI生成法律文件皆須有人審查其準確性。
美媒去年12月29日才報導，美國前總統川普的前律師柯恩（Michael Cohen）承認在提交給聯邦法官的法律文件中，引用了AI生成的虛假法庭案例。據稱，柯恩將谷歌（Google）Bard誤認為「超級搜索引擎」而非AI聊天機器人，用它進行了研究。去年5月，一名紐約州律師也坦承，他用ChatGPT寫訴狀，其中竟有6則不存在的法律案例。(旺報/王嘉源)