AI無(wú)中生有，律師竟也“中招”。北京市通州區(qū)人民法院近日披露的一起案件，讓人啼笑皆非：原告代理人在書面代理意見(jiàn)中援引了兩份裁判文書。經(jīng)核查，這兩起所謂的司法案例實(shí)為AI杜撰生成。據(jù)記者了解，該代理人是一名職業(yè)律師。

這可不是個(gè)例。用過(guò)生成式AI的人，多少都領(lǐng)教過(guò)它那套功力：盡管回答往往條理清晰、論證充分，但有時(shí)也會(huì)“一本正經(jīng)地胡說(shuō)八道”，以真假難辨的細(xì)節(jié)讓人信以為真。比如，AI推薦的書，書名動(dòng)人卻根本買不到；撰寫文獻(xiàn)綜述，引用的觀點(diǎn)純屬虛構(gòu)；就連給個(gè)鏈接，都可能指向“查無(wú)此頁(yè)”……這些現(xiàn)象都可以歸為AI幻覺(jué)。在本案中，原告代理人作為法律專業(yè)人士，不僅未能識(shí)破AI精心編織的虛假判例，反將其呈送法庭，也足以說(shuō)明其迷惑性之強(qiáng)。

司法活動(dòng)的核心，是“以事實(shí)為依據(jù)，以法律為準(zhǔn)繩”。這里的“事實(shí)”，既包括案件事實(shí)，也包括作為先例的裁判事實(shí)。當(dāng)AI憑借強(qiáng)大的自然語(yǔ)言處理能力，憑空捏造出邏輯自洽、格式規(guī)范的“判例”時(shí)，它污染的正是裁判事實(shí)的源頭活水，影響的是司法秩序和司法公信力。

所幸此案承辦法官有一雙“火眼金睛”，但這起AI生成虛假判例暴露出的現(xiàn)實(shí)威脅，仍不容低估。以上種種也在提醒，防范AI幻覺(jué)，必要且緊迫。

以制度劃定邊界。針對(duì)AI幻覺(jué)，許多地方都試圖通過(guò)制定規(guī)則來(lái)破解。比如，在美國(guó)、澳大利亞、英國(guó)等國(guó)家，若不當(dāng)使用AI工具、編造虛假判例，后果往往極其嚴(yán)重，被罰款者有之，被解雇者亦有之。同理類推，醫(yī)療、法律、金融等行業(yè)容錯(cuò)率低，對(duì)專業(yè)性要求極高。AI進(jìn)入這些行業(yè)，相關(guān)部門也應(yīng)當(dāng)設(shè)立標(biāo)準(zhǔn)，加快完善評(píng)價(jià)體系和監(jiān)管機(jī)制。

以技術(shù)驅(qū)散迷霧。研究表明，AI“養(yǎng)成”過(guò)程中，數(shù)據(jù)“投喂”是關(guān)鍵環(huán)節(jié)，可靠、可信、高質(zhì)量的數(shù)據(jù)對(duì)降低AI幻覺(jué)十分關(guān)鍵。有鑒于此，各大廠商也應(yīng)優(yōu)化人工智能的訓(xùn)練語(yǔ)料，用好數(shù)據(jù)生成優(yōu)質(zhì)內(nèi)容；同時(shí)探索建立具有權(quán)威性的數(shù)據(jù)共享平臺(tái)。

以人文駕馭未來(lái)。古人言：“君子生非異也，善假于物也”。AI的正確打開(kāi)方式，應(yīng)當(dāng)是啟發(fā)靈感而非代替思考。從使用者的角度看，我們要始終保持獨(dú)立思考的能力，謹(jǐn)慎對(duì)待AI生成的內(nèi)容，將決策權(quán)牢牢掌握在自己手中。 （付迎紅）