2021-06-04 14:22:35 來源：中國周刊

作者：馬靖云

伴隨著技術(shù)發(fā)展對于司法的滲透與沖擊，技術(shù)也在重塑著司法活動(dòng)，智慧司法時(shí)代已然來臨。“人工智能在司法領(lǐng)域的應(yīng)用正是實(shí)現(xiàn)司法推理定量化、過程精細(xì)化、行為規(guī)范化，使司法活動(dòng)更加科學(xué)、 公正、規(guī)范、高效的有效路徑?！敝腔鬯痉ㄔ跇?gòu)建之初即展現(xiàn)了強(qiáng)大的功效，譬如它可以彌補(bǔ)人類缺 陷從而增強(qiáng)司法能力，優(yōu)化司法參數(shù)評價(jià)從而促進(jìn)“類案同判”，推行全程留痕從而減少司法恣意等 等。但是，世界上沒有完美的技術(shù)，智能技術(shù)在司法應(yīng)用中有其原生性缺陷產(chǎn)生的局限性，面臨著各種現(xiàn)實(shí)難題。如何破解這些難題，促進(jìn)智慧司法的健康發(fā)展，需要法律人持續(xù)而深入的研究。

一、智能技術(shù)司法應(yīng)用的局限性

智能技術(shù)在司法領(lǐng)域的應(yīng)用，為司法活動(dòng)帶來重大發(fā)展與創(chuàng)新的同時(shí)，也顯現(xiàn)出一定的局限性， 這導(dǎo)致智慧司法從源頭開始就不可能盡善盡美。

（一）概率建模下的司法要素限縮

司法智能化其實(shí)就是對既有的司法裁判進(jìn)行概率建模 , 歸納出能夠體現(xiàn)同類案件處理的共性與 標(biāo)準(zhǔn)的司法要素，輔助法官辦案?！八痉ú门胁⒎菃蜗蚨鹊耐评?, 它在本質(zhì)上是一種向著普遍實(shí)踐論 證開放的復(fù)雜活動(dòng)，即向著道德、倫理和實(shí)用性理由開放?！倍悄芗夹g(shù)是無法涵攝復(fù)雜的司法裁判 的全部過程和全部信息，概率建模使得司法裁判在信息化、智能化的操作之下簡單化、扁平化，導(dǎo)致潛 在的“司法要素限縮”。這是由幾方面原因造成的：

首先，概率建模需要從相對標(biāo)準(zhǔn)化的司法文書中提煉共性，進(jìn)而確定類案同判的統(tǒng)一標(biāo)準(zhǔn)。但是， 在司法實(shí)踐中，真正意義上的標(biāo)準(zhǔn)化司法文書是有限的，不同層級(jí)、不同地域、不同法院、不同法官所 制作的司法文書往往各不相同，導(dǎo)致司法文書并不能真實(shí)反映司法裁判規(guī)則與裁判經(jīng)驗(yàn)。其次，司法 裁判是一個(gè)相當(dāng)復(fù)雜的集合體系，不僅涉及司法過程中的案件事實(shí)、法律規(guī)范的點(diǎn)狀集合，而且涉及 政策、經(jīng)濟(jì)、倫理和道德等方方面面的多維度的要素集合，這些要素往往以一種“只可意會(huì)不可言傳” 的形式滲透于司法裁判中，影響到法官的主觀判斷及最終的司法裁決結(jié)果，這也會(huì)造成概率建模對于 案件的情境信息和隱藏信息的涵攝不足。最后，司法要素之間還存在復(fù)雜的組合方式，關(guān)于司法要素 如何篩選、位階順序如何劃分，以及權(quán)重比例如何分配，并不是僅靠單純的數(shù)據(jù)累加或簡單的因果邏 輯就能夠完成的，它們需要人類的理性與感性的結(jié)合來作出主觀判斷。這需要法律專業(yè)人士先將相 關(guān)領(lǐng)域的知識(shí)匯總、梳理，進(jìn)行信息化描述，構(gòu)建成精細(xì)的法律知識(shí)圖譜喂養(yǎng)計(jì)算機(jī)。顯然，當(dāng)前我們在這一層面的工作是極度欠缺的。

既然司法要素是被限縮的，那么智能化輔助系統(tǒng)就不可能實(shí)現(xiàn)在充分的數(shù)據(jù)整理、類分與解析基 礎(chǔ)上進(jìn)行有效知識(shí)圖譜建構(gòu)與情景模型訓(xùn)練，會(huì)消減其在司法裁判過程中的價(jià)值。

（二）裁決算法的價(jià)值偏見

司法活動(dòng)是一種法律治理手段，遵循的是社會(huì)共識(shí)的邏輯，而技術(shù)治理遵循的是自我偏好的邏輯?！皟r(jià)值觀和欲望會(huì)影響我們的選擇，包括我們選擇去搜集的數(shù)據(jù)和我們要問的問題。而模型（算法） 正是利用數(shù)學(xué)工具包裝出來的各種主要觀點(diǎn)?！辈脹Q算法的價(jià)值偏見存在以下幾種情形：

第一，算法賴以運(yùn)行的數(shù)據(jù)庫、分析參數(shù)及預(yù)測模型等都是由工程師、程序員完成的，而這一過程 缺少必要的檢驗(yàn)和價(jià)值權(quán)衡。因此，當(dāng)工程師、程序員將其內(nèi)心的偏見與價(jià)值觀貫穿于程序設(shè)計(jì)中時(shí)， 算法決策也會(huì)存在價(jià)值偏見。呈現(xiàn)在司法人員面前的，可能是已經(jīng)被算法固化的偏見性數(shù)據(jù)。第二， 從人類趨利避害的本性來說，在多種算法可以選擇的情況下，智能服務(wù)商一定是傾向于選擇更有利于 自身利益的算法，以便更好地控制智能算法系統(tǒng)，維護(hù)其后期經(jīng)濟(jì)利益。并且，出于對私利的考慮，智 能服務(wù)商也有可能在明知算法存有漏洞而可能導(dǎo)致偏見的情況下，仍然將其作為合格產(chǎn)品交付司法機(jī)關(guān)使用。第三，裁決算法是在用過去預(yù)測未來，它所依賴的是已有的案例數(shù)據(jù)。社會(huì)生活是紛繁復(fù)雜的，新的行為模式、新的商業(yè)生態(tài)、新的生活觀念、新的司法問題不斷涌現(xiàn)，但是裁決算法基于其“機(jī) 器”的本質(zhì)，沒有生活經(jīng)驗(yàn)及感性思維的固有缺陷，無法做出準(zhǔn)確的應(yīng)變，舊的裁決算法在適用新的案 件事實(shí)時(shí)就可能產(chǎn)生價(jià)值偏見。第四，基于數(shù)據(jù)不統(tǒng)一、不完善造成的算法偏見。中國經(jīng)濟(jì)發(fā)展不均衡導(dǎo)致了互聯(lián)網(wǎng)覆蓋的嚴(yán)重不均衡，這就直接造成了數(shù)據(jù)信息的不統(tǒng)一、不完善。經(jīng)濟(jì)發(fā)展落后的地 區(qū)因?yàn)榛ヂ?lián)網(wǎng)應(yīng)用有限，相關(guān)案件資料不完善，且同類事實(shí)與經(jīng)濟(jì)發(fā)達(dá)地區(qū)的司法裁決結(jié)果也會(huì)有明 顯差異。不全面的數(shù)據(jù)必然會(huì)導(dǎo)致裁決算法的偏頗、適用于特殊地域顯現(xiàn)出不合理性。

由此，當(dāng)智能系統(tǒng)執(zhí)行裁決算法時(shí)，所獲得的有關(guān)權(quán)利義務(wù)分配、法律責(zé)任分擔(dān)等決策結(jié)果，可能 在形式上符合程序正義的要求，但在實(shí)質(zhì)上與法律原則、價(jià)值等精神內(nèi)核完全相左。

（三）裁決算法黑箱

智慧司法備受質(zhì)疑的一點(diǎn)就是裁決算法不能透明化的問題。通過裁決算法分析得出的結(jié)論，如何給予當(dāng)事人和律師相應(yīng)的知情權(quán)及進(jìn)行抗辯的權(quán)利，使當(dāng)事人及其律師能夠清楚司法角色所認(rèn)可 的裁決算法的邏輯并有針對性地發(fā)表抗辯意見，是程序正義和實(shí)體正義的共同要求。但是，現(xiàn)實(shí)的情況是，裁決算法的透明化存在著很大的局限性，一是因?yàn)橹悄芊?wù)商基于商業(yè)秘密的保護(hù)，不愿意對 外公開裁決算法的內(nèi)在邏輯、源代碼；二是基于現(xiàn)有的專業(yè)技術(shù)水平，智能服務(wù)商很難將算法的內(nèi)在 邏輯、源代碼充分轉(zhuǎn)化成自然語言或可視化技術(shù)直接向當(dāng)事人和律師公開。這就造成了“裁決算法黑 箱”的存在，當(dāng)事人及其律師只能看到算法的決策結(jié)果，卻無從知曉算法決策的程序和邏輯。裁決算 法黑箱直接限制了當(dāng)事人的知情權(quán)和抗辯權(quán)，很顯然，這是對司法正義的嚴(yán)重悖離。

司法唯有在陽光下運(yùn)行才有可能避免司法腐敗及司法恣意 , 司法正義只有看得見才可以獲得當(dāng) 事人和社會(huì)公眾的尊重與信服。因此，裁決算法黑箱的存在，必然會(huì)影響智慧司法的公信力和權(quán)威。

二、智慧司法的現(xiàn)實(shí)難題

智慧司法基于智能技術(shù)在司法應(yīng)用中的局限性，也會(huì)面臨諸多現(xiàn)實(shí)難題：技術(shù)與司法耦合的難度、智慧司法的風(fēng)險(xiǎn)。

（一）技術(shù)與司法耦合的難度

1. 數(shù)據(jù)采樣的有限性

“數(shù)據(jù)的可靠性，須以真實(shí)、完整、有用為基礎(chǔ)，也即足以反映司法規(guī)律、契合辦案需求、具有實(shí)現(xiàn)形式正義與實(shí)質(zhì)正義相統(tǒng)一的效果。如此，才能符合人工智能對數(shù)據(jù)的基本要求。”司法智能的開發(fā)與模型的建立依賴于司法數(shù)據(jù)的充分與全面，存在海量的司法數(shù)據(jù)是必要前提之一?！澳壳埃覈痉I(lǐng)域人工智能技術(shù)開發(fā)的數(shù)據(jù)基本來源于中國裁判文書網(wǎng)上的裁判文書。但中國裁判文書網(wǎng)是 2014 年才開始正式啟用的，上網(wǎng)的裁判文書數(shù)量可能只有審結(jié)案件的 50%?！边@就造成了司法大數(shù)據(jù)的來源不足，因?yàn)榻^大多數(shù)的法院并沒有設(shè)置專門的機(jī)構(gòu)和專業(yè)的人才匯總司法裁判文書，導(dǎo)致司法系統(tǒng)內(nèi)部仍然隱藏著大量的司法裁決文書并沒有被轉(zhuǎn)化成數(shù)據(jù)信息。而且，這些被公開的司法裁決文書也存在部分制作錯(cuò)誤、不規(guī)范而不能被有效利用的情況。

關(guān)于司法文書的公開范疇也是有限的。目前僅有司法裁判文書、庭審筆錄等被納入數(shù)據(jù)庫中，還有大量的司法相關(guān)文件并沒有被列入公開范疇，例如審判委員會(huì)的會(huì)議紀(jì)要、合議庭會(huì)議記錄、法院的審結(jié)報(bào)告等。但這些文件往往直接體現(xiàn)了司法角色的法律思維和邏輯判斷，對于司法角色如何定罪量刑、如何達(dá)到裁判結(jié)論的法律邏輯和考量都有深入的剖析，是司法裁判不可或缺的參數(shù)要素。

關(guān)于法律規(guī)范的公開范疇同樣也是有限的。除了法律、法規(guī)、司法解釋等，實(shí)踐中存在大量的會(huì) 議紀(jì)要、政策文件、行業(yè)規(guī)則等司法角色作出裁決的重要依據(jù)，目前沒有被列入大數(shù)據(jù)采樣范疇。數(shù)據(jù)采樣的有限性還有一個(gè)原因是基于案例規(guī)則的流動(dòng)性造成的。在司法實(shí)踐中，案例規(guī)則的 位階順序并不是一成不變的，有的會(huì)升格為更高位階的規(guī)則，有的會(huì)轉(zhuǎn)化為位階相同的規(guī)則。被升格或轉(zhuǎn)化后的案例規(guī)則，必然會(huì)對原有的司法數(shù)據(jù)組成、司法建模造成一定的影響。

2. 司法要素抽取的高難性

智慧司法的“大數(shù)據(jù)中心”，是通過對司法要素的抽取，轉(zhuǎn)化成數(shù)據(jù)信息，構(gòu)建成司法系統(tǒng)內(nèi)部的數(shù)據(jù)資源庫和知識(shí)資源體系。但是，司法要素的抽取具有現(xiàn)實(shí)的高難性，技術(shù)語言如何與法律語言高 度銜接，如何把司法要素抽取出來轉(zhuǎn)變成機(jī)器可以識(shí)別的數(shù)字代碼，是現(xiàn)實(shí)需要解決的問題。

第一，人工智能系統(tǒng)并沒有深度思考法律語言的特性對于智能技術(shù)的特殊要求。舉例來說，自然語言識(shí)別技術(shù)（NLP）就無法完全適應(yīng)司法領(lǐng)域的需求。法律語言與普通的自然語言的含義有所差異， 基于概括性、準(zhǔn)確性的目標(biāo)訴求，它通常是用一種模糊的方式定義和描述人類的行為。如果不將這些 模糊的法律語言轉(zhuǎn)化成規(guī)范的技術(shù)語言——數(shù)字代碼，以數(shù)字化結(jié)構(gòu)且可識(shí)別的數(shù)據(jù)形式逐一“喂” 給計(jì)算機(jī)，以便機(jī)器識(shí)別和處理，那么就無法實(shí)現(xiàn)真正意義的人工智能司法決策。

第二，目前的人工智能在對不確定性和模糊性的素材處理方面也是有技術(shù)壁壘的。以 206 的證 據(jù)規(guī)則校驗(yàn)功能來說，目前的人工智能對手寫體、簽名捺印的識(shí)別率不高，對于圖片的辨析度不夠，僅 能夠識(shí)別數(shù)量，而無法識(shí)別同類圖片。

第三，另一亟待解決的技術(shù)難題是人工智能“目前主要以邏輯學(xué)加持，而非數(shù)學(xué)加持，這種基于 邏輯學(xué)驅(qū)動(dòng)的法律 AI 研究缺乏實(shí)踐操作性，而真正的法律 AI 應(yīng)用需要用數(shù)學(xué)計(jì)算這一硅基本質(zhì)的 方式來解決法律具象問題，而實(shí)現(xiàn)這一點(diǎn)目前還相距甚遠(yuǎn)”。

第四，就司法實(shí)踐而言，除了顯性的司法要素之外，還有一些隱性的司法要素，對于隱性司法要素 的抽取更是難上加難?！胺ü俚哪承﹥r(jià)值取向、主觀偏好、司法潛見、偏見、實(shí)踐經(jīng)驗(yàn)，甚至性別、年齡、 學(xué)歷、個(gè)性等事實(shí)上也與案件處理結(jié)果有關(guān)。而對這些信息的收集、整理，再強(qiáng)大的人工智能也尚需時(shí)日，至少不大可能從現(xiàn)有判決書中抓取出來。”

第五，公檢法數(shù)據(jù)庫能否有效銜接所引發(fā)的司法要素的統(tǒng)一性問題。公檢法基于其職業(yè)角色不 同，邏輯思維不同，必然導(dǎo)致其數(shù)據(jù)系統(tǒng)存在不同的設(shè)計(jì)理念。不同的設(shè)計(jì)理念就意味著不同的司法 要素產(chǎn)生，如何進(jìn)行有效整合與銜接，為司法裁判所用，這也是智慧司法需要解決的技術(shù)與理念問題。

如果不能將所有必要的司法要素抽取出來并轉(zhuǎn)化成數(shù)字代碼，則必然意味著大數(shù)據(jù)、算法的基礎(chǔ) 是不可靠的、不精確的。

（二）智慧司法的風(fēng)險(xiǎn)

智能技術(shù)在提高司法角色的決策能力、司法決策的精確性的同時(shí)，也裹挾著巨大的風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)很可能會(huì)沖擊司法權(quán)運(yùn)行的根基，影響社會(huì)公眾對于智慧司法的接受與信服。

1. 算法決策下的機(jī)械司法

據(jù)研究，算法的自動(dòng)化決策系統(tǒng)能夠以微妙而有效的方式塑造使用者的感受和行為，破壞個(gè)人的獨(dú)立判斷力?！坝袝r(shí)即便存在系統(tǒng)不準(zhǔn)確的證據(jù)，算法控制者仍然會(huì)相信這一自動(dòng)決策系統(tǒng)生成的評 估結(jié)論?！币?yàn)?，“我們中的大多?shù)人都是‘認(rèn)知的吝嗇者’——多愿選擇只需付出最小認(rèn)知努力的 路徑甚或選擇相信直覺而放棄對每項(xiàng)決策進(jìn)行系統(tǒng)分析。”在大量的數(shù)據(jù)面前，司法人員容易對算法決策結(jié)論產(chǎn)生盲目迷信，如傳統(tǒng)司法對于鑒定結(jié)論的盲目信賴一般，從而導(dǎo)致司法人員的能動(dòng)性法 律判斷的弱化。一是因?yàn)槿祟愄焐摹靶傅　毙睦?，司法人員不愿意花費(fèi)時(shí)間、精力對算法決策結(jié)論 再進(jìn)行充分的反思與檢驗(yàn)；二是“推卸責(zé)任”心理，基于算法決策作出的判斷與決策更容易減少司法人員自己承擔(dān)責(zé)任的風(fēng)險(xiǎn)性，因此司法人員更傾向于對算法決策采取“順?biāo)浦邸钡牟呗?；三是技術(shù)專業(yè)知識(shí)不足，導(dǎo)致司法人員不能或很難發(fā)現(xiàn)算法決策的隱性紕漏。

對于算法決策的盲信和盲從，就會(huì)導(dǎo)致“機(jī)械司法”。司法裁判中的事實(shí)認(rèn)定，其實(shí)是人類的先天 知性能力對于外在世界“雜多”的“統(tǒng)合”問題。而人工智能沒有親歷社會(huì)的變革過程，僅憑部分?jǐn)?shù)據(jù)與算法規(guī)則是無法與人在復(fù)雜的社會(huì)關(guān)系中、社會(huì)變遷中形成的知性能力相比的。具體的法律適 用都是與語境連在一起的，離開語境因素，規(guī)則判斷就會(huì)變得僵化，必然會(huì)導(dǎo)致“機(jī)械司法”。

2. 司法過程中的“數(shù)據(jù)鴻溝”

數(shù)字信息鴻溝是大數(shù)據(jù)領(lǐng)域內(nèi)的一種“貧富差距”的體現(xiàn)，“是指在信息社會(huì)中，不同國家、地區(qū)、行業(yè)的人群由于對社會(huì)信息資源占有和使用程度的不同而造成的‘信息落差’和‘知識(shí)分隔’。”數(shù)字信息鴻溝其實(shí)就是數(shù)據(jù)鴻溝，它可能會(huì)導(dǎo)致社會(huì)的進(jìn)一步撕裂，階層劃分的進(jìn)一步固化，甚至導(dǎo)致 既有“不公平”的加劇。

在智慧司法時(shí)代，司法場域會(huì)呈現(xiàn)出嚴(yán)重的“數(shù)據(jù)鴻溝”現(xiàn)象。這種“數(shù)據(jù)鴻溝”是基于技術(shù)知 識(shí)資源分配不均衡導(dǎo)致的。在這種關(guān)系之中，算法控制者（無論是司法機(jī)關(guān)還是智能服務(wù)商）與普 通的個(gè)人之間已經(jīng)形成了一定程度的不平等?！霸谶@樣的場景中，算法控制者經(jīng)其掌控的算法從而對 個(gè)人了如指掌，但反過來，算法于個(gè)人而言卻是‘黑箱’，這將導(dǎo)致個(gè)人與算法控制者之間權(quán)力與信息 顯著的不對稱?！庇捎谒惴ǖ膹?fù)雜性和神秘性，對于技術(shù)知識(shí)資源占有不同比重的主體在面對司法 活動(dòng)時(shí)的強(qiáng)弱差距就會(huì)很明顯地表現(xiàn)出來。在司法領(lǐng)域中，公權(quán)力與私權(quán)利的司法資本原本就分配 不均衡，而數(shù)據(jù)信息對于司法領(lǐng)域的介入，加劇了這種不均衡的現(xiàn)象。就公民個(gè)體而言，他們只能了解到自己面對大數(shù)據(jù)信息、算法規(guī)則可能會(huì)承受什么樣的法律結(jié)果，但對于哪些數(shù)據(jù)是被算法規(guī)則利 用的，是如何影響司法裁決結(jié)果的，不得而知或者一知半解。

這種“數(shù)據(jù)鴻溝”一定程度上削減了公民個(gè)體的程序權(quán)利，也必然影響著公民個(gè)體實(shí)體權(quán)利的行 使。而且，司法機(jī)關(guān)依靠大數(shù)據(jù)、算法等數(shù)字信息技術(shù)的全面裝備，將公民個(gè)體置于司法權(quán)力的控制之下，而公民個(gè)體卻難以有效地運(yùn)用大數(shù)據(jù)來維護(hù)其私權(quán)利，即很難通過數(shù)據(jù)抗辯來制衡司法權(quán)的運(yùn)行。因此，數(shù)據(jù)信息的不均衡會(huì)成為法律主體之間強(qiáng)弱分化的鴻溝，可能造成新的“不公平”現(xiàn)象。

3. 技術(shù)司法應(yīng)用的邊界

近年來，在智慧司法的構(gòu)建過程中，智能技術(shù)扮演著越來越重要的角色，滲透到司法活動(dòng)的各個(gè)環(huán)節(jié)，譬如證據(jù)規(guī)則指引、單一證據(jù)校驗(yàn)、逮捕條件審查、社會(huì)危險(xiǎn)性評估、類案推送、量刑參考、案件 評議、減刑假釋案件辦理等。越來越多的司法機(jī)關(guān)建成強(qiáng)大的信息系統(tǒng)，開發(fā)出更加智能的軟件來代 替?zhèn)鹘y(tǒng)的司法審理活動(dòng)，甚至做出裁判。

但是，司法活動(dòng)本質(zhì)上是對于人類實(shí)踐理性的具體應(yīng)用，而“實(shí)踐理性并非某種單一的分析方法， 甚至也不是一組相關(guān)聯(lián)的方法。它是一個(gè)雜貨箱，里面有掌故、內(nèi)省、思想、常識(shí)、設(shè)身處地、動(dòng)機(jī)考察、 言說者的權(quán)威、隱喻、類推、先例、習(xí)慣、記憶、‘經(jīng)歷’、直覺及歸納……”這就意味著，司法不可能成 為純粹的技術(shù)，過分地應(yīng)用技術(shù)會(huì)引發(fā)司法根基的動(dòng)搖。因此，大數(shù)據(jù)、人工智能等技術(shù)在司法領(lǐng)域 的應(yīng)用，邊界如何劃分？禁區(qū)如何設(shè)定？都是值得我們思考的問題。

三、智慧司法難題的破解路徑

對智慧司法所面臨的現(xiàn)實(shí)難題進(jìn)行深入的研究和有效回應(yīng)，共同尋找破解路徑，是法律職業(yè)共同 體乃至全社會(huì)的共同使命。

（一）設(shè)置算法的論證程序

算法會(huì)在一定程度上抑制司法人員的恣意，增加法律適用的統(tǒng)一性而減少偏見。但與此同時(shí)，算法也可能帶來偏見并挑戰(zhàn)司法正義。因此，在大數(shù)據(jù)、算法等智能技術(shù)設(shè)計(jì)過程中，應(yīng)當(dāng)通過必要的程序輸送社會(huì)共識(shí)和司法價(jià)值理念，并有意識(shí)地將其融入智能系統(tǒng)的設(shè)計(jì)中，影響價(jià)值偏好、邏輯規(guī)則的設(shè)置，加強(qiáng)對智能技術(shù)應(yīng)用的法律規(guī)制與倫理約束。

首先，應(yīng)該建立大數(shù)據(jù)、算法規(guī)則事前評估機(jī)制。以嚴(yán)格的程序規(guī)范從數(shù)據(jù)收集、信息挖掘到算法編程等一系列人工智能的基礎(chǔ)行為，有效保障算法規(guī)則的合法性和合理性。評估委員會(huì)應(yīng)當(dāng)有技 術(shù)專家、法學(xué)專家、社會(huì)公眾代表等相關(guān)人員的參與，如此才能夠增強(qiáng)算法規(guī)則的透明度與合理性，也能幫助公民個(gè)體詳細(xì)地了解算法決策的運(yùn)作機(jī)制。社會(huì)公眾在參與評估算法規(guī)則設(shè)置，了解數(shù)據(jù)的來源、數(shù)據(jù)被算法規(guī)則使用或排除的標(biāo)準(zhǔn)、各種數(shù)據(jù)被賦予的權(quán)重比例等具體細(xì)節(jié)后，就可以理性地審視算法規(guī)則的公平性與合理性，也更容易接受算法裁決結(jié)論，維護(hù)司法權(quán)威。

其次，應(yīng)該建立算法決策審查與檢驗(yàn)機(jī)制。在智慧司法備受矚目的今天，不僅要保證社會(huì)公眾對于算法規(guī)則設(shè)置的高度參與，也應(yīng)建立算法決策審查與檢驗(yàn)機(jī)制來確保關(guān)鍵流程的透明化、可控性與可追溯性。深度的大數(shù)據(jù)、算法應(yīng)該經(jīng)過相關(guān)領(lǐng)域?qū)＜曳磸?fù)的論證，并注重通過持續(xù)的審查與檢驗(yàn)確保其有效更新，使算法決策盡可能不受偏見和無意識(shí)歧視的影響，以保障其符合司法價(jià)值的內(nèi)涵。

（二）嵌入案件糾補(bǔ)機(jī)制

在司法活動(dòng)中運(yùn)用大數(shù)據(jù)的同時(shí)，必須重視可能建構(gòu)新的裁判規(guī)則的罕見的獨(dú)特性案例。在既往的司法實(shí)踐中，有不少通過一個(gè)案例改變整個(gè)審判規(guī)則乃至法律規(guī)范的情況（比如孫志剛案），不能 讓這樣的獨(dú)特性案例淹沒在“大數(shù)據(jù)”的海洋中。

從實(shí)踐而言，構(gòu)建司法模型是以歸納相關(guān)案件的共性為前提的。有些案件確實(shí)可以用數(shù)據(jù)模型來標(biāo)準(zhǔn)化，從而簡化訴訟程序。但是實(shí)踐中還有很多復(fù)雜的、獨(dú)特的案件，這些案件的背景因素、案件起因、行為模式、社會(huì)影響等有所差異。過分強(qiáng)調(diào)數(shù)據(jù)標(biāo)準(zhǔn)化必然會(huì)導(dǎo)致具體案件的差異性、復(fù)雜性被忽略?！跋喈?dāng)數(shù)量的非類型化案件或者案件的非類型化因素，是可能形成的、統(tǒng)一的智能算法實(shí)際 難以適用的領(lǐng)域；對非類型化案件的司法裁決，人工智能至多具有輔助的作用。某種程度上，正是司 法活動(dòng)的規(guī)律、司法判斷的特點(diǎn)，客觀決定了人工智能在司法領(lǐng)域的作用空間或?qū)嶋H禁區(qū)。”因此， 智能技術(shù)在司法裁判系統(tǒng)的應(yīng)用，既要堅(jiān)持內(nèi)容與方法的開放性，也要在技術(shù)標(biāo)準(zhǔn)化的框架下謀求個(gè) 別性、特定性的生存空間，嵌入案件糾補(bǔ)機(jī)制，以防止引發(fā)個(gè)案的不公平、不正義。

（三）確立算法解釋規(guī)則

知情權(quán)與抗辯權(quán)是公民對抗司法權(quán)運(yùn)行的基本權(quán)利，是程序正義的必要構(gòu)成。但在算法決策中，當(dāng)事人不知道決策的依據(jù)、各種標(biāo)準(zhǔn)的數(shù)據(jù)加權(quán)以及決策遵循的價(jià)值判斷，而這些都與公民利益切實(shí) 相關(guān)。因此，需要完善算法的解釋規(guī)則，從制度上防范和化解智能技術(shù)的復(fù)雜性、機(jī)械性和不確定性 風(fēng)險(xiǎn)?！爱?dāng)相對人對算法得出的自動(dòng)化決策存疑時(shí)有權(quán)請求制定算法及使用算法的數(shù)據(jù)控制者進(jìn)行 解釋說明，甚至可以要求在消除歧視因素后重新進(jìn)行自動(dòng)決策?！蔽覀兛梢詤⒖?xì)W盟《一般數(shù)據(jù)保 護(hù)條例》第 71 條之規(guī)定，在這一條款中，歐盟明確提出了算法“解釋權(quán)”（right to explanation）概念，即 “數(shù)據(jù)主體有權(quán)獲得人工干預(yù)，表達(dá)其觀點(diǎn)，獲得針對自動(dòng)化決策的解釋并提出異議的權(quán)利?！?/span>

即便是根據(jù)最先進(jìn)的技術(shù)編寫的代碼或構(gòu)建的模型也有可能在某些情形下失靈，或者存在與個(gè) 別案件的不兼容性。如果不賦予那些受算法決策不利影響的當(dāng)事人尋求人工干預(yù)、獲得解釋的權(quán)利， 很難保證他們受到公平或公正的對待?！叭绻矣懈龣?quán)，那么我就需要看得出錯(cuò)誤；如果我有權(quán)反 對歧視，那么我就需要知道哪些要素被用于決策。要不然，信息不對稱就會(huì)使這些重要的法律權(quán)利變 得毫無意義?！币虼?，應(yīng)當(dāng)賦予當(dāng)事人提請“算法解釋”的抗辯權(quán)，意在讓受算法決策影響或支配的 當(dāng)事人有機(jī)會(huì)在充分知情的情形下主張自己的權(quán)利。

在規(guī)范層面，首先，如果公訴機(jī)關(guān)要使用人工智能輔助量刑制作量刑建議書時(shí)，應(yīng)當(dāng)明確告知被 告人及其辯護(hù)人，讓他們能夠充分了解系統(tǒng)量刑的可能結(jié)果，并提出相應(yīng)的抗辯意見；其次，在審判 中，如果法官要使用人工智能輔助量刑系統(tǒng)，也應(yīng)當(dāng)明確告知被告人及其辯護(hù)人，他們擁有是否使用 人工智能輔助量刑系統(tǒng)的決定權(quán)；再次，“必須載明所使用的人工智能輔助量刑系統(tǒng)的開發(fā)商，在對量 刑系統(tǒng)的科學(xué)性產(chǎn)生有效懷疑時(shí)，可以通過專家輔助人的方式對系統(tǒng)原理進(jìn)行質(zhì)詢、作證；系統(tǒng)開發(fā) 商有義務(wù)對其量刑系統(tǒng)的工作原理、邏輯和科學(xué)性提供證明，以免部分技術(shù)精英有意牽引司法運(yùn)作， 企圖重塑我國司法權(quán)力分布”。

（四）限定技術(shù)應(yīng)用空間

對智能技術(shù)不加節(jié)制地過度適用，會(huì)在一定程度上擠占司法裁量的空間，有違司法權(quán)的本質(zhì)，同時(shí)可能會(huì)導(dǎo)致私權(quán)利的受損。因此，在大數(shù)據(jù)、算法等智能技術(shù)適用于個(gè)案時(shí)，不但應(yīng)注意必須通過合法的司法程序，更應(yīng)該懷有警惕，可以通過對特定事項(xiàng)、特定主體或刑罰等設(shè)置禁區(qū)的方式來保護(hù)相關(guān)法益，設(shè)置風(fēng)險(xiǎn)的預(yù)警、隔離和熔斷機(jī)制，及時(shí)對大數(shù)據(jù)、人工智能的應(yīng)用風(fēng)險(xiǎn)做出應(yīng)對。首先，明確智能技術(shù)在司法決策中的輔助地位，司法人員應(yīng)當(dāng)避免陷入對智能技術(shù)、大數(shù)據(jù)的盲從和依賴。其次，合理限定智能技術(shù)的應(yīng)用空間。第一，考慮案件的復(fù)雜程度及量刑幅度。案情比較 復(fù)雜、量刑可能比較高的案件不宜使用算法決策系統(tǒng)。第二，考慮被告人的意愿。被告人明確表示不 得選用算法決策系統(tǒng)的，應(yīng)尊重被告人的選擇。第三，若被告人不認(rèn)罪或辯護(hù)人明確要做無罪辯護(hù)的 案件，也不宜先使用算法決策系統(tǒng)，以免出現(xiàn)未判先決的情形。第四，需要重點(diǎn)進(jìn)行價(jià)值判斷的事項(xiàng) 不宜使用算法決策系統(tǒng)。第五，對于技術(shù)尚不成熟的領(lǐng)域，智能技術(shù)應(yīng)謹(jǐn)慎介入。

（五）構(gòu)建司法商談機(jī)制

“復(fù)雜的程序設(shè)計(jì)、高深的法律用語及加重的訴訟風(fēng)險(xiǎn)，阻隔了人民群眾對司法供給的接近，法官由‘慈母’轉(zhuǎn)化成了‘官僚’，人民的司法正‘遠(yuǎn)離’人民而去?！睘榱吮苊庵腔鬯痉ㄟh(yuǎn)離人民，加劇司法的霸權(quán)主義和官僚主義，司法機(jī)關(guān)需要與其他司法參與 主體、社會(huì)公眾展開商談與合作，以保證智慧司法的公平正義、安全可靠。算法黑箱所引發(fā)的偏見問題是多維度、多層面、多領(lǐng)域的，這就需要在司法活動(dòng)中兼顧好私權(quán)利的保護(hù)與科技創(chuàng)新之間的平衡。因此，“差異和分歧的出現(xiàn)是正常的，關(guān)鍵是要針對差異和分歧建立有效的對話、沖突化解與分歧協(xié)商 機(jī)制?！蓖菩兴痉ㄉ陶剻C(jī)制，讓社會(huì)公眾的司法話語理性的進(jìn)入司法場域，保障公眾輿論與司法運(yùn) 行的良性互動(dòng)，提高司法裁決的公信力就十分的必要。

司法商談機(jī)制的本質(zhì)是所有司法參與主體就司法要素、參數(shù)等相互交流觀點(diǎn)，進(jìn)而拓展思維視域，最終對法律事實(shí)的確定、法律規(guī)范的適用及司法裁決結(jié)果達(dá)成共識(shí)。這些不能完全依賴于智能技術(shù)，而是需要司法參與主體在司法活動(dòng)中的通力合作，這也是司法商談機(jī)制的意義所在。

四、結(jié)語

我們必須清醒地認(rèn)識(shí)到，智能司法時(shí)代的來臨，其內(nèi)涵價(jià)值并不在于完全取代人類法官的工作， 而在于更好地發(fā)現(xiàn)司法智慧、司法共識(shí)，并有效地使用它們。智能決策的內(nèi)涵價(jià)值也不僅在于優(yōu)化司法治理，還在于更好地保障公民的司法人權(quán)，實(shí)現(xiàn)法律面前人人平等。因此，智慧司法需要將私權(quán)利進(jìn)行合理的安放，司法效率的獲得絕不能以私權(quán)利的損害為代價(jià)。因?yàn)樗痉ɑ顒?dòng)并不是僵死的規(guī)則體系的適用，而是秉承人文關(guān)懷進(jìn)行的判斷性智識(shí)活動(dòng)。在推進(jìn)智慧司法改革進(jìn)程中，我們需要保持理性的思維，在欣喜地承受智能技術(shù)帶來的效率、司法能力提升的同時(shí)，也要適度規(guī)避智能技術(shù)所帶來的價(jià)值偏見、數(shù)據(jù)鴻溝等風(fēng)險(xiǎn)，以保障智慧司法的健康發(fā)展，早日實(shí)現(xiàn)司法現(xiàn)代化。（本文來源：《華東政法大學(xué)學(xué)報(bào)》）

作者簡介

馬靖云，法學(xué)博士、法學(xué)博士后，國際知名專業(yè)法律聯(lián)盟重要成員海華永泰律師事務(wù)所黨委書記、管理合伙人。

專業(yè)領(lǐng)域：商業(yè)與金融犯罪、企業(yè)刑事風(fēng)險(xiǎn)防控、企業(yè)刑事合規(guī)管理。

獲得榮譽(yù)：全國律師行業(yè)優(yōu)秀黨員律師、上海市律師行業(yè)優(yōu)秀黨員律師、上海市第四屆優(yōu)秀女律師，長寧區(qū)首屆十大優(yōu)秀青年律師、商法百名中國精英律師等。

社會(huì)職務(wù)：上海交通大學(xué)碩士生導(dǎo)師，華東政法大學(xué)碩士生導(dǎo)師，華東政法大學(xué)兼職研究員，華東政法大學(xué)數(shù)字法治研究院特聘研究員，哈爾濱理工大學(xué)客座教授，國際經(jīng)濟(jì)貿(mào)易商事調(diào)解員，上海市案例法學(xué)研究會(huì)常務(wù)理事，上海市律師協(xié)會(huì)紀(jì)律委員會(huì)委員。

學(xué)術(shù)成就：工作之余，馬律師亦筆耕不輟，取得了豐碩的法學(xué)研究成果，出版有關(guān)法學(xué)著作、文章若干篇，其中數(shù)篇被《上海師范大學(xué)學(xué)報(bào)》、《華東政法大學(xué)學(xué)報(bào)》、《安徽大學(xué)學(xué)報(bào)》、《學(xué)術(shù)交流》等國內(nèi)頂級(jí)法學(xué)核心期刊收錄，其論文《法律解釋視域下的律師溝通之維及其法治意義》獲中國法學(xué)會(huì)學(xué)術(shù)論文二等獎(jiǎng)，其論著《律師商談溝通與司法商談機(jī)制的構(gòu)建》入選上海市律師文庫，并于 2018 年7月由法律出版社出版。

經(jīng)典案例：江蘇省最高額國家賠償案、廈門國際銀行某行長涉嫌合同詐騙罪案、上海市自貿(mào)區(qū)特大增值稅專用發(fā)票罪案、唐小僧平臺(tái)涉嫌集資詐騙罪案、大智慧公司涉嫌違規(guī)不披露重要信息罪案、阜興集團(tuán)涉嫌非法吸收公眾存款罪案、山東省某知名國企董事長涉嫌受賄罪、行賄罪案、某知名公司CFO涉嫌內(nèi)幕交易罪案等。

《數(shù)字法治》專題由華東政法大學(xué)數(shù)字法治研究院供稿。專題統(tǒng)籌：秦前松

 

編輯：海洋