量子算法比以前所有的智能軟件更能了解人類的情感，甚至可以與我們進(jìn)行深度地交流和互動(dòng)。量子算法的這種特質(zhì)既可以提供符合我們意愿的服務(wù)和關(guān)懷，也能在摸透我們的想法后更容易地侵害我們的權(quán)益，而這種權(quán)益多涉及基本權(quán)利

文｜王延川 王雨晨，法治周末報(bào)

■ 智道 ■

聚焦前沿科技與法律倫理的交匯碰撞

欄目主持人：於興中

■主持人說：

智能科技發(fā)展的下一個(gè)突破口在哪里？令人難以捉摸甚至不寒而栗的量子技術(shù)已經(jīng)成為不可忽視的新寵。隨著量子計(jì)算用于人工智能算法和算力，想象中的通用人工智能以另一種形態(tài)出現(xiàn)的可能性大大增加。然而，將量子計(jì)算應(yīng)用于傳統(tǒng)計(jì)算，落實(shí)到人工智能產(chǎn)品中，也存在著很大風(fēng)險(xiǎn)。有鑒于此，本欄目近期將推出相關(guān)文章，研討這一發(fā)展趨勢的利弊，以饗讀者。

量子計(jì)算是一種利用量子力學(xué)原理進(jìn)行信息處理的新型計(jì)算技術(shù)。量子計(jì)算這一概念由來已久。1981年，美國物理學(xué)家理查德·費(fèi)曼率先指出量子計(jì)算機(jī)可高效模擬經(jīng)典計(jì)算機(jī)無法模擬的量子系統(tǒng)。但由于技術(shù)難度較高，這種計(jì)算方式一直難以實(shí)現(xiàn)。直到2019年，谷歌“懸鈴木”處理器在200秒內(nèi)完成經(jīng)典超級計(jì)算器需花費(fèi)1萬年完成的任務(wù)，研究人員首次宣稱實(shí)現(xiàn)“量子優(yōu)越性”，這才使得量子計(jì)算技術(shù)邁出關(guān)鍵一步。

量子算法的原理及三大技術(shù)風(fēng)險(xiǎn)

量子計(jì)算機(jī)使用量子比特（Qubit）而非基于二進(jìn)制位（0或1）的傳統(tǒng)比特作為基本信息單位。量子比特的特殊性決定了量子計(jì)算的技術(shù)特點(diǎn)：一是量子疊加，即量子比特能同時(shí)表示0和1，也就是能表示0和1的疊加態(tài)，直到被測量時(shí)坍縮為0或1的確定狀態(tài)。二是量子糾纏，多個(gè)量子比特可以糾纏在一起，形成關(guān)聯(lián)狀態(tài)，改變其中一個(gè)比特的狀態(tài)會(huì)瞬間影響其他糾纏關(guān)系中的量子比特。三是量子并行。量子計(jì)算機(jī)可以利用疊加態(tài)同時(shí)進(jìn)行多個(gè)運(yùn)算。量子比特不僅擴(kuò)張了基本信息單位的數(shù)量，而且還能置入疊加、糾纏等關(guān)系而進(jìn)行復(fù)雜運(yùn)算。從這個(gè)角度而言，量子計(jì)算技術(shù)是算力的質(zhì)變。量子計(jì)算的一個(gè)重要應(yīng)用場景是量子算法，后者在處理特定問題時(shí)展現(xiàn)出指數(shù)級的加速優(yōu)勢。

比起傳統(tǒng)算法，量子算法能夠更有效地處理大量復(fù)雜的數(shù)據(jù)集，從而提升解決問題的效率，但這也帶來了新的技術(shù)風(fēng)險(xiǎn)。

一是從算法增產(chǎn)到算法掠奪。由傳統(tǒng)計(jì)算機(jī)構(gòu)筑的算法主要通過優(yōu)化生產(chǎn)流程實(shí)現(xiàn)產(chǎn)能的增加，如通過算法實(shí)現(xiàn)資源合理分配、優(yōu)化調(diào)度以及減少等待時(shí)間等提升生產(chǎn)效率。而由量子計(jì)算構(gòu)筑的算法則展現(xiàn)出破壞性掠奪的可能。由于量子計(jì)算可以并行處理大量的可能性，因此可以運(yùn)用于密碼破解領(lǐng)域，包括破解RSA、ECC等現(xiàn)行加密算法，進(jìn)而威脅金融、醫(yī)療、政府等敏感數(shù)據(jù)。由此一來，“生產(chǎn)邏輯”將被“掠奪邏輯”代替，掌握量子計(jì)算的企業(yè)或?qū)⒉辉僦铝τ谏a(chǎn)數(shù)據(jù)，而是通過量子計(jì)算竊取其他主體創(chuàng)造的數(shù)據(jù)，從而成為“食利者”。

二是從“算法黑箱”到算法詭秘。傳統(tǒng)算法被人詬病最多者是“算法黑箱”：算法輸出結(jié)果雖然便于理解，但算法運(yùn)行機(jī)理非常復(fù)雜，且內(nèi)部運(yùn)作機(jī)制不透明，難以為人們所理解或解釋。由量子計(jì)算構(gòu)筑的算法加深了“算法黑箱”的表現(xiàn)形式：一方面，由于量子比特能夠被置于疊加、糾纏等關(guān)系下表征更復(fù)雜的情況，這讓算法的運(yùn)行機(jī)理變得更加難以理解；另一方面，量子計(jì)算的并行意味著量子算法可以在復(fù)雜的運(yùn)行機(jī)理下同時(shí)處理多種可能性，使得運(yùn)算量呈指數(shù)級增長。此時(shí)，人們只有借助其他技術(shù)才能實(shí)現(xiàn)對這種運(yùn)算機(jī)理的理解，這無疑導(dǎo)致技術(shù)愈加神秘化。由此“算法黑箱”在量子計(jì)算的加持下轉(zhuǎn)變?yōu)樗惴ㄔ幟亍?/p>

三是從算法測量到算法監(jiān)控。通過傳統(tǒng)計(jì)算構(gòu)筑的算法可以通過測量實(shí)現(xiàn)對人類行動(dòng)過程的量化，以厘清多種因素影響下人類的真實(shí)行動(dòng)能力，并結(jié)合可視化數(shù)據(jù)進(jìn)行統(tǒng)一管理。而量子計(jì)算構(gòu)筑的算法從根本上顛覆了算法的這一作用。一方面，由于量子計(jì)算加持下算法的增強(qiáng)，人的一切數(shù)據(jù)都納入了算法監(jiān)控的范圍。這種監(jiān)控不僅包括日常生活中的各種行為產(chǎn)生的諸如消費(fèi)習(xí)慣、出行路線偏好等社會(huì)數(shù)據(jù)，還包括性別、年齡、住址等公民個(gè)人身份信息，甚至包括心跳、血壓、血糖等公民個(gè)人生理性信息。算法在量子計(jì)算的加持下，可以說“比你自己更了解你自己”。另一方面，人的行為具有不確定性，這主要是因?yàn)槿说臓顟B(tài)、感情、靈感、意愿等主觀因素都或多或少影響人的行動(dòng)能力，這也是人的全面性得以實(shí)現(xiàn)的重要原因。量子計(jì)算可以利用量子比特疊加和糾纏的特性更為準(zhǔn)確地表征主觀因素影響下的真實(shí)行動(dòng)能力。因此，量子算法將應(yīng)用于人的各種活動(dòng)場景中，并將人的一切納入算法監(jiān)控的范圍，以便通過量子算法評估和控制人的行為。

量子算法帶來的法律風(fēng)險(xiǎn)或難以化解

近些年來，算法偏見、算法歧視、隱私侵犯等算法侵權(quán)案例屢見不鮮，這些新問題推動(dòng)各國制定并施行相關(guān)法規(guī)，這些法規(guī)主要有歐盟的《人工智能法案》、美國的《算法問責(zé)法案》（提案）以及中國的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等。這些法規(guī)的確為行政執(zhí)法和法院司法裁量解了“燃眉之急”。

然而，量子算法在帶來新的技術(shù)風(fēng)險(xiǎn)的同時(shí)，也將對包括上述法規(guī)在內(nèi)的有關(guān)算法的法律框架形成挑戰(zhàn)，并可能產(chǎn)生難以化解的法律風(fēng)險(xiǎn)。

一是算法掠奪導(dǎo)致的數(shù)據(jù)安全問題。量子計(jì)算龐大的算力一旦被應(yīng)用于密碼破解，便會(huì)對RSA、ECC等現(xiàn)行加密算法造成威脅，屆時(shí)將引起新的數(shù)據(jù)安全問題。這種新型數(shù)據(jù)掠奪現(xiàn)象對現(xiàn)行法律效應(yīng)形成挑戰(zhàn)。雖然各國現(xiàn)行法律都致力于加強(qiáng)數(shù)據(jù)保護(hù)，并提高數(shù)據(jù)泄露的處罰力度，然而，由于量子計(jì)算構(gòu)筑的算法能夠輕松瓦解現(xiàn)有的加密算法。因此，可以預(yù)見的是，數(shù)據(jù)安全侵害的情況或?qū)@著增加。而數(shù)據(jù)侵害盛行的情況很可能導(dǎo)致現(xiàn)行法律無法應(yīng)對數(shù)據(jù)保護(hù)力度不足的情況。

與此同時(shí)，量子計(jì)算推動(dòng)國際數(shù)據(jù)掠奪，這更是對現(xiàn)行法律的巨大考驗(yàn)。由于量子計(jì)算增加了高價(jià)值數(shù)據(jù)泄露的風(fēng)險(xiǎn)，因此政府、企業(yè)都需要配備量子計(jì)算加密算法以保護(hù)數(shù)據(jù)安全。而發(fā)展中國家，尤其是發(fā)展中國家的中小企業(yè)可能因無法承擔(dān)使用量子計(jì)算加密算法的成本而受到數(shù)據(jù)安全威脅。未來，可能出現(xiàn)一些打著跨國資本投資的幌子，實(shí)際意圖竊取發(fā)展中國家及其企業(yè)的高價(jià)值和高敏感數(shù)據(jù)的不良市場主體。現(xiàn)行法律如何抑制和解決跨境數(shù)據(jù)掠奪將成為一個(gè)重要問題。

二是算法詭秘導(dǎo)致?lián)p害的責(zé)任認(rèn)定困難。由于量子計(jì)算通過實(shí)現(xiàn)算力質(zhì)變引起算法革新，極大地增加了人們認(rèn)識(shí)和理解量子算法的難度，因此掌握量子算法的企業(yè)更有可能通過量子算法的不可知屬性獲利。雖然各國關(guān)于算法責(zé)任認(rèn)定的法律框架正在快速發(fā)展，并且在算法透明度、問責(zé)機(jī)制和損害賠償責(zé)任等方面作出諸多規(guī)定。但是，目前的法律可能難以對量子算法的損害進(jìn)行明確歸責(zé)。主要原因是量子比特作為量子計(jì)算的基本信息單位能夠指數(shù)級地增加其能夠表征的可能性，量子算法的運(yùn)行機(jī)理的復(fù)雜程度也呈現(xiàn)指數(shù)級別的提升，因而難以證明因果關(guān)系。一方面，量子比特疊加、糾纏的屬性導(dǎo)致算法運(yùn)行機(jī)理中各元素的相關(guān)性增加，而相關(guān)性容易與因果性混淆；另一方面，量子比特較傳統(tǒng)比特更為復(fù)雜，并為算法運(yùn)行機(jī)理中增添了更多的混雜因素。由于因果關(guān)系的證明變得困難，使得侵權(quán)歸責(zé)的難度大大加大。

三是算法監(jiān)控導(dǎo)致人的基本權(quán)利被侵害。量子算法在算力質(zhì)變的加持下可以更好地量化人，特別是傳統(tǒng)算法難以量化的人的主觀情感，這是因?yàn)榱孔蛹夹g(shù)具有高精度的傳感器，可以捕捉到人類情感背后的量子圖景。量子算法比以前所有的智能軟件更能了解人類的情感，甚至可以與我們進(jìn)行深度地交流和互動(dòng)。量子算法的這種特質(zhì)既可以提供符合我們意愿的服務(wù)和關(guān)懷，也能在摸透我們的想法后更容易地侵害我們的權(quán)益，而這種權(quán)益多涉及基本權(quán)利。

比如，法律規(guī)定人的平等權(quán)，任何公民不因民族、種族、性別、職業(yè)、家庭出身、宗教信仰等受到歧視。量子計(jì)算的并行性使其可以同時(shí)處理多種可能性，在算法監(jiān)控下輸出的結(jié)果必然會(huì)放大社會(huì)不同群體的差距，從而加劇算法歧視，進(jìn)而造成對平等權(quán)的侵害。

又如，由于量子算法可以深度評估人的主觀情感，很容易通過影響人的思想和精神干涉人的行動(dòng)自由。企業(yè)可以利用量子算法精準(zhǔn)量化勞動(dòng)者的主觀情感，并“說服”勞動(dòng)者接受自己的安排。比如，量子算法可以挖掘人力的極限，從而窮盡勞動(dòng)者的勞動(dòng)力，包括延長加班時(shí)間等。利用量子算法，還可以對勞動(dòng)者的請假申請進(jìn)行深度的干涉——對勞動(dòng)者的情感進(jìn)行深度分析，計(jì)算出一個(gè)“合理”的請假時(shí)間，并讓其認(rèn)同這種“合理”。

在以上情況中，量子算法的建議雖然可能是科學(xué)的，但卻與人的共識(shí)和社會(huì)倫理相悖。而這種以科學(xué)為名壓抑或者支配人的主觀感受的行為，屬于對人們利益的隱性卻深層次的損害，目前的法律可能還無法有效應(yīng)對。

（作者分別為西北工業(yè)大學(xué)馬克思主義學(xué)院教授、

西北工業(yè)大學(xué)馬克思主義學(xué)院博士研究生）