我國科技倫理治理正向前走

我國科技已逐漸從跟跑邁向并跑，部分領(lǐng)域持續(xù)突破，但科技倫理問題也隨之凸顯，治理成為必答題。近年來我國科技倫理意識顯著提升：2018年“賀建奎基因編輯嬰兒”事件敲響警鐘，2022年《關(guān)于加強科技倫理治理的意見》出臺，標志著社會各界倫理意識實質(zhì)性提高，科技倫理治理體系建設(shè)進入快車道。

科技倫理治理體系建設(shè)需長期探索。構(gòu)建體系既要制定針對性倫理規(guī)則、完善審查體系，也要建立科技倫理教育體系和培養(yǎng)專業(yè)隊伍。我國科技發(fā)展快，此前相關(guān)儲備相對不足，完善體系仍需時間并與時俱進。

當前最大挑戰(zhàn)是如何應(yīng)對科技發(fā)展的不確定性。新倫理問題和風險不斷出現(xiàn)，科技發(fā)展的不確定性使得很難用既有的倫理規(guī)則和治理方法應(yīng)對這些問題和風險。而治理體系完善滯后，也導(dǎo)致平衡創(chuàng)新、發(fā)展與治理的關(guān)系，以及應(yīng)對突發(fā)問題成為難題。

值得欣慰的是，各方正為完善體系發(fā)力，未來能找到貼合實際的治理路徑。就階段而言，既有科技倫理研究、教育等長期任務(wù)，也有在各領(lǐng)域、各主體層面建立完善倫理規(guī)則等需盡快推進的工作。

科技社團助力倫理治理

科技倫理問題與前沿科技探索深度關(guān)聯(lián)，常因科學(xué)探索的不確定性產(chǎn)生，難用現(xiàn)成規(guī)則解決，需隨認知深化和措施完善逐步摸索，這一過程與專業(yè)知識發(fā)展緊密相關(guān)，而科技社團在規(guī)則探索和治理智慧挖掘上有明顯優(yōu)勢。

像AI、具身科技這些重點領(lǐng)域，倫理問題會不會更尖銳？確實會。其實有兩個領(lǐng)域的倫理問題不僅普遍存在，還會深刻挑戰(zhàn)我們的既有倫理觀念：一個是數(shù)字化與AI發(fā)展領(lǐng)域，另一個是生命科學(xué)領(lǐng)域。這兩個領(lǐng)域的特點是，研究對象和技術(shù)改造對象，已從過去人類之外的事物，變成了人類自身或與人類密切相關(guān)的事物。就拿AI技術(shù)來說，不管是數(shù)據(jù)采集、計算分析，大語言模型預(yù)訓(xùn)練，還是用AI輔助人類決策，都在很大程度上和人類自身相關(guān)。

這種情況下，它們引發(fā)的社會倫理問題會更密集、更廣泛。比如數(shù)據(jù)采集可能涉及數(shù)據(jù)權(quán)利和隱私保護；數(shù)據(jù)處理與利用則可能涉及權(quán)利歸屬、是否存在濫用、是否產(chǎn)生新的不公平，以及是否嚴重侵犯消費者權(quán)益等問題。即便在科研中，現(xiàn)在用AI工具開展研究，也會遇到類似的倫理問題。

這些社會倫理問題與科技領(lǐng)域的特點和進展密切相關(guān)，倫理治理也需要深刻理解前沿專業(yè)知識?？萍忌鐖F在這方面具有獨特優(yōu)勢和能力，在科技倫理治理中應(yīng)當發(fā)揮重要作用。

頭部企業(yè)科技倫理要先行

國家近年來一直強調(diào)企業(yè)在科技創(chuàng)新中的主體作用，一些頭部企業(yè)也能在科研中多擔責任。那在倫理建設(shè)上，它們該承擔什么責任？現(xiàn)狀和挑戰(zhàn)又如何呢？

從全球來看，尤其是數(shù)字技術(shù)、人工智能和互聯(lián)網(wǎng)技術(shù)發(fā)展中，頭部企業(yè)因為發(fā)展快，而這些技術(shù)又確實和社會倫理問題緊密相關(guān)，所以往往能更早察覺到其中的倫理問題。如果不能從責任角度審慎對待技術(shù)發(fā)展，很可能引發(fā)社會倫理風險，這不僅會嚴重威脅社會，也會對企業(yè)自身發(fā)展造成重大影響。像微軟這類國際企業(yè)，在發(fā)展中就比社會和政府更早對社會倫理問題及應(yīng)對方式有了自覺警覺。

我國也是這樣，頭部企業(yè)在發(fā)展中很關(guān)注可能引發(fā)的社會倫理問題。國家出臺相關(guān)政策前，有些頭部企業(yè)就已在內(nèi)部討論過這類問題。有的率先成立了企業(yè)科技倫理委員會類似的機構(gòu)，有的在算法設(shè)計、產(chǎn)品研制等環(huán)節(jié)會走內(nèi)設(shè)的倫理審查流程。這些探索很有必要，企業(yè)的產(chǎn)品可能涉及社會倫理問題，自身也承擔著相關(guān)風險，不能等政府出臺完備規(guī)制后再行動。

科創(chuàng)和科技倫理相輔相成

長期以來，不管是普通公眾還是科學(xué)家，都有個誤解：覺得人被分成了兩撥——一撥搞科技創(chuàng)新，另一撥搞科技倫理治理，而且這兩撥人是對立的。但實際上，在現(xiàn)在的科技發(fā)展背景下，一個合格又負責任的科研人員，既要看到科學(xué)知識和技術(shù)發(fā)明有突破的可能，也得充分考慮這些發(fā)現(xiàn)和發(fā)明可能引發(fā)的社會倫理問題。

科技創(chuàng)新和倫理治理并不是矛盾對立的，搞創(chuàng)新的和搞治理的也不是在博弈對抗。兩者的共同目標，都是讓當代科技往更健康、更能給人類帶來福祉的方向發(fā)展。這就要求科研人員提升自身的倫理意識，同時具備科學(xué)素養(yǎng)和倫理素養(yǎng)——某種意義上說，他們既是科技創(chuàng)新的發(fā)現(xiàn)者、推動者，也是創(chuàng)新過程中的倫理治理者，在科技倫理治理上肩負著不可推卸的責任。

科研人員在做研究時可能會有困惑。比如自己的項目要過倫理治理和審查關(guān)，審查時可能會覺得好想法被限制了——總覺得倫理審查的要求不切實際，甚至太保守。這其實要求我們在倫理審查時，需要充分考慮科技創(chuàng)新的特殊性，所以提升倫理審查隊伍和委員會的整體素養(yǎng)就特別重要。

倫理審查不能像檢查零件合不合格、判斷藥品是否符合技術(shù)標準那樣——那些都是針對成熟產(chǎn)品生產(chǎn)的流程。但科學(xué)發(fā)現(xiàn)和技術(shù)發(fā)明有很強的探索性，充滿不確定性。這時候怎么既守住倫理底線，又能幫科技創(chuàng)新良性發(fā)展？得靠審查方和科創(chuàng)方一起努力：科研人員要增強倫理意識，審查人員則要深入理解創(chuàng)新的特殊性，把握它的不確定性和探索性。

專題論壇現(xiàn)場全景

學(xué)國外經(jīng)驗 科技倫理治理更要合國情

倫理治理建設(shè)中，國外相關(guān)發(fā)展歷史更長，而我國因快速發(fā)展，社會倫理問題及治理體系短板均集中顯現(xiàn)。美國等發(fā)達國家，在較長時間里，靠自下而上的探索和自上而下的規(guī)制相結(jié)合，慢慢形成了相關(guān)規(guī)制手段，所以能相對從容地應(yīng)對探索中可能出現(xiàn)的問題。

我覺得，國外在科技倫理治理中那種多方磋商、多路徑探索的做法，很值得我們借鑒。因為面對不確定的科技倫理問題，我們很難立刻找到完美的規(guī)制辦法，這就需要通過多方探索，找到更合適的規(guī)制體系或方式。

我們國家還有個特殊性，就是新型舉國體制的科研方式。黨的二十屆三中全會明確提出，到2035年我國要建成高水平社會主義市場經(jīng)濟。我認為，“新型”必然建立在高水平社會主義市場經(jīng)濟體制這一治理體系之上，所以它能充分結(jié)合市場機制的作用，以及我國的制度優(yōu)勢和政府宏觀調(diào)控的優(yōu)勢。

一方面，如果我們能充分認識科技倫理問題、深刻把握其風險，新型舉國體制會讓治理更高效；但反過來，如果我們的認識有較大片面性，或者倫理意識提升不夠，就可能在治理中暴露出更廣泛的問題。

科普離不開科技倫理普及

國家一直把科普工作放在重要的位置?，F(xiàn)在各類平臺也在用多種方式推送科普內(nèi)容。不過，隨著科普受重視程度提高，其中的倫理問題會不會愈發(fā)凸顯呢?

我個人覺得，科普本身就該包含科技倫理風險和治理知識的傳播。從這一點來說，符合當代科技發(fā)展要求的現(xiàn)代科普，對科技倫理治理是有積極作用的——因為它本就該把科技倫理教育、提升公眾倫理意識當作重要內(nèi)容。比如現(xiàn)在常說的數(shù)字技能與素養(yǎng)提升，在討論指標體系和具體內(nèi)容時，就已經(jīng)把數(shù)字倫理與治理納入其中了。

但反過來，如果科普只講科技知識和簡單技能，卻忽視培養(yǎng)對科技的理性懷疑、批判精神，也不引導(dǎo)大家認識科技應(yīng)用中的“價值負載”特性，就會在知識傳遞中丟掉價值塑造的維度。所以我認為，當代科普必須加強科技倫理內(nèi)容的普及，這是很重要的一環(huán)。

還有個現(xiàn)實問題大家都挺關(guān)注：公眾面對快速發(fā)展的高科技時，常常感到困惑甚至恐懼。怎么用通俗的話講清科技的好處與風險，讓公眾能參與到科技倫理治理中？這確實是當下科普要解決的關(guān)鍵。

從科普發(fā)展來看，過去更多是傳播成熟知識，比如牛頓力學(xué)、愛因斯坦相對論這些早被寫進教科書的內(nèi)容。但現(xiàn)在不一樣了，為了滿足公眾需求，科普開始轉(zhuǎn)向“正在形成中的科學(xué)和技術(shù)”。簡單說，公眾最想知道的是：前沿科技會給社會帶來什么影響？尤其是現(xiàn)在，科技從發(fā)現(xiàn)發(fā)明到實際應(yīng)用的周期越來越短，新科技產(chǎn)品不斷進入生活，公眾特別想了解“怎么用這些產(chǎn)品”“可能有哪些風險”。

這種情況下，我覺得科學(xué)家和企業(yè)（尤其是新產(chǎn)品生產(chǎn)者）有更多責任向公眾普及相關(guān)知識：包括新知識、新產(chǎn)品的基本信息、使用注意事項，更重要的是，要主動說明應(yīng)用中可能出現(xiàn)的風險——這是一種負責任的態(tài)度。也就是說，現(xiàn)在的科學(xué)家、企業(yè)研發(fā)和產(chǎn)銷人員，都有責任向公眾普及和自己工作、產(chǎn)品相關(guān)的知識、技術(shù)，以及可能出現(xiàn)的社會倫理風險。這也是讓公眾理解科技、參與倫理治理的基礎(chǔ)。

訪談手記

會議間隙的休息室里，李正風教授剛結(jié)束半天的學(xué)術(shù)討論，精神奕奕。他主動握手，態(tài)度謙和，面對我們的提問，他沒有急著開口，總是先微微頷首思索，仿佛已在腦中梳理完邏輯脈絡(luò)——這份“字斟句酌”的嚴謹，從第一個問題延續(xù)到最后一個。

談及科技倫理治理的現(xiàn)狀，他既不回避“體系滯后于科技發(fā)展”的現(xiàn)實，也不夸大風險的緊迫性，而是以“賀建奎事件是警鐘，企業(yè)探索是微光”這樣的觀察，把復(fù)雜議題拆解成可感知的坐標。當聊到科研人員的倫理責任時，他語氣溫和卻擲地有聲，合格的研究者，既要見創(chuàng)新可能，更要見倫理風險，學(xué)術(shù)銳度藏在平和的表達里。

聊到興起時，他說“新型舉國體制不是計劃經(jīng)濟翻版”，一句話就把認識的誤區(qū)說透了；轉(zhuǎn)臉又用“科學(xué)家不該做‘技術(shù)盲’，更不能做‘倫理盲’”這樣的話，一下子拉近了距離。

起身要走的時候，他忽然笑著說：“稿子寫出來，我再看看?！庇盅a充道，“口頭說的，有時難免不準。倫理治理這事兒，最要嚴謹?！?/p>

中國科協(xié)之聲編輯訪談李正風教授

訪談編輯：劉炎迅

責　　編：劉炎迅

審　　核：張敬一

值班編委：宋玉榮