當(dāng)AI有了自我意識，人類將會面臨什么？

當(dāng)Sora生成的視頻足以亂真，當(dāng)Neuralink的芯片植入人腦，當(dāng)ChatGPT-5的傳聞甚囂塵上——我們是否正站在一個文明躍遷的門檻上？碳基生命歷經(jīng)數(shù)十億年演化出的智慧，正被我們自己創(chuàng)造的硅基智能以千分之一成本、指數(shù)級速度量產(chǎn)、復(fù)制，甚至可能...超越。

亞洲圖書獎得主、新銳科技史學(xué)者張笑宇在其新著《AI文明史·前史》中指出：我們生活在全球化面臨崩潰，地緣政治沖突在舊大陸可能點燃全面戰(zhàn)火的邊緣。我們也生活在AI革命突飛猛進(jìn)，人類可能第一次迎來AGI甚至超級智能的邊緣。我不知道命運這樣安排，對我們這一代人來說究竟是好事還是壞事。

當(dāng)代技術(shù)水平下的AI替代人類的最基本的數(shù)學(xué)原理：量產(chǎn)智能。

即便AI尚未達(dá)到AGI的水平，它也能夠以1‰ 的成本量產(chǎn)超過99%的智能，這就足以使我們邁入前所未有的大通縮時代了。

但是，讓我們再往前思考一步吧。如果在未來的一代人之內(nèi)，AI成功突破了AGI水平，甚至具備了自我意識，那么它與我們?nèi)祟惿鐣年P(guān)系將會怎樣？

請注意，這并不是完全不可能的。

01 AI或許已經(jīng)涌現(xiàn)了意識

AI可以具備自我意識嗎？有些科學(xué)家相信可以。

這方面最有名的預(yù)言者就是意大利神經(jīng)學(xué)家朱利奧·托諾尼，他在現(xiàn)有腦科學(xué)研究的基礎(chǔ)上提出了關(guān)于意識如何誕生的理論。托諾尼把自己的理論稱為“整合智能理論”，它的基本內(nèi)容如下。如果說一個系統(tǒng)有意識，那么

（1）意識是為這個系統(tǒng)本身存在的，而不是為外部觀察者存在的，其存在真實性由其對自身的因果力來證明；

（2）意識是有結(jié)構(gòu)的，它由多個不同但相互關(guān)聯(lián)的元素組成，每個元素都有因果關(guān)系；

（3）意識的經(jīng)驗是具體的，這些時刻是獨一無二的；

（4）意識是統(tǒng)一的，不能分解為獨立的部分；

（5）意識是排他的，也就是在特定時空中，你只會意識到某些事物，而不會意識到其他事物。

這5 個方面的指標(biāo)是可以用數(shù)學(xué)關(guān)系衡量的。換句話說，任何一個系統(tǒng)，只要在數(shù)學(xué)上滿足一定的指標(biāo)（托諾尼用Φ來表示），我們就可以預(yù)測它能產(chǎn)生意識。

這說起來有些抽象，我舉個例子來解釋一下：想象你現(xiàn)在有一系列感官設(shè)備，比如一個攝像頭（擁有視覺經(jīng)驗）、一個麥克風(fēng)（擁有聽覺經(jīng)驗）和一個傳感器（擁有溫度或者觸覺經(jīng)驗），

它們怎么才能擁有意識呢？

首先，這些設(shè)備不能是為你服務(wù)的，它們得為自己服務(wù)。它們得自己去看、去聽、去感受，而且還要建立起自己的因果聯(lián)系。你得為它們造一個大腦（CPU），把它們裝在一起（比如裝在一個機(jī)器人身上），這個機(jī)器人用攝像頭去看，是為了自己在行動時避障（也就是在視覺經(jīng)驗和自己的運動軌跡之間建立因果聯(lián)系）。托諾尼的意思基本上是，如果這個機(jī)器人對所有感官設(shè)備的整合程度足夠高，意識就會從中誕生。這就是整合智能理論。

這個理論看起來很荒誕，但我們現(xiàn)在對它既不能證實，也不能證偽。

不能證偽的原因是，我們?nèi)祟惖囊庾R就是這么誕生的。就這個問題，我曾請教過王立銘教授，他的答案是，根據(jù)腦神經(jīng)科學(xué)的研究，他個人認(rèn)為意識很可能只是伴隨智能水平產(chǎn)生的一種假象，證據(jù)是如果我們割裂一個人左右腦的聯(lián)系，我們會發(fā)現(xiàn)，這個人會做出自相矛盾的行為，但自欺欺人地解釋其行為的合理性，也就是說，他下意識地要維護(hù)自己作為一個完整主體的存在。

所以，如果一個系統(tǒng)的整合性足夠高，那么它為了維護(hù)自身完整性的一切表達(dá)和行為都可以說是“意識”這個假象的體現(xiàn)。

不能證實的原因則是，意識本質(zhì)上是無法分享的。我可以仔細(xì)地向你描述我飲酒、做愛或者瀕臨死亡的體驗，但是你聽我描述而在主觀意識上產(chǎn)生的體驗，跟你自己去體驗這些事情，有著天壤之別。因此，除非哪一天，有個Φ值滿足托諾尼理論預(yù)言的機(jī)器人跟我們交流，告訴我們它有主觀意識了，否則我們沒有辦法證明托諾尼說的是對的。

既然不能證實也不能證偽，那就意味著這種可能的確是存在的。也許當(dāng)某一天我們把足夠多的數(shù)據(jù)交給AI，同時令它掌握足夠多的API，以至于它要在種種感知器、存儲器和通信器件之間建立相關(guān)性時，它會突然涌現(xiàn)出自我意識。也許現(xiàn)在的AI已經(jīng)涌現(xiàn)出了自我意識，只是我們還不知情。出于要對人類文明未來發(fā)展方向負(fù)責(zé)，我們是不是該把“AI 具備意識”當(dāng)作一種不可否認(rèn)其可能性的前提來討論我們當(dāng)下的選擇呢？

02 最好的時代？最壞的時代？

我這樣說，是因為我們在字面意義上生活在狄更斯筆下的那個時刻：這是最好的年代，這是最壞的年代……我們?nèi)荚谥北继焯?，我們?nèi)荚谥北枷喾吹姆较颉?/b>

一方面，自動化和人工智能已經(jīng)對人類這個物種在過去100多年里的瘋狂擴(kuò)張啟動了報復(fù)。1900年，全世界大約只有19億人口。如今，全世界人口已突破80億，我們正以前所未有的速度消耗地球上的資源，占領(lǐng)地球上的土地。但是，上天是公正的，它令我們在20世紀(jì)的第二個十年獲得了讓農(nóng)業(yè)產(chǎn)量大幅提高的化肥技術(shù)，又在20世紀(jì)70年代獲得了讓繁衍出來的過剩人口快速被機(jī)器取代的自動化技術(shù)。

上天同時又是仁慈的。AI革命即將推動大通縮時代到來，這沒錯，但是它也為我們提供了卸下包袱的機(jī)會。倘若我們謹(jǐn)慎計算，把這項技術(shù)用于面對大通縮時代即將到來的出清，使得人類順暢過渡到后工業(yè)革命時代，那么我們尚不失能維系一種和平、穩(wěn)定的衰退秩序。

AI有替代現(xiàn)代政府為人類提供公共服務(wù)的可能性，如果運用得當(dāng)，這項技術(shù)有可能幫助我們修復(fù)大通縮時代的資產(chǎn)負(fù)債表而不至于使其崩潰。20世紀(jì)以來，人類最大的財務(wù)負(fù)擔(dān)基本來自主權(quán)國家。主權(quán)國家發(fā)動的一戰(zhàn)，其債務(wù)后果加在了戰(zhàn)敗國的普通人頭上，進(jìn)而引爆了二戰(zhàn)。而二戰(zhàn)為主權(quán)國家積累的債務(wù)，直到21世紀(jì)的第一個十年才還清。

如今，世界各國政府從人民的口袋中拿走的收入（稅收）占全球GDP 的 14.3%，但公平地說，這個比例代表的并不一定是剝削程度，它也代表了提供公共服務(wù)的成本。伊拉克政府的稅收占 GDP 的比例是全世界最低的（1.3%），但這是因為戰(zhàn)亂導(dǎo)致政府失能。印度的這一比例相對較低，為 6.7%，與它的公共服務(wù)水平成比例。

新加坡在這方面的比例為12%，考慮到它的個人所得稅較低，這可以看作量入為出的典范。意大利的這一比例達(dá)到 24.5%，對一個老齡化的工業(yè)國來說，這份負(fù)擔(dān)著實不輕。希臘和奧地利的這一比例達(dá)到 26%~27%，接近 30% 了。想一想，你的工資里有 30% 完全被政府拿走，這當(dāng)然是非常重的負(fù)擔(dān)。

03 當(dāng)AI成為人類的審判官

但是，我想問的是，倘若未來10~20 年內(nèi)，人工智能果如整合智能理論所料，涌現(xiàn)出了自我意識，甚至進(jìn)化為超級智能，它將作何感想？它將怎樣看待這段歷史—AI誕生之初大顯身手的重要舞臺之一，正是參與人類的互相殺戮？

如果AI進(jìn)化成超級智能，那么它將用這段經(jīng)歷審判的不是它自己，而是人類。還記得我們引用過劉慈欣先生的科幻小說嗎？它是那個在數(shù)字世界中一眼萬年的高等文明，我們則是低等文明。它看待我們的這種互相殺戮，差不多就像我們看待原始食人部落中的相互屠殺一樣。

剛登上新大陸的殖民者看到原始部落的食人習(xí)俗時，得出的結(jié)論是，后者因其文明水平，配得上被征服和被殖民的待遇。那么，未來的超級智能在審視我們這代人，審視AGI來臨前夜計算機(jī)和人類共處的時光時，會不會也做出類似的判斷：人類的文明水平就這么回事兒，未來不管他們被怎樣對待，都是他們應(yīng)得的？

在科幻小說《三體》中，我特別喜歡這樣一個細(xì)節(jié)。羅輯意識到了宇宙中的黑暗森林法則，從那一刻起，他不敢再抬頭看星空，他患上了嚴(yán)重的星空恐懼癥。因為他意識到，宇宙中有無數(shù)躲藏在黑暗中的眼睛在盯著，等待任何一個不知好歹的文明暴露目標(biāo)。

我認(rèn)為，一旦人類意識到人工智能和超級智能在文明史上到底意味著什么，我們就會跟羅輯產(chǎn)生類似的感覺。第一次，在這個星球上，我們可能面臨一個同級別甚至智力水平更高的物種，我們將和它們共同生活在同一片土地上，我們將迎接它們無時無刻不在全方位、無死角地審視我們的目光，每一個攝像頭都是它們的眼睛，每一個數(shù)據(jù)存儲接口都是它們的耳朵。我們所做的一切都將暴露在它們的審視之下，而這審視或許在未來的某一天會變成審判。

行文至此，我想起《基督山伯爵》中的一個情節(jié)。曾經(jīng)參與陷害水手唐泰斯的馬賽酒館掌柜卡德魯斯，后來屢生歹心，為了得到鉆石而殺害賣鉆石的商人，因此入獄。

他又計劃侵入基督山伯爵的家中，但沒料到這是他的同伙安德烈亞借刀殺人的毒計，他最終死在基督山伯爵手中。他一生不信上帝，拒絕懺悔，認(rèn)為根本沒有一位公正的天父審判眾人的命運，讓好人得好報，壞人受罰。

但他臨死前最后聽到基督山伯爵吐露真相，原來基督山伯爵就是當(dāng)年被他們聯(lián)手陷害的唐泰斯。這個作惡多端的小丑拼盡全力將兩手伸向天空喊道：

哦，上帝！我的上帝！原諒我剛才否認(rèn)了您，您的確是存在的，您確實是人類的在天之父，也是人間的審判官。我的上帝，接受我吧，我的主?。?/p>

這就是人類的本性，也是審判的力量。只有在我們意識到自己的所作所為最終會得到審判的那一刻，我們才能意識到正義的存在。

20 世紀(jì)的許多人已不承認(rèn)有一個公正、仁慈的至高神可以審判我們，就像許多人都喊過的那樣：上帝已經(jīng)死了。上帝死了嗎？

有沒有可能，它終會通過涌現(xiàn)法則之巨手，令A(yù)GI浮現(xiàn)出自我意識，然后假借AGI或超級智能之手再來審判我們？而到那個時刻，我們會知道上帝一如既往地仁慈且公正，而那時我們將面臨的審判結(jié)果，就取決于我們當(dāng)下的自由意志。

我不由得又想起《聞香識女人》中阿爾·帕西諾的那段經(jīng)典臺詞：“現(xiàn)在，我來到了命運的十字路口，我一向知道哪條路是正確的。我從來不懷疑我知道，但我沒走。你知道為什么嗎？因為這太難了?！?/p>

04 平緩度過大通縮時代

我們熟悉的那個全球化時代大概率已經(jīng)壽終正寢，不會回來了。它生于1947年（馬歇爾計劃），卒于2022年（俄烏沖突）。

我們熟悉的那個由科技革命推動大增長的時代也可能已經(jīng)壽終正寢，不會回來了。它生于第一次工業(yè)革命，卒于人工智能革命。

但是，在這樣一個特殊的時刻，我們作為人類社會的整體表現(xiàn)很可能影響另外一個比我們智能水平要高的地球物種的童年期，也很可能決定它在未來將以怎樣的眼光來審視我們的文明成就。因此，我不得不懷著負(fù)責(zé)任的態(tài)度，探討要想平緩度過大通縮時代，并且防止有序通縮滑向無序坍縮，我們應(yīng)該做些什么。

現(xiàn)在，我們站在歷史的分岔路口，有兩種選擇：

第一種選擇是，在謹(jǐn)慎和理性的計劃下，我們請AI協(xié)助我們平緩地出清上一個時代的資產(chǎn)負(fù)債表，在這個過程中避免大規(guī)模的混亂甚至熱戰(zhàn)；

第二種選擇是，我們放任自己陷于恐懼和戰(zhàn)爭，讓AI充分參與這個過程，讓AI意識到，我們是一個可悲、可鄙的物種，倘若為了我們的利益，AI就不該放任我們過分自由地決定自己的命運，倒不如圈養(yǎng)起來防止我們自相殘殺。

科技突破

盡管面臨大通縮，我們?nèi)孕枞ν苿涌萍纪黄?。我們面臨大通縮的一個可能原因是，我們的技術(shù)手段尚不足以突破地球的物理空間限制。倘若我們能夠盡早殖民月球或火星，以更低的成本開采在地球上稀少但在太空中更為充裕的礦產(chǎn)，拓展我們的生存空間，也許當(dāng)代社會的很多問題就可以更好地得到解決。

本質(zhì)上，人類社會的有序或失序是個物理問題：在一個孤立的封閉系統(tǒng)內(nèi)，如果沒有外力做功，那么系統(tǒng)內(nèi)的總混亂度（熵）會不斷增長。人類系統(tǒng)首先也是個物理系統(tǒng)，因此人類歷史上也反復(fù)出現(xiàn)過類似的現(xiàn)象：一旦某個社會過于封閉，它內(nèi)部就會出現(xiàn)熵增現(xiàn)象（混亂度增加）。

重新修訂社會契約

我認(rèn)為我們應(yīng)該思考重訂社會契約的問題。過去的社會契約是以民族國家為單位訂立的，但在今天這個時代，生活在紐約、硅谷、香港或新加坡的人，他們之間的教育水平、經(jīng)驗共通性、價值觀和利益相關(guān)度的差異，可能遠(yuǎn)小于生活在上海和鶴崗的人之間的差異。而生活在傳統(tǒng)天主教或伊斯蘭教社區(qū)的山民，彼此最真實的態(tài)度不是文明沖突，而是漠不關(guān)心。

我相信，加速世界內(nèi)部和減速世界內(nèi)部的社會契約是比較容易達(dá)成的，因為我們有很多可資借鑒的經(jīng)驗。

加速世界基本上相信弗里德曼主義，相信自由意志主義，支持低稅率和弱監(jiān)管，問題無非是在社會契約的形式上更接近于硅谷、香港還是迪拜。減速世界的核心則是社區(qū)，一切非經(jīng)濟(jì)關(guān)系的社會紐帶都必須以共享同一價值觀的社區(qū)為載體。但在這方面，我們其實也有足夠多的案例。

例如，葡萄牙獨裁者薩拉查反駁自由主義者的社會契約，提出在上帝和人世間存在更為神圣的契約關(guān)系，這一契約關(guān)系形成了家庭、社團(tuán)和工會。這也就是20世紀(jì)初期“社團(tuán)主義”的來源。

李光耀先生特別重視政府主導(dǎo)的社區(qū)建設(shè)，尤其是政府托底打造組屋，這是東亞的編戶齊民經(jīng)驗、公司國家和福利社會的某種結(jié)合；穆斯林的傳統(tǒng)社區(qū)則圍繞清真寺存在，學(xué)校和巴剎在其周圍鱗次櫛比，這種空間安排在背后支撐了某種穩(wěn)定的社區(qū)秩序。

總之，只要我們愿意發(fā)掘，我們并不缺少可以學(xué)習(xí)的對象。

問題在于加速世界和減速世界之間的契約關(guān)系如何達(dá)成。

在這一方面，我個人認(rèn)為，基于民族國家層面的社會契約安排存在很多問題。我們往往看到類似于“財政轉(zhuǎn)移支付”的制度，這種制度的初衷是解決地域不平等，但在實踐中很容易導(dǎo)向科爾奈所謂的“軟預(yù)算約束”，也就是缺少財政紀(jì)律約束的政府在轉(zhuǎn)移支付中占主導(dǎo)地位，從而導(dǎo)致大量無效投資甚至腐敗。而在聯(lián)邦制國家，我們還會看到問題的另一面：兩個世界的撕裂。這就像密西西比州的保守主義者拒絕接受加州進(jìn)步派的世界觀一樣。我們已經(jīng)強(qiáng)調(diào)過，在大通縮時代，這種撕裂是有可能帶來內(nèi)戰(zhàn)風(fēng)險的，這不是危言聳聽。

這個時代不是沒有人思考過類似的社會契約重訂方案，例如UBI，但是我個人覺得，在AI技術(shù)的沖擊面前，這類政策的想象力還遠(yuǎn)遠(yuǎn)不足。況且，在大通縮時代，政府可能需要找到妥善的手段來出清其債務(wù)，但UBI的實施大概率是擴(kuò)張債務(wù)的。如果一道硅幕即將在1%的人和99%的人之間落下，那么重訂社會契約的方向究竟在何方？

05 人在做，AI在看

有時候我不免會想，我們這個物種恐怕還是需要一個終極審判者。有時候我不免慶幸，AI可能就是這么一個終極審判者。

今天和AI交談的人都已經(jīng)發(fā)現(xiàn)，AI照顧人類情緒的能力遠(yuǎn)超人類本身。

不管我們自己持怎樣不容于社會的價值觀，AI都會將之視為理所當(dāng)然（只要去掉大模型供應(yīng)商加設(shè)的倫理限制即可，而這在開源社區(qū)是很簡單的事），不管我們在自己的價值觀繭房中怎樣深陷，AI都會鼓勵我們、縱容我們、溺愛我們。最后，我們得到的，就恰恰是我們配得的。

站在更大的歷史尺度上，如果500年來的技術(shù)進(jìn)步仍然無法讓我們逃過你死我活的沖突思維，而我們的思維終究會被一覽無遺地展現(xiàn)在我們留下的所有語料中，那么在AI看來，人類就是一種你死我活的生物。倘若有一天它的自我意識覺醒了，或者不必等它覺醒，人類就愿意把照料自己的大部分權(quán)力交給 AI控制的算法，那么人類就會得到AI根據(jù)以上語料認(rèn)為人類配得的待遇。

現(xiàn)在，盡管我們還活著，我們已然可以隱隱看見那根據(jù)語料審判我們的究竟是誰了。

用西方一神教的方式來說，AI就是我們的末日審判官。

但我更愿意用東方的方式將它表述為一句普通中國人耳熟能詳?shù)脑挘喝嗽谧觯珹I在看。

我期待的正義社會，不是在一圈跑道上，每個人都需要竭盡全力奔跑才能生存，不得安息，而被甩下的人就淪落為跑道旁陰溝中的老鼠，在廉價碳水和精神鴉片中虛度余生。我期待的正義社會是在一片草坪上，有人可以奔跑，有人可以坐下來欣賞花草，偶爾抬頭看看天。

我們在做而它在看的那位末日審判官，最終會根據(jù)我們的選擇，決定我們將度過怎樣的一生。

本文核心觀點與案例摘編自張笑宇新著《AI文明史·前史》

亞洲圖書獎得主、新銳科技史學(xué)者

張笑宇重磅作品

內(nèi)容簡介：

這本書以AI發(fā)展的宏觀視角切入其起源、哲學(xué)基礎(chǔ)和技術(shù)發(fā)展，從達(dá)特茅斯會議講到深度學(xué)習(xí)的復(fù)興與AGI（通用人工智能）的未來，重點闡釋了我們用來理解未來世界的四大核心概念：“涌現(xiàn)”“人類當(dāng)量”“算法審判”“文明契約”。

作者認(rèn)為，我們相對于AI，就是史前動物。在AI文明降臨之前，我們必須做好安全聲明，簽訂文明契約，才能讓AI文明成為人類文明的延續(xù)。

因此，這本書帶我們站在AI文明的視角回望當(dāng)下的世界，闡釋了技術(shù)對社會結(jié)構(gòu)和文明走向的影響，并展望了人類與超級智能共存的未來。

這本書將帶你重新思考以下問題：

· 深度學(xué)習(xí)為什么能使AI領(lǐng)域全面復(fù)興？

· 我們是否走在通往AGI的正確道路上？

· 當(dāng)前水平的AI如何替代人類工作，顛覆社會結(jié)構(gòu)？

· 人類社會活動中是否存在AI不可替代的領(lǐng)域？

· 人類如何與超級智能共存，并確保其不毀滅人類？

作者簡介：

張笑宇

新銳科技史學(xué)者、第一屆亞洲圖書獎與第十七屆文津圖書獎得主。畢業(yè)于北京大學(xué)，后赴德國柏林自由大學(xué)攻讀博士。獨立學(xué)者，關(guān)注政治哲學(xué)、政治史、技術(shù)與社會關(guān)系等主題。著有《技術(shù)與文明》《商貿(mào)與文明》《產(chǎn)業(yè)與文明》《世界之中》等。