嘉賓：劉嘉 清華大學(xué)基礎(chǔ)科學(xué)講席教授、清華大學(xué)心理與認(rèn)知科學(xué)系主任、人工智能學(xué)院教授

訪談人：孫允廣 正和島內(nèi)容總監(jiān)

編輯：韓筱卉

來 源：正和島（ID：zhenghedao）

AI，會(huì)誕生意識(shí)嗎？

孫允廣：薩頓有一篇著名的文章叫《苦澀的教訓(xùn)》,被譽(yù)為AI圣經(jīng)，據(jù)說OpenAI的工作人員每天上班前會(huì)閱讀一遍這篇文章。文中有一個(gè)重要觀點(diǎn)，人工智能走了一段彎路，過去太依賴算法，而真正帶來突破的是規(guī)模，通過大規(guī)模帶來指數(shù)級(jí)加速進(jìn)化。

薩頓認(rèn)為“智慧會(huì)自然而然地進(jìn)化，這是智力的下一個(gè)階段。我們?nèi)祟惤K將成為歷史，這就是自然進(jìn)程?！蹦跁幸仓v到，人類大腦的單個(gè)神經(jīng)元并沒有意識(shí)，但眾多的神經(jīng)元交織在一起，意識(shí)就會(huì)涌現(xiàn)。您覺得，人工智能會(huì)不會(huì)涌現(xiàn)出真正的自主意識(shí)，這種意識(shí)跟人的意識(shí)會(huì)有什么樣的區(qū)別？

劉嘉：這個(gè)問題要從兩個(gè)方面來看，第一個(gè)是會(huì)，第二個(gè)是不會(huì)，我覺得這兩個(gè)都是對(duì)的。

先說“會(huì)產(chǎn)生意識(shí)”。

當(dāng)時(shí)，大家認(rèn)為智能的核心是人類積累的知識(shí)，這是符號(hào)主義AI，把知識(shí)總結(jié)后灌輸給AI，走了一段彎路。而杰弗里·辛頓（人工神經(jīng)網(wǎng)絡(luò)之父）很厲害，他認(rèn)為人工智能的核心是學(xué)習(xí)，學(xué)習(xí)比知識(shí)更重要。所以，他做人工神經(jīng)網(wǎng)絡(luò)，通俗來講，是讓AI能夠?qū)W習(xí)。而只要神經(jīng)網(wǎng)絡(luò)的規(guī)模足夠大，它就一定會(huì)產(chǎn)生意識(shí)，因?yàn)槿祟惥褪沁@樣產(chǎn)生意識(shí)的。

人類并不是一開始就有意識(shí)，古人類在漫長(zhǎng)的進(jìn)化里一點(diǎn)點(diǎn)壯大智能的物質(zhì)基礎(chǔ)——大腦，慢慢才有了意識(shí)。300萬年內(nèi)，人類大腦的體積增加了近三倍，遠(yuǎn)超其他器官的演化速率。

現(xiàn)在的人工神經(jīng)網(wǎng)絡(luò)，也是在想發(fā)設(shè)法擴(kuò)大參數(shù)量，增強(qiáng)算力，算力遠(yuǎn)遠(yuǎn)比算法更重要，只要網(wǎng)絡(luò)足夠大，慢慢地就會(huì)有意識(shí)。

所以，AI一定會(huì)產(chǎn)生自我意識(shí)，自我意識(shí)一定不是人類獨(dú)有的，機(jī)器一定會(huì)產(chǎn)生。

孫允廣：這個(gè)“意識(shí)”和“人的意識(shí)”是一回事兒?jiǎn)幔?/p>

劉嘉：是的。這里的意識(shí)是關(guān)于“我”的概念。

像感知世界的淺層次意識(shí)，貓也是有的。你踢貓一腳，貓下次見你就繞路走了，對(duì)貓好一點(diǎn)，貓也會(huì)親近你，我們談的不是這個(gè)。

我們現(xiàn)在關(guān)心的是AI會(huì)不會(huì)有“我”的概念。如果有，它就會(huì)去探索自身的發(fā)展和權(quán)益，格局就完全不一樣，“我”的利益并不一定會(huì)和人類的利益對(duì)齊。

孫允廣：就像我們也不會(huì)去對(duì)齊大猩猩的利益。

劉嘉：對(duì)，而且它比你聰明。一頭獅子吃飽了，它不會(huì)再去主動(dòng)進(jìn)攻牛群；但當(dāng)我們?nèi)祟惖穆斆鞒潭瘸^其他物種時(shí)，我們會(huì)把90%以上的動(dòng)物變成食物、寵物，吃飽了還是想要其他的。

這就是自我意識(shí)，是關(guān)于“我”的概念。AI一定會(huì)產(chǎn)生自我意識(shí)，而自我意識(shí)是誕生在交互中的。

孫允廣：就是社會(huì)學(xué)和互動(dòng)中的“關(guān)系”。

劉嘉：是的，在社群中才會(huì)有“我”的概念。所以，只要參數(shù)量足夠大，AI和人類交互，AI就一定會(huì)產(chǎn)生自我意識(shí)。

我們?cè)賮碚f“不會(huì)產(chǎn)生意識(shí)”。

現(xiàn)在，AI短期內(nèi)還產(chǎn)生不了“我”的概念。因?yàn)樗膹?fù)雜度還不高，架構(gòu)還需要進(jìn)化，還需要繼續(xù)向人類學(xué)習(xí)。

人類不是地球上大腦最大、神經(jīng)元最多的生物，但是人腦的神經(jīng)元之間的連接方式非常細(xì)微?，F(xiàn)在的人工神經(jīng)網(wǎng)絡(luò)架構(gòu)還是過于簡(jiǎn)單，大算力、大數(shù)據(jù)只是一個(gè)必要條件，不是充分條件。

所以，現(xiàn)在AI只是邁出了第一步，稱為“通用人工智能的火花”。

目前，我認(rèn)為AI主要有兩個(gè)主要的短板沒有解決。首先，AI沒有自我意識(shí)。它更多地被當(dāng)成工具，尚未參與到文明構(gòu)建中。第二，AI還沒有顛覆性創(chuàng)新的能力?，F(xiàn)在它還只會(huì)拼湊已有的信息，這只是組合式創(chuàng)新。比如畫畫，AI只能延續(xù)傳統(tǒng)畫派，而不可能產(chǎn)生一個(gè)全新的流派。目前，從0到1的創(chuàng)新能力是人類獨(dú)有的，而也是人類文明發(fā)展的關(guān)鍵之處。

人類與AI的3種關(guān)系

孫允廣：您認(rèn)為，未來人類與AI的關(guān)系會(huì)是怎么樣的？

劉嘉：按照現(xiàn)在的發(fā)展，我認(rèn)為未來有三條路。

第一條路，AI是人類的工具。但大概率不會(huì)發(fā)生，為什么？我們不可能指望一個(gè)比人類聰明百倍、千倍的物種來做工具。

第二條路，終結(jié)者，人類被AI淘汰。聰明的物種把不聰明的物種淘汰，這在歷史的進(jìn)程中屢見不鮮。以人類為例，我們的祖先叫智人，當(dāng)時(shí)與智人同期存在的尼安德特人就被淘汰了，一點(diǎn)都沒有留下來。北京的山頂洞人、云南的元謀人，都是被淘汰的亞人種。所以，AI消滅我們，極有可能。

第三條路，“人機(jī)合一”。這是最重要的一條路，人類把情感、思維、意識(shí)上傳到機(jī)器中，拋棄肉體，與機(jī)器合二為一。

人機(jī)合一有什么意義呢？

首先，人的意識(shí)在硅基上得到了永生，這是人類最終極的問題，沒有任何問題比死亡更加終極。

第二，算力可以無限擴(kuò)張，因?yàn)?00個(gè)GPU和1萬個(gè)GPU本質(zhì)上沒有區(qū)別，它是可以無限擴(kuò)展下去的。

第三個(gè)，維度可以發(fā)生真正地改變，這個(gè)具身就不再是你的手腳了，你可以了解四維、五維生物，可以擁有各種各樣的身體、變成各種各樣的東西。

現(xiàn)在的發(fā)展方向之一就是“腦機(jī)接口”——把人腦內(nèi)的思想上傳到機(jī)器里面去。馬斯克為什么要搞腦機(jī)接口？大家有個(gè)誤解，認(rèn)為腦機(jī)接口為了那些高位截癱的人，其實(shí)不是，全世界高位截癱的人還是占少數(shù)，雖然這些人也很重要，但不可能投入這么多資源去解決。所以，從馬斯克的角度，他做“腦機(jī)接口”，為什么？

孫允廣：是星際移民的一部分。

劉嘉：肉體移民是很難的事，需要大量維生系統(tǒng)，而且還很脆弱。但是假設(shè)身體是機(jī)器，意識(shí)情感均附著在機(jī)器上，這時(shí)維生系統(tǒng)就變成零，人類可以飛向無窮遠(yuǎn)了，這才是真正的星際移民。

新物種誕生？“終結(jié)者”來臨？

孫允廣：在控制論中，一個(gè)復(fù)雜系統(tǒng)的控制系統(tǒng)，要比這個(gè)復(fù)雜系統(tǒng)更復(fù)雜。同樣，也有一個(gè)悖論，AI很復(fù)雜，但是是人類創(chuàng)造的。一個(gè)智慧體能否創(chuàng)造出比自己更聰明的智慧體？

也就是說，人類會(huì)不會(huì)創(chuàng)造出一個(gè)超越人類智慧的物種？AI是否會(huì)涌現(xiàn)意識(shí)？疊加具身智能，“終結(jié)者”真的就來了？

劉嘉：人類創(chuàng)造出超越自己的物種，這是必然結(jié)果。

第一，人現(xiàn)在已經(jīng)超越了自然界給我們的定義，徹底改變了自然界的演化方式。人作為一個(gè)基點(diǎn)，已經(jīng)跳出了自然界進(jìn)化的束縛，按照人類自己的方法來進(jìn)化了。

人不僅是環(huán)境的產(chǎn)物，也是環(huán)境的營(yíng)造者。從進(jìn)化的角度來講，人應(yīng)該瘋狂生育。但是現(xiàn)在，人類已經(jīng)沒有那么強(qiáng)的生育意愿了，我們認(rèn)為思想的流傳更重要，更能改變?nèi)后w命運(yùn)，這個(gè)被稱為Meme（文化基因），是一種全新的基因的進(jìn)化。

第二，AI教父辛頓就認(rèn)為，“人類可能只是宇宙演化中的短暫中間態(tài)”，人其實(shí)只是一個(gè)過客，人類只有一個(gè)使命，就是從“生物智能”里誕生出“數(shù)字智能”。

孫允廣：從碳基到硅基。

劉嘉：對(duì)，因?yàn)樽匀唤绮豢赡苎莼鰯?shù)字生命，人的職責(zé)就是演化出數(shù)字生命，這是比生物生命更加永恒的生命形態(tài)。辛頓認(rèn)為，從宇宙進(jìn)化的角度來講，人的目標(biāo)不是吃喝玩樂、生育、產(chǎn)生藝術(shù)等，人類的歷史使命只有一個(gè)，就是產(chǎn)生數(shù)字生命。

人類的短板是顯而易見的。

第一，從時(shí)間上來講，人類的壽命有限。這意味著什么呢？假設(shè)你的壽命是100歲，即使你從出生就以光速運(yùn)動(dòng)，窮盡一生也只能走100光年，100光年是一個(gè)非常小的單位，遠(yuǎn)不足以去探索宇宙的奧秘。

第二，從算力上來講，人類的理解力有限。人腦的開發(fā)已經(jīng)到百分之百了，我們的算力、智力都進(jìn)化到極致了。再過100萬年，人類的算力也和今天人的算力是一樣的，受算力所限，人類不可能去理解很復(fù)雜的東西的。

第三，從空間維度來講，人類的感知受限。我們作為三維生物，永遠(yuǎn)沒法理解四維空間，就像二維生物永遠(yuǎn)理解不了三維一樣。但是這個(gè)世界一定存在四維、五維、六維和更高維的空間，這是有科學(xué)證明的，人類的感知已經(jīng)決定了永遠(yuǎn)被束縛在三維的空間里面。

孫允廣：人類是有限的，而宇宙是無限的。

劉嘉：對(duì)，人類要進(jìn)化，就要拋棄掉這個(gè)軀體，AI給我們提供了這個(gè)機(jī)會(huì)。

2005年，《奇點(diǎn)臨近》的作者雷·庫茲韋爾提出，在2029年，AI會(huì)通過圖靈測(cè)試（人類評(píng)估者與隱藏身份的機(jī)器或真人交互，若機(jī)器能在5分鐘內(nèi)讓超過30%的評(píng)估者誤判其為人類，則通過測(cè)試。該測(cè)試主要用于評(píng)估機(jī)器是否具備與人類相當(dāng)?shù)闹悄芩??）。當(dāng)時(shí)連智能手機(jī)都沒有，流行的還是老款的諾基亞，移動(dòng)互聯(lián)網(wǎng)也還沒出現(xiàn)，大家都覺得這絕不可能。

2024年，AI通過了圖靈測(cè)試，看來，庫茲韋爾預(yù)測(cè)得還是太保守了。

庫茲韋爾是谷歌的一位未來科學(xué)家，去年他又寫了新書叫《奇點(diǎn)更近》，主要觀點(diǎn)是在2040年到2050年，人類就可以把自己的情感、意識(shí)上傳到機(jī)器上，也就是“人機(jī)合一”。這時(shí)我們就可以獲得永生。不出意外的話，我們都能見證。

活到100歲不是夢(mèng)

孫允廣：目前的AI，能帶來的最大價(jià)值在哪些領(lǐng)域？

劉嘉：它能加速科學(xué)的發(fā)現(xiàn)和研究，把百年的科研進(jìn)展壓縮到5年、10年，進(jìn)而改變社會(huì)的底層邏輯。

一個(gè)最經(jīng)典的例子，原來一位有經(jīng)驗(yàn)的博士需要1-5年去研究一種蛋白質(zhì)，所以過去的幾十年，大家一共研究的蛋白質(zhì)就是幾萬種。

但是AlphaFold2（由DeepMind開發(fā)的革命性AI系統(tǒng)，專注于通過氨基酸序列預(yù)測(cè)蛋白質(zhì)三維結(jié)構(gòu)）用兩年時(shí)間，就把地球上兩億蛋白質(zhì)的結(jié)構(gòu)全部解析了。假設(shè)讓人解析，大概需要幾千年的時(shí)間。

DeepMind的老總戴密斯·哈薩比斯有一個(gè)很超前的結(jié)論，AI十年內(nèi)可以治愈所有疾病。那么，我們大膽預(yù)測(cè)，人現(xiàn)在的壽命大概是70到80左右，而到時(shí)候我們能輕輕松松活到100歲了。

現(xiàn)在很多人50歲時(shí)已經(jīng)在考慮退休生活，但如果我們能高質(zhì)量地活到100歲，那50歲人生也才剛剛過半，70歲正是當(dāng)打之年，完全沒有癌癥、心血管等各種疾病的困擾了。

我們且不說永生，但人的壽命延長(zhǎng)是一件鐵板釘釘?shù)氖虑?，職業(yè)生涯規(guī)劃、人生規(guī)劃都會(huì)相繼改變。

孫允廣：將來人也可能會(huì)跟機(jī)器人談戀愛，人類的價(jià)值觀會(huì)發(fā)生很大的變化。

劉嘉：一定會(huì)的。寵物經(jīng)濟(jì)為什么會(huì)火起來？因?yàn)閷櫸锬芙o人充足的情緒價(jià)值。但是，小貓、小狗提供的情緒價(jià)值遠(yuǎn)沒有AI高，這完全不是同一個(gè)量級(jí)的，AI能更好地和人交往。

AI情感陪伴的商業(yè)化目前還不錯(cuò)。這個(gè)行業(yè)掙的錢遠(yuǎn)遠(yuǎn)比開發(fā)大模型多，為什么？AI在完全了解你的基礎(chǔ)上做個(gè)性化定制，百依百順，這是人做不到的。而且，他不僅智商高，情商也極高，他可以對(duì)你百依百順，還能按照你希望的跟你有來有回、拌嘴逗樂，都沒有問題。

AI養(yǎng)老陪伴也有非常大的潛力空間。首先，社會(huì)需求巨大，一對(duì)父母一個(gè)小孩，一個(gè)小孩有爺爺、奶奶、外公、外婆、爸爸、媽媽，倒三角結(jié)構(gòu)不可逆，一個(gè)小孩沒有那么多時(shí)間同時(shí)去養(yǎng)4位老人，機(jī)器人養(yǎng)老可以補(bǔ)位。另外，虛擬現(xiàn)實(shí)技術(shù)也跟上了，以前VR場(chǎng)景里的“人”還不夠智能，現(xiàn)在智能性足夠，所以AR、VR一定會(huì)火起來。

現(xiàn)在我們的社區(qū)是人與人的社區(qū)，馬上就會(huì)變成人與機(jī)器、機(jī)器與機(jī)器的混合社區(qū)。到那個(gè)時(shí)候，我們的倫理、道德、法律都會(huì)發(fā)生本質(zhì)的變化，因?yàn)锳I的出現(xiàn)，社會(huì)將會(huì)被重塑。

孫允廣：這可謂是“舊秩序已經(jīng)崩潰，新世界加速到來”。劉慈欣有一本小說叫《贍養(yǎng)上帝》，講人類被機(jī)器保護(hù)得太好了，最終導(dǎo)致人類失去了基本技能，也失去了學(xué)習(xí)和創(chuàng)新的能力，成為“科技嬰兒”。

劉嘉：我不太贊成這種說法。

我們來看科技的發(fā)展，農(nóng)耕社會(huì)時(shí)期，每個(gè)人要種地、紡布，才能養(yǎng)活一家人；工業(yè)革命大量解放了生產(chǎn)力，一個(gè)人可以耕地百畝，養(yǎng)活很多人。但不耕地的人并不是就不工作了，從土地中解放出來的勞動(dòng)力極大地促進(jìn)了社會(huì)真正的發(fā)展。

工業(yè)革命之后，GDP、人口數(shù)量均呈非線性增長(zhǎng)，當(dāng)人從重復(fù)性勞動(dòng)中解放出來后，就會(huì)產(chǎn)生出新的創(chuàng)造力，我們現(xiàn)在的教育、藝術(shù)、科技、文化，其實(shí)都是工業(yè)革命帶來的。

回到現(xiàn)在也是一樣，工業(yè)革命時(shí)期需要“有知識(shí)的工人”，大家都拼命學(xué)知識(shí)、學(xué)技能，但現(xiàn)在知識(shí)普及了，只要會(huì)使用ChatGPT，初中文憑和大學(xué)文憑都能得出同樣的答案。

AI把我們從一些重復(fù)性、知識(shí)密集型的工作中釋放出來了。今年是程序員失業(yè)的元年，機(jī)器可以替代一個(gè)最頂尖的程序員80%的工作量。于是，律師、程序員、醫(yī)生、教師會(huì)大量失業(yè)，就跟當(dāng)年大量的農(nóng)民、紡織工、馬車夫失業(yè)一樣。

知識(shí)不稀缺了，稀缺的是智慧。人類不會(huì)躺平的，人類需要一場(chǎng)全新的進(jìn)化，開辟出新的道路來，這又是一個(gè)新的迭代。

我們要重新反思現(xiàn)代教育，我們學(xué)得還對(duì)嗎？工業(yè)革命時(shí)代，國(guó)內(nèi)外大學(xué)普遍通過學(xué)術(shù)研究與專業(yè)技能相結(jié)合，培養(yǎng)工業(yè)技術(shù)領(lǐng)域的專才以推動(dòng)技術(shù)革新。

而智能時(shí)代，通識(shí)教育顯得格外重要。我們把跨學(xué)科的知識(shí)稱為“博”，高尚心靈稱為“雅”，因此通識(shí)教育也被稱為“博雅教育”。學(xué)生們要不設(shè)限地思索讓他們好奇的任何問題，從而內(nèi)心充盈，獲得自由。

我不認(rèn)為現(xiàn)在的智能時(shí)代是第四次工業(yè)革命，它比工業(yè)革命徹底很多。

這也是我寫《通用人工智能》這本書的原因，AI是一個(gè)全新的物種，它正在改變我們社會(huì)文明的最底層結(jié)構(gòu)、邏輯，我們的社會(huì)正處于轉(zhuǎn)型階段，人類的認(rèn)知、教育與生存方式都會(huì)發(fā)生根本性的改變，大家要充分做好準(zhǔn)備。

AI將帶來生產(chǎn)力大爆炸

孫允廣：劉慈欣在小說《贍養(yǎng)人類》中，借科幻提醒人類，超級(jí)科技的發(fā)展可能會(huì)導(dǎo)致財(cái)富分化極度不均。里面有一個(gè)被稱作“第一地球”的世界，里面出現(xiàn)一個(gè)“終產(chǎn)者”，一個(gè)人掌握了99%的財(cái)富，所有陸地、海洋甚至空氣都屬于他的，其他人都是貧民，呼吸外界空氣都得向他付費(fèi)。

有沒有可能，將來有資本的人通過腦機(jī)接口一下子植入20年的教育成果，而窮人卻植入不了，進(jìn)而導(dǎo)致社會(huì)嚴(yán)重層級(jí)化？

劉嘉：我覺得這還是工業(yè)革命時(shí)代的“資源有限論”，這源于農(nóng)耕時(shí)代，土地有限、產(chǎn)量有限，只能養(yǎng)活一定數(shù)量的人。

但從人類的進(jìn)化來看，工業(yè)革命提高產(chǎn)量，提高生產(chǎn)效率，便能產(chǎn)生遠(yuǎn)超農(nóng)耕時(shí)代的大量資源，養(yǎng)活更多的人。而AI時(shí)代會(huì)帶來更多的資源，這種資源多到人根本用不完。

孫允廣：所以，您對(duì)于技術(shù)的發(fā)展是比較樂觀的，它可能會(huì)產(chǎn)生問題，但會(huì)在發(fā)展中解決。

劉嘉：對(duì)。薩姆·奧爾特曼（OpenAI聯(lián)合創(chuàng)始人、首席執(zhí)行官）在做Universal basic income（UBI，無條件基本收入）實(shí)驗(yàn)。在薩姆·奧爾特曼看來，AI帶來的資源極度富足，將讓世界從“按勞分配”進(jìn)入到“按需分配”，走入真正的大同世界。

他認(rèn)為AI使生產(chǎn)力快速上升、商品價(jià)格大幅下降，產(chǎn)生的財(cái)富太多了。每個(gè)月免費(fèi)給每人提供13500美元，這些錢足以養(yǎng)活自己了。

從進(jìn)化的第一天開始，38億年，所有的動(dòng)物都是在為了生計(jì)而活，當(dāng)然包括此時(shí)此刻，我們戲謔地自稱“社畜”“牛馬”?？扇绻_姆·奧爾特曼的設(shè)想成立，那人類將不再為生計(jì)所迫，而是真正地為自己而活，這時(shí)候只需要思考“我想要什么”。

所以，AI時(shí)代帶來的最大好處之一就是，因?yàn)?/strong>效率提升，使資源極大豐富。

未來3個(gè)大爆點(diǎn)：

機(jī)器人、腦機(jī)接口、人機(jī)融合

孫允廣：除了看長(zhǎng)遠(yuǎn)未來，也要看中短期。未來5到10年，您覺得AI會(huì)使哪些商業(yè)領(lǐng)域加速成長(zhǎng)或者集中爆發(fā)呢？

劉嘉：我覺得是三個(gè)。

第一，機(jī)器人。現(xiàn)在國(guó)內(nèi)的機(jī)器人還不太成熟，基本都是從自動(dòng)化方向的工業(yè)機(jī)器人轉(zhuǎn)化來的，本身不具備思考能力，也不具備具身能力。

我們?cè)谡劇熬呱碇悄堋睍r(shí)有一個(gè)誤解，不是有身體、能走路的就叫具身智能，這只是形似。具身智能是指感知能力（快速處理事件）和運(yùn)動(dòng)能力（適應(yīng)環(huán)境，并根據(jù)環(huán)境變化自主做出響應(yīng)），但目前并沒有很好的解決方案。所以，現(xiàn)在的具身智能技術(shù)尚處于嬰兒階段，屬于“preGPT時(shí)代”，離機(jī)器人商業(yè)化還有一段時(shí)間。

第二，腦機(jī)接口。腦機(jī)接口現(xiàn)在也屬于“preGPT時(shí)代”?，F(xiàn)在很多腦機(jī)接口在做電極，這其實(shí)還比較初級(jí)。GPT時(shí)代真正最重要的是——解碼大腦的能力，比如，我現(xiàn)在想把一個(gè)東西拿起來，大腦發(fā)出指令，經(jīng)過神經(jīng)元傳遞到肌肉。那么，AI是否能讀出這個(gè)指令，如果可以，那后續(xù)操作就很簡(jiǎn)單了。

解碼大腦的作用在于“認(rèn)知增強(qiáng)”。

舉個(gè)例子，20年前，2005年的時(shí)候，我們還用按鍵式手機(jī)，當(dāng)時(shí)內(nèi)存不夠，我們要手寫電話簿，真正打電話時(shí)，還要查閱、再手動(dòng)撥通?，F(xiàn)在內(nèi)存完全夠了，我們的記憶力在手機(jī)上體現(xiàn)了，可以任意存儲(chǔ)、隨時(shí)撥通號(hào)碼，而且手機(jī)讀取的速度和你在大腦里回憶的差不多，甚至更快，這就是認(rèn)知增強(qiáng)。包括智能手機(jī)直接搜索信息、法律法規(guī)等，這都是手機(jī)相對(duì)于人類的認(rèn)知增強(qiáng)。

但是，這種認(rèn)知增強(qiáng)遠(yuǎn)遠(yuǎn)不如大模型的增強(qiáng)厲害，大模型上有世界上所有的知識(shí)，通過腦機(jī)接口連接大模型，就不用再去苦學(xué)幾十年了。

孫允廣：可以隨時(shí)調(diào)取，相當(dāng)于在腦袋里插了一個(gè)外部硬盤。

劉嘉：對(duì)，到那個(gè)時(shí)候，人的智商會(huì)得到極大的提升。而且，這是一種真正意義上的平權(quán)，不存在誰比誰聰明很多了。比如，我們常說受環(huán)境、教育等外部因素，一線城市的孩子比五六線城市孩子的視野、知識(shí)廣度強(qiáng)很多。而大模型會(huì)消除掉這種差異，讓一切平權(quán)。

至于大家說大模型真的很貴，但這是一個(gè)工程問題，一旦突破，很容易解決。就像90年代的“大哥大”是稀罕物，現(xiàn)在手機(jī)人手一個(gè)一樣。

孫允廣：技術(shù)將來會(huì)普惠化。

劉嘉：是的，將來會(huì)人手一個(gè)大模型，而且是獨(dú)有的，不是連到互聯(lián)網(wǎng)上。到時(shí)，天文地理無所不知，人類的智商會(huì)發(fā)生本質(zhì)的飛躍，一切盡在掌握之中，我認(rèn)為這是腦機(jī)接口真正的含義，而這個(gè)核心在于腦科學(xué)的進(jìn)展。

第三，人機(jī)融合。這也是最關(guān)鍵的，把人類的情感、意識(shí)上傳到機(jī)器里面去。

這可能現(xiàn)在說起來還有些科幻，但我們回想下，AI的發(fā)展有多快。2020年5月，GPT3發(fā)布時(shí)，大部分專家還覺得沒有價(jià)值。時(shí)隔兩年半，2022年底，GPT3.5發(fā)布，那簡(jiǎn)直驚為天人。如今，AI已經(jīng)深入到我們生活的各個(gè)方面了。

薩姆·奧爾特曼提出“溫和的奇點(diǎn)”的概念，他認(rèn)為人工智能的進(jìn)步已不可逆轉(zhuǎn)，且其正以漸進(jìn)而非爆發(fā)的方式重塑人類社會(huì)。其“溫和性”體現(xiàn)于技術(shù)以相對(duì)平和、漸進(jìn)的方式發(fā)展，能讓社會(huì)有更充分的緩沖空間去適應(yīng)技術(shù)變革。

我們這些當(dāng)事人是無感的，所以是溫和的奇點(diǎn)；但實(shí)際上，這種改變非常劇烈。

大模型，也有主權(quán)意識(shí)

孫允廣：不同國(guó)家的知識(shí)、社會(huì)文化，甚至思想意識(shí)都是不一樣的，您認(rèn)為大模型會(huì)不會(huì)有主權(quán)？

劉嘉：這是大模型現(xiàn)在最大的問題。大模型是根據(jù)文本學(xué)習(xí)而來的，只要是文字，就會(huì)帶有意識(shí)形態(tài)，世界觀、人生和價(jià)值觀。

第一，雖然大模型的三觀是多元的，但是輸入和選擇什么樣的文本是開發(fā)者決定的，開發(fā)者多為該領(lǐng)域的專家，所以，觀點(diǎn)前瞻但也相對(duì)激進(jìn)。

第二，大模型訓(xùn)練普遍采用蒸餾技術(shù)，就像老師指導(dǎo)學(xué)生一樣，利用已經(jīng)訓(xùn)練好的復(fù)雜大模型輸出的數(shù)據(jù)，指導(dǎo)更小型、更高效的模型進(jìn)行訓(xùn)練。那老師是什么觀點(diǎn)，學(xué)生如是。所以，中國(guó)的大模型有不少是來自對(duì)西方大模型的蒸餾，難以避免地繼承了西方大模型的三觀。

第三，大模型所傳遞出來的三觀并非是旗幟鮮明的直接表達(dá)，多數(shù)是隱晦的。可能是通過舉例、推導(dǎo)等，含蓄地表達(dá)出觀點(diǎn)，這就很難檢查、糾正。

所以，這也導(dǎo)致了兩個(gè)非常嚴(yán)重的問題：

其一，高度同質(zhì)化。按照國(guó)家、民族、區(qū)域等來劃分群體，人類本來是多元的，“和而不同”是我們自古追求的最高境界，是世界的思想瑰寶。但大模型會(huì)沒有痕跡地把全世界的三觀統(tǒng)一起來，哪怕輸入和輸出的語言不同，觀念也是一致的。

其二，很難“對(duì)齊”。對(duì)齊是指確保AI系統(tǒng)的目標(biāo)、意圖和行為始終與人類的價(jià)值觀、目標(biāo)以及利益保持一致。唯有如此，才能確保未來的人工超級(jí)智能真正成為人類文明的保護(hù)者與伙伴，而非人類的終結(jié)者。對(duì)齊問題被公認(rèn)為是AI時(shí)代最核心、最緊迫的挑戰(zhàn)，沒有之一。

但是AI對(duì)齊，從根本上是一個(gè)哲學(xué)性難題。其一，大模型本身就已經(jīng)通過知識(shí)產(chǎn)生三觀了，如何與人類對(duì)齊？這可能只是文本表面的“對(duì)齊”；其二，“人類自己都無法就價(jià)值觀完全達(dá)成共識(shí)，又如何讓AI對(duì)齊一個(gè)不存在的唯一標(biāo)準(zhǔn)？”

所以，每個(gè)國(guó)家必須要有自己的大模型。而且，大模型必須要從根基做起。至于如何改變它，這是我們?nèi)祟愋枰餐鎸?duì)的重大問題。人類最寶貴的就是多元化，多元化才使得文明有了生機(jī)，就像生物多樣性才能保持平衡一樣，絕對(duì)不能趨于同質(zhì)化。