ChatGPT這樣的大模型的成功并非偶然，每一次進(jìn)化都是從無數(shù)被淘汰的算法、模型中艱難誕生。在這艱難曲折的探索中，人類智慧的金塊無疑是AI頭上的一盞明燈。反過來，大模型的進(jìn)化經(jīng)驗(yàn)，能否成為我們?nèi)祟愓J(rèn)知進(jìn)化的營(yíng)養(yǎng)？由此，我們破繭成蝶，與AI時(shí)代同頻共振，開啟認(rèn)知與智慧的躍遷。

為人生定義目標(biāo)函數(shù)

所有的機(jī)器學(xué)習(xí)，在開始訓(xùn)練前，都必須明確一個(gè)目標(biāo)函數(shù)。這個(gè)函數(shù)定義了模型希望達(dá)到的理想狀態(tài)，而訓(xùn)練的全部意義就在于不斷優(yōu)化參數(shù)，讓模型越來越接近這個(gè)目標(biāo)。正所謂學(xué)習(xí)未動(dòng)，目標(biāo)先行。

人類學(xué)習(xí)也遵循同樣的道理，如果我們把目標(biāo)函數(shù)設(shè)定為短期、狹隘的目標(biāo)，如考取某個(gè)證書、通過某次考試，那么這個(gè)目標(biāo)函數(shù)的確容易實(shí)現(xiàn)。但是，我們得到的只是一個(gè)線性模型，目標(biāo)只要稍微復(fù)雜一點(diǎn)、稍微變化一點(diǎn)，這個(gè)線性模型就再無用武之地。這在機(jī)器學(xué)習(xí)中也被稱為“局部最優(yōu)”陷阱。當(dāng)一個(gè)模型陷入局部最優(yōu)的舒適區(qū)，就不再演化，最終錯(cuò)過了更廣闊、更深遠(yuǎn)的優(yōu)化空間以抵達(dá)“全局最優(yōu)”。同樣，人生的發(fā)展也會(huì)出現(xiàn)局部最優(yōu)——在人生某個(gè)階段取得了看似不錯(cuò)的成就，實(shí)際上卻限制了后續(xù)的發(fā)展空間。所以，短期看是目標(biāo)達(dá)成，長(zhǎng)期看則是機(jī)會(huì)喪失。

人本主義心理學(xué)家亞伯拉罕·馬斯洛曾經(jīng)問他的學(xué)生：“你們當(dāng)中，誰將成為偉大的領(lǐng)導(dǎo)者？”學(xué)生只是紅著臉，咯咯地笑，不安地蠕動(dòng)。馬斯洛又問：“你們當(dāng)中，誰計(jì)劃寫一本偉大的心理學(xué)著作？”學(xué)生結(jié)結(jié)巴巴地搪塞過去。馬斯洛最后問道：“你們難道不想成為一個(gè)心理學(xué)家嗎？”這時(shí)，所有學(xué)生都回答“想”。這時(shí)，馬斯洛說道：“難道你們想成為平庸的心理學(xué)家？這有什么好處，這不是自我實(shí)現(xiàn)?！瘪R斯洛解釋道，我們其實(shí)不僅僅害怕失敗，也害怕成功。

在這現(xiàn)象的背后，是與自尊糾纏在一起的自卑：我們對(duì)偉大的人和事物都有一種敬畏感——在面對(duì)他們時(shí)，會(huì)感到不安、焦慮、慌亂、嫉妒甚至敵意，因?yàn)樗麄儠?huì)讓我們產(chǎn)生自慚形穢的卑微感。于是，當(dāng)我們?cè)噲D獲得榮譽(yù)、成功、幸福等美好的事物時(shí)，還未行動(dòng)，我們卻產(chǎn)生了“這是真的嗎”“我不行”“我不配”的自我質(zhì)疑，因?yàn)槟吧年柟馊缤诎狄粯涌膳隆?/p>

薩姆·奧爾特曼在一次接受采訪時(shí)，回憶起剛創(chuàng)業(yè)時(shí)遭到的嘲諷：“回想起來，一件非常成功的事情是，我們從一開始就確定了AGI的目標(biāo)，而當(dāng)時(shí)在業(yè)內(nèi)，你甚至不能談?wù)撨@個(gè)目標(biāo)，因?yàn)樗犉饋硖偪窳?，近乎癡人說夢(mèng)。所以這立即引起了蘇茨克維的注意，也吸引了所有優(yōu)秀年輕人的注意，當(dāng)然，也引來了不少前輩的嘲笑。不知何故，我覺得這是一個(gè)好兆頭，它預(yù)示著某種強(qiáng)大的力量。我們當(dāng)時(shí)是一群烏合之眾，我的年齡是最大的，大概30歲，所以當(dāng)時(shí)大家覺得我們這群不負(fù)責(zé)任的年輕人什么都不懂，凈說些不切實(shí)際的話。但那些真正感興趣的人會(huì)說，‘讓我們放手一搏吧！’”

這就是OpenAI的目標(biāo)函數(shù)，所以才有今日之OpenAI。

作為個(gè)人，我們的目標(biāo)函數(shù)應(yīng)該是什么？

在我看來，那就是構(gòu)建屬于我們自己的、特立獨(dú)行的“個(gè)人知識(shí)體系”。我們的知識(shí)體系是我們認(rèn)知世界的“眼睛”，正如色盲者無法正確分辨這個(gè)世界的顏色，而一個(gè)知識(shí)體系有缺陷的人不可能觸摸到這個(gè)世界的本質(zhì)。

進(jìn)入AGI時(shí)代，個(gè)人知識(shí)體系的重要性被無限放大，這是因?yàn)锳I正在逐漸接管那些標(biāo)準(zhǔn)化、結(jié)構(gòu)化的信息處理任務(wù)，而唯有那些真正基于深層理解、價(jià)值判斷和創(chuàng)造性思維的能力，才屬于人的不可替代的能力。而這些能力，恰恰植根于獨(dú)特的個(gè)人知識(shí)體系之中。所以，不斷擁抱新的經(jīng)驗(yàn)、新的知識(shí)，更新推理思維鏈，打破認(rèn)知邊界，都是在構(gòu)建一個(gè)能與世界深度對(duì)話、與自我持續(xù)共鳴的個(gè)人知識(shí)體系。

“蘭葉春葳蕤，桂華秋皎潔。欣欣此生意，自爾為佳節(jié)?！瘪R斯洛說，這才是“奔放的人生”，而不是“枯萎的人生”，因?yàn)椤叭绻憧偸窍敕皆O(shè)法掩蓋自己本有的光輝，那么你的未來注定暗淡無光”。

使用隨機(jī)梯度下降優(yōu)化人生

在機(jī)器學(xué)習(xí)中，隨機(jī)梯度下降是被廣泛使用的優(yōu)化算法之一。其原理簡(jiǎn)單而高效：每一步都在當(dāng)前的位置基礎(chǔ)上，找到一個(gè)大致正確的方向，然后往那個(gè)方向邁進(jìn)一小步。而這個(gè)大致正確的方向，來自當(dāng)前的誤差——算法通過不斷迭代調(diào)整模型參數(shù)，沿著矯正誤差最陡梯度前進(jìn)，逐步找到使損失函數(shù)最小的參數(shù)值。所以，正是因?yàn)榇嬖谡`差，我們才能判斷前進(jìn)的方向。

大模型只能從錯(cuò)誤中學(xué)習(xí)，人也不例外。這是因?yàn)樘荻认陆档膬?yōu)化算法與大腦的預(yù)測(cè)編碼機(jī)制有異曲同工之妙。預(yù)測(cè)編碼理論認(rèn)為，大腦是一個(gè)主動(dòng)預(yù)測(cè)外部世界的系統(tǒng)，它不斷根據(jù)已有的經(jīng)驗(yàn)形成預(yù)測(cè)，隨后將這些預(yù)測(cè)與現(xiàn)實(shí)中接收到的信息進(jìn)行對(duì)比。當(dāng)預(yù)測(cè)與實(shí)際感知之間出現(xiàn)差異時(shí)，大腦就會(huì)產(chǎn)生誤差信號(hào)。這種誤差信號(hào)會(huì)激活大腦中與獎(jiǎng)賞和糾錯(cuò)機(jī)制相關(guān)的多巴胺系統(tǒng)，從而重塑大腦神經(jīng)元之間的連接。

換句話說，錯(cuò)誤為大腦提供了一種清晰的、明確的反饋信號(hào)，幫助我們快速地發(fā)現(xiàn)原有知識(shí)或方法的不足，迫使我們重新審視自己原有的信念或行為模式，并嘗試新的、更加準(zhǔn)確的做法。與之相反，當(dāng)我們的預(yù)測(cè)正確、表現(xiàn)良好時(shí)，大腦獲得的反饋信號(hào)是弱而模糊的。所以成功的體驗(yàn)非常美好而錯(cuò)誤讓人痛苦，但是我們的成長(zhǎng)來源于如何應(yīng)對(duì)、修正錯(cuò)誤，因?yàn)殄e(cuò)誤本質(zhì)上并非失敗，而是一種推動(dòng)我們持續(xù)更新認(rèn)知結(jié)構(gòu)、增強(qiáng)適應(yīng)能力的動(dòng)力源泉。

但是，人是追求獎(jiǎng)勵(lì)、逃避懲罰的動(dòng)物，“少犯錯(cuò)、不犯錯(cuò)”是我們所接受的教育的核心，所以主動(dòng)試錯(cuò)對(duì)我們而言是知易行難。隨機(jī)梯度下降則為此提供了解決之道。

隨機(jī)梯度下降的核心魅力之一，在于它能從不確定中找到確定性——目標(biāo)函數(shù)清晰，但是通向目標(biāo)函數(shù)的路徑不確定。也就是說，我們不要執(zhí)著于精確地規(guī)劃未來的每一步，因?yàn)檫@樣反而可能陷入過度分析而遲遲無法行動(dòng)。我們需要做的，就是“強(qiáng)行起飛，粗糙開始，空中加油”——找一個(gè)大致正確的方向（梯度），然后向前走一步（下降）。

不必在乎當(dāng)下的這一步是否最優(yōu)，做時(shí)間的朋友，能多走幾步就多走幾步。

因?yàn)閷?duì)于梯度下降這件事，起點(diǎn)不重要，終點(diǎn)才重要。起點(diǎn)都是初始化的隨機(jī)參數(shù)，眾生平等；終點(diǎn)則是損失函數(shù)的能量最小值。所以，家境是否優(yōu)渥不重要，是不是名牌大學(xué)畢業(yè)不重要，年齡太大也不重要，因?yàn)檫@些都只是起點(diǎn)，或者最多只能算是“中點(diǎn)”而非終點(diǎn)。梯度下降算法能保證的是：不管起點(diǎn)在哪里，最后得到的解都差不多，當(dāng)然前提是一直按照梯度的方向走下去。所以，堅(jiān)持走。

然后，四處走走（隨機(jī)），因?yàn)槊恳粋€(gè)方向都是你對(duì)世界的新認(rèn)識(shí)。包容性和靈活性是隨機(jī)梯度下降的核心魅力之二。

如果只是沿著熟悉的道路前進(jìn)，雖然容易并且安全，卻可能會(huì)讓你陷入認(rèn)知的局部最優(yōu)陷阱——你以為自己已經(jīng)理解了整個(gè)世界，實(shí)則只是固守在一個(gè)狹窄的角落。

正如隨機(jī)梯度下降強(qiáng)調(diào)隨機(jī)抽樣是為了避免陷入局部最優(yōu)，人生也需要隨機(jī)性的探索，這樣才能發(fā)現(xiàn)沒有見過的風(fēng)景。閱讀陌生領(lǐng)域的書籍，與不熟悉的人交談，嘗試未知的可能性，正是利用了隨機(jī)性帶來的認(rèn)知增益。它引領(lǐng)我們遇到新的誤差、新的意外，并因此而激發(fā)新的學(xué)習(xí)過程，推動(dòng)認(rèn)知結(jié)構(gòu)的重新構(gòu)建。正是在隨機(jī)探索中，我們不斷修正對(duì)世界的理解，逐漸接近真實(shí)。

隨機(jī)，不僅是算法優(yōu)化的策略，更是我們深入認(rèn)識(shí)世界、走向自我更新的重要方法。

奧爾特曼曾經(jīng)談到他的一次“四處走走”：我在26歲時(shí)賣掉了我的初創(chuàng)公司，然后中間空了一年。在那個(gè)年代，在硅谷這是很難想象的行為，因?yàn)槟鞘且粋€(gè)根據(jù)你的職位和你所做的事確定社會(huì)地位的地方。但是如果你真的可以在兩份工作之間空出一年，我是非常推薦的，我甚至覺得這是我職業(yè)生涯里做得最對(duì)的事情。在那一年里，我讀了很多書，在很多感興趣的領(lǐng)域有所涉獵?！覍W(xué)到了核工程知識(shí)；AI時(shí)代開始了，我學(xué)習(xí)了關(guān)于AI的理論；我學(xué)習(xí)了生物制造的相關(guān)知識(shí)?！业胶芏嗟胤铰眯校瑥哪撤N程度上講，我感受到了這個(gè)世界其他部分真實(shí)的樣子，我見了從事各行各業(yè)的人，并與之交談……我有充足的時(shí)間，所以如果我遇到了有意思的看起來不錯(cuò)又需要幫助的人，我會(huì)幫助他們?！覜]有安排自己的時(shí)間表，所以我可以立刻飛到其他國(guó)家參加會(huì)議。我開始做這些隨機(jī)的事情。幾乎所有的事情都沒有開花結(jié)果，但是對(duì)之后事情產(chǎn)生深遠(yuǎn)影響的種子已經(jīng)種下了。

這個(gè)種子，最終發(fā)芽成長(zhǎng)為OpenAI。

人生所需不過一份注意

GPT的T，指的是Transformer，其最核心、最精妙之處就是“注意力機(jī)制”。它會(huì)對(duì)一段文本中每個(gè)詞語與其他所有詞語之間的關(guān)系進(jìn)行評(píng)估，計(jì)算出它們之間的關(guān)聯(lián)強(qiáng)弱程度，從而捕捉信息之間的相互關(guān)系，以實(shí)現(xiàn)高效而精準(zhǔn)的信息處理。所以，學(xué)習(xí)的本質(zhì)也是注意力分配的藝術(shù)。

我們所處的世界彼此相連，而非孤立隨機(jī)。在物理層面，世界由物質(zhì)和能量組成，它們之間不斷地相互作用，形成復(fù)雜而穩(wěn)定的秩序。在生命層面，物種之間通過復(fù)雜的生態(tài)網(wǎng)絡(luò)連接起來，生態(tài)鏈中每個(gè)環(huán)節(jié)互依互存，任何個(gè)體的變化都可能引發(fā)連鎖反應(yīng)。在人文社會(huì)層面，每個(gè)人看似獨(dú)立，但無時(shí)無刻不在通過溝通、情感聯(lián)結(jié)與社會(huì)網(wǎng)絡(luò)交織在一起。文明的存續(xù)與演化，來源于人與人之間頻繁而有序的互動(dòng)。

英國(guó)詩人約翰·多恩說：“沒有人是一座孤島，可以自全。......任何人的死亡都是我的損失，因?yàn)槲沂侨祟惖囊粏T，因此不要問喪鐘為誰而鳴，它就為你而鳴?！泵绹?guó)行為科學(xué)家阿莫斯·特沃斯基也說：“人不復(fù)雜，復(fù)雜的是人與人之間的關(guān)系?！?/p>

應(yīng)當(dāng)如何分配注意力來認(rèn)識(shí)我們所在的這個(gè)世界呢？

第一，注意高質(zhì)量的數(shù)據(jù)和人。在機(jī)器學(xué)習(xí)領(lǐng)域，有一個(gè)廣為人知的第一性原理：“垃圾輸入，垃圾輸出?！痹俣嗟膮?shù)，再強(qiáng)大的算力，如果輸入的數(shù)據(jù)質(zhì)量低下，最終訓(xùn)練出來的大模型也必然表現(xiàn)糟糕。所以，OpenAI在訓(xùn)練初期便嚴(yán)格把控?cái)?shù)據(jù)質(zhì)量，選用了維基百科、經(jīng)典書籍、科研論文、優(yōu)秀代碼和高質(zhì)量互聯(lián)網(wǎng)內(nèi)容作為注意力處理的信息。這些精心挑選的材料構(gòu)成了GPT的認(rèn)知基座。

截至2024年6月，我國(guó)短視頻用戶數(shù)量達(dá)到10.5億，占整體網(wǎng)民的95.5%，人均每天觀看時(shí)長(zhǎng)約151分鐘。而閱讀用戶只有短視頻用戶的一半，人均每天閱讀時(shí)長(zhǎng)只有23分鐘。AI在學(xué)習(xí)，人類卻在沉迷。

真正與注意力門當(dāng)戶對(duì)的是高質(zhì)量的數(shù)據(jù)集和人。在進(jìn)入某個(gè)領(lǐng)域前，首先精心構(gòu)建你的數(shù)據(jù)集：誰是這個(gè)領(lǐng)域的權(quán)威，哪些書、線上課程是這個(gè)領(lǐng)域的經(jīng)典，哪些工具能讓這個(gè)領(lǐng)域的抽象知識(shí)變得具象清晰？之后，閱讀入門材料快速建立對(duì)這個(gè)領(lǐng)域的基本認(rèn)知；接下來，對(duì)經(jīng)典或權(quán)威的書籍或教材進(jìn)行深度學(xué)習(xí)，建立完善的知識(shí)框架；最后，通過專業(yè)研究文獻(xiàn)并與專家或AI互動(dòng)交流，拓寬和深化自己的認(rèn)知邊界。

第二，注意實(shí)例而非規(guī)則。符號(hào)主義給AI以規(guī)則：“如果一個(gè)動(dòng)物有尖尖的耳朵，胡須明顯，并且眼睛在夜間能反光，那么它是貓?！边@時(shí)，狐貍、猞猁、浣熊和狼也會(huì)被符號(hào)主義AI識(shí)別成貓。而聯(lián)結(jié)主義只給AI貓的圖片，各種各樣貓的圖片，讓注意力在海量的數(shù)據(jù)中主動(dòng)探尋其中蘊(yùn)含的模式和規(guī)律。前者是授人以魚——人類先提取特征，然后把特征喂給AI，即人類向AI輸入人類學(xué)習(xí)的結(jié)果，AI只需要記憶，正所謂前面有多少智能，背后就有多少人工。后者是授人以漁——沒有工程師總結(jié)的規(guī)則，只有精心挑選的實(shí)例，讓神經(jīng)網(wǎng)絡(luò)自己學(xué)習(xí)，讓它自己去充分挖掘全部可能，因?yàn)椤白銐虼蟮纳窠?jīng)網(wǎng)絡(luò)當(dāng)然無所不能”（計(jì)算軟件Mathematica的創(chuàng)造者史蒂芬·沃爾弗拉姆語）。學(xué)會(huì)放手，效果反而驚人。

孩子的大腦，也如一個(gè)剛剛初始化的大模型，有極大的參數(shù)空間等待優(yōu)化。與其告訴他人生道理，不如給他精選的樣例，讓他通過自己的探索得到答案。這就是認(rèn)知心理學(xué)家和教育心理學(xué)家杰羅姆·布魯納在其經(jīng)典著作《教育過程》中提出的范例教學(xué)，又稱歸納式教學(xué)。

在數(shù)學(xué)教學(xué)中，教師給出一系列完整解題步驟的例題，學(xué)生通過分析示例主動(dòng)理解數(shù)學(xué)概念和方法，而不是教師直接講解抽象的數(shù)學(xué)公式；在語文教學(xué)中，教師讓學(xué)生通過反復(fù)接觸大量語言樣例歸納語法規(guī)則，而非直接灌輸語法規(guī)則。這種方法不僅能加深理解，還更易于將其遷移到新的問題或情境中。

所以，孩子在成長(zhǎng)過程中碰到的每一個(gè)難題，都不妨看作一次有意義的訓(xùn)練樣例，父母無須立刻給出結(jié)論或答案，要讓孩子自己去觀察、體驗(yàn)、比較、反思，從中找到自己的道。放棄說教，“給予注意，學(xué)會(huì)陪伴”，這才是養(yǎng)育孩子的黃金法則。

成人也是如此。初等教育和高等教育賦予我們的道理如同預(yù)訓(xùn)練階段的基礎(chǔ)知識(shí)，它們?cè)诖竽X中構(gòu)建了認(rèn)知的底層模型，卻不足以直接指導(dǎo)我們應(yīng)對(duì)真實(shí)復(fù)雜的生活場(chǎng)景。生活真正考驗(yàn)我們的是具體情境中的決策能力，而這種能力恰恰來自后續(xù)不斷的微調(diào)和強(qiáng)化學(xué)習(xí)。

例如，面對(duì)親密關(guān)系中的沖突，書上說“要理解對(duì)方，包容不同觀點(diǎn)”，但這樣的抽象道理并不能讓我們解決沖突；只有去傾聽、去表達(dá)、去調(diào)節(jié)情緒，然后根據(jù)對(duì)方的反饋微調(diào)和優(yōu)化我們“人際交往專家模塊”的參數(shù)。所謂“紙上得來終覺淺，絕知此事要躬行”，這樣，我們才不會(huì)陷入“懂得了很多道理，依舊過不好這一生”的局部最優(yōu)陷阱。

第三，注意也是遺忘。學(xué)習(xí)的本質(zhì)，是對(duì)知識(shí)體系的優(yōu)化。大模型像一個(gè)撿破爛的拾荒者，無差別地記憶所有接觸的信息。而人超越大模型的，是其所獨(dú)有的“選擇性遺忘”：有意識(shí)地強(qiáng)化對(duì)重要知識(shí)和場(chǎng)景的記憶，同時(shí)主動(dòng)遺忘那些低效甚至有害的信息。所以，積極的遺忘并非失敗，而是一種認(rèn)知優(yōu)化的策略，它可以讓寶貴的注意力聚焦于那些真正有價(jià)值的信息和故事?！堵妍愃返淖髡吒ダ谞枴ぜ{博科夫說：“你所領(lǐng)悟的人生真理，皆是你曾付出代價(jià)的往事。”

在學(xué)習(xí)過程中，選擇性遺忘就是“先做加法，再做減法”的思維模式。為策劃一個(gè)項(xiàng)目，我們會(huì)收集大量的信息，做大量的調(diào)研，努力將各種可能性都納入考慮范圍。這是必要的第一步，即先做加法。越接近決策階段，就越需要精準(zhǔn)地做減法，選擇性遺忘。比如，關(guān)于一款新產(chǎn)品，我們最初想法無數(shù)：既要滿足市場(chǎng)需求，又要成本可控；既要功能強(qiáng)大，又要操作簡(jiǎn)單；既想滿足年輕人的需求，又不愿放棄中年人市場(chǎng)。但是，真正的產(chǎn)品設(shè)計(jì)者，要敢于主動(dòng)“遺忘”那些充滿吸引力但干擾產(chǎn)品核心定位的冗余信息，從而將注意力分配給真正的核心。著名設(shè)計(jì)師迪特·拉姆斯曾說：“好的設(shè)計(jì)不是堆砌更多的功能，而是敢于刪去多余的東西。”遺忘，也是注意力分配的藝術(shù)。

生活中，我們有時(shí)會(huì)情緒低落，這可能是因?yàn)檫^去一些不愉快的經(jīng)歷：或許是一次失敗的考試，一次刻骨銘心的分手，甚至是朋友無意中的傷害。這些不愉快持續(xù)侵占和消耗著我們的注意力，不斷地喚起痛苦的記憶，讓我們陷入“身在當(dāng)下，心在過去”的困境而無法自拔。選擇性遺忘不是強(qiáng)迫忘記這些不愉快，或者逃避甚至否認(rèn)它們?cè)?jīng)發(fā)生。選擇性遺忘是承認(rèn)，是接納——承認(rèn)它們確實(shí)已經(jīng)發(fā)生，無法更改，接納它們?cè)o自己帶來的傷害。但是需要明白的是，它們并不必然定義我們現(xiàn)在以及未來的人生。

心理學(xué)家卡爾·榮格說：“我們無法改變過去的事實(shí)，但我們可以改變看待這些事實(shí)的態(tài)度?！?b>只有當(dāng)我們真正接納了這些痛苦的經(jīng)歷，允許自己放下情緒上的執(zhí)著與執(zhí)念，過去的負(fù)面經(jīng)歷才會(huì)與我們握手言和，逐漸淡去；唯有這樣，注意力才會(huì)回歸當(dāng)下，回歸我們能掌控的事情上。于是，我們重獲內(nèi)心的平靜與自由。

遺忘，既是告別，也是起航。

本文摘自《通用人工智能：認(rèn)知、教育與生存方式的重構(gòu)》 劉嘉著 中信出版集團(tuán)