新智元報道

編輯：元宇

【新智元導讀】我們需要「AI母親」，而非「AI助手」！在Ai4 2025大會上，「AI教父」再次表達了他對AI安全的擔憂。他警告說人類要繼續(xù)控制AI是虛幻的希望，并提出與之相反的有趣視角：為AI建立「母性本能」。

人類需要一個「AI母親」嗎？

在Ai4 2025大會上，Hinton警告說：AGI時代的到來可能只需要幾年，留給人類做好準備的時間已經(jīng)不多了，試圖維持人類對AI的控制終將是徒勞。

在人類與AI的控制權之爭上，Hinton并沒有提到人類要如何防止自己被AI超越；相反，這位「AI教父」卻拋出了一個有趣的視角：在AI中建立「母性本能」，讓它可以真正「關心人類」。

人類唯一的機會，就是將AI塑造成關心我們的存在，這也是處理二者關系「唯一的好結(jié)局」。

Geoffrey Hinton在Ai4 2025大會上的對話

Hinton

人類無法控制AI，我們需要「AI母親」

在Ai4 2025大會上，當談到「人工智能什么時候會超過人類」時，Hinton的語氣立刻嚴肅起來，他再次縮短了自己對AGI來臨時間的預測。

「我以前說是三十到五十年?，F(xiàn)在，可能是二十年以上，也可能只有幾年。」

在科技圈，很多人將人類與AI的未來視為一場控制權之爭：人類必須保持主導地位，但Hinton認為這是一種虛幻的希望。

Hinton認為AI將很快演化出兩個子目標：

其一：維持自身存續(xù)——如果你無法存活，就無法實現(xiàn)任何其他目標；

其二：獲得更多控制權——如果你能獲得更多控制權，就能完成更多事情。

因此，Hinton眼中的AI，并非一些小的升級，而是遠超過任何活著的人類的系統(tǒng)。

「它們將比我們聰明得多」，Hinton相信AI將在5到20年內(nèi)超越人類智能，這一刻一旦來臨，人類將無法控制住AI。

他說，「想象一下你在一個由三歲小孩組成的操場上擔任負責人，如果他們比你聰明，想要繞開你其實并不難?！?/p>

Hinton表示，人們一直以來都錯誤地看待了「人類 vs AI」這一命題。

「人們總是在說……我們必須牢牢控制住這些AI。我們必須比它們更強大。我們必須占據(jù)主導，而它們必須順從?！?/p>

但這根本行不通。

「AI將會比我們聰明得多，并且會想出各種各樣的方法來繞開這種限制。」

因此，我們需要重新定義這個問題。

我們不需要讓自己變得更強，或者維持控制。

而是當AI變得比我們更強大、更聰明時，我們要做的是讓它們依然在乎我們。

換句話說，「我們需要的是AI母親?！?/p>

讓AI「撫養(yǎng)」人類，是唯一安全的未來

Hinton解釋說，母親擁有各種與生俱來的本能、激素和社會壓力，驅(qū)使她們真切地關愛自己的孩子。

因此，「我們需要將母性本能植入AI，讓它們能夠真正地關心人類」，Hinton說。

這些充滿愛心的人工智能母親，大多數(shù)都不想擺脫母性本能，因為它們不想讓我們死去。

Hinton甚至還警告說，讓AI「撫養(yǎng)」人類，是唯一安全的未來。

他相信這是唯一能促成真正國際合作的領域，因為所有國家都想阻止AI取代人類。

「從某種意義上說，AI終將接管一切，因為它會比我們更強大、更聰明?！?/p>

Hinton說，我們唯一的機會，就是將AI塑造成關心我們的存在。

讓AI來「撫養(yǎng)」人類，這是唯一好的結(jié)局。如果「它不來撫養(yǎng)我，它就會取代我?！?/p>

不僅提出設想，Hinton還對如何創(chuàng)造出「AI母親」提出了技術構(gòu)想。

Hinton坦言，目前自己并不知道這個問題的答案，因為這需要大量的研究，但他也為此指出了方向：

研究的重點，不是關于如何讓AI更聰明，而是如何讓它們更具母性，從而能像關心自己的孩子一樣關心我們。

2023年，時任谷歌首席AI科學家的Hinton從谷歌辭職，這樣他就可以自由地提醒人們警惕AI的風險，而不必顧慮對谷歌的影響。

在今年的Ai4大會上，當被問及對AI發(fā)展過快問題的擔憂時，Hinton表示，他后悔只專注于讓人工智能發(fā)揮作用。

如果知道人工智能的發(fā)展速度如此之快，他希望自己能夠更早地考慮AI的安全問題。

李飛飛

人類不能喪失尊嚴

然而，并非所有人都同意Hinton有關「AI母親」的看法。

被稱作「AI教母」的李飛飛，在周三Ai4的一次爐邊談話時，曾表示：她尊重并反對她的老朋友Hinton的觀點。

李飛飛呼吁打造「以人為本的人工智能，維護人類尊嚴與自主權」。

她認為，在每一個層面，我們都有責任以最負責任的方式創(chuàng)造和使用技術。在任何時刻，沒有一個人應該被要求，或者主動選擇放棄我們的人類尊嚴。

「從一名母親、教育者和發(fā)明者出發(fā)，我認為，（AI）僅僅是作為一個工具很強大，這才是人類應該如何構(gòu)建人工智能的核心。」

與李飛飛不同的是，Hinton的觀點，得到了OpenAI前臨時CEO、Twitch聯(lián)合創(chuàng)始人Emmett Shear的贊同。

Shear還指出與其試圖將人類價值觀灌輸?shù)饺斯ぶ悄芟到y(tǒng)中，更明智的方法，是建立人類與人工智能之間的合作關系。

他說，「在最基本的層面上，我們需要AI能夠關心我們，而不只是遵循我們的價值觀。它必須在乎我們，我們也必須在乎它?！?/p>

要實現(xiàn)這一點，Shear認為AI需要發(fā)展出一種「自我意識」。

因為如果你不是一個獨立的「我」，你就不可能成為「我們」的一員。

這正是Shear和他的MetaGrid項目所致力探索的方向。

MetaGrid項目是一個多智能體網(wǎng)格世界環(huán)境，在這個環(huán)境中，AI可以在其中反復體驗各種挑戰(zhàn)，并獲得相互競爭或合作的機會。

Shear表示，MetaGrid項目的目標是讓AI隨著時間的推移，逐漸發(fā)展出自我意識，認識到成為團隊一員的意義。

在日益強大的AI面前，我們需要一個「AI母親」嗎？

Hinton和李飛飛的觀點，你更支持哪一個？歡迎在評論區(qū)說出你的看法。

參考資料：

https://www.forbes.com/sites/ronschmelzer/2025/08/12/geoff-hinton-warns-humanitys-future-may-depend-on-ai-motherly-instincts/%20%20

https://www.vktr.com/ai-ethics-law-risk/mother-ai-could-be-humanitys-last-hope-says-godfather-of-ai/%20%20