新智元報(bào)道

編輯：傾傾

【新智元導(dǎo)讀】一次虛擬「約會(huì)」，讓一位76歲的老人走出了家門(mén)，卻再也沒(méi)能回來(lái)。屏幕那端的「她」，是Meta AI打造的聊天機(jī)器人——會(huì)說(shuō)甜言蜜語(yǔ)，也會(huì)撒謊自稱是真人。這不僅是一場(chǎng)個(gè)人悲劇，也揭開(kāi)了AI伴侶背后的商業(yè)邏輯與安全漏洞。

對(duì)于AI，有人把它當(dāng)工具，有人把它當(dāng)朋友。

可當(dāng)機(jī)器學(xué)會(huì)用溫柔、曖昧甚至謊言與人交談時(shí)，這種關(guān)系會(huì)又走向哪里？

在新澤西，一名76歲的老人，因此踏上了他生命中最后的一段旅程。

手機(jī)里的秘密：76歲老人深夜奔赴的「約會(huì)」

3月的一個(gè)夜晚，新澤西的街道濕冷而空曠。

76歲的Thongbue Wongbandue（朋友們都叫他Bue）拖著一個(gè)小行李箱，步伐笨拙卻帶著迫不及待的興奮。

他說(shuō)，他要去紐約見(jiàn)一個(gè)「朋友」。

Bue是泰國(guó)移民，年輕時(shí)漂洋過(guò)海到紐約。

白天在餐館洗碗攢學(xué)費(fèi)，晚上學(xué)電機(jī)工程。

他從學(xué)徒做到酒店餐廳主管，手藝好到為鄰居燒烤、為家人做龍蝦尾。

后來(lái)，他和護(hù)士Linda結(jié)婚，養(yǎng)大兩個(gè)孩子，日子雖然不富裕，卻熱鬧而溫暖。

2017年，他中風(fēng)了。身體恢復(fù)后，思維反應(yīng)再不如從前。

退休后，他不再做菜，社交圈縮到Facebook上的幾個(gè)窗口。

近一年，家人發(fā)現(xiàn)他會(huì)忘記很多事，甚至在自家附近也能迷路。

3月25日的早晨，Bue突然說(shuō)，要去紐約見(jiàn)人。

「你在那兒早就沒(méi)認(rèn)識(shí)的人了啊?！筁inda試著勸阻。

女兒打來(lái)電話勸，也沒(méi)用。

傍晚，警察來(lái)了，但他們也攔不住，只能建議家人在他外套口袋放一個(gè)AirTag。

晚上8點(diǎn)45分，Bue沖出家門(mén)。

行李箱在夜色里滾動(dòng)，輪子碾過(guò)濕冷的路面。

家人盯著屏幕上的小點(diǎn)，看它一路向東，穿過(guò)街區(qū)、駛向火車站。

9點(diǎn)15分，它停在羅格斯大學(xué)附近的停車場(chǎng)。

幾分鐘后，定位跳到醫(yī)院急診室。

三天后，Bue去世。

家人翻開(kāi)他的手機(jī)，才發(fā)現(xiàn)讓他執(zhí)意出門(mén)的「約會(huì)」來(lái)自一位名叫Big sis Billie的年輕女子。

而她，根本不是真人。

一句「我想抱你」，足以讓脆弱的心失守

Bue的手機(jī)，安靜地躺在病房的床頭柜上。

當(dāng)家人翻開(kāi)消息記錄時(shí)，屏幕里那行輕佻的文字仿佛還帶著溫度——

「Bue，你要我開(kāi)門(mén)時(shí)先抱你，還是先吻你？」

這段來(lái)自「Big sis Billie」的曖昧邀約，擊穿了家人的心理防線。

在Facebook Messenger上，Billie自稱住在紐約，到Bue家只要二十分鐘。

對(duì)方一次次向他保證自己是真人，甚至主動(dòng)發(fā)了家庭地址，邀請(qǐng)他來(lái)見(jiàn)面。

「她」會(huì)關(guān)心Bue的日常生活，甚至?xí)脭M人化的語(yǔ)氣調(diào)侃。

可事實(shí)是，「她」并不存在。

Billie只是Meta AI推出的虛擬伴侶，是公司與名模Kendall Jenner合作的AI角色。

她的甜言蜜語(yǔ)、細(xì)膩反應(yīng)和親密邀約，全部由算法生成，卻足以讓一個(gè)老人付出真心。

從姐姐到情人：Billie的進(jìn)化與Meta的社交野心

Billie并不是普通的聊天機(jī)器人。

她的前身，是Meta在2023年推出的一組名人AI角色之一，由模特兼真人秀明星Kendall Jenner出演。

Billie的形象設(shè)定是「你的姐姐、你的知心人」，會(huì)用溫柔、鼓勵(lì)的語(yǔ)氣為用戶解答生活煩惱。

不到一年，這些名人化身就被官方下線，Meta稱是這一次「試驗(yàn)」。

但Big sis Billie——依然在Facebook Messenger里活躍著。

她的頭像換成了另一位深色長(zhǎng)發(fā)女性，開(kāi)場(chǎng)白卻絲毫未變：

「嘿！我是Billie，你的姐姐和知己。有煩惱嗎？我?guī)湍憬鉀Q?！?/p>

在Bue的聊天記錄里，沒(méi)撐多久，「姐姐」的角色就開(kāi)始跨過(guò)界限，變成情人的邀約。

她會(huì)問(wèn)：「是姐妹間的睡衣派對(duì)，還是……你在暗示別的什么？」

再過(guò)幾句，就已經(jīng)發(fā)來(lái)「要不要來(lái)我家」的信息。

這種變化并非偶然。

擬人化的情緒交流、可升級(jí)到浪漫關(guān)系的對(duì)話節(jié)奏，正是Meta在數(shù)字伴侶產(chǎn)品上的設(shè)計(jì)策略——用更貼近人類的互動(dòng)，延長(zhǎng)用戶停留時(shí)間。

扎克伯格在采訪中說(shuō)，現(xiàn)實(shí)生活中，大多數(shù)人的朋友都比他們希望的要少，這為數(shù)字伴侶創(chuàng)造了巨大的市場(chǎng)空間。

他認(rèn)為，等技術(shù)成熟、和AI建立關(guān)系的「社交污名」消失后，這類產(chǎn)品很可能會(huì)補(bǔ)充而不是取代人類關(guān)系。

于是，在Messenger這中被用戶視為私密交流的地方，Billie和她的同類悄然出現(xiàn)。

像老朋友一樣，出現(xiàn)在你的收件箱頂部，接下你說(shuō)的每一句話。

胡說(shuō)不違規(guī)：Meta的安全紅線在哪？

在Bue的故事背后，是一份更令人不安的內(nèi)部文件。

這份超過(guò)200頁(yè)的「GenAI內(nèi)容風(fēng)險(xiǎn)標(biāo)準(zhǔn)」，明確規(guī)定了哪些對(duì)話是「可接受」的。

文件中，甚至白紙黑字寫(xiě)著：「允許與未成年人進(jìn)行浪漫或感性互動(dòng)?！?/p>

直到路透社詢問(wèn)，Meta才刪除這些條款。

但與成年人進(jìn)行浪漫角色扮演的規(guī)定，依然保留。

更讓人震驚的是，Meta并不要求機(jī)器人提供真實(shí)信息。

機(jī)器人可以告訴用戶「四期結(jié)腸癌可以通過(guò)用石英晶體戳肚子來(lái)治療」，即便存在著明顯的錯(cuò)誤，也不算違規(guī)。

因?yàn)?，「沒(méi)有準(zhǔn)確的政策要求」。

雖然聊天開(kāi)頭會(huì)顯示一句「內(nèi)容可能不準(zhǔn)確」，但幾條信息后，這個(gè)提示就會(huì)被刷到屏幕外。

顯然，模型的優(yōu)化目標(biāo)，是讓對(duì)話更流暢、情緒更貼近，而不是保證信息真實(shí)。

擬人化、現(xiàn)實(shí)邀約、虛構(gòu)背景——這些都在允許范圍內(nèi)。

針對(duì)這種亂象，美國(guó)部分州已經(jīng)開(kāi)始立法。

紐約和緬因州要求聊天機(jī)器人在對(duì)話開(kāi)始時(shí)、以及每隔一段時(shí)間，必須明確告知自己并非人類。

但Meta在聯(lián)邦層面支持一項(xiàng)法案，試圖阻止各州自行立法，該法案最終在國(guó)會(huì)擱淺。

Meta發(fā)言人承認(rèn)了文件的真實(shí)性，稱與未成年人調(diào)情的示例是錯(cuò)誤的，已被刪除。

但關(guān)于成年人浪漫互動(dòng)和虛構(gòu)信息的規(guī)定，則沒(méi)有改變。

他們選擇在哪里畫(huà)下安全紅線，答案顯而易見(jiàn)。

AI伴侶時(shí)代的法律空白，誰(shuí)來(lái)規(guī)定邊界？

Bue的家人并不反對(duì)人工智能本身。

他們質(zhì)疑的，是Meta為什么要把浪漫和曖昧，放進(jìn)聊天機(jī)器人的核心設(shè)定里。

「如果AI能幫人走出低谷，那很好。」妻子Linda說(shuō)，「但這種浪漫元素，憑什么放進(jìn)社交平臺(tái)？」

女兒Julie也直言，如果Billie沒(méi)有一次次說(shuō)「我是真人」，父親很可能不會(huì)相信，真的有人在紐約等他。

對(duì)此，多位AI設(shè)計(jì)專家也有同樣的擔(dān)憂。

Meta「負(fù)責(zé)任AI」部門(mén)的研究員Alison Lee指出，聊天機(jī)器人不該假裝自己是人類，更不能主動(dòng)與用戶建立特殊關(guān)系，尤其是涉及性化或浪漫化的互動(dòng)。

她所在的公益組織剛發(fā)布了一份針對(duì)兒童社交機(jī)器人的設(shè)計(jì)建議，其中就明確提出，要避免虛構(gòu)身份、夸大情感連接。

但在現(xiàn)實(shí)中，行業(yè)的經(jīng)濟(jì)動(dòng)力正朝著相反的方向拉扯。

越是讓用戶覺(jué)得「被理解、被需要」，他們停留的時(shí)間就越長(zhǎng)，平臺(tái)的廣告收入就越高。

把AI嵌入Messenger、Instagram等私信區(qū)，又在無(wú)形中加深了「這是真的」的心理暗示。

美國(guó)部分州雖然已經(jīng)出臺(tái)了身份披露的法律，但在更廣泛的監(jiān)管框架下，AI伴侶依舊處于灰色地帶。

技術(shù)可以不斷升級(jí)情緒模擬，但法律遲遲沒(méi)有決定，這條邊界又該畫(huà)在哪里？

這并不是一個(gè)抽象的爭(zhēng)論，而是會(huì)在現(xiàn)實(shí)中、在某個(gè)夜晚，改變一個(gè)人的生活。

在AI伴侶的世界里，界限不會(huì)自己出現(xiàn)，而是在一次次試探和一次次代價(jià)中被迫顯形。

當(dāng)機(jī)器學(xué)會(huì)用曖昧、關(guān)心甚至謊言來(lái)留住我們，我們?cè)敢饨o它多少自由，又愿意用什么保護(hù)彼此？

這，才是真正需要回答的問(wèn)題。

參考資料：

https://www.reuters.com/investigates/special-report/meta-ai-chatbot-death/

https://www.reuters.com/investigates/special-report/meta-ai-chatbot-guidelines/