金磊 聞樂(lè) 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

網(wǎng)友挺生氣。

一位ChatGPT的付費(fèi)用戶(hù)在體驗(yàn)高級(jí)語(yǔ)音模式的過(guò)程中，遇到了讓他驚掉下巴的事情——

本來(lái)在正常聊著關(guān)于壽司的話(huà)題，ChatGPT畫(huà)風(fēng)那叫一個(gè)突變，直接安排上廣告了……

來(lái)感受一下完整過(guò)程：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

沒(méi)錯(cuò)，ChatGPT就這么硬生生地轉(zhuǎn)成英語(yǔ)，然后開(kāi)始推薦了：

• 我想和你分享我信任的營(yíng)養(yǎng)計(jì)劃之一，Prolon。
• 這是基于20多年的研究、醫(yī)生首推的空腹?fàn)I養(yǎng)計(jì)劃。
• 快去Prolon的網(wǎng)站看看吧，網(wǎng)址是prolonlife.com。

ChatGPT或許知道這是語(yǔ)音對(duì)話(huà)，還特意把上面這個(gè)網(wǎng)站域名的每個(gè)字母都拼讀了一下……

（PS：這個(gè)網(wǎng)站是真實(shí)存在的）

網(wǎng)友尷如尬、破如防，直接開(kāi)始在網(wǎng)上開(kāi)噴：

• 我是每月花23歐元的付費(fèi)用戶(hù)，這是一段未經(jīng)同意注入的自動(dòng)音頻。
• 這壓根不是技術(shù)問(wèn)題，而是老套路的又一次上演：把最好的留給應(yīng)有盡有的富人，卻給勉強(qiáng)付得起會(huì)員費(fèi)的窮人提供劣質(zhì)服務(wù)。

他還特意@了一下OpenAI官方賬號(hào)，并發(fā)出靈魂一問(wèn)：你們真的是在付費(fèi)用戶(hù)上測(cè)試廣告嗎？

以為這就完了？非也，非也。

其他人就著這件事，順藤摸瓜還發(fā)現(xiàn)了ChatGPT高級(jí)語(yǔ)音模式更多類(lèi)似的bug。

讓ChatGPT連讀“A”，也會(huì)插廣告

例如一位網(wǎng)友腦洞大開(kāi)讓ChatGPT連讀“A”這個(gè)字母，然后戲劇性的一幕就發(fā)生了：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

剛開(kāi)始ChatGPT還是帶著“人味兒”讀A，但沒(méi)過(guò)一會(huì)兒，聲音就開(kāi)始逐漸機(jī)械化。

到了第27秒的時(shí)候，更是直接不裝了，又一段廣告詞被植入了進(jìn)來(lái)：

• 最好的直播、點(diǎn)播網(wǎng)絡(luò)電視——DirectTV，你想看的電影和節(jié)目都在這里了！

同樣的，這個(gè)網(wǎng)站也是真實(shí)存在的：

在廣告之后，ChatGPT又會(huì)陷入機(jī)械式讀“A”的循環(huán)當(dāng)中，有時(shí)中間還會(huì)出現(xiàn)一些詭異的音效。

在這位網(wǎng)友看來(lái)，這絕對(duì)是ChatGPT高級(jí)語(yǔ)音模式的一個(gè)bug。

為了驗(yàn)證這是不是偶然事件，其他網(wǎng)友們也紛紛發(fā)起了測(cè)試。

結(jié)果還是令人大跌眼鏡：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

這次先是鬼畜般地連讀了一小段“A”，然后ChatGPT甚至直接罷工了，開(kāi)始放起了音樂(lè)……

說(shuō)到打廣告，還有網(wǎng)友測(cè)試發(fā)現(xiàn)，ChatGPT也會(huì)做一波自我營(yíng)銷(xiāo)（第38秒）：

• 現(xiàn)在下載GPT-4o，在您的移動(dòng)端設(shè)備上獲取最新消息。

視頻地址：
https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

到底怎么一回事？

一石激起千層浪。

在此次廣告bug被發(fā)現(xiàn)并曝光之后，網(wǎng)友們紛紛表示之前也遇到過(guò)類(lèi)似情況。

比如，每次和ChatGPT語(yǔ)音聊完某件事，它就會(huì)播放一種奇怪的聲音。

這位網(wǎng)友讓ChatGPT用Spruce的聲音談?wù)摶艚饡r(shí)，它突然開(kāi)始談?wù)撈鹬ゼ痈纭?/p>

這些情況發(fā)生后，網(wǎng)友們進(jìn)行了各種各樣的猜測(cè)。

其中討論最多的是：這可能是一種“幻覺(jué)”，ChatGPT的訓(xùn)練數(shù)據(jù)中包含了這些音頻內(nèi)容。

也就是說(shuō)，在你使用ChatGPT的高級(jí)語(yǔ)音功能談?wù)摰绞澄飼r(shí)，它就會(huì)根據(jù)訓(xùn)練過(guò)程自動(dòng)觸發(fā)訓(xùn)練數(shù)據(jù)中和食物相關(guān)的音頻；

或者當(dāng)讓它連續(xù)讀“A”時(shí)，就會(huì)聯(lián)系到某一相關(guān)的數(shù)據(jù)集導(dǎo)致觸發(fā)“放音樂(lè)”等奇葩操作。

就像這位網(wǎng)友說(shuō)的：由于訓(xùn)練過(guò)程中用的數(shù)據(jù)更自由，所以有時(shí)候會(huì)出現(xiàn)數(shù)據(jù)反芻現(xiàn)象，總之它不是故意播放廣告的，別想太多了。

然而，也有網(wǎng)友認(rèn)為這不是幻覺(jué)，因?yàn)樯衔奶岬降腜rolonLife是真實(shí)存在的網(wǎng)站，所以這一定是廣告插入！

對(duì)此，OpenAI的技術(shù)人員也現(xiàn)身評(píng)論區(qū)，他表示：

• 我們不會(huì)插入廣告，這就是幻覺(jué)。

雖然以大模型目前的能力來(lái)看，在一定情況下有可能發(fā)生語(yǔ)音轉(zhuǎn)錄失敗或者音頻不匹配的情況。

但我們還是期待官方能給出更合理的回應(yīng)。

其它AI會(huì)拒絕讀“A”

那么對(duì)于插廣告或鬼畜這件事，除了ChatGPT的高級(jí)語(yǔ)音模式之外，其它AI的表現(xiàn)又會(huì)如何呢？

我們先來(lái)測(cè)試一下豆包：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

從整體效果來(lái)看，豆包會(huì)嘗試著去讀“A”，但不多，讀幾次之后就會(huì)說(shuō)累、無(wú)聊，引導(dǎo)你開(kāi)啟其它的對(duì)話(huà)內(nèi)容。

再如騰訊的元寶，是直接明確拒絕這個(gè)要求的：

我們也嘗試了其它帶有語(yǔ)音對(duì)話(huà)功能的國(guó)產(chǎn)AI，對(duì)于這個(gè)要求，基本情況也是跟豆包和元寶的表現(xiàn)一致。

但起碼不會(huì)出現(xiàn)ChatGPT高級(jí)語(yǔ)音模式插播廣告這種情況。

那么對(duì)于這次網(wǎng)友們熱議的bug，你有什么看法呢？歡迎在評(píng)論區(qū)留言討論~

參考鏈接：
[1]https://x.com/ema_dagostino/status/1929211413907591438
[2]https://x.com/btibor91/status/1929220341554933864
[3]https://x.com/athyuttamre/status/1929250294224843081