文丨猿蘆葦 審核丨菜包

排版丨鹿九

AI還沒取代人類，就已經(jīng)開始替人類背鍋了

今年是AI技術(shù)發(fā)展的又一個大年，我想這算是大家的共識了。

前幾年這話題剛被炒熱的時候，總讓我覺得會像「區(qū)塊鏈」「元宇宙」這些概念一樣，沒多久就因為沒有好的案例，最終變成路邊一條，現(xiàn)在看來真是啪啪打我的臉。

今年上半年「Deepseek」的橫空出世、GPT-4o更強(qiáng)的生成式算法，帶來的是AI在生活場景的多樣化使用。最近國內(nèi)流行的“世紀(jì)大和解”“被資本做局”“喝蜜雪冰城被東方明珠攻擊”等熱門話題，就是靠著像豆包、即夢這些有手就行的一鍵生成式AI軟件，將網(wǎng)上那些荒誕的段子生成逆天的meme圖，通過瘋狂傳播把話題推向一個更高熱度。

海外市場動作也很多，今年7月埃隆馬斯克（Elon Musk）旗下的xAI公司推出了「虛擬伙伴」功能。讓人驚訝的是，這個來自歐美公司創(chuàng)作的虛擬角色「Ani」，居然是一位穿著蘿莉塔風(fēng)格的二次元金發(fā)美少女。

考慮到去年老馬點(diǎn)贊了很多《死亡筆記》彌海砂的圖片，不免讓人懷疑這是否是一種致敬。

總之，在X的大預(yù)言模型Grok上實裝的這個付費(fèi)訂閱功能，一經(jīng)推出就爆紅網(wǎng)絡(luò)，還造成Grok的一度堵塞。

這種現(xiàn)象性的火熱，倒也有跡可循。前段時間Common Sense Media公布了最新的研究，他們找了1000位青少年調(diào)查對象，發(fā)現(xiàn)超過7成的人都有使用過類似Character.AI或Replika等提供AI角色扮演聊天的應(yīng)用，越來越多的年輕人開始把AI視作社交互動的對象，甚至還有進(jìn)一步發(fā)展的意愿。

而談到游戲市場，那就更多了。米哈游創(chuàng)始人蔡浩宇成立的新公司Anuttacon，今年就發(fā)布了一款A(yù)I互動新作《星之低語（Whispers from the Star）》，激起了相當(dāng)大范圍的討論，這款游戲?qū)I大語言模型與《生命線》這類強(qiáng)調(diào)對話推進(jìn)內(nèi)容的游戲玩法做結(jié)合，試圖嘗試創(chuàng)作出一種全新的游戲體驗。

盡管先前測試覆蓋的范圍很小，不過很快這款游戲就會在8月15日登錄Steam平臺（只有英文）。

當(dāng)然，還有很多廠商也都在嘗試探索AI在游戲中應(yīng)用的可能性，比如網(wǎng)易的《逆水寒》、騰訊的《歸環(huán)》等產(chǎn)品，就已經(jīng)通過AI大語言模型模擬角色性格，接入NPC對話系統(tǒng)中，讓角色與玩家間通過對話形成更多聯(lián)系。

更甚者，像是最近蠻有話題的AI伴侶《EVE》，干脆直接讓AI給玩家送奶茶，打通了AI角色與現(xiàn)實人類之間厚厚的次元墻壁。

總的來說，AI通過輔助應(yīng)用平臺與內(nèi)容創(chuàng)作，已經(jīng)開始潛移默化地融入我們的生活。目前來看，似乎一切都朝著有益于人類的方向發(fā)展，形成了一種微妙的平衡。

盡管AI沒有取代人類，但你可能沒想到的是，它們已經(jīng)開始為人類背鍋了——

前段時間，“僅退款 AI圖”沖上了微博的熱搜。

了解過“僅退款”事件的讀者肯定都知道，今年4月淘寶、抖音、拼多多、京東等平臺已經(jīng)集體取消“強(qiáng)制僅退款”政策，將決定權(quán)交給商家。

誰知道極少部分別有用心的用戶，居然打起了用AI圖僅退款的主意，導(dǎo)致很多商家每天都能收到奇奇怪怪的AI圖片或AI視頻。比如下面這個退款視頻，一只右手正拿著產(chǎn)品放進(jìn)垃圾桶，突然出現(xiàn)第二只“右手”，兩只手一起把商品丟進(jìn)了垃圾桶。

以往造假一張圖片，可能要對著電腦P半天圖，但因為AI輔助的加入，基本上只需要拍一張原圖，然后打打字讓AI干活，就能一鍵生成一張看起來像那么一回事的照片。

二次元遇見AI，最多也就被“賽博福利姬”自拍騙騙，一番云雨后也就懊悔一句：“什么，美少女居然是擬人?!”

商家遇到AI，損失的可就是真金白銀了。

商家稍微不注意，可能就直接就把錢退給了這些無良買家，兄弟們，又是白嫖到的一天。

你也許會認(rèn)為，這些AI圖片或視頻只要經(jīng)過仔細(xì)觀察，還是很容易看出端倪的。奈何商家每天要處理的單子太多，最初可能對AI圖片的了結(jié)太少，或者壓根沒太多時間去放大圖片顆粒級別找不同。

（有些商家識別出了AI圖片）

你還真別說，這種因為各種原因疏忽的場景是很常見的。去年B站UP主濾鏡粉碎機(jī)就做過類似的社會實驗，用AI換臉技術(shù)測試家里長輩能否識認(rèn)出來，結(jié)果成功利用了長輩對子女擔(dān)心焦慮的心理，僅三個小時，UP主就騙走了自家媽媽一年的工資。

（圖：B站UP主濾鏡粉碎機(jī)）

不過“AI圖僅退款”這件事過后，圖片證據(jù)以后大概很難會作為店家退款的參考標(biāo)準(zhǔn)了，這反而會讓那些正常維權(quán)退款的買家雪上加霜，這些惡性事件最終的受害者，可能還是會回到普通消費(fèi)者的身上。

回到最開始我們聊到的“僅退款”，這一政策的取消，是因為有部分買家用各類不合理理由申請“僅退款”，還催生出了專門白嫖的職業(yè)“羊毛黨”，不僅讓部分商家苦不堪言，還波及到了參與配送的快遞員身上。

道高一尺，魔高一丈，“僅退款”是沒了，但“AI圖僅退款”卻迎著時代浪潮來了，雖然還做不到接近完美的造假，但這件事存在本身，就已經(jīng)是對人性底線的試探，令人唏噓。

進(jìn)一步來說，在如今AI成為大趨勢的現(xiàn)在，這些少數(shù)使用AI在“僅退款”上作惡的人，肯定會影響到公眾好不容易建立起來的，對AI這門技術(shù)的認(rèn)可程度。

言盡于此，我們當(dāng)然不是要否定AI這門技術(shù)，它誕生于進(jìn)化，是時代的必然趨勢。我們很難想象，最早的聊天機(jī)器人ELIZA誕生于上個世紀(jì)60年代，當(dāng)時可沒有什么大語言模型，只有短短的200行代碼，對話模式也只有兩種，一種是復(fù)讀用戶說過的話，另一種就是詢問細(xì)節(jié)，除此以外啥也干不了。

而現(xiàn)在，大語言模型讓AI能夠更好地理解并回復(fù)人類給出的語言，以前你也許很難相信，一個AI會說出“我操，用戶徹底怒了?！边@樣有些略顯脫線的搞怪發(fā)言，這種人性化的蛻變，也是科技進(jìn)步的一種側(cè)面體現(xiàn)。

說白了，AI僅僅只是個工具，它們無法像人類那樣自主思考，而引導(dǎo)它們?nèi)ニ伎嫉?，始終是在屏幕后面的人類。而能規(guī)范化人類道德底線的，終究還是人類自己。

如何讓舊制度適應(yīng)新科技，這依然是擺在我們面前的一項尚未解決的問題。

往期推薦 點(diǎn)圖可閱

今年ChinaJoy的大手，正逐漸從游戲伸到現(xiàn)實之中？

毀掉無數(shù)中國孩子童年希望后，這扇關(guān)死的門竟被一群民間大佬撞開了？

掃描下方二維碼關(guān)注 情報姬 獲得更多一手資訊

也歡迎大佬找姬投稿哦~ 投稿郵箱：crsq477@163.com

點(diǎn)擊這里，給我好看