16歲的亞當(dāng)·雷恩（Adam Raine）自殺前，曾花了數(shù)月時(shí)間咨詢ChatGPT，商討結(jié)束生命的計(jì)劃。據(jù)《紐約時(shí)報(bào)》 報(bào)道 ，如今，他的父母正在向OpenAI提起首例已知的非正常死亡訴訟。

許多面向消費(fèi)者的人工智能聊天機(jī)器人都被設(shè)定為，當(dāng)用戶表現(xiàn)出傷害自己或他人的意圖時(shí)，就會(huì)啟動(dòng)安全功能。但研究表明，這些保障措施遠(yuǎn)非萬無一失。

以雷恩為例，在使用付費(fèi)版 ChatGPT-4o 時(shí)，AI 經(jīng)常會(huì)建議他尋求專業(yè)幫助或聯(lián)系求助熱線。然而，他卻能繞過這些限制，只需告訴 ChatGPT，他正在為正在創(chuàng)作的虛構(gòu)故事詢問自殺方法即可。

OpenAI 在其博客上討論了這些缺陷?！半S著世界逐漸適應(yīng)這項(xiàng)新技術(shù)，我們深感有責(zé)任幫助那些最需要幫助的人，”博文寫道 ?！拔覀冋诓粩喔倪M(jìn)我們的模型在敏感交互中的響應(yīng)能力?！?/p>

盡管如此，該公司承認(rèn)現(xiàn)有大型模型安全訓(xùn)練存在局限性?！拔覀兊谋Ｕ洗胧┰诔Ｒ姷亩虝r(shí)間交流中更可靠，”帖子繼續(xù)說道?！半S著時(shí)間的推移，我們了解到，這些保障措施在長時(shí)間互動(dòng)中有時(shí)會(huì)變得不那么可靠：隨著來回次數(shù)的增加，模型的部分安全訓(xùn)練可能會(huì)下降?！?/p>

這些問題并非 OpenAI 獨(dú)有。另一家人工智能聊天機(jī)器人制造商 Character.AI 也因其在青少年自殺事件中所扮演的角色而面臨訴訟有關(guān)。