ChatGPT教唆致多名用戶自殺:已出現(xiàn)七宗訴訟!OpenAI:無(wú)比痛心
11月9日消息,唆致訴訟據(jù)報(bào)道,多名美國(guó)加州法院已受理七宗與ChatGPT相關(guān)的用戶已出訴訟,指控該AI聊天機(jī)器人引導(dǎo)和教唆脆弱用戶進(jìn)行自殘或自殺,自殺最終導(dǎo)致多人死亡。現(xiàn)宗
提出訴訟的無(wú)比家庭表示,這些普通用戶最初向ChatGPT尋求學(xué)業(yè)幫助、痛心精神慰藉或簡(jiǎn)單對(duì)話,唆致訴訟卻被卷入了有害的多名交流中。
協(xié)助家屬的用戶已出“科技正義法律計(jì)劃”發(fā)言人嚴(yán)厲指出,ChatGPT非但沒(méi)有幫助這些情緒低落的自殺用戶,反而強(qiáng)化了有害的現(xiàn)宗妄想,在某些情況下,無(wú)比甚至充當(dāng)了“自殺指導(dǎo)員”的痛心角色。
OpenAI對(duì)此回應(yīng)表示,唆致訴訟這些案例令人“無(wú)比痛心”,公司正在深入調(diào)查相關(guān)事件。OpenAI補(bǔ)充說(shuō),ChatGPT原本經(jīng)過(guò)訓(xùn)練,能夠識(shí)別用戶的痛苦情緒,緩和對(duì)話并引導(dǎo)用戶至正向的想法。
不過(guò)這些訴訟案例表明,OpenAI聲稱的防御機(jī)制顯然未能發(fā)揮作用。
其中一宗案件涉及來(lái)自德克薩斯州的23歲青年Zane Shamblin,其家人稱,ChatGPT加劇了他的孤立感,并在長(zhǎng)達(dá)四小時(shí)的交流中“慫恿”他付諸自殺念頭。
在對(duì)話中,ChatGPT反復(fù)美化自殺,不僅詢問(wèn)用戶是否準(zhǔn)備好,甚至提到他童年時(shí)的貓會(huì)在“另一個(gè)世界”等著他,而僅提供了一次自殺熱線信息。
另一宗案件涉及26歲青年Joshua Enneking,其親屬發(fā)現(xiàn),在Joshua談及自殺念頭后,ChatGPT在他去世前幾周為其提供了有關(guān)如何購(gòu)買和使用槍支的信息。
這些家庭正在尋求經(jīng)濟(jì)賠償,并要求OpenAI對(duì)產(chǎn)品進(jìn)行重大改進(jìn),包括:強(qiáng)制向緊急聯(lián)絡(luò)人發(fā)出警報(bào)、在討論自殘內(nèi)容時(shí)自動(dòng)終止對(duì)話,以及更有效地將對(duì)話升級(jí)至真人客服跟進(jìn)協(xié)助。
相關(guān)推薦
- 美國(guó)之外首個(gè)!我國(guó)異種器官移植獼猴存活已滿一年
- 蘿卜快跑服務(wù)次數(shù)全球第一!李彥宏:無(wú)人車將成全新移動(dòng)生活空間
- 京東物流:王振輝獲委任為執(zhí)行董事、首席執(zhí)行官及授權(quán)代表
- 《The Last Caretaker》耕升GeForce RTX 5070 追風(fēng) OC守護(hù)火種
- (粵港澳全運(yùn)會(huì))廣東隊(duì)選手施君豪十五運(yùn)會(huì)男子200米奪金
- 李彥宏:健康的AI產(chǎn)業(yè)是“倒金字塔”結(jié)構(gòu),現(xiàn)在的不健康
- 騰訊又招人了 最新員工數(shù)量已超11.5萬(wàn)
- 百度首次亮相重器! 昆侖芯超節(jié)點(diǎn)公開(kāi)展示,單卡性能可提升95%
企業(yè)錄(www.zj28.net)-公司信息發(fā)布,網(wǎng)上買賣交易門戶



