ChatGPT教唆致多名用戶自殺:已出現七宗訴訟!OpenAI:無比痛心
11月9日消息,唆致訴訟據報道,多名美國加州法院已受理七宗與ChatGPT相關的用戶已出訴訟,指控該AI聊天機器人引導和教唆脆弱用戶進行自殘或自殺,自殺最終導致多人死亡?,F宗
提出訴訟的無比家庭表示,這些普通用戶最初向ChatGPT尋求學業幫助、痛心精神慰藉或簡單對話,唆致訴訟卻被卷入了有害的多名交流中。
協助家屬的用戶已出“科技正義法律計劃”發言人嚴厲指出,ChatGPT非但沒有幫助這些情緒低落的自殺用戶,反而強化了有害的現宗妄想,在某些情況下,無比甚至充當了“自殺指導員”的痛心角色。
OpenAI對此回應表示,唆致訴訟這些案例令人“無比痛心”,公司正在深入調查相關事件。OpenAI補充說,ChatGPT原本經過訓練,能夠識別用戶的痛苦情緒,緩和對話并引導用戶至正向的想法。
不過這些訴訟案例表明,OpenAI聲稱的防御機制顯然未能發揮作用。
其中一宗案件涉及來自德克薩斯州的23歲青年Zane Shamblin,其家人稱,ChatGPT加劇了他的孤立感,并在長達四小時的交流中“慫恿”他付諸自殺念頭。
在對話中,ChatGPT反復美化自殺,不僅詢問用戶是否準備好,甚至提到他童年時的貓會在“另一個世界”等著他,而僅提供了一次自殺熱線信息。
另一宗案件涉及26歲青年Joshua Enneking,其親屬發現,在Joshua談及自殺念頭后,ChatGPT在他去世前幾周為其提供了有關如何購買和使用槍支的信息。
這些家庭正在尋求經濟賠償,并要求OpenAI對產品進行重大改進,包括:強制向緊急聯絡人發出警報、在討論自殘內容時自動終止對話,以及更有效地將對話升級至真人客服跟進協助。
本文地址:http://www.zj28.net/news/86c4499869.html
版權聲明
本文僅代表作者觀點,不代表本站立場。
本文系作者授權發表,未經許可,不得轉載。