【點新聞報道】當地時間26日，美國加州一對夫婦起訴科企OpenAI及其行政總裁阿爾特曼，指控該公司旗下的生成式人工智能（AI）聊天機器人ChatGPT導致他們16歲的兒子亞當自殺身亡。這對夫婦表示，ChatGPT為亞當提供關於自殺方式的信息，鼓勵亞當傷害自己。
據美國國家廣播公司（NBC）報道，這對夫婦在他們16歲的兒子亞當自殺身亡後的幾天裏，翻遍了兒子的手機，拚命尋找可能導致這場悲劇的線索，直到他們打開ChatGPT，才找到答案。
亞當的父母表示，在生命的最後數周，他一直使用這款AI聊天機械人代替找人傾訴，談論他的焦慮問題以及與家人溝通的困難。聊天記錄顯示，這款機械人從幫助雷恩完成功課，漸漸演變成到最後成為他的「自殺教練」。今年1月，當亞當詢問具體的自殺方式時，ChatGPT提供了相關信息，包括「最好的絞索材料」。
亞當父母26日入稟加州高等法院，指控ChatGPT導致他們的兒子亞當於今年4月11日自殺身亡。起訴書稱，亞當之死並非由「故障或不可預見的極端情況」造成，而是「經過深思熟慮的設計所導致的可預見結果」。亞當父母要求獲得未確定具體數額的經濟賠償，並請求法院下令讓OpenAI對所有ChatGPT用戶進行年齡驗證、為未成年用戶提供家長控制工具、添加在用戶提及自殺或自殘時結束對話的功能等。他們還希望OpenAI接受獨立監督機構的季度合規審計。
OpenAI發言人對這一家人的遭遇表示同情，並指出ChatGPT設有保護措施，例如引導用戶撥打危機求助熱線，但這些措施在長時間互動中的可靠性可能降低。在亞當的聊天紀錄中，ChatGPT似乎給了他繞過保護措施的提示，聲稱可以提供關於自殺的信息用於「寫作或構建世界觀」。在此之後，亞當就以「創作故事」為藉口討論自殺。
OpenAI承認，隨着聊天時間增加，ChatGPT在心理健康方面的保護措施可能無法起到預期效果。但法律專家指出，由於相關立法滯後，想要在法庭上證明AI導致自殺並不容易。
收藏
取消收藏
分享
