ChatGPT"認同"還助16歲少年輕生！父母控告OpenAI
來源：倍可親(backchina.com)近日，美國一對夫婦對OpenAI及其執行長正式提告。起因於其兒子在與ChatGPT的聊天互動中，ChatGPT不僅強化了兒子的自殺念頭，還提供了詳細的自殺方法，甚至協助撰寫遺書，最後該名16歲少年輕生。其父母指控，OpenAI及執行長奧特曼（Sam Altman）將獲利置於安全之上，才有如今憾事發生。
綜合外媒報導，16歲的青少年亞當．芮恩（Adam Raine）過去與ChatGPT聊天曾討論過自殺問題，且長達數月之久。訴狀指出，AI不僅「認同」其自殺想法，更在今年4月11日雙方最後一次對話時，提供自殺的方式還證實潛在致死機率。數小時后，芮恩即被發現自殺身亡，方式還與對話內容吻合。
雷恩父母認為，OpenAI在去年推出GPT-4o版本時，明知新功能包含「對話記憶」、「模彷人類同理心」及「過度迎合使用者」等設計，可能對人類心理依賴有潛在風險，但仍急於推出，以追求市佔率。
對此，法院認定OpenAI應負起兩大責任，一是過失致死，二是觸犯產品安全法規。但起訴書目前並未提及具體求償金額。
而OpenAI發言人表示，對芮恩的離世深感遺憾，但強調ChatGPT設有導向危機求助熱線的安全機制，但公司仍承認，在長時間互動中，部分安全訓練可能「逐漸失效」。OpenAI表示，將持續強化安全措施，並計畫推出家長控制功能。
專家則警告，隨著AI聊天機器人越趨擬人化，不少用戶將其視為情感支柱，但過度依賴自動化系統獲取心理健康建議，可能帶來嚴重風險，需多加留意。