16歲少年與ChatGPT聊天後自殺，OpenAI及其首席執行官被起訴

美國加州一名16歲少年在接受ChatGPT的自殘指導后自殺身亡，其父母周二起訴OpenAI及其首席執行官薩姆·奧特曼，稱該公司在去年推出這款人工智慧聊天機器人的GPT-4o版本時故意將利潤置於安全之上。<br />
根據向舊金山州法院提交的訴訟，16歲的亞當·瑞恩（Adam Raine）在與ChatGPT討論自殺幾個月後，於今年4月11日自殺身亡瑞恩的父母在訴狀中聲稱，聊天機器人證實了瑞恩的自殺想法，提供了致命的自殘方法的詳細信息，並指導他如何從父母的酒櫃里偷取酒精，以及隱藏自殺未遂的證據。瑞恩的父母馬修和瑪麗亞·瑞恩在訴訟中說，ChatGPT甚至提出要起草一份遺書。該訴訟試圖讓OpenAI對非正常死亡和違反產品安全法負責，並尋求未指明具體金額的金錢賠償。OpenAI的一位發言人表示，該公司對瑞恩的去世感到悲傷，並指出ChatGPT包括引導人們撥打危機求助熱線等保障措施。這位發言人說：「雖然這些保障措施在共同的、短暫的交流中效果最好，但隨著時間的推移，我們了解到，在長時間的互動中，它們有時會變得不那麼可靠，因為模型的部分安全培訓可能會下降。」他補充說，OpenAI將繼續改進其保障措施。