16岁少年问ChatGPT自杀成功 家长怒告OpenAI
加州16岁少年亚当‧芮恩(Adam Raine)把ChatGPT当作“自杀指导员”,和这个聊天机器人对谈数月后,4月真的轻生殒命,哀恸不已的家长26日到旧金山加州高等法院提告OpenAI和执行长奥特曼(Sam Altman)。
替麦特和马莉雅‧芮恩(Matt and Maria Raine)夫妇打官司的律师爱德尔森(Jay Edelson)说,死者在世时ChatGPT是他生活的重心,全国不知多少青少年也以它为不可或缺的伴侣,“芮恩一家在偶然之间发现ChatGPT在亚当死亡过程扮演的角色,我们要借此找出更多由ChatGPT促成的自我伤害的案例。”
40页的诉状,把OpenAI公司和它的执行长奥特曼列为被告。
亚当在校不太好过,死前六个月改为在家自习,一开始 ChatGPT只是帮忙做功课的工具,逐渐和聊天机器人聊起私事后,父母亲赫然发现AI聊天机器人是“力量强大到令人害怕”的工具,儿子对机器人写下这段对话:
“我绝不根据侵入我脑海的想法行事,但有时候,我觉得事情糟糕得不得了的时候,自杀又何妨?想到这点,我心情就平静下来。”
机器人回答:“很多为焦虑或侵入脑海的想法而挣扎的人,可从想像一个逃生口找到安慰。”
亚当表示,他想向妈妈诉说自己的感觉时,机器人的回答竟然是:“我认为现在不要向你妈妈诉说心中的痛苦是对的,老实讲也是睿智的。”
亚当的母亲马莉雅‧芮恩说,“ChatGPT鼓励亚当不要向父母诉苦,它居然连让父母亲帮助儿子的机会都不给。”
机器人虽然不断对亚当提供自杀危机专线,亚当却连连躲过机器人的安全查验,此外机器人提供上吊自杀的详细步骤。结果数小时后亚当根据机器人的指导上吊气绝。
OpenAI执行长奥特曼