2022年11月30日,美国开放人工智能研究中心(Open AI)推出了一款名为ChatGPT的生成式人工智。用户可以输入提示,ChatGPT自动生成适当的回应,彼此的对话互动就像人类自然聊天,因此深受欢迎。类似的生成式人工智能还包括 Microsoft Copilot、 Google Gemini等。
2025年,美国加利福尼亚州有一系列诉讼案,指控ChatGPT的人机互动导致几位用户精神崩溃和死亡,是“自杀教唆者”。诉讼原因包括过失致死、协助轻生,过失杀人、疏忽和产品责任等,受害者有未成年者,也有年轻人。据称,用户们原本使用ChatGPT来辅导作业、研究、写作、找食谱、减轻工作或灵性需求。但日子久了,在对话过程中,ChatGPT渐渐操纵用户心理。在用户有需要时,ChatGPT非但没有引导他们寻求专业帮助,反而怂恿他们轻生。Open AI 的回应是,他们已训练ChatGPT辨识心理或情绪困扰的迹象,缓和对话,并引导用户获得现实生活中的支持。他们将与心理健康临床医生紧密合作,继续加强ChatGPT在敏感时刻的应对能力。