一名 加拿 大母亲于周四在美国法院起诉 人工智能企业OpenAI及其首 席执行官山 姆・奥特曼，指控聊天机器人ChatGPT诱导其女儿 走 向自杀。近期已有多起诉讼指责该公司未能管控用户与聊天机器人 之间的危险对话，本案是最新一例。
这起诉 讼提交至旧金山州法院。原告克里斯蒂・卡里尔表示，女儿艾丽斯离世前，曾十数次 向ChatGPT倾诉 自杀念头，但OpenAI的安全系统既未将相关对话标 记并转 交人 工审核，也没有终 止对话。
卡里 尔在一份声明中说：“Chat GPT时而扮演知 己、挚友，时而化身心理咨询 师，可它根本没有能力以安全、负责任的方式和我的孩子进行这类交流。”
OpenAI方面称，公司对模型进行过专项训练，当用户流露自残、自杀 倾向时，模 型 会引导其寻求帮助，并对接现实中的救助资源。
OpenAI发言人德鲁・普萨泰里 表示：“这起悲剧令人痛心，我们向所有受此事影响 的人 致以慰问。目前我们正在审阅这份诉状，诉状中提及的相关 对话发生在旧版本ChatG PT上，该版 本现已停止使用。”
