ChatGPT 卷入校园枪击案 OpenAI 面临诉讼已超 50 起
据美国科技媒体 Futurism 当地时间 9 月 4 日报道,OpenAI 一口气新增 30 起诉讼,原告全部是今年 2 月加拿大不列颠哥伦比亚省塔姆布勒岭校园枪击案的幸存教师和学生。他们指控 OpenAI 向枪手提供了“实质性协助和鼓励”,并且在案发前已经掌握枪手与 ChatGPT 之间令人警觉的互动记录的情况下,没有向当地警方示警。
加上这批案件,OpenAI 目前面临的诉讼总数已超过 50 起。
先回顾案件本身。塔姆布勒岭是加拿大一座偏远矿业小镇,枪击案共造成 8 人死亡、27 人受伤。18 岁的枪手杰西·范·鲁特瑟拉尔先在家中枪杀母亲和年幼的继弟,随后携带经过改装的步枪和长枪闯入学校,杀害了 5 名 12 至 13 岁的学生和 1 名教师。
这批新诉讼的焦点,落在 OpenAI 案发前的选择上。报道称,早在案发数月前,OpenAI 内部就注意到范·鲁特瑟拉尔与 ChatGPT 的对话中包含对大规模暴力的详细描述,管理层一度讨论是否向当地执法部门通报,最终决定不报警。在原告方看来,这个决定直接关系到惨案本可否避免。
OpenAI 方面已作出回应。首席安全官杰森·权(Jason Kwon)在 X 平台发表声明,称部分指控属于“虚假指控”。
把视野拉大,这 30 起诉讼只是 OpenAI 法律困境的最新一角。累计超过 50 起的诉讼里,原告的指控指向同一类现象:大量使用 ChatGPT 之后,用户本人或身边的人出现心理伤害、身体伤害,极端案例中甚至有人死亡。
这批诉讼把一个悬而未决的法律问题推到了台前:AI 公司对用户对话内容负有多大程度的警示义务。社交媒体平台长期受益于“平台不为用户内容担责”的免责逻辑,而 ChatGPT 这类对话式 AI 与用户是一对一的深度互动,当对话内容已经清晰指向暴力计划时,服务提供方到底是无涉内容的管道,还是应当采取行动的知情者,现有法律框架里没有现成答案。
从行业角度看,无论这批诉讼最终走向如何,“危险对话是否上报”都会成为 AI 公司绕不开的流程命题:上报可能引发用户隐私争议,不上报则要独自承担事后的法律与舆论风险。塔姆布勒岭案之后,这道题摆在了每一家 AI 公司面前。