【一文读懂】AI公司何时该向警方报案？卑诗枪击惨案揭示AI监管哪些问题？
【星岛综合报道】卑诗省图布勒岭(Tumbler Ridge)发生大规模枪击案后，外界才得知ChatGPT 的开发商 OpenAI 早就在半年前就发现该名枪手Jesse Van Rootselaar的账户活动有令人不安的忧虑而被标记且遭封锁。
这家美国科技公司表示，当时没有报警，是因为该账户在 2025 年 6 月的活动并未达到“更高的阈值”。
OpenAI 的回应引发了省政府和联邦政府官员的愤怒和不满，其中包括卑诗省省长尹大卫(David Eby)，他表示，如果该公司更早向当局发出警报，这场悲剧或许可以避免。
OpenAI 称，图布勒岭枪击案凶手在被封锁后仍拥有第二个 ChatGPT 账户。
然而一些专家表示，判断何时应该标记与聊天机器人互动的用户是一个复杂的问题。
OpenAI是如何因应事件？
OpenAI表示，Van Rootselaar的账户是透过自动化工具和人工调查发现的，这些工具和调查“识别出滥用我们模型进行暴力活动的行为”。
尽管该账户被封禁，但OpenAI表示，其内容不符合公司内部将案件移交执法部门的标准，该标准要求存在“迫在眉睫且可信的风险”，即存在造成严重人身伤害的迹象。
在各方抨击后，OpenAI公司决定对其安全协议进行修改。但人工智能部长所罗门(Evan Solomon)表示，他希望看到一份详细的计划，并希望与该公司执行长会面。
枪击案发生后，OpenAI发现这名枪手创建了第二个账户，绕过了封锁。该公司表示，在得知枪击事件后，他们主动联系了加拿大皇家骑警，并提供了相关资讯。
这位18岁的年轻人究竟与该公司的ChatGPT聊天机器人聊了些什么，目前尚不清楚，也不知道聊天机器人做出了什么回应。
在加拿大，AI公司是否有法律义务报告威胁？
没有。加拿大目前没有专门针对人工智能的监管框架。
虽然在健康和犯罪活动等领域的现有法律适用于人工智能的某些用途，但目前没有联邦法律要求人工智能公司向警方报告潜在的暴力用户。
卑诗大学计算机科学荣誉退休教授麦克沃斯(Alan Mackworth)表示，报告标准是自愿的，由各公司自行制订。
加拿大儿童优先组织（Children First Canada）董事会主席克里桑索（Andrea Chrysanthou）于周四发起“儿童倒数计时”（Countdown for Kids）运动，该运动隶属于一个联盟，呼吁自由党政府在2025年底前重新提出网路危害立法。
麦克沃斯表示：“我们不能指望这些公司自愿承担责任。我们需要一个拥有执法权的监管机构来监督标准，从而确保公众承担责任。”
他说，加拿大落后于欧盟（欧盟于2024年通过了《人工智能法案》）和英国（英国通过了《网路安全法案》）。
加拿大自由党政府于2024年提出了一项网路危害法案，该法案将对社群媒体公司提出新的要求，并设立一个网路监管机构。但由于2025年举行了大选，该法案最终未能成为法律。
麦克沃斯认为，人工智能公司应该承担类似“报告义务”的责任，就像教师或医生有法律义务报告对未成年人造成的疑似伤害一样。
安全与隐私之间的界线在哪里？
在悲剧发生后，OpenAI做出了一些承诺，其中包括与加拿大执法部门建立直接联系点、升级其模型以便在必要时引导用户获得当地的心理健康支持，以及加强其检测系统。
该公司称，根据其更新后的转介系统，如果今天发现枪手的账户，该公司会将该账户“在2025年6月被封锁”的记录转介给执法部门。
卑诗大学法学院的讲师艾肯黑德(Moira Aikenhead)警告说，不要想当然地认为报告与人工智能的对话就能阻止这场悲剧的发生。“悲剧发生后，人们都渴望得到答案，但是，在制订新的数位政策时，我们必须格外谨慎，避免仓促行事。”
ChatGPT 并非公共论坛，而是使用者与公司之间的私密互动，她说如果公司开始报告私人查询，许多加拿大人将对隐私问题感到担忧。
人工智能系统能否可靠地侦测出真正的威胁？
艾肯黑德指出，语境是另一个问题，因为人们可能无意中向聊天机器人提出任何问题。
“孩子们可能会出于好奇，输入‘我该如何犯下完美犯罪？’来查看 ChatGPT 的回答，这可能会让这个孩子进入加拿大皇家骑警的视线。”
艾肯黑德认为，如果扩大报告门槛，这些门槛必须透明、明确，并由政府监管，而不是由私人公司制定。
专家表示，即使有监管，也存在技术上的限制。
卑诗大学（UBC）人工智慧助理教授施瓦茨（Vered Shwartz）表示，科技公司会审查海量的对话，而判断内容是出于幻想、好奇还是真实意图并非易事。
她表示：“在事情发生之前就举报某人是一个非常棘手的问题，这有点像警察只有在有理由相信某人即将犯罪的情况下才能逮捕他。”
她表示，用户可能会被错误标记，并举例说，一位父亲将自己幼子的照片发送给医生后，谷歌将其帐户标记为“有害内容”，导致父亲账户被禁用。
接下来会如何？
人工智能部长所罗门表示，OpenAI近期承诺调整政策的力道还不够。
所罗门表示，他本周将与OpenAI执行长奥特曼(Sam Altman)会面，以进一步明确更严格的安全协议，并称他还将与其他主要科技公司会面，为科技监管做出更好的方向，而所有选项都在考虑中。
图：法新社 & 加通社
v01