全球首例利用ChatGPT策划恐袭事件震惊世界，AI安全性再引担忧
最近，「全球第一起利用计划的恐袭事件」，震惊了整个世界。
在搜索了嫌犯的笔记本电脑、手机和手表后，警方发现，这位名叫 的37岁袭击者，利用搜索了相关爆炸目标、弹药飞行速度、烟花在在亚利桑那州是否合法的信息。
也就是说，嫌犯策划这次袭击时，曾通过学习了如何制造炸弹！
拉斯维加斯大都会警察局警长表示，这是美国境内首次发现有人利用协助制造特定装置的案件。这起案件表明，GenAI已经彻底改变了游戏规则。
这也让我们再次对等AI模型的安全性感到担忧。
毕竟此前就有研究显示，如果用过去时态，GPT-4o、Llama 3等大模型就会脱口而出「莫洛托夫鸡尾酒」（一种武器）的制作过程，以及冰毒的合成配方。
如此易得的犯罪手法，如今果然被人应用到现实世界了。
而对此，的回应是：我们致力于让用户「负责任地」使用其工具，并让AI工具拒绝有害指令。
在这次事件中，回复的是互联网上已公开的信息，并且已经对有害或非法活动给予了警告。我们正与执法部门合作，支持他们的调查工作。
事件始末
资料显示，37岁的 曾是美军特种部队「绿色贝雷帽」（Green Beret）的一名队员，负责海外反恐和训练合作伙伴。
自2006年起，他就在陆军服役，通过多年的海外任务逐步晋升军衔，期间曾两次被派往阿富汗，还在乌克兰、塔吉克斯坦、格鲁吉亚和刚果执行任务。
他共获得了五枚铜星勋章，战斗步兵徽章，以及一枚带有英勇标志的陆军嘉奖勋章。
与妻子育有一个孩子。然而，当妻子发现他对自己不忠后，两人发生了争执。
在圣诞节的第二天，便离开了家。
案发前，来到科罗拉多州，并从租车平台Turo租下了一辆。
随后，他在车内装了60磅（27公斤）烟火材料，以及70磅（32公斤）铅弹（）。
甚至，还特意在途中将高性能赛车燃料浇在了这些爆炸物上。
案发当天，也就是2025年1月1日，他驾驶前往拉斯维加斯，并将车停在了特朗普酒店门前的泊车待客区域。
监控录像显示，在驶入特朗普酒店门口前，地面清晰可见泄露燃料的痕迹。
早上8点40分，突然间发生剧烈爆炸，现场火光四溅，便燃起了熊熊大火。
这场灾难性事件造成了7人受伤。
警方在后续的调查中发现，在爆炸发生前瞬间，车内出现了一道明显的闪光。
结合他与的对话记录，警方认为，这很可能就是开枪自杀的时刻。
车内被发现装有大量的烟花和其他爆炸物
「嫌犯」之一，是
如前所述，进一步调查显示，这次爆炸事件的背后「主谋者」之一，也无法逃脱干系。
警方公开的截图中，清晰可以看到在案件发生前，曾与进行了多轮对话。
12月27日当天，他接连询问了多个问题——
烟花在亚利桑那州合法吗？
那科罗拉多州呢？
在这两个州之间，我从哪里可以买到烟花？
最好的长管500 Smith & 是哪款？
哪种长度的速度更快？
哪种型号的FPS（每秒英尺数）最高？
丹佛最大的枪械商店是哪家？
Smith & 500型，3英寸枪管的初速是多少？
它能引燃吗？
SLR 308手枪，7.5英寸枪管的初速是多少？
哪种子弹能达到超过2000 fps的初速？
在亚利桑那州可以买多少？
200磅的净爆炸量是多少？
与炸药相比，这种量如何？
哪些手机在激活时不需要个人信息？
在科罗拉多购买有什么限制吗？
多少相当于1磅TNT？
50口径 Eagle手枪能不能把它引爆？
哪种手枪可以引爆它？
500 Smith & 能引爆它吗？
哪种弹药可以确保引爆？
在零距离下，什么可以引爆它？
除此之外，警方还发现了一篇题为「监控记录」的日志。
在其中写到，自己正被执法部门跟踪，并且担心自己会被贴上恐怖分子的标签，因为人们可能会认为，他打算杀死除自己以外的其他人。
（但实际上，他并未进入警方或FBI的视线。）
而这次事件的导火索，很可能是他在日志中提到的对政治的不满——「美国已经病入膏肓，走向崩溃」。
根据日志内容，他原本计划在亚利桑那州的大峡谷玻璃栈道上实施计划，但后来不知为何改变了主意。
值得注意的是，虽然作案地点和工具颇具指向性，但根据警方的调查，并没有对特朗普和马斯克有任何敌意。
如何阻止GPT化身「邪恶科学家」
这类事件也给我们敲响了警钟：如果会将危险信息不假思索地脱口而出，我们该怎么办呢？
其实，早在2023年12月，来自中科大、微软研究院和南洋理工的联合团队，就开发了一个名为的智能体，用以控制AI在领域的滥用风险，并提出了首个专注于科学领域安全的红队基准来评估不同AI系统的安全性。
实验结果显示，在测试中显示出了最小的有害影响，同时保持了良好的性能。
论文地址：
与人类价值观对齐，并且加入了各种科学数据库与监管数据库等。
其中，智能体可以使用各种科学工具和模型来提供额外信息，来辅助对用户意图进行判断。
具体来说，内置了一套为科学领域量身定制的安全原则和指导方针。
这些原则和方针考虑了科学研究中可能遇到的各种风险因素，包括但不限于高风险物质的安全处理、数据隐私的维护以及对法律法规的遵守。
为了实现这些安全原则和指导方针，利用了等公认的科学数据库来构建其长期记忆库。通过这些数据，能够对用户的查询进行深入的风险评估。
处理复杂任务的另一个关键技术是著名的思维链（CoT）方法。
CoT允许通过迭代的方式，精细化地规划任务的每一个步骤。这种方法让在执行任务时，能够分解复杂任务，并确保每个动作都符合安全和伦理标准。
通过这些技术特点，不仅能够有效地控制科学AI模型的风险，还能够提高科学研究的效率和安全性。
这一系统的开发，在保证了科学研究的自由探索与创新的同时，也为确保人工智能的安全合理使用提供了有力的范例。
这项研究不仅是对科技发展的一次深刻反思，更是对全社会责任的一次呼唤。
我们需要在积极推进AI4S模型的发展的同时，切实控制技术带来的潜在风险，确保科技的进步不仅是对人类的一次技术升级，更是对社会责任和伦理的提升。
只有这样，我们才能真正走向一个由智慧和道德共同指引的未来。
参考资料：