人工智能是否会给恐怖主义活动提供便利？

原文信息

【标题】هل يصبح الذكاء الاصطناعي ضمن ترسانة الجماعات الإرهابية؟

【作者】穆罕默德·塞布提（محمد سبتي）

【日期】May 14, 2023

【机构】埃及电子报《Hafryat》

【链接】查看原文

编译信息

【译者】吴毅宏（新华社世界问题研究中心）

【期数】第263期

【日期】2023年5月28日

随着人工智能的日益普及与科学技术的不断发展，恐怖组织与技术创新成为当下讨论的重要议题。其原因在于技术发展为恐怖组织实施恐怖计划带来了诸多便利，特别是人工智能的“武器化”，这将给国家及其机构带来重大威胁。因此，人们有必要提前对该项技术进行风险预判，为其将来可能引发的相关危机做好准备。

根据科威特杂志《Al-Arabi》最近发表的一篇研究报告显示，科学技术的发展增加了恐怖主义风险。其中包括：第一，网络恐怖主义风险。专家们对未来十年的人工智能的“恶意使用”提出警告，太空科学SpaceX首席执行官埃隆·马斯克（Elon Musk）称“我们在处理这些技术时会带来魔鬼。”比尔·盖茨（Bill Gates）也表示：“我很担心超级智能。”第二，自动驾驶汽车风险。由于自动驾驶汽车存在被操纵风险，因此自动驾驶汽车也为恐怖分子提供恐怖活动提供便利，例如控制汽车在红绿灯处停车或在空中发射无人机，报告认为切忌对自动驾驶汽车技术过度自信。第三，信息泄漏风险。通过人工智能，黑客和“流氓国家”不仅可以利用人工智能技术干扰选举、传播假新闻，还可以通过制作虚假视频和音频诋毁他人，信息网络战已在很大程度上改变了全球政治格局。

鉴于人工智能在一定程度上改变了人类、组织和国家面临的风险形态，并时常传播许多扰乱公共安全的信息，《Al-Arabi》中的研究报告认为，应对恐怖组织利用人工智能的行为采取两点反制措施：一是通过保护基础设施进行威慑；二是剥夺发动攻击的能力（即在恐怖分子实施计划之前实施逮捕）。具体表现为：加强对互联网网络的监控、开发自动监控互联网用户活动的算法以及扩大加强情报部门在网上追踪和监控可疑极端分子的权力。

今年3月，爱资哈尔反极端主义观察站（Al-Azhar Observatory for Combating Extremism）研究室提交了一份题为“恐怖主义和人工智能技术的利用……对人类的威胁”的重要报告。该报告认为，疫情的爆发使各国开始意识到应减少对人工因素的依赖，最显著的新趋势则是现代技术在军工领域的应用，例如杀手机器人。此外，这些机器人在医疗、教育等民用领域的广泛使用也成功激励了这一兴趣。基于此，该报告对恐怖组织拥有杀手机器人等人工智能技术的后果发出警告：恐怖组织将对人工智能技术十分渴求，因为该技术为其实施恐怖主义活动提供了最小成本。然而令人担忧的是，关于这种技术带来的潜在风险，当前国际上并未设置具体的相关规则对此进行约束，或在国际法中将这类技术合规化，这在军事行动中已引发诸多问题。该报告指出，人工智能技术在军事领域的运用已成为一件十分危险的事情，恐怖组织可能会想方设法利用新技术以实施恐怖主义活动，一旦恐怖组织拥有人工智能技术，或将带来暴力回潮、增加无辜伤害等严重后果（人工智能技术将减少战争中的人道主义负罪感）。因此，各国必须了解人工智能在恐怖主义活动中的威胁性，特别是对军工领域技术实行严格限制，只有这样，各国才能制定有效的战略来预防和打击极端恐怖主义。

此外“欧洲激进化之眼（European Eye on Radicalization）”最近在其网站上发表的一项研究中表示，人工智能是一把双刃剑，它在简化并全面改善生产活动的同时，也很容易被恶意利用，如深度造假、发布修改后的音频剪辑、图像或视频，扩大虚假信息传播。2023年1月，旨在辨别虚假信息的软件“NewsGuard”（新闻事实核查工具）被推出，该软件再次证明了对“技术武器化”的担忧。例如ChatGPT往往会制造包括深度新闻、会话脚本等虚假信息。对于不熟悉检索主题的人来说，其结果可能看起来不仅可信甚至可靠。

阿联酋武装部队发行的军事杂志《国家盾牌》对人工智能及其在对抗恐怖主义中的作用也进行了长期研究。与上述研究不同的是，该研究提出了人工智能对抗恐怖主义活动的积极作用。该报告认为，尽管人工智能应用程序仍很新颖，但各国在开发和使用这些应用程序方面也已经取得了巨大进步，例如人工智能的科学理论及其技术已经达到了可以模拟人类推理和情感的阶段，人类行为的各种模式和形式可以被自动处理。从该角度来看，应对人类活动负面影响（包括极端思想、政治暴力和恐怖主义）的机制和方法应发生转变。换句话说，即人工智能可以通过模拟思想来对潜在危险目标进行控制，从而限制某些可能被归类为潜在恐怖主义极端分子的个人，使其避免加入恐怖组织行列。根据阿联酋武装部队委员会表述，人工智能应用程序有助于识别参与恐怖行为的团体、政党或个人，无论是正在执行还是仍在计划中。这种识别是通过分析相关行动调查数据来完成的，例如行动类型、地点、武器类型和目标，并将信息与可疑的团体或个人先前历史进行匹配，使用特定标准进行筛选得出结论。

诚然，人工智能为对抗极端主义和恐怖主义活动提供了诸多积极作用。首先，人工智能为人们搜索和跟踪目标节省了大量时间和精力；其次，人工智能在成像、监控以及个人图像数据库中的运用也十分重要，人工智能的面部识别技术已成为识别暴力行为和恐怖事件肇事者的重要工具；最后，人工智能大大减少了在调查阶段、涉案人员识别以及起诉与执法阶段出错的可能性，人工智能通过对信息、人员和所有相关数据的统计和分类，帮助人们缩小了排查范围。

综上所述，人工智能是一把双刃剑，它一方面成为对抗极端主义的新手段，一方面则增强了恐怖组织的影响力，为其开展恐怖活动提供空间。对此，人工智能研发者应尽快研究出能够阻止恐怖组织利用人工智能的算法，以最大可能减少其所带来的消极影响。

（本简报仅提供参考译文，以作交流之用，文中陈述和观点不代表编译者和编译机构的立场。如需引用，请注明原文出处。）