立法空白地带：论安防人工智能的“罪与罚”

三年前，国务院印发《新一代人工智能发展规划》，提出了面向2030年我国新一代人工智能发展的总体要求、重点任务、资源配置、保障措施等，并提出将培育若干全球领先的人工智能骨干企业。

《规划》提出了“三步走”战略目标，即：

1）第一步，到2020年AI总体技术和应用与世界先进水平同步，核心产业规模超过1500亿元，带动相关产业规模超过1万亿元；

2）第二步，到2025年AI基础理论实现重大突破，部分技术与应用达到世界领先水平，在智能制造、智能医疗、智慧城市、智能农业、国防建设等领域得到广泛应用，核心产业规模超过4000亿元，带动相关产业规模超过5万亿元;

3）第三步，到2030年AI理论、技术与应用总体达到世界领先水平，在生产生活、社会治理、国防建设各方面应用的广度深度极大拓展，形成涵盖核心技术、关键系统、支撑平台和智能应用的完备产业链和高端产业群，核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。

人工智能时代已然来临，诸如人脸识别、无人驾驶、智能机器人越来越受到人们的青睐。人们一方面享受着人工智能所带来的便利，一方面对人工智能技术的滥用产生了担忧，比如个人信息隐私保护等等。

涉安防人工智能犯罪立法的必要性

随着在人体分析、车辆分析、行为分析和图像分析四方面独具优势的智能产品在各个安防场景下的广泛应用，安防行业成为我国人工智能技术落地的重要特色领域。传统安防行业中系统检索困难、“信息孤岛”、作用被动等问题有望得到彻底解决。但是，安防人工智能在给生活带来更大保障的同时，涉人工智能犯罪在智能安防行业有所蔓延，需要对其进行刑法规制。

首先，涉安防人工智能犯罪包括以下类型：

（1）以安防人工智能为对象的犯罪，如恐怖分子对公共场所视频安防监控系统的攻击；（2）利用安防人工智能作为工具的犯罪，如窃取某企业“安防云端”出入口控制系统中的人脸识别信息进行诈骗；（3）安防人工智能失控型犯罪，当前智能安防行业中研发和应用的智能安防电网和巡逻机器人等都具有一定防卫或攻击能力，如果失控可能造成严重危害。

其次，涉安防人工智能犯罪具有以下特点：

（1）社会危害性因为智能安防的庞大体量和智能框架的强联动性而快速膨胀；（2）侵犯对象更为广泛，既包括传统的人身和财产，也包括随着科技发展而出现的数据安全、人工智能系统安全和生物识别信息；（3）犯罪手段更加科技化、智能化、隐蔽化，当前智能安防系统几乎实现了“AI+云”的整体架构，对其进行破坏和利用需要较高的专业水平。

我国目前尚无涉安防人工智能的判例，但无论是被誉为“人脸识别第一案”（郭某诉杭州野生动物世界有限公司案，详情可以查阅“人脸识别第一案”判了！40年刷脸技术下一步怎么走？）里体现出的智能安防中生物识别信息的敏感度，还是德国大众汽车工厂“机器人杀人案”中表现出的人工智能的危险性，都提示我们应当涉安防人工智能犯罪进行有效的刑法规制。

法律的框架

安防人工智能技术所带来的影响可能涉及社会、经济以及伦理领域，而我们是否需要制定一个法律框架来促进个人与公共的利益在人工智能技术的发展中能够被正确引导呢？虽然我们可以看到非数字化的法律法规（民法、刑法、公法或者其他规范和标准），但是数字化世界里的挑战是复杂和多元的，单纯的引用非数字化世界的法律可能并不能满足相应场景的需求。

通常数字化治理的基本出发点就是“善治”，即通过算法进行治理来保证符合道德要求以及合规性，而依据这方面的研究，就得到了关于AI伦理的一系列原则。采纳这样的方式的原因是因为法律和道德之间深刻的相互作用，即法律具备道德基础，而道德与原则又通过法律来自我塑造，保持了一定的弹性空间。

现实的障碍与挑战

1. 立法规定的不足

涉安防人工智能犯罪立法的不足主要体现在制定于传统社会的刑法规范与新兴的人工智能技术之间的涵摄关系难以建立，无法对涉安防人工智能犯罪形成有效对应。

从整体上看，我国在人工智能领域的刑事立法尚处于空白状态，导致虽然在现实中人工智能危害行为类型层出不穷且程度不断加深，但是在实践中却鲜见相关的判例，涉安防人工智能犯罪的判例更是无从查见。

具体到涉安防人工智能领域，相关刑法规范缺失。目前与人工智能安防有关的条文仅有刑法修正案（十一）新增的第一百三十四条之一第一款规定，破坏、关闭安防设备以及篡改、隐瞒、销毁相关安防信息的行为构成犯罪，但该规定并没有涉及利用智能安防设备实施的新型犯罪以及智能安防设备过失犯罪的行为类型与法律责任。

虽然当前我国的安防人工智能产业蓬勃发展，但却缺乏相关的行政法规或规章，以及行业内部的规范加以引导。这种前置法以及行业规范的缺失就难以对该行业的野蛮生长进行有效引导，导致刑事法律风险增加。 

2.司法认定的困难

安防人工智能能否被认定为犯罪主体。目前智能安防中的事前预警型产品具有一定的防卫功能，而人工智能虽然可以具有自主学习、深度学习的能力，但是因为对大数据的极端依赖导致的易受数据欺骗等内在缺陷，存在防卫过当或假象防卫的风险，而且如果发生编程错漏或系统失控，也可能危害社会。

虽然目前我国的安防人工智能仍属于薄弱的人工智能的阶段，但这些事件的外在表现都是智能电网或防卫机器人在深度学习后“实施”了危害行为，似乎形式上符合犯罪的主体要件。

例如当安防从业人员将系统中的人脸信息这一生物识别信息提供给他人时，是否构成侵犯公民个人信息罪。再如利用对抗样本等攻击数据实现对智能视频安防监控系统的攻击，能否被认定为破坏计算机信息系统罪。

安防人工智能是传统安防需求和人工智能技术的结合，应用场景非常广泛，当发生犯罪时会牵涉多个法益，司法适用中会出现此罪与彼罪的困惑。

如何应对？

从犯罪综合治理的视野出发，完善涉安防人工智能的行业自律规范与民事、行政等前置法规范，多方位、全链条地实现犯罪的预防与治理。犯罪治理应当是一个全面、立体的系统化工程。在人工智能时代，犯罪综合治理的必要性愈发凸显。

一方面，技术迭代速度的加快使得刑法的滞后性愈发明显，刑法应更加强调自身保障法的地位，充分发挥前置法规范的作用，实现积极的一般预防效果。

另一方面，在涉安防人工智能犯罪的预防与治理过程中企业、平台具有较大的技术优势和监管优势，应当作为犯罪治理的重要一方。因而建立和完善行业内部的自律规范、充分利用行业、企业的治理资源和治理能力，是涉安防人工智能犯罪有效治理的关键。

责任编辑：安嘉琪