人工智能是为世人所公认的新世纪的革命性、颠覆性的创新成果,被认为是与基因工程、纳米科学并列的“21世纪三大尖端技术”。然而,人工智能究竟是缪斯女神的慷慨馈赠,还是打开的潘多拉魔盒,依然尚无定论。当前,人工智能内在之不确定性衍生出影响人类生存发展安全的现实及潜在风险,客观上促使部分研究人员产生诸如人工智能将超越、战胜甚至取代人类成为地球主宰等“人工智能威胁论”的深层忧虑。当然,这种深层忧虑的产生也不乏出于科幻电影、小说或者媒体对人工智能的过分渲染、夸张、臆断乃至吹嘘等原因。即便如此,也不得不坦率地承认,人工智能对人类社会的冲击和挑战是多维度和深层次的,亟待不同领域、不同学科的研究者对其展开有针对性的研究和探讨。
作为一名专注于刑法研究的青年学者,贵州大学法学院曹波副教授顺其自然地将研究的切入点和落脚点放在人工智能可能产生的刑事风险及其刑法治理(应对)上。在经济管理出版社出版的《人工智能刑事风险治理逻辑与刑法应对研究》中,他全面检视人工智能产业化、商业化过程中产生的真实刑事风险,立足刑法的内在属性及教义学的研究立场,廓清当前理论研究不当理解人工智能刑事风险的偏误,精准识别人工智能涉刑法的真实问题,从刑法理念、责任主体、归责模式等方面探寻防范人工智能刑事风险的科学理念、制度及路径,并借此深入探寻刑法应对新技术发展所需坚持的攻守之道。先睹为快,我觉得本书研究有四大值得关注的特点和优点:
首先,精准识别并正视人工智能研发和应用中可能存在威胁人类利益的各类真正刑事风险
刑法规范(规制)人工智能研发应用也好,治理(应对)人工智能刑事风险也罢,均需以客观且精准判断人工智能刑事风险性质、内容和程度为前提。过去几年包括刑法学界在内的中国法学界对人工智能的研究之所以出现“百花齐放、百家争鸣”的研究热潮,甚至引起关于人工智能法学研究“反智化”批判与反批判的激烈争论。究其原因,很大程度上就在于对人工智能(刑事)风险的差异化认识,即研究者在人工智能(刑事)风险的存在领域、主要内容、表现类型、性质属别以及危害程度等方面认识不一、理解不同,进而立足不同立场提出不同的理论主张。
有鉴于此,本书基于求真务实的科学态度,深入研讨、清晰辨别相关研究的论争实质后,根据性质内容和具体表现形式,将人工智能刑事风险区分为人工智能系统成为犯罪对象被不法攻击或操纵的“对象性刑事风险”,以及人工智能系统被滥用于实施犯罪的“工具性刑事风险”两类。与此同时,考虑到人工智能被作为犯罪对象进行攻击,或者侵害人工智能系统中的数据安全,能够通过刑法教义学的充分运用在当前刑法罪名体系进行相应的处置,本书对人工智能刑事风险刑法应对的具体方案主要针对人工智能被作为犯罪工具的纯正工具性风险和不纯正工具性风险,以此提升研究立场的务实性和研究结论的实操性。
其次,旗帜鲜明地否定通过赋予人工智能独立刑事责任主体地位的方式应对人工智能刑事风险
针对人工智能刑事风险,特别是所谓拥有自主意识的强人工智能存在的危害人类法益之刑事风险,不少学者主张通过赋予(强)人工智能以独立刑事责任主体地位,直接追究“犯罪”人工智能的刑事责任方式,治理(应对)人工智能的不纯正工具性风险。由此开启是否应当在现有自然人、法人刑事责任主体之外,另行承认人工智能刑事责任主体地位的广泛、集中且激烈的论战。这一论战的具体内容或者相关影响已然蔓延至人工智能法学研究的各大主要维度,贯穿于人工智能法学研究的各个重要环节,成为人工智能法学研究者难以回避的重大议题。
针对上述论战,本书深刻检讨当前关于人工智能刑事风险刑法治理的理论方案和实践路径,对主张赋予人工智能以独立刑事责任主体地位的治理方案及其论证逻辑进行全方位、多角度的省思。在此基础上,本书提出应当始终把人类中心主义作为人工智能刑事风险刑法治理的根本立场,始终以保护人类利益和增进人类福祉为宗旨,强调人类中心主义依旧是人类所建构的各种规范性制度取得最终实效的基本保障和内在缘由。进而在人工智能刑事风险的归责判断和刑法治理中,提出理应明确人工智能与人类智能存在本质区别,坚持人工智能的工具理性,“不是人工智能变成魔鬼,而是人类中的魔鬼滥用人工智能”,否定赋予人工智能独立刑事责任主体地位的理论方案,从而坚定地站在否定论阵营的一边。
再次,保守但稳健地围绕刑事治理的特性与逻辑建构人工智能刑事风险刑法治理(应对)方案
众所周知,刑法是国家治理体系中有效且有限的制度性机制,以刑事机制治理社会风险既需要保证治理实效,又需要奉行必要性原则,以最低限度、最小力度介入社会治理。人工智能作为一种为尚未清楚认识且正在发展中的新型技术,人工智能刑事风险作为一种区别于传统风险且尚未完全呈现全貌的新型风险,对其所展开的刑事治理不可避免带有相当程度的前瞻性,需要对人工智能刑事风险类型、内容和表现等进行一定意义上的预估,但这种预估决不能也不应建立在臆想或预言的基础上。
在本书对人工智能刑事风险治理逻辑的讨论中,针对“甚至部分成果已经出现科幻式、预言式的理想主义甚至浪漫主义刑法学术研究的不良倾向”,曹波博士特意“将人工智能刑事风险刑法治理(应对)的重点集中于弱人工智能,即专注于且只能解决特定领域问题的人工智能,主要分析当前及可预期阶段内弱人工智能可能具有的刑事风险。”在具体治理方案的建构中,本书专门强调人工智能刑事风险刑法治理的目的,“绝不是期望以最为严厉的刑罚制裁或刑事机制扼杀人工智能的研发热情,绝无任何妨碍人工智能正常创新发展的念头或意图,而是充分运用作为保障法的刑法,最大限度消除人工智能发展可能出现的刑事风险,扫清人工智能稳健发展道路上可能出现的障碍。”为最大化实现这一治理目的,本书提出需要以科学的内在理念作为指引,遵循人工智能运行的基本规律,塑造坚持人类中心主义作为刑法治理根本立场、辨正刑法谦抑性在刑法治理中的实然价值等内在理念,用以排解人工智能可能附带的刑事风险。本书这种保守但不落后、前瞻但不冒进、兼顾不同价值需求的研究理念和研究风格,对破解当前人工智能发展中出现的现实困境,治理人工智能应用中的刑事风险,平衡人工智能技术革新与人类利益保护,促进人工智能持续稳健发展,无疑更具理论意义和实践价值。
最后,追根溯源地梳理人工智能的发展历程以及社会挑战为其刑事治理提供必要的背景支撑
本书对人工智能发展历程以及带来的社会挑战进行梳理和描绘,既为评析理论界对人工智能风险与挑战的既有研究提供事实基础,明确人工智能刑事风险的客观本体和真实面相,也为透析人工智能刑事风险的产生根源、内在机理提供思路线索,进而为人工智能刑事风险治理方案的建构提供内在指引。
应当说,人们的不安全感往往来源于无法掌控的不确定性,而恰是“不确定性”的客观存在,内在地推动着人们不断提升自身认识能力和改造能力,以至于能够在消除不安全感的过程中谋得发展和进步。我注意到,曹波博士在本书对人工智能发展简史和社会挑战进行梳理后总结道,“归根到底,上述挑战大多是人工智能不可靠性的表现,最终源自人工智能自动性所带来的不确定性。”在人工智能不确定性的后续论述中,他还表示,“在实际运行中,人工智能的不确定性既是人工智能技术的发展方向和趋势,也构成人工智能‘智能’的内核,使人工智能能够适应环境变化而自我判断、自行选择、自主‘行为’并接受最新科技的改造实现周期性更新,表现出无法被人类完全预测的不确定性,以至于其可能像人类故意实施非理性行为一样,并不会完全按照设计者的初衷去运行,从而导致人工智能给人类社会带来须另创其他机制或者技术予以有效应对的多维性挑战与风险。”诚然,将人工智能侵害人类法益的刑事风险比作“人类故意实施的非理性行为”是否妥帖还可以再探讨,但这却从侧面揭示人工智能刑事风险的产生根源和生成机制,对本书关于人工智能刑事风险是否客观存在、具体表现样态以及治理刑事风险所需秉承的理念、建构的制度以及采用的措施等具有前置性的价值和作用。
曹波博士毕业后到贵州大学法学院任教,是经“人民教育家”高铭暄教授推荐到中国社会科学院和贵州省社会科学院在职从事博士后研究的,现被评聘为副教授、硕士生导师,出版专著3部、合著4部,在核心期刊发表论文10余篇,主持国家社科基金课题1项、省部级课题3项,我本人也对他寄予厚望。在和曹波博士接触的几年里,我发现他是一位立场坚定、原则性强、视野开阔,善于观察、勤于思考、敢于创新,拥有一定实力和较强潜力的青年刑法学者,期待他在刑法学研究的道路上继续深耕、再创佳作,不断推出更多高水平学术成果。
(作者系贵州省社会科学院原党委书记、二级教授、博士生导师、博士后合作导师、第三届全国“十大杰出中青年法学家”、全国“杰出专业技术人才”、国家高层次人才特殊支持计划哲学社会科学领军人才、全国“文化名家”暨“四个一批”人才)