陈伟

　　当前，ChatGPT等生成式人工智能的诞生和繁荣为人类生产和生活提供极大便利的同时，亦带来众多新生危险源，有可能导致技术风险的扩散。新技术会引发哪些法律风险，又该如何应对？在“面向未来的刑法学：理论发展与方法创新”国际学术研讨会上，本报记者就此采访了西南政法大学法学院教授、重庆市新型犯罪研究中心执行主任陈伟。

　　记者：何为生成式人工智能？

　　陈伟：生成式人工智能是技术衍生下的新型人工智能形式，国家互联网信息办公室《生成式人工智能服务管理办法（征求意见稿）》第2条将生成式人工智能界定为：“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。”ChatGPT就是典型的生成式人工智能形式。一般认为，生成式人工智能擅长生成新的、原创性的内容，而不再是简单地对已有数据的分析和模仿。

　　记者：ChatGPT等生成式人工智能相较于传统人工智能有哪些特性？

　　陈伟：就现阶段的生成式人工智能而言，其主要具有三方面较为显著的特性。一是极强的类人属性。以ChatGPT为代表的生成式人工智能可以输出极为类似于人类主体的内容与行为，对于一般人而言，这种人工智能生产的内容甚至很难分辨。二是进阶的算法黑箱。算法黑箱通常指算法仅被开发者、生产者一方掌握，而对用户、社会公众不公开、不透明。而ChatGPT等生成式人工智能的出现或将导致算法黑箱的“升级”。一般而言，人类主体仅能在前后两端对基于深度学习技术并使用了大规模神经网络模型的生成式人工智能主体施加影响，而对于其内部的具体运行逻辑无法完全掌握。换句话说，开发者能够判断生成式人工智能可能基于某个预训练数据而产出相应的内容，但无法确定其产出该内容的具体逻辑。此时，算法过程变成了“仅人工智能本身了解”的黑箱，可以把它称为进阶的算法黑箱。三是相对独立的行为。第三个特性实际上与第二个特性存在一定的联系，由于ChatGPT等生成式人工智能在其运行的整个过程，包括数据挖掘、预训练、优化训练等过程中具有相当的独立性，开发主体无法对其一举一动进行完全掌握，而只能施加影响。所以，个人认为，ChatGPT等生成式人工智能已经不再是牵线木偶，其可以实施相对独立的行为。

　　记者：科技的进步是一把双刃剑。生成式人工智能可能引发哪些刑事风险？

　　陈伟：有关生成式人工智能可能引发法律风险的问题在各国学界已有系统论述，主要集中于知识产权领域，但对于刑事风险鲜有论及，或虽论及但仅停留在伦理道德层面。事实上，生成式人工智能背后同样具有潜在的刑事风险，将来甚至可能对刑法体系造成冲击。单就现阶段来看，生成式人工智能的刑事风险可以细分为内源性刑事风险与外源性刑事风险两个层面。

　　内源性刑事风险即是生成式人工智能由内而外引发的风险，换言之，就是生成式人工智能自身所诱发的风险。这种风险主要源自数据挖掘进程，由于该进程具有极高的自动化属性，在对互联网数据合法性尤其是合刑法性判断错误的情况下，生成式人工智能完全可能基于不符合刑法规定的数据进行训练，从而向用户输出违反刑法规定的内容。此外，生成式人工智能自动爬取的数据亦可能未经相关知识产权主体的充分授权，从而在知识产权层面触刑。

　　外源性刑事风险，顾名思义，是指生成式人工智能基于外界影响而诱发的刑事风险。由于生成式人工智能会受到来自开发者与使用者两端输入数据的影响，若相关主体向生成式人工智能输入违反刑法规定的数据或者内容，便可能因此诱发外源性刑事风险。

　　记者：如何应对生成式人工智能可能引发的法律风险，尤其是刑事风险？

　　陈伟：首先是要对法律风险的整体状况进行充分评估，判断其是否对现行的法律体系造成冲击。就现阶段来看，其他部门法应当出台一系列细化规定，为生成式人工智能技术发展保驾护航。而刑法领域则应当平衡技术发展和社会风险之间的关系，奠定作为基础的刑法观念。具体而言，对于生成式人工智能技术的迅速发展可能产生的刑事风险的预防与规制，应采取一种“适应性刑法观”。在当前阶段，生成式人工智能技术尚不能对刑事法律体系造成严重冲击，无须通过立法层面的积极立法加以应对，更应当在坚守刑法本位观的立场上，静观其变，通过刑法理论层面的积极革新妥善应对生成式人工智能技术迅速发展所引发的刑事风险。

　　记者：对于生成式人工智能可能引发的法律风险，法学界尤其是刑法学界，未来应加强哪些方面的理论研究，从而为司法实践提供理论支撑？

　　陈伟：面对生成式人工智能可能引发的刑事风险，刑法学界应当在秉持科学合理刑法观念的基础上，实现刑法理论与刑法基本教义的与时俱进，从而妥善应对生成式人工智能可能引发的刑事风险。个人认为，原因力理论能够为正确、全面理解生成式人工智能提供理论依据。

　　原因力理论常见于民法领域，常被用于解决多人侵权中各行为人的责任划分问题。在刑法领域中，虽然我们经常提及原因力，但实际上对原因力理论的研究还不够系统深入。随着ChatGPT等生成式人工智能的诞生及发展，我们逐渐意识到人类与人工智能之间的关系由控制转化为影响，在此基础上，传统刑法因果关系理论不能为生成式人工智能开发者、生成式人工智能、生成式人工智能使用者三者之间的因果关系进行正确解释，理应用更为恰当的原因力理论进行理解。当然，碍于视野的局限性，传统的原因力理论存在一定的缺陷，故应当对传统的原因力理论进行创新。例如，将接受原因力的主体适当扩充至生成式人工智能等一系列非人主体。又如，将行为间关系纳入原因力范畴，从而对开发者、使用者行为对生成式人工智能行为的影响进行充分研究。在此基础上，还应当对原因力的程度及种类进行详尽划分，为解决生成式人工智能的刑事规制问题奠定理论基础。