虚拟世界中的“性侵”目前难以被认定为犯罪,但鉴于新的权益冲突,未来很可能需要调整相关法律规则。
要提前布局“超宇宙”治理规则,在现有法律法规基础上优化细化,促进虚拟世界与现实世界规则融合。
不能只靠企业的自觉。必须设立监管红线,在兼顾效率的同时兼顾公平,注重个人权利的保护,促进行业向上良性发展。
文|《瞭望》新闻周刊记者于雪·贾文静
近日,一名女性玩家称,在一款以元宇宙概念打造的VR游戏中,疑似被陌生人“性侵”,甚至被围观和诘问,引发社会广泛关注。
自上世纪80年代虚拟人出现以来,虚拟人涉嫌犯罪的情况时有发生。2007年,网络游戏《第二人生》中,一名虚拟女性被另一名虚拟人用一组程序代码控制,强奸了游戏中的角色。比利时警方对此展开调查,但该案最终未被起诉。
最近,随着“超宇宙”概念突破圈子爆红,虚拟人从小范围的“尝鲜”体验逐渐进入越来越多的人的网络生活。
出现了很多具有时代特征的新问题:当“性侵”蔓延到虚拟世界,这种行为是否涉嫌违法犯罪?当虚拟世界和现实世界的界限越来越模糊,会出现哪些新的问题?平台和企业在虚拟世界中需要承担哪些责任?如何保证行业向好?
清华大学人工智能国际治理研究院副院长郑良认为,随着VR技术的发展,用户已经可以在虚拟世界中实现沉浸式体验,拥有沉浸式的感官延伸。“这个案例说明,虚拟世界和现实世界的规则融合需要尽快提上日程。”
徐俊图/本刊旅行
虚拟空性侵或者违法
前述案件引发的社会争议之一是虚拟世界中的此类行为是否涉嫌违法。
公开资料显示,受害者是一名21岁的女性,她在游戏中创造了一个女性虚拟角色。因为游戏中虚拟角色的接触可以让玩家手中的控制器震动,而被“侵犯”的全过程也被其他玩家看到。一些虚拟角色甚至在观看时发出嘘声。女玩家说,“虽然没有身体上的伤害,但是心理上还是很难受。”
多位受访专家表示,目前没有专门针对虚拟世界“性侵”的立法,但虚拟世界是现实世界的延伸。目前对虚拟世界行为的定罪可以遵循现实中的法律规定。
北京市中通律师事务所高级合伙人、刑事部主任赵明表示,现实中强奸罪的法律要件主要有三:一是相关行为违背了妇女的意志;二是行为人必须采取一些能够使女性无法反抗、不敢反抗或者不懂得反抗的措施,通常表现为暴力、胁迫等措施;第三,犯罪者和受害者之间有真实的身体接触。
赵明说,在这种情况下,根据玩家的描述,男玩家违背了女玩家的意愿,这是可以证明的。但与现实世界不同的是,虽然通过设备感应有一定的物理感受,但行为发生在虚拟空之间,双方并没有真实的物理接触。因此,这种行为在现行法律条件下很难被认定为强奸罪,但可以参照相关法律规定追究其法律责任。
专家认为,这种行为公然侮辱他人,猥亵他人,涉嫌违反治安管理处罚法,或将面临治安管理处罚。如果认定情节严重,比如聚众或者在公共场所实施猥亵行为或者侮辱妇女的,也可以认定为强制猥亵、侮辱罪。
就前述案件而言,“性侵”发生在虚拟世界的公共场所,有其他虚拟角色在场边,符合“情节严重”的标准。
专家提醒,出现此类情况的一个前提条件是,被侵害方的现实性别和虚拟角色的性别必须相同,且某个群体中的角色之间存在对应关系。
这就引出了一个重要的问题。在涉及骚扰、猥亵、性侵犯等案件中。,判断一个虚拟角色的行为是否侵权,首先要明确虚拟世界与现实世界的对应关系。
在现有的法律框架内,个人在现实中享有的各种权利很难自动延伸到虚拟世界。当权利在虚拟世界受到侵害时,收集证据的方式,立案的标准,判断的标准等等。目前都比较模糊,有一些争议。
也有专家认为,虚拟人没有现实生活,所以虚拟强奸和虚拟猥亵不构成强奸罪和强制猥亵罪,在现实世界中很难用法律进行规制。
中国社会科学院大学互联网法治研究中心执行主任刘晓春表示,目前法律上对此类情况没有具体规定,存在空白色区域,相关规则的共识尚未形成。但鉴于新的权益冲突,未来很可能需要调整相关法律规则。此外,虚拟与现实形象的映射关系、虚拟角色权利的维护等都是需要进一步研究的重要课题,值得广泛深入的探讨。
虚实互动中的法律风险
虚拟角色侵权只是虚拟世界法律风险的表现形式之一。当前,当虚拟与现实的互动越来越频繁,更多的风险点也逐渐暴露出来。
近日,最高人民法院公布的具有较大社会影响和典型示范意义的案例中,一起“AI伴侣”软件侵犯人格权案备受关注。
本案中,原告是公众人物,被告是某智能手机记账软件的运营者。在未经原告同意的情况下,软件中出现了由原告姓名和肖像识别的“AI伴侣”。同时,被告通过算法应用向众多用户开放角色,让用户上传大量“表情符号”,制作互动图文内容,对“AI伴侣”进行“训练”。
北京互联网法院经审理认为,被告擅自使用原告的姓名、肖像设置涉及原告人身自由、尊严的系统功能,构成对原告姓名权、肖像权、一般人格权的侵犯,判令被告向原告赔礼道歉并赔偿损失。
最高人民法院表示,随着后疫情时代互联网产业模式的进一步创新和虚拟现实等新技术的不断发展,自然人人格要素虚拟呈现的应用日益增多。本案明确了自然人及其虚拟形象的人格权,同时对算法应用的评价标准进行了有益的探索,对于加强人工智能时代的人格权保护具有重要意义。
在虚拟世界中,类似于“AI同伴”的虚拟角色比比皆是,比如虚拟分身、虚拟数字人、虚拟员工、虚拟角色等。从这个案例中我们可以知道,无论是哪种虚拟人物,在创作的过程中都要注意与真实自然人的映射关系,否则很容易发生侵权行为。
中国政法大学传播法研究中心副主任朱伟表示,在民法典颁布之前,判断什么构成侵犯肖像权的标准更多的是基于可辨认的面部特征。在民法典中,人格权被独立编篡,这种映射关系的外延进一步扩大。
只要能让大众联想到某个特定的自然人,哪怕是人物的剪影,抽象的漫画,或者是图像、雕塑、绘画等艺术创作。作为载体,未经同意就可能成为侵权要素。本案中,“AI伴侣”的姓名、声音、说话风格、表情包等要素均被认定为可识别的肖像标记,故最终认定为侵权。
在人格权之外,虚拟人引发的民事侵权纠纷和刑事犯罪呈上升趋势。据一些学者统计,自20世纪80年代虚拟人出现以来,一些国家发生了许多与虚拟人有关的犯罪。比如在游戏中殴打虚拟人并掠夺他们的财产,然后在现实世界中把他们卖成钱;再比如,一个女人在网上嫁给了一个男人,但是因为丈夫抛弃了她,她黑进了虚拟丈夫的个人电脑,杀死了她的虚拟分身。她涉嫌非法入侵计算机信息系统。
北京德和衡律师事务所元宇宙科学与法律研究中心主任表示,完全参照现实世界中的犯罪,很难对虚拟空中的行为定罪。但在司法实践中,虚拟强奸和虚拟猥亵可能是非法侵入计算机信息系统罪、非法获取计算机信息系统数据罪等相关罪名,也可能是传播淫秽书籍、电影、音像、图片罪等相关罪名。对于攻击行为造成的精神创伤,用户可以向实施攻击行为的虚拟人对应的现实世界中的自然人主张精神损害民事赔偿。
多位受访专家表示,当前以现实世界为中心的法律规则在面对虚拟空形式时会受到挑战,现有的法律规定在处理虚拟空之间的诸多问题时存在一定的局限性。
为了应对各种风险,朱伟建议提前布局“超宇宙”治理规则,在现有法律法规的基础上进行优化和细化,促进虚拟世界与现实世界规则的融合。
刘晓春说,当现有的法律规则不能适用时,我们需要从游戏规则的层面对其进行提炼,通过典型事件形成共识,并通过立法机制逐步上升为法律规则。有时候,可能需要通过司法和行政执法的创新来梳理规则。
2020年10月19日,观众在2020世界VR产业大会云峰会场体验VR体感游戏。胡摄/本刊
监管促进技术进步
许多案例表明,虚拟世界的复杂性对治理能力提出了新的挑战。
刘晓春表示,大多数情况下,虚拟世界混乱的出现并不是技术问题,技术本身没有价值取向。关键在于技术如何应用,在什么场景下应用。一些网络平台可能会打着技术中立的旗号进行一些恶意的侵权行为。这时候就需要准确区分技术提供者和技术使用者不同主体的过错和责任。
一般来说,为了防止对产业发展或新商业模式的过度攻击,网络侵权领域有一个“避风港原则”,也称为“通知+移除”规则。主要思路是,在网络服务提供者只提供空之间的服务,不制作网页内容的前提下,当有人利用网络服务实施侵权行为时,受害人可以通知网络服务提供者采取删除、屏蔽、断开链接等必要措施。网络服务提供者收到通知后未及时采取必要措施的,要承担连带责任。
此外,还有“红旗原则”,即如果网络侵权行为很明显,像红旗一样飘扬,那么即使受害人没有给予通知,网络服务提供者也要承担责任,不能以不知道侵权为由推卸责任。
朱伟表示,这样的原则既保证了行业的良性发展,也释放了行业的活力。
对于企业来说,在研发技术的同时,需要引导技术向善。只有产品更符合大众的长远利益,才能获得正回报,实现共赢。
郑良表示,过去为了实现商业价值,更多关注的是如何更快地形成用户粘性。未来,企业应该更加关注技术行为的伦理取向。国外在这方面尝试的比较早,很多数字企业都成立了伦理委员会来规避相应的风险。特别是一些头部企业引入外部专家如法律、市场、历史、心理学等。在项目开发的全过程中评估项目对特殊人群、社会、公司发展可能产生的影响,以及社会接受和认可的程度。
目前,国内人工智能领域的一些企业已经开始在产品研发的标准流程中植入责任和公平的理念,尤其是在一些相对敏感的领域,比如涉及未成年人、社交等,已经形成了一些标准化的合规操作,从产品研发、应用、推广等各个环节对产品进行管控。所以对于相对规范的企业来说,风险相对可控。但问题是,一些资金、技术、人才相对缺乏的企业,可能还存在盲区和堵点。
显然不能完全依靠企业的自觉,而是要设立监管红线,在兼顾效率的同时兼顾公平,注重个人权利的保护,促进行业向上、向好的方向发展。
郑良提出,要完善全口径、全链条、全过程监管。
首先应未雨绸缪,完善监管要求,建立防范机制,监督企业对照相关标准,完善实名制规则,完善算法评估标准。
其次,处理事情,畅通投诉渠道,全程监督企业做好标记,及时保留证据。
最后是事后补救。对多次被举报的企业依法依规处理,对涉嫌多次违法的用户进行批评教育,限制虚拟活动,起到正面引导作用。
“在数字王国里你可以做任何你想做的事情”
当前,第四次工业革命正在深入发展,推动着科技与生活的深度融合,给人们带来前所未有的数字化体验。原住民的网络话语权在不断提升,消费能力在不断实现。“元宇宙”的概念不时产生。作为虚拟世界的重要基础,虚拟人技术正以肉眼可见的速度发展。
据统计,2020年和2021年,中国新增虚拟数字人相关企业分别超过3万家和6万家。截至目前,中国与虚拟数字人相关的企业超过16万家,预计2025年这一数字将超过40万家。
市场对此持积极乐观态度。据途远宇宙研究院相关数据显示,仅2022年1月,虚拟人领域就有近百起融资案例,累计融资金额超过4亿元。
多位受访专家认为,依托以虚拟人为代表的技术,未来现实世界和虚拟世界将进一步深度融合,虚实互动的场景越来越多,互动的方式越来越多,真实的互动效果越来越多。
与此同时,现实世界中一些原有的秩序、默认情况、公认原则正在被翻译和颠覆。可以预见,争论和分歧会进一步发酵,从而影响虚构与事实的互动逻辑。
郑良承认,虚拟与现实的互动自人类文化存在以来就一直存在,但随着虚拟现实技术的推广,这种互动变得更真实、更强大、更频繁。“没必要夸大虚空之间的特殊性。在数字王国,并不意味着你可以为所欲为。虚拟角色的言行必须遵循与现实世界相同的规则,不能违背公序良俗,不能违背主流价值观。”
从某种意义上说,目前出现的很多问题,都是新事物在发展过程中必须经历的一个阶段。梁认为,正因为风险往往难以提前预见,法律不可能穷尽所有可能出现的问题,监管在实践中又滞后,所以更需要强化底线思维。
郑良说,在坚持底线思维的同时,根据新判例的出现,我们不断用新的角度来解释。在这个过程中,一些基本的伦理道德标准会逐渐升华,最终形成成文的规则。
赵明建议,可以在虚拟世界中设立一个虚拟法庭,软件的开发者和运营者可以通过后台技术设置相应的场景,建立相应的规则和惩罚措施,这些规则和措施可以与现实世界相匹配,进而对现实自然人产生相应的约束力,从根本上起到威慑和警示作用。
在纠正乱象的同时,也要正确对待虚拟世界,既不能夸大虚拟世界的短期影响,也不能忽视虚拟世界的长期影响。
郑良认为,目前,许多人对虚拟世界存在一定程度的认知偏差,这体现在“近视效应”——只关注当下,忽视长远。
他解释说,“超宇宙”虚拟世界短期内还停留在游戏层面,影响力相对有限。但在不可预知的未来,虚拟与现实世界的医疗互动、文化互动、教育互动,可能会带来意想不到的变化。从业者可以在这些领域积极挖掘虚拟世界的潜在价值,同时建立保护机制,为虚拟世界的长远发展保驾护航。■