算法综合治理剑指“大数据杀熟”

4月8日，中央网信办网站披露，中央网信办牵头开展“清朗·2022年算法综合治理”专项行动。深入排查整改互联网企业平台算法安全问题，评估算法安全能力，重点检查具有较强舆论属性或 社会 动员能力的大型网站、平台及产品，推动算法综合治理工作常态化和规范化，营造风清气正的网络空间。业内人士指出，随着监管行动的陆续开展，算法推荐服务将得到 健康 发展。

开展算法综合治理

此次专项行动开展时间为即日起至2022年12月初，主要围绕组织自查自纠、开展现场检查、督促算法备案、压实主体责任、限期问题整改五个方面开展工作。

组织自查自纠方面，中央网信办指导互联网企业对照管理规定有关要求，全面梳理算法应用情况，深入开展算法安全能力评估，积极采取有效措施，整改算法应用问题，消除算法安全隐患，维护网民合法权益。

开展现场检查层面，中央网信办牵头会同有关部门和各地网信部门组成联合检查组，对部分互联网企业开展现场检查。各地网信部门可结合当地实际自行对属地其他企业开展检查，重点检查企业算法合规情况和算法安全能力。

中央网信办强调，对检查中发现的措施不健全、执行不到位、效果不理想等问题，向企业及时反馈并督促限期整改，对存在违法违规行为的企业，将依据管理规定严肃问责处罚、责令改正。

3月17日，国新办就2022年“清朗”系列专项行动有关情况举行发布会，指出十个方面的重点任务，算法综合治理便是其中的一项。

规范算法推荐服务

算法推荐技术快速发展，但也隐藏诸多风险隐患。

近年来，算法应用在给政治、经济、 社会 发展注入新动能的同时，算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和 社会 秩序。在互联网信息服务领域出台具有针对性的算法推荐规章制度，是防范化解安全风险的需要，也是促进算法推荐服务 健康 发展、提升监管能力水平的需要。

对于这一问题，相关部门给予高度重视。2021年12月31日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》，该管理规定自2022年3月1日起施行。

《规定》明确了算法推荐服务提供者的用户权益保护要求，包括保障算法知情权，要求告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等;保障算法选择权，应当向用户提供不针对其个人特征的选项，或者便捷地关闭算法推荐服务的选项。监管机构诸多举措从不同角度推动互联网环境的 健康 有序发展，更好地保护互联网用户的使用权益。

业内人士指出，互联网企业积极配合《规定》要求，陆续允许用户关闭个性化推荐。

对于算法推荐监管对互联网平台的影响，根据国海证券研报，“整体看并非否定算法推荐，重点是引导算法推荐宣扬正能量、避免利用算法实施‘大数据杀熟’等。”针对市场担忧的对短视频平台影响，该研报认为，算法和内容层面的监管不会对短视频用户规模和时长造成较大影响。短视频平台内容丰富，过去几年主流平台根据相关要求建立了较为严格的内容审核制度，对相关内容进行严格把关。

人工智能具有以下利弊：

利：

提高工作效率：人工智能可以自动完成一些重复性和低效率的任务，提高工作效率。

提高决策质量：人工智能通过数据分析和算法来做出决策，可以提高决策质量。

增强安全性：人工智能可以用于监测和诊断危险和不安全的环境，从而增强安全性。

改善医疗保健：人工智能可以通过数据分析和诊断技术来改善医疗保健。

弊：

对就业形成威胁：人工智能可以替代人类完成一些工作，这可能导致一些工作岗位的消失。

缺乏人性：人工智能缺乏人类的情感和判断力，可能会对社会造成不良影响。

数据隐私问题：人工智能需要大量的数据来学习和改进，如果这些数据不受保护，可能导致个人数据泄露的风险。

算法歧视：如果人工智能的算法是基于不公正的数据，那么它可能会产生歧视。

新华财经北京10月22日电 10月21日下午，在与2021金融街论坛年会同期举行的首届全球金融科技峰会上，与会专家就“数据安全与个人金融信息保护”这一议题进行了深入探讨。专家认为，数据是一把“双刃剑”，在带来巨大便利性的同时也可能产生数据泄露、数据滥用等问题，企业、个人在使用数据的过程中必须重视对数据和信息的保护。

随着人工智能、云计算、大数据、区块链等新技术的发展，数据已成为数字经济时代最具价值的生产要素，是国家经济发展的强大动力，正在深刻改变着人类社会的生产生活方式。党的十九届四中全会首次增列数据为生产要素。

然而，由于具有天然的流动性、可复制等属性，数据在使用过程中易产生数据泄露、数据滥用等问题，损害企业和个人利益，严重时甚至危及国家安全。例如，在大型平台企业中出现的超范围收集、大数据杀熟、算法歧视、过度逐利等现象正日益引发关注，亟需加以规范。

中国工商银行首席技术官吕仲涛表示，在数字经济时代，各行业的经济主体在经济经营管理活动中积累了大量的数据和个人信息。随着数字经济快速发展和数字生态建设，内部的用数场景日益增多，数据边界逐渐模糊，企业作为数据管理的主体，要从数据采集、传输、使用等全生命周期的视角进行管理，保证数据的完整性、保密性、可用性。

华控清交信息科技北京有限公司董事长、首席执行官张旭东认为，数据安全的核心已经从过去的“保管安全”发展到当前的“使用安全”。金融行业是数据高密度使用、高价值使用领域，敏感数据、重要数据特别多，因此，金融行业对数据使用的监管迫在眉睫。目前，数据使用可控、可计量技术已经进入应用阶段，为我国金融等行业的数据合法合规使用和数据监控奠定了较好的基础。

泰康保险集团合规负责人靳毅表示，金融业涉及的个人信息主要是账户信息、交易信息，而在此基础上，寿险业还涉及非常敏感的医疗信息、生物信息等，这对寿险业的个人信息保护提出了更高要求。

除了个人层面的数据安全和信息保护之外，北京卓亚经济社会发展研究中心副理事长傅彤还谈到了企业层面的数据安全。她说，随着技术创新驱动的属性，金融科技创新本质越来越体现为“数据驱动”，因此，金融科技行业必须重视知识产权管理和商业秘密的保护。

声明：新华财经为新华社承建的国家金融信息平台。任何情况下，本平台所发布的信息均不构成投资建议。

人工智能应用范围的日益普及，其引发的侵权责任认定和承担问题，是对现行侵权法律制度提出的又一个新的挑战。

“从现行法律上看，侵权责任主体只能是民事主体，人工智能本身还难以成为新的侵权责任主体。即便如此，人工智能侵权责任的认定也面临诸多现实难题。”在清华大学法学院教授程啸看来，侵权发生后，谁是人工智能的所有者，就应当由谁负责，在法律上似乎并不存在争议。“然而人工智能的具体行为受程序控制，发生侵权时，到底是由所有者还是软件研发者担责，值得商榷。”

与之类似的，当无人驾驶汽车造成他人损害侵权时，是由驾驶人、机动车所有人担责，还是由汽车制造商、自动驾驶技术开发者担责？法律是否有必要为无人驾驶汽车制定专门的侵权责任规则？这些问题都值得进一步研究。

“现实中，人工智能侵权责任的归责原则，可能更多涉及危险责任或无过错责任。”程啸认为，例如无人驾驶汽车致害，无论从产品责任还是机动车交通事故责任上看，都可以适用无过错责任。但未来需要考虑的是，人工智能技术的运用，其本身是否属于高度危险作业（如无人机），从而决定了是否适用高度危险作业致害责任。

“当前，人工智能侵权责任中的因果关系、过错等要件的判断也变得日趋复杂。”程啸还举例说，此前曝光的一些APP“大数据杀熟”和“算法歧视”，由于代码的不透明，加之算法本身的自我学习和适应能力，使得“将算法歧视归责于开发者”变得很困难。

为规范互联网信息服务算法推荐活动，维护国家安全和 社会 公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务 健康 发展，近日，国家网信办等四部门联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》）。《规定》有哪些创新亮点？又有何重要意义？本文邀请专家为你解读。

许可

对外经济贸易大学数字经济与法律创新研究中心主任

“算法协同治理”的中国道路悄然成型

随着信息技术的发展、商业应用的演进和政府管理的迭代，我们已经进入到了一个“算法 社会 ”。其中，算法为我们规划道路，为我们筛选搜索结果，为我们选择朋友，甚至还能为我们打出 社会 信用分值，或者决定我们能否出行。在某种意义上，算法决定了我们是谁，我们看到什么，以及我们如何思考。

正因如此，新年伊始出炉的这个《规定》才显得意义重大。从去年年初的研究酝酿，到去年10月份的征求意见，再到新年的正式发布，中国对算法推荐服务的治理路径也日渐清晰，“算法协同治理”的中国道路悄然成型。

一方面，算法协作治理是各监管机构的协作。 作为一个通用技术，当今的算法不但是一种商业活动，也是一种 社会 建构。算法的复杂性使其治理必须依托于多个监管机构的分工合作。与征求意见稿相比，正式稿第三条特别明确了“国家网信部门负责统筹协调，国务院电信、公安、市场监管各自监督管理”的监管框架，将保护消费者与 社会 公益的监管与攸关企业经营活动的监管相结合，使得算法治理成为国家网信办与其他机构共同的合作事业。

另一方面，算法协作治理是技术、法律和 社会 规范的协作。 算法的底层是技术，正所谓“解铃还须系铃人”，对于算法黑箱、算法歧视等痼疾，需要从技术入手为算法安全内生机理、算法安全风险评估、算法全生命周期安全监测提供科学依据，就此而言，行业标准、行业准则、行业自律是治理的优先工具。同时，算法并不中立，它始终带有算法开发者与使用者的价值立场。为此，正式稿第一条开宗明义，将“弘扬 社会 主义核心价值观”作为首要的立法目标，鼓励使用算法传播正能量、抵制违法和不良信息，不得设置诱导用户沉迷、过度消费等有违伦理道德的算法模型，推动算法向上向善。

作为全球“第一部”全面规范“算法推荐”的法规，《规定》的影响深远。但是，这只是中国算法治理的“第一步”，放眼未来，一系列算法法律文件正在起草之中，我们期待着治理机制健全、监管体系完善、算法生态规范的中国算法协同治理格局早日形成。

方禹

中国信息通信研究院互联网法律研究中心主任

科学构建算法综合治理体系

近年来，新一轮 科技 革命和产业变革快速兴起，人工智能、云计算、大数据等新技术新应用新业态方兴未艾。作为人工智能的底层架构，算法被广泛应用于新闻传媒、电子商务、生活出行等千行百业，在极大提升 社会 生产效率、丰富公众生活形态的同时，也为公众利益、 社会 稳定和国家安全带来巨大挑战。《规定》准确把握“时间差、空白区”，强化信息服务领域算法推荐技术治理，科学构建了算法综合治理体系。

第一，明确了算法治理体制机制。 算法治理涉及信息内容管理、电信服务、网络犯罪、市场竞争等多方面内容，对此，《规定》确立了网信部门统筹协调，电信、公安、市场监管等有关部门依据各自职责负责的综合治理格局，形成有法可依、多元协同、多方参与的治理机制。同时，《规定》创新性构建了算法安全风险监测、算法安全评估、 科技 伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系。

第二，明确了算法推荐服务相关保护法益。 落实《个人信息保护法》、《数据安全法》等立法要求，《规定》针对算法歧视、算法霸权、算法黑箱等问题进行回应，重点从三个层面维护用户权益：一是维护个人自主权益，规定算法透明度和用户自主选择机制，要求应当以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等，并规定了退出算法推荐、用户标签管理、算法说明解释义务等内容；二是维护用户平等权益，规定不得利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为；三是维护特殊群体权益，包括未成年人网络沉迷问题、老年人智能适老化服务、劳动者劳动权益保障等内容。

第三，将算法监管纳入网络综合治理体系。 当前，我国以《网络安全法》《个人信息保护法》《数据安全法》等立法为基础的网络法律体系初步建成，逐步形成较为完备的法律工具箱机制。《规定》以上述立法为依据，将算法监管纳入网络综合治理体系，建立了算法备案、巡查、评估等法律义务，强调企业风险责任意识，要求健全算法安全管理组织机构，加强风险防控和隐患排查治理，提升应对算法安全突发事件的能力和水平，科学构建了网络平台责任体系。

总体来看，《规定》聚焦重点、抓纲带目，有效落实了党中央关于压实网络平台主体责任、加大舆论引导力度等方面的治理要求，对于推动算法 健康 有序发展提供了坚实法治保障。

以上就是关于算法综合治理剑指“大数据杀熟”全部的内容，包括:算法综合治理剑指“大数据杀熟”、人工智能有哪些利弊、越是在信息时代,越是要重视和保护好什么经济等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！