1. 算法推送模式下的弊端与问题
算法，即用于计算的方法，通过这种方法可以达到预期的计算结果。在其产生之初，因技术处于“遮蔽状态” [1] 而沿用传统的责任制度，但随着算法升级与嵌入性应用，目前交易平台可通过个性化推送、排序精选、检索过滤等各类算法技术收集、处理、推送数据，在网络消费的交易平台中，算法技术的运用极大地提高了交易匹配的精准度、提升了商业社会运行效率、增强了经济活力。但作为有限理性人 [2] 的交易平台在运用这些技术的过程中，深受算法背后资本的驱动不断逐利，“算法黑箱”“算法歧视”等引发的纠纷与失序现象层出不穷，无论是对消费者还是商家，都造成了相当大的困扰。
1.1. 大数据杀熟与价格歧视
互联网平台利用算法进行大数据“杀熟”的现象屡见不鲜。如不同用户在收货地址一致的情况下在同一商家订购同样餐食时新用户的配送费会低于老用户。复旦大学孙金云团队也通过调研发现，用滴滴出行平台打车，“熟人”比“新人”的打车费用可能更高 [3] 。互联网平台与商家在用户不知情的条件下，根据不同的用户画像特征启用不同的定价策略，以期在最大程度上获取利益。这种互联网平台企业利用算法技术，最大化攫取消费者剩余的“大数据杀熟”现象，已接近经济学中的一级价格歧视。
1.2. 交易竞价造成的消费决策干扰
互联网平台的竞价推广机制一定程度上干扰了正常的交易秩序。相对于传统零售业，网购交易秩序的构建更加依赖于交易评价。网络交易无法像传统市场购物那样通过接触商品而获得购买决策信息，买卖双方在商品质量等方面信息不对称问题比传统交易市场更严重。因此，针对网购交易的评价、信用评级等就显得尤为重要。而互联网平台算法中引入的竞价排名系统使网络交易中的推荐排序很大程度上依赖于商家的竞价排名而非商品的自身品质。加之网购中普遍存在“刷评”的乱象对消费者的购买决策产生干扰。同时，平台的竞价机制决定了平台上的商品与服务的流量，而流量又进一步影响商业价值，这种“竞价为先”“流量为王”的现象诱导消费者陷入消费陷阱，引发非理性的冲动消费和借贷消费的社会风险。
1.3. 算法推荐塑造的信息茧房
互联网消费平台的整体环境相对封闭，用户在无意识消费时会受制于算法技术推荐所形成的封闭空间，即“信息茧房”，一定程度上用户会失去接触其他倾向的可能性 [4] 。此外，算法技术推荐具有强烈的显性倾向，将消费者潜在的消费可能排除在外，一方面造成消费选择减损的加剧，失去接触其他倾向的机会；另一方面由于算法技术的滞后性，使其不能够满足用户的多样化需求。
1.4. 电商平台的垄断地位和“算法利维坦”
在“消费者–电商平台–商家”这一交易结构中，电商平台毫无疑问地处于优势地位。在整个网络交易空间中，电商平台也同样具有支配地位。虽然电商平台吸纳了支付、物流、保险、第三方质检等多元主体参与其中，呈现出主体多元化复合化的特点，但电商平台是关键游戏规则的制定者。如何推荐商品给消费者、如何衡量商家信用、反馈纠纷及派单等都需要电商平台开发的各种算法。算法通常以客观中立、价值无涉的形象呈现，但算法遵循何种规则、如何被执行却是其背后设计者的价值选择与既有利益格局的体现。“算法利维坦”的吊诡之处在于，电商、消费者和商家似乎都受其支配，当出现交易争议时，平台电商通常甩锅给算法，而消费者与商家则不知如何对自身权益加以保护。
2. 算法推送下消费者权利受侵害现状
算法技术中立并不意味着价值中立，开发、应用者作为技术背后的主宰会将自身道德缺陷和不当欲望嵌入算法之中，且此行为隐藏于算法背后更不易被发觉，因此难以防止人为不当干预损害消费者权益。
2.1. 侵害消费者权益原因分析
算法侵犯消费者权益归根结底是由于应用算法技术的平台与消费者间地位的不平等造成的，而产生不平等的根本原因在于信息不对称。
信息不对称是消费领域长期存在于消费者与经营者之间的现象，买方和卖方之间资源、信息的差距导致消费者处于弱势地位，卖方可以利用信息优势获取更多利益，侵害作为信息弱势一方的消费者的权益。在平台经济中，利用算法技术手段加剧消费者与生产经营者两者主体的不对等状态的程度的现象已经司空见惯，消费者进行网络消费活动时对相关信息的获取完全依赖于平台经营者的信息披露。反之，平台经营者却可以在消费者不知情的情况下利用算法对市场数据和用户信息进行收集、分析，并利用其拥有的信息优势，进一步恶化双方的信息不对称，损害消费者的权益。
2.2. 算法推送侵害消费者权益的具体表现
我国《消费者权益保护法》第七条至第十五条规定了消费者权利群，其中，知情权与公平交易权是消费者权利中的核心部分。
2.2.1. 侵害消费者知情权
知情权在消费者权利群中处于前提性和基础性的地位，是消费者保护的核心性权利，当消费者能够充分行使知情权时，其他消费者权利才可能正常行使，否则在毫不知情的情况下，难以想象消费者如何进行自主选择、公平交易并保障人身和财产安全。
本文认为，在数字消费领域算法对消费者权益的侵害往往伴随着对消费者知情权的侵害。以软件启屏广告现象为例，这一变相强迫消费者观看广告的行为侵犯消费者自主选择权 [5] 。同时在APP中强制触发广告也是一种滥用用户数据的行为，对用户信息造成了损害。此类平台对用户自主选择权与个人信息权的侵权行为正是基于对用户的知情权的侵犯所达成的，诸多APP通过“摇一摇”实现进入广告是调取了手机的某项传感数据，针对用户的广告信息推送并未告知调取用户APP摇动权限，也未征得同意，是系统替用户做的选择。即使有征求意见的环节，用户实际上也难以做出真正符合自身本意的选择。区别于线下消费，消费者在线上虚拟空间中存在着天然障碍，难以掌握个人消费活动的主动权，在不公平算法运行下，消费者在知情权得不到完整保障的前提下便导致了消费者权力群的受损。
平台经营者开展面向消费者的经营活动时应履行信息披露义务，保障消费者的知情权。消费者知情权与经营者的信息披露义务两者具有内在一致性，消费者知情权的实现依靠经营者的信息披露义务的履行。在平台经济的消费环境中，消费者只能通过平台经营者披露的商品或服务信息单向获取相关信息作出判断和选择。由此可见，商品信息披露的多少是由经营者单方决定的。一方面，不论是经营者主动说明、告知消费者相关信息还是消费者自主搜寻或主动询问了解消费信息，消费者均处于被动地位，难以预防生产经营者隐瞒或虚假传递信息侵害消费者的知情权，迫使消费者做出错误的意思表示进行交易行为。另一方面，消费者在利用消费信息的同时也产生了新的用户信息数据，平台经营者提供算法服务的背后逻辑涉及对消费者个人信息的数据处理，而消费者往往对此并不知情，同时当算法行为过度解读或泄露信息数据时就出现了新的知情权侵权行为，严重侵害消费者权益。
2.2.2. 侵害消费者公平交易权
公平交易权是消费者权利的最终目的。由于消费者与作为商品和经营者相比处于弱势地位，因此《消费者权益保护法》赋予消费者权利，强调经营者的严格义务，通过法律的强制手段，以权利义务规则来确保信息配置的公平和效率 [6] ，防范因信息不对称造成的对消费者权益的侵害，在权力配置上向消费者倾斜以达到实质公正的目的。由此，消费者公平交易权的设置正是基于治理消费者与平台经营者两方主体信息失衡状态考量，通过促使信息在线上交易主体之间对称分布，保障其他消费权利来达到保障公平交易权的目的，最终创造公平的消费环境，维护消费秩序。
目前，互联网平台利用算法进行大数据“杀熟”的现象屡见不鲜。本文认为，导致大数据“杀熟”等不合理现象频发的原因首先在于算法定价行为，算法定价行为基于算法数据收集，为企业通过数字化手段广泛收集消费者的消费记录和偏好数据，形成价格机制，实施更为普遍的个性化定价或价格歧视，极易触及消费者的公平感。消费者与平台双方主体地位不平等，掌握信息不对称，作为普通公众难以应对操纵者利用算法技术的不纯动机与不当谋利行为。双方主体缔约地位的差异表现为信息技术水平和能力的差异，对信息获取能力和控制能力的差异 [7] 。定价算法背后所隐藏的算法黑箱处于强势地位，控制着不对等优势，能够根据用户信息、网络浏览内容、页面停留时间、消费记录、点赞评论、关注偏好等信息完全掌握用户的线上活动，得以在定向推送、定价、服务等方面加以歧视。面对平台在与消费者的信息博弈中利用算法技术的歧视和暗算，消费者在平台经营者面前失去了讨价还价的余地，承担着并非因市场因素带来的价格差，而是平台经营者利用优势地位造成的因人而异的价格差。平台经营者可以最大程度地获取消费者剩余，严重损害了交易的公平 [8] 。
其次，双方交易对话鸿沟的加剧也是对消费者公平交易权的强制剥夺。算法本身具有复杂性，普通用户缺乏相关专业知识，难以洞悉算法运作的机理。加之目前算法透明义务制度的不健全使其披上了神秘的黑纱，当算法背后的逻辑和权重变得模糊时，消费者权益就难以得到保障。针对平台限制算法透明度，增强双方信息不对称壁垒以确保获利机会的状况，《互联网信息服务算法推荐管理规定》规定明确了算法知情权，要求平台告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等。同时该规定第二十四条1要求其进行算法备案，强调了平台的算法透明义务，刺破算法面纱，提高算法透明度。这一规制能够最大程度的避免个人消费者在进行网络消费时的隐性侵权与风险，赋予了消费者获得算法知情权的权利。但就目前实践来看，用户算法知情权保障仍未得到覆盖。
3. 交易平台与算法推送间的问责问题
一直以来，在算法技术损害结果后的“追责”中，存在着“平台责任中行为人与责任人相分离”“平台本应技术中立所以承担的是无过错责任”等存在“责任鸿沟”的困境，导致我们在追责时困难重重、模糊不清。
3.1. 算法推送问责下主体区分的必要性
随着立法者充分认识到算法在交易平台中重要作用，他们对于平台责任不再纠结于主观过错与违法结果等传统法律责任的认知体系，而是直接将监管与追责直接指向算法背后的责任主体 [9] ，即在算法问责时刺破“算法技术的面纱”，深究背后主体的责任。明确算法推荐侵权责任，将更有利于算法推荐技术的合理合法应用，同时也给予算法推荐服务提供者一定的警醒，帮助平台合规运营。
3.2. 算法与交易平台之间的关系
在涉及算法推送侵权的案件中，通常牵涉三个主体即：算法技术的开发者、算法运用者和算法消费者。在追责时要想明确责任主体，必须寻找问题的本质。
在算法与交易平台关系的释明中，往往会援引“刀不杀人，而是人杀的人”的例子，所以在追究相应的法律问题时，我们首先关注的不是刀，而是用到的杀人的人的行为应该承担什么责任 [10] 。那么得以明晰的便是“算法”实际上只是像刀一样帮助平台进行推送的工具，而“推送”才是平台主动实施的带有目的性的行为。以因算法大获成功的抖音为例：抖音这款软件，实际上是由字节跳动开发的众多产品之一，是由字节跳动孵化的一款音乐创意短视频社交软件。其中算法推送作为字节跳动旗下产品的核心灵魂，通过计算利弊和利益衡量得以利用。
算法推送在褪去层层遮蔽后，与平台本质上是如前文所举例子“用刀杀人”一般是工具与工具使用者之间的关系。在使用中因为追求市场的趋利性价值取向而丧失了技术中立的保护，我们对于平台责任的认定也明朗起来，即对其行为方式、行为后果、主观过错等一系列要件加以认定。
3.3. 算法推送下的责任承担
算法本身并不会成为独立的行为和责任主体。我们需要明确的便是是怎样的主体在事实怎样的行为，又会造成怎样的损害后果。究其根本，首先要考量的便是算法的实际使用者是谁，在刺破算法推送与交易平台的面纱之后，交易平台作为使用这一项技术的经营者，将直面责任追究。
根据中国首例算法推荐案——北京市海淀区人民法院对北京爱奇艺科技有限公司诉北京字节跳动科技有限公司侵害《延禧攻略》信息网络传播权一案的判决。2字节公司采取的措施未达到“必要”的程度，仍为实施侵权行为的用户提供相应的信息存储空间服务和传播技术支持，未尽到合理注意义务，即对算法的运用存在主观过错，需承担帮助侵权责任。
在算法尚未成熟使用之时，我们通常会用到“避风港规则” [11] 。即平台作为服务提供者，以“知道”作为平台免责事由，平台只需要尽到注意义务。但根据上述案例，面对避风港原则的部分立法表述存在模糊性，我们不难发现算法使用的日渐成熟，已经突破了避风港下的利益平衡。对于平台中存在的小概率、小范围、轻微的侵权损害，权利受损者可通过适当容忍使平台的相应责任得以免除，但是对于其中大概率、大范围、严重的侵权损害，平台除了尽到相应的注意义务且采取必要措施处理和避免外，如若他们的侵权行为明显到如同鲜艳的红旗一样，就连普通人也一眼能够看出来时，此时平台就应认定主观上具有过错，不再适用“避风港规则”。
4. 算法推送困境下的救济途径
技术是发展过程中多方参与、共同构建的产物。因此，探索我国国情下算法推送困境的救济途径，在借鉴他方经验的基础上，为了避免工具理性逻辑成为一般逻辑，还需要通过政府顶层规范、平台系统重塑、提高用户算法素养等方式，防止技术发展带来的问题。
4.1. 技术救济：完善政策法规，进行技术规范
2022年3月，国家互联网信息办公室等部门联合发布了《互联网信息服务算法推荐管理规定》，其中第十七条要求，“算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项”。这是给予用户对推荐内容的一票否决权利，也是人们对算法进行反规训的权利体现。但目前各平台对于“算法关闭键”按钮的层层烦琐的操作步骤，让用户仍处于被动地位。
算法治理不是一场“打地鼠游戏” [12] ，本文建议着眼于算法运用的全流程，构建事前预防、事中监管、事后归相结合的综合治理框架。构建算法备案审查和评估制度，在事前审查算法使用者在收集、利用消费者个人数据信息时的程序是否合规，引导算法应用向公开透明化发展。在事中监管方面，落实监管主体部门的职责分工，完善监管规则和责任机制，将发挥事中监管优势。在事后归责方面，明确算法问责的实施机构职能及问责程序，对于利用算法推送行为侵害消费者合法权益的经营者，一经发现就应进入问责程序予以规制，屡次不改或对消费者权益造成重大损害的经营者直接拉入“算法黑名单”给予严厉的信用惩戒，在治理手段上实现政策和技术治理双线共行。
4.2. 平台规范：推进平台治理前移，扩张注意义务
尽管算法推送下平台责任承担遵循“避风港原则”，其初衷是为平台减负，但在“注意义务”的模糊边界下一度成为平台免责的保护伞，因而为了预防潜在风险，平台的“注意义务”可进行事前评估与扩张。《中华人民共和国个人信息保护法》第五十五条规定了信息处理者事前评估机制，第五十六条规定了评估内容，这为弥补平台追责下的潜在风险提供治理框架，在这个框架下，避风港原则也需要及时更新于完善，通过事前评估机制来扩张平台注意义务的范围，以此尽可能从源头上认定平台行为，使损害结果从源头上加以遏制，保证平台承担责任的适度。
4.3. 立法规制：赋权消费者，强调平台经营者义务
针对算法推送对消费者合法权益被非法侵害的情况，欧美等发达国家在实践应对及理论研究层面已形成了相对较为成熟的路径。故本文在此对以美国为例的救济路径进行分析并借鉴其应对思路，以期对我国保护消费者合法权益提供有益参考。
首先在保护消费者知情权层面，美国着重强调保护消费者在信息收集阶段的知情权，禁止企业追寻用户浏览历史，避免互联网时代个人信息被完全共享，并且也明确了消费者对个人数据享有知情权、控制权、更改权等权利，消费者有权知晓互联网服务经营者在提供相应互联网服务过程中收集的涉及消费者个人信息的具体范围、类别、目的及利用结果等。其次在保障消费者自主选择权方面，美国强调从消费者端开始终止个性化信息推送，赋予了消费者要求互联网服务企业公开披露其收集、整理的数据种类、消费者个人数据出售情况及第三方的权利，允许消费者在任何时间、地点对自身个人数据信息和特定互联网企业之间的信息服务推送协议进行退出选择。综上，美国主要通过对消费者赋权来保护消费者的合法权益，调整平台经营者与消费者间的不对等地位，具有可行性。我国应当从立法切入调整和规制，对平台经营者给予义务约束，采用禁止性的规定遏制其不正当算法经营行为，增强平台的算法透明性。同时对消费者权利进行范围扩张，保障消费者对其消费信息、消费行为的主导权。
基金项目
2023年西北大学大学生创新训练项目，项目编号：202310697072。
NOTES
1《互联网信息服务算法推荐管理规定》第二十四条规定：具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。
2(2021)京73民终2009号。