此页面上的内容需要较新版本的 Adobe Flash Player。

获取 Adobe Flash Player

大数据

“大数据杀熟”背后的技术隐忧 | 法学院
作者:   来源:澎湃新闻·澎湃号·媒体   日期:2021-01-06

   记 者|王 涵

   责 编|薛应军

   正文共2840个字,预计阅读需8分钟▼

   近期,一篇题为《我被美团会员割了韭菜》的文章在互联网备受关注。文章描述了作者在美团外卖平台的订餐经历,同一家店铺、同一个配送地址、同一时间下单,会员账户比非会员配送费预估更高。该文章指出,本以为开通外卖会员会省钱,却发现,在美团平台上,开通会员的手机显示的所有外卖配送费都比非会员高1元至5元不等。

   该文章一经刊发,引起极大关注,美团深陷“大数据杀熟”尴尬境地。据《证券时报》报道,事发后仅一天,美团股价下跌2.32%,市值蒸发近400亿港元。随后,美团外卖对外发布声明表示,“会员和非会员配送费差异”与会员身份无关,是由于定位缓存导致并未显示用户的最新实际位置从而引发的配送费预估差别。但这样的回复并不能得到广大网友的认可,许多网友仍在网络上声讨美团利用“大数据杀熟”问题。

   其实,广大网友之所以反应如此之大,并不是仅仅针对美团一家。近年来,互联网平台企业利用大数据对消费者进行歧视性定价的事件层出不穷。饿了么、京东、携程、飞猪、去哪儿等知名平台公司均曾因利用“大数据杀熟”而遭到谴责。这些平台企业虽历经多次网友批评、媒体曝光,但其并未做出实质性改善,“大数据杀熟”这个老生常谈的话题仍在继续。

   “大数据杀熟”为何屡禁不止

   “大数据杀熟”是指平台企业通过收集、追踪用户数据,在利用数据挖掘技术对用户进行分类和预测的基础上,对具有一定黏性的用户进行歧视性定价,从而获得差额利润的行为。具体来说,就是客户在某平台上购买产品或服务时,同样的商品或者服务,老客户看到的价格反而比新客户要高很多。

   面对“大数据杀熟”问题,许多企业辩解说这是市场针对用户个性化定制的结果。他们认为,“大数据杀熟”行为是经济活动中差别定价的数据化表现形式而已,例如乘客在飞机选座时为了获取更大空间而额外支付的座位升级费用,抑或商家对消费者购买指定数额、数量的产品而实施的额外优惠,再如商家在教师节对教师群体基于身份、职业等展开的低价优惠活动等。“大数据杀熟”是特定算法程序批量分析和执行的结果,只要符合设定特征的用户群体就会被程序筛选出来并受到类似对待,因此,它虽然在一定程度上体现了“个性化定价”特质,但实际上具有批量化、数据化、平台化特征。

   不可否认的是,在数字经济时代,建立在海量数据之上的算法体系能够为企业与消费者提供极大的便利,能够更加精准地让企业为消费者提供个性化的服务体验。但这不是平台企业针对消费者进行歧视性定价的理由。“大数据杀熟”技术产生的基础仍依赖于数据。平台计算价格的基础逻辑是对海量用户的标签化处理,将消费者消费的频次进行归类,进而实施差别化对待。这样做实质上剥夺了消费者对价格的知情权,进而损害消费者合法权益。

   在传统差别定价活动中,无论是额外支付的座位升级费,还是因符合特定条件而享受的价格优惠,对消费者而言均是知情的、透明的。这意味着消费者可以全盘考虑所有影响成交的因素并按照内心真实意愿做出支付购买行为。而在“大数据杀熟”场景下,平台服务器通过追踪和记录设备识别码等关键信息对消费者进行智能化绑定,依据特定算法实施隐秘化、差异化、歧视性定价,不仅让消费者不知情,其定价策略甚至与消费者的内心预期和普遍认知相悖离。

   此外,在促进成交的过程中还存在数字化诱导和操控行为。

   在传统差别定价场景下,商家清晰公布定价规则,并无明显的诱导和操控行为。而在“大数据杀熟”场景下,平台企业可以基于用户的购买习惯、消费能力等数据进行诱导和“操控”,以是否愿意支付定金购买会员等方式识别出“忠诚度较高”的黏性用户,实施差异化定价。

   在一些场景下,差异化定价的表现形式还呈现间接隐蔽的特性。例如,新用户可以通过申领方式获得更多的优惠券或者支付减免。

   因此,“大数据杀熟”行为实质上侵犯了消费者的知情权和公平交易权,不仅会降低用户对平台的信任度,还会对市场秩序的健康有序造成实质性不利影响。

   法律规制仍需完善

   “大数据杀熟”现象,对普通用户而言很难察觉,因为其隐蔽性极强。不仅如此,即使用户通过仔细对比发现后,仍难以避免,有的用户通过卸载、重装、利用不同信息重新注册等方式试图规避,却发现徒劳无功。

   因此,如何从根本上规避“大数据杀熟”行为,需要政府、企业、消费者等多方共同努力。从现有法律规定看,我国电子商务法第17条规定了消费者的知情权和选择权,第18条规定电子商务经营者应当向消费者提供不针对其个人特征选项的商品或者服务搜索结果。虽然这两条规定旨在保护消费者免受“大数据杀熟”,但既未明确规定“大数据杀熟”行为的构成要件,也未明确赋予消费者在电子商务场景下拒绝和免受自动化决策的权利。

   目前,正在征求意见的《中华人民共和国个人信息保护法(草案)》第25条明确赋予了个人拒绝对仅通过自动化决策方式作出决定的权利。《中华人民共和国数据安全管理办法(征求意见稿)》第23条规定,用户选择停止接收定向推送信息时,网络运营者应当停止推送并删除已经收集的设备识别码等用户数据和个人信息。

   对此,对外经济贸易大学副教授张欣表示,上述两个立法的内容可以作为良好的制度基础,一方面扩展适用的自动化决策类型,将完全自动化决策和非完全自动化决策悉数纳入;另一方面应当切实在立法中明确消费者在电子商务场景下对自动化决策的拒绝权和免除权,重拾主体性地位。

   此外,“大数据杀熟”现象的另一治理难点在于难以根据“杀熟行为”认定构成价格欺诈并适用惩罚性赔偿。张欣告诉记者,面对这样的情况可以使用公益诉讼制度予以解决。我国消费者权益保护法第37条规定了公益诉讼权。在发生大规模消费者侵权行为时,可以由消费者协会代表向法院提起诉讼。但在实践中,不仅权利行使主体受限,能够提出诉讼请求的内容规定也过于模糊。

   张欣表示,消费者协会的公益诉讼权有利于扭转消费者的弱势地位,增加“大数据杀熟”的违法违规成本。因此在数字经济时代,应积极推进完善消费者公益诉讼制度,对权利适用的内涵与外延予以明确,并适时扩展权利行使主体,切实保障公益诉讼权的行使。

   除此之外,张欣还建议,应当分级分类实施算法影响评估制度,应当细化明确算法风险事前评估和算法审计制度的启动条件、适用场景,分级分类有序推进电子商务场景下智能定价算法的影响评估制度。

   张欣告诉记者,美国、英国、加拿大等国已经通过专门立法建立了对个人权利、社会经济、生态环境等具有高风险的算法应用在事前、事中、事后均需实施算法影响评估的制度。具体实施中,政府专门机构、技术专家、行业代表、公民代表等组成专业评估工作组,对高风险场景下的算法模型进行系统评估,以确保该领域的算法适用符合法律法规和伦理规范。

   因此,推动互联网、大数据、人工智能和实体经济深度融合,对平台企业而言,一方面要深度创新,实现高质量的发展和突破;另一方面也要清晰认知平台责任和义务边界。虽然平台间的经营模式各不相同,但打造负责、安全、友好、公平的数字技术时,应当始终存有“重叠共识”和数据有度的底线伦理原则。