“算法”的社会责任①｜生活数字化，如何破解算法“数”缚

下载App，勾选同意隐私政策方可继续使用，几近普遍。然而鲜有人思考，打钩的瞬间，用户与平台交易的到底是什么？

作为上海首个“互联网+生活性服务业”创新实验区，长宁区拥有数千家互联网企业，电商企业交易总额占全市三分之一，数字经济产业呈现集群效应，互联网纠纷审判实践走在全市前列。15日，华东政法大学与长宁区人民法院共同主办研讨会聚焦“算法的社会责任”，现场长宁法院同步发布网络消费案件审判白皮书，聚焦“搜索引擎”“用户隐私政策”“薅羊毛”等社会热点，分析各类网络消费案件特点与难点；同时结合审判实践，从算法治理中的司法能动、算法如何体现伦理、算法的反垄断规制等角度进行交流研讨，及时回应市民群众普遍关注的民生问题，提出司法建议对策。

譬如，针对“算法采集个人信息”这一热点，与会专家认为，正常利用信息将有助于互联网行业发展，同时应当辅以穿透式监管思路，寻找到数据代码背后的责任主体，使其肩负本应承担的社会责任。

“监管算法采集利用数据，是对人格尊严的保护；让算法向善，传递的则是设计者、使用者的价值观。”

网络消费新场域下，如何巧妙“扎篱笆”

近三年内，长宁法院共受理网络消费案件2661件，审结2622件，涉诉案件标的总额为7041万元。这些案件中，除以往常见的电子商务平台自营商品和服务存在质量缺陷、虚假宣传、欺诈、不公平格式条款等引发的消费争议外，还涉及因新型电商业态出现而引发的新型纠纷。

现如今，直播带货、通过微信小程序经营、社交电商、社区拼团、盲盒促销等逐渐成为网络消费新零售和流量入口，由此引发的涉及经营者主体认定、法律关系界定、经营者责任范围、个人信息保护等新类型纠纷频现。例如，通过微信小程序为经营者提供交易空间及订单管理功能的运营方能否认定为电商平台。

随着大数据、算法等新技术诞生，消费者个人信息权益保护再度引起热议。

说到底就是：在网络消费的新场域下，个人信息权益究竟该如何界定；算法涉及个人信息时，该如何巧妙扎篱笆——既让数据信息更为健康良性流动，“算”出效能，同时也要以严格监管破解算法“数”缚，维护个人合法权益。

也有法官谈及，实践审理中，个人信息的相关法规比较抽象，具体适用难。

比如，《民法典》第一千零三十七条和《个人信息保护法》第四十五条均明确了个人信息的查阅、复制权。但囿于相关法条的抽象性，实务中有关查阅复制权的基础性问题，仍存在争议。有消费者就起诉其常用的某App运营方，要求披露该App收集的全部个人信息，包括历史上每一条上网记录以及每笔订单的物流信息等，由此引发了对于个人信息查阅复制权合理范围的争议。

完善法律规则，司法实践走出“打地鼠”困境

去年，一名市民因为使用某电商平台App后收到推销电话，怀疑个人信息被平台泄露，遂起诉要求被告平台运营方披露其所收集的原告全部个人信息以及使用情况。原告的法律依据是《个人信息保护法》第四十五条：个人有权向个人信息处理者查阅、复制其个人信息。

此案的焦灼症结在于，查阅、复制权的边界在哪里？主审法官认为，原告仅以《隐私政策》为依据，而该政策只是一份概括性规则，原告主张查阅、复制的部分个人信息则是需要另外开启设备权限才能被收集的，事实上也并未开启和收集，因此在没有其他事实反映被告确有收集该信息的情况下，一审法院并未支持原告主张，二审法院也维持原判。

本案系在没有相关司法解释支撑的情况下，法官依据《个人信息保护法》立法原则，对法条进行缩小解释后进行的判决。随着《个人信息保护法》的出台，消费者运用新法维权的意识空前高涨，但在现实生活中，很多经营者尤其是互联网平台企业现行的用户个人信息保护规则还没有与法律完全衔接，由于行业发展超前，法规制度亟待跟上。

华东政法大学研究员向秦认为，平台使用算法为用户提供服务，从法理上看形成的是一种广义上的信义关系，即用户相信平台算法决策给出的选项，交易的终极货币是“信任”。

“一个普通人与强劲的算法，就像是蚂蚁与大象的关系，完全不对称”，她解释说，这种不对称会首先体现在人对于算法机制的信任，发展成依赖，从而导致了个人信息泄露潜藏的风险，却不知道如何保护自己。

当人们探索用法律来保护这份信义关系时，算法治理落到司法层面仍然存在“打地鼠式”的困境，正如白皮书中显示的，消费类个人信息保护纠纷在数量和类型上均呈增加趋势。因此，在鼓励创新的立场上，必须对算法设计者、使用者苛以社会责任，要求此类互联网公司，在实现股东自身利益最大化的同时，还要对职工、债权人、竞争者、社会公众都承担相应责任。

引入算法“审计知情权”，让用户有权说“不”

还是回到文章开头的“下载App，勾选同意隐私政策”，这在本质上像是一场信任交易。用户给出个人信息，相信平台能够提供令自己满意的服务。在数字社会的交易逻辑中，个人信息构成的大数据是发展的“燃料”，算法则称得上是驱动发展的“引擎”。

然而，一旦个人信息被过度采集和不当利用，所带来的风险和隐患前所未有，犹如达摩克利斯之剑悬在用户头顶：不同意采集个人信息，则无法正常使用App；同意采集，又时时担心。

“数据就像街道上的路灯，只有物尽其用才能发挥真正的价值”，向秦认为，对于公民个人信息，既要保护主体权益，又要流通利用，这两个对立面的天然存在，不仅要从立法上不断完善，还要求算法提供者承担起相应的社会责任。

上海政法学院教授张继红则认为，司法不能过分干预市场主体的经营行为，与其事后补漏，不如做好事前规制。她建议各电商平台在隐私政策中进一步细化个人信息采集的规则和使用场景，同时引入第三方监督机构，即算法的“审计知情权”，让被采集信息的公民清楚知晓到底使用了哪些信息，是否能对计算结果说不。

>>>点击阅读系列文章