算法歧视的司法审查
——意大利户户送有限责任公司算法歧视案评析
【作者与文章来源】
作者：罗智敏，中国政法大学法学院教授、法学博士。
本文原载于《交大法学》2021年第2期。
亦收录于北大法宝（点击跳转）。
摘要：意大利户户送有限责任公司算法歧视案所涉及的众多理论问题中，以户户送有限责任公司平台使用的算法是否对骑手造成歧视为核心。博洛尼亚法院的判决从骑手是否受反歧视法律的保护、歧视的含义以及平台算法对骑手的影响是否构成歧视等角度层层深入说理论证，最终认定该平台使用的算法构成间接歧视，并要求户户送有限责任公司支付原告三个工会组织5万欧元的惩罚性赔偿。该判决是欧洲针对算法歧视做出的第一个判决，在认定算法歧视、保护骑手权利以及确认惩罚性损害赔偿方面具有重要意义。
关键词：直接歧视；间接歧视；算法；骑手；平台
目次
一、案件基本情况
（一）基本案情
（二）裁判结果
（三）判决涉及的重要理论问题
二、骑手是否受反歧视法律规范的保护
（一）意大利法律对骑手权利的保护规定
（二）反歧视法律规范对骑手的适用
（三）反歧视法律规范规定的歧视原因
三、被告平台使用的算法是否构成歧视
（一）反歧视法律规范对歧视的界定及类型
（二）算法构成间接歧视的理由
四、此案的意义与启示
（一）首次宣布算法具有歧视性
（二）明确数字经济形态下对骑手权利的保护
（三）明确非财产性赔偿具有预防性与惩罚性
近些年来，随着数字经济与电子平台的迅猛发展，各国外卖骑手不断增加，骑手权利的法律保护问题显得愈发重要。围绕骑手维权问题，我国也有大量的报道，骑手维权困局亟须破解。[1]2019年12月16日，意大利总工会位于博洛尼亚的三个分工会组织以其算法具有歧视性为由起诉意大利户户送有限责任公司，博洛尼亚法院在2020年12月31日做出判决，该判决针对外卖骑手是否受反歧视法律规范的保护，以及对户户送有限责任公司平台所使用的算法是否构成对骑手的歧视进行说理与论证，最终确认算法构成间接歧视，支持了原告要求赔偿等请求——该判决被认为是“历史性”判决。[2]尽管我国的劳动法律制度与意大利有所不同，但是此案判决对我国在相关方面的理论研究与司法实践均具有一定的启示意义。
一、案件基本情况
（一）基本案情
意大利户户送有限责任公司（Deliveroo Italia S. R. L.）自2015年起利用数字平台模式主要经营送餐到家的外卖业务。外卖骑手在手机上下载公司软件并注册后，可以选择用自助预定系统来预定下周的工作时间和区域。自助预定系统在每周一的三个时间点开放，分别是11：00、15：00与17：00，只有评分排名前15%的骑手才可以在11：00进入平台预定工作时间。骑手的评分由平台算法（根据可靠性和参与性两个参数）来确定：可靠性由骑手不在预定的时间工作的次数决定，一旦骑手在周一预定了相应的工作时间及配送区域，只要在预定时间之前的24小时内没有取消，就必须进入预定区域并在15分钟之内登录，否则会失去分数；参与性则根据骑手在周五至周日20：00—22：00的高峰时期送餐到家的次数决定。
2019年12月16日，意大利总工会位于博洛尼亚的运输业劳动者工会（Filt Cgil di Bologna）、商业、旅游与服务业劳动者工会（Filcams Cgil di Bologna）以及非典型劳动者工会（Nidil Cgil Bologna）将意大利户户送有限责任公司诉至博洛尼亚法院。原告认为，被告公司使用的算法具有集体歧视性，因为该算法在对骑手进行荣誉排名时并不考虑骑手不赴约的原因，骑手可能因参加罢工或疾病、未成年子女需求等其他合法原因导致延迟取消预定或没有取消预定，从而造成其荣誉排名降低，丧失优先选择工作条件的机会。因此，原告请求法院对被告的歧视行为加以确认，并同时提出要求被告制定消除歧视的方案、修改自助预定系统、对上述歧视性行为给原告造成的非财产性损害进行赔偿、采取一切适当措施消除歧视性行为的影响等请求。
被告答辩指出，原告工会组织缺乏起诉资格，同时否认算法具有歧视性。被告认为，自助预定系统只是一种选择性方案，骑手既可以使用自助预定系统来预定下周的工作，也可以直接进入系统接收订单。被告同时指出，导致本案争议的自助预定系统已经从2020年11月2日起不再被使用，因此原告提出的所谓的具有歧视性的制度已不复存在，原告所请求采取的措施将无任何意义。
（二）裁判结果
2020年12月31日，博洛尼亚法院做出判决，该判决针对本案是否仍然具有诉的利益、针对骑手是否可以适用反歧视法律规定、工会组织是否具备原告资格、歧视的含义、本案中被告使用的算法是否对骑手构成歧视、举证责任以及是否应该进行损害赔偿等问题一一进行了审查并说理。最后，法院支持了原告请求，确定并宣布被告通过数字平台使用的算法具有歧视性；要求被告在其网站及平台的“常见问题”板块公布法院判决，以消除歧视行为的影响；被告自己承担费用在全国性日报《共和国报》上刊登判决的摘要；被告向原告方支付5万欧元的损害赔偿金及法定利息，并向原告支付相关诉讼费用7254欧元。
（三）判决涉及的重要理论问题
本案涉及的理论问题较多，包括如何确定诉的利益、工会组织是否具备原告资格等，但影响最大也最受关注的是被告平台使用的算法是否对骑手构成歧视。反歧视权是欧盟所保证的一项基本人权，规定在《欧洲人权公约》第14条与《欧洲基本权利宪章》第21条。2000年欧盟发布关于就业平等的指令（2000/78/CE），禁止就业方面的歧视，意大利同年将其转化为2003年7月9日第216号法令（《贯彻欧盟2000年第78号指令以在就业与工作条件方面平等对待》），以保证在就业方面进行平等保护。
本案中，法院所审查的算法歧视是指被告的算法是否能够构成2003年第216号法令所规定的歧视。确认算法是否构成歧视包括三个重要问题：法院首先必须明确的是，骑手是否受反歧视法律规范的保护；其次是歧视的含义与类型；最后是算法对骑手的影响。
二、骑手是否受反歧视法律规范的保护
（一）意大利法律对骑手权利的保护规定
在界定骑手是否适用有关反歧视法律规范的保护之前，需要明确的是在意大利骑手的法律地位以及骑手与平台之间的法律关系。《意大利民法典》第五编“劳动”编将劳动分为从属性劳动与自由劳动，二者之间的主要区别在于是否具有隶属关系。[3]相关法律对劳动者保护性的规定基本针对的是从属性劳动关系中的劳动者，且大部分保护性规定是不可违背的，包括工资、劳动时间、劳动者的权利以及停工、劳动关系的消灭等。[4]骑手属于新的工作类型，并不属于传统的从属性劳动关系中的劳动者，理论界将处于从属性劳动与自由劳动之间灰色地带的劳动关系称为“类从属性劳动关系”（La parasubordinazione）或“协作性与持续性的合作关系”（Co.co.co.）。[5]
实践中，这些新型关系中的劳务提供者不断要求得到与从属性劳动关系中劳动者相同的法律保护，意大利立法者逐渐将从属性劳动者的保护规范扩大适用于这种“类从属性劳动关系”中。这类关系首先在《意大利民事诉讼法典》中得到承认，该法典第409条将劳动诉讼的规定扩大到所有“主要是个人提供的持续性与协作性服务的合作关系中”。[6]随后，2019年11月2日第128号法律（《针对劳动保护与解决企业危机的紧急规定》）修改了2015年第81号法令（《劳动关系法》）第2条，并对这种类从属性关系也进行了规定：“自2016年1月1日起，从属性劳动关系规则也适用于合作关系，这种合作关系主要表现为个人的、连续的工作，其执行方式由委托方组织。本款的规定也适用于使用数字平台组织提供劳动的方式。”2019年第128号法律还专门在2015年第81号法令中增加标题为“数字平台的劳动保护”的一章（V-bis），规定了数字平台的义务，包括平台应负责骑手工作中的事故及职业疾病的保险、禁止包括驱逐出平台及因没有接受订单而减少工作机会的歧视、骑手享有最低工时报酬的权利等。
尽管骑手可以依据上述法律获得某些之前仅属于从属性劳动者的法律保护，但这些法律并没有从实质上明确解决数字平台与骑手之间的关系。如果骑手与平台发生争议，法官首先要面对的仍然是对二者关系的确认，即判断其属于从属性劳动关系、类从属性劳动关系还是自由劳动关系。对二者关系的判断之所以重要，是因为如果属于从属性劳动关系，对劳动者保护的法律规定是绝对不能放弃的，包括不可以通过集体谈判放弃某些保护性的规定。[7]
（二）反歧视法律规范对骑手的适用
如前所述，反歧视权是欧盟保证的一项基本人权，《意大利宪法》第3条也明确规定：“所有公民，不区分性别、种族、语言、宗教、政治信仰、个人条件及社会地位，均享有同等的社会尊严，在法律面前一律平等。取消那些事实上限制公民自由与平等、阻碍个人全面发展及所有劳动者有效参与国家政治、经济及社会组织的经济与社会层面的障碍，是共和国的任务。”意大利关于反歧视方面的专门法律主要包括2006年第198号法律（《男女机会平等法典》）、2003年第215号法令（《贯彻欧盟2000年第43号指令不分种族和族裔的平等待遇》）、2003年第216号法令（《贯彻欧盟2000年第78号指令以在就业与工作条件方面平等对待》）。
2003年第216号法令规定的内容与本案相关，涉及就业机会与条件。此法是为贯彻欧盟关于就业平等的指令（2000/78/CE）而制定，一共有7条内容，分别为立法目的、歧视的概念、适用范围、权利的司法保护、原告资格、汇报制度及不得增加财政负担。在适用范围中，该法第3条第1款规定：“平等待遇原则不区分宗教、个人信仰、残疾、年龄和性取向，应适用于公营和私营部门的所有人，并应根据第4条规定的形式受到司法保护，尤其是以下方面：（a）就业与工作机会，无论是自由劳动还是从属劳动，包括选择标准和就业条件；……”由此可见，在反歧视法律的适用对象方面，该法并没有对劳动关系的类别进行区分，尤其是特别强调无论“自由劳动与从属性劳动”，在就业与工作机会方面应平等对待。从立法目的而言，该法旨在于保护一切从事劳动的人，也可解释为包括骑手。
2015年第81号法令也特别规定了针对骑手可以适用反歧视法律规范。如前所述，2015年第81号法令是一部专门规范劳动关系的法律，此法诸多内容被2019年第128号法律所修改，后者是针对数字经济时代劳动关系的变化而做出的一些紧急规定，虽然专门增加了数字平台的义务，尤其是涉及对骑手的保护规定，但是并没有明确将平台与骑手之间的关系规定为自由劳动关系，而是分为两种情况：对那些服从于雇主约束的、持续性工作的骑手（即所谓的类从属劳动者）适用于从属性劳动的保护；对于那些偶然的以不持续方式工作的骑手（被称为自由劳动者），规定了最低的法律保护标准。第一种情况规定在修改后的2015年第81号法令第2条，指出从属性劳动关系规则也适用于理论界所称的类从属性关系，并专门提及包括使用数字平台的方式组织提供劳动；第二种情况规定在修改后的2015年第81号法令中所增加的V-bis一章（从第47-2到47-8条，共7条），其中，第47-2条第1款明确规定该章所保护的自由劳动者是指那些通过数字平台在城市中使用自行车或者摩托车为他人送货的人，[8]第47-5条规定了“禁止歧视”，其第1款也明确指出，“第47-2条第1款规定的劳动者适用为从属性劳动者规定的反歧视规范以及保护自由与尊严的规范，包括进入平台”。
因此，就骑手适用反歧视法律规范而言，无论认为骑手与平台之间是自由劳动关系，还是从属性劳动关系，抑或是类从属劳动关系，都可适用反歧视的法律规定。
本案中，博洛尼亚法院判决首先援引2015年第81号法令第2条的规定，随后大篇幅地引用了意大利最高法院2020年第1663号判决，似乎在骑手与平台的关系上赞成最高法院的认定，即二者属于类从属性关系。[9]当然，无论是2015年第81号法令第2条还是最高法院的判决，都旨在将从属性劳动关系保护的规范扩大适用于类从属性关系。法官在判决中指出“根据最近有关对骑手保护的立法与司法发展，将从属性劳动保护规范也适用于这类劳动者的必要性似乎毫无疑问，无须考虑双方在劳动合同中的命名，尤其是涉及保护劳动者在获得劳动方面免受任何形式的歧视”。[10]就这样，博洛尼亚法院判决巧妙地避开了对骑手与平台之间法律关系的判断，强调“就骑手和平台之间的关系是从属性劳动还是自由劳动的判断是多余的”。判决指出，本案涉及的是针对骑手是否适用反歧视法律，而这一点在2015年第81号法令第2条、第47-2条、第47-5条、2003年第216号法令第3条第1款已经明确规定。因此，通过列举立法与司法的发展，判决指出对骑手进行反歧视保护的发展进程，从而肯定：无须考虑平台与骑手之间的合同名义上如何命名，骑手都应该享有反歧视的权利。
（三）反歧视法律规范规定的歧视原因
本案原告是意大利全国总工会位于博洛尼亚的三个地方工会组织，其认为被告算法存在集体性歧视而提起诉讼。他们指出，歧视的原因是骑手参加罢工导致其排名下降，从而丧失工作机会。
工会作为劳动者的保护组织，在意大利具有极为重要的地位，各工会有权代表本会全体会员签订集体劳动合同，宪法第39条明确规定此合同对其所涉及行业的一切人均有约束力。尽管骑手是一种新型的工作类型，但是根据宪法所规定的组织工会自由权，骑手可以自由加入工会，也有权行使罢工权。本案中，工会的原告资格来源于2003年第216号法令第5条的规定。该条规定在两种情况下工会可以起诉：第一，经受歧视者的授权，可以以受歧视者的名义或者为其提供支持起诉；第二，如果涉及集体性歧视，而受歧视者不能以直接或间接方式认定，工会可以直接起诉。本案属于第二种情形，因受歧视的骑手无法全部确认，工会可直接以自己名义起诉。法院认为原告无须提供骑手注册其工会的信息，也不要求骑手必须在工会注册，因为三工会组织在其章程中已经明确规定，要推动对抗工作条件中任何类型的歧视行为的斗争。
工会若以存在对劳动者的歧视为由提起诉讼，可以依据1970年第300号法律（《劳动者章程》）的规定，也可以依据2011年第150号法令（《民事诉讼审理程序简化规定》）提起诉讼。1970年第300号法律第15条专门规定了“歧视行为”，[11]并且第28条“制裁反工会行为”中规定了诉讼程序，[12]但此法仅适用于从属性劳动关系的劳动者。[13]为此，三原告依据2011年第150号法令第28条规定的程序提起诉讼。
2011年第150号法令第28条是专门针对涉及歧视争议的案件规定的简易程序，包含了适用范围、管辖、当事人、举证责任、法院可以做出的判决等内容。2003年第216号法令第4条第2款规定，对于审查是否存在本法规定的歧视，适用2011年第150号法令第28条规定的程序进行诉讼。[14]因此，博洛尼亚法院判决对原告适用2011年第150号法令第28条的程序提起诉讼，予以支持。然而，法院需要明确歧视的原因是否符合2003年第216号法令的规定。如前所述，三原告提出的歧视原因是，因骑手参加罢工导致排名降低，从而造成歧视，三原告需要明确被告算法造成集体性歧视是因工会的原因，但是2003年第216号法令第2条明确列举的歧视原因包括“宗教、个人信仰、残障、年龄和性取向”五个方面，上述五个方面并没有一个特别指出涉及工会。因而，如何解释2003年第216号法令规定的歧视原因使之适用于本案极为关键。
博洛尼亚法院认为，“因工会的原因”造成歧视属于2003年第216号法令所规定的歧视原因中的“个人信仰”。法院大篇幅引用最高法院2020年第1号判决，[15]指出这些歧视原因规定在欧盟立法中，个人信仰与宗教是相区别的，否则欧盟立法者无须将“宗教”理由与其他信仰分别规定。2003年第216号法令第4条中规定的“个人信仰”应在其所规范的特别法律制度范围内予以解释。工会是一种不同于宗教意识形态的务实性专业组织，其特点是一个具有社会性与政治性的有资格的机构，能够代表受保护的观点、思想、信仰，对其歧视是禁止的。因此，判决指出，“个人信仰这个一般范畴，与社会上一般观点不同，具有扩大到社会关系领域的意识形态歧视性特征，也包括因工会原因的歧视，因此，因劳动者加入工会或参加工会活动而区别对待或存有偏见应予以禁止”，[16]从而解释了2003年第216号法令所表述的因“个人信仰”造成的歧视也包括“参加工会”的原因。
三、被告平台使用的算法是否构成歧视
（一）反歧视法律规范对歧视的界定及类型
在明确歧视含义方面，博洛尼亚法院直接引用了2003年第216号法令第2条的规定。该条规定两种歧视，即直接歧视与间接歧视：直接歧视是指“因为宗教、个人信仰、残疾、年龄或性取向，一个人受到的待遇不如他在类似情况下曾经或本应受到的待遇”。间接歧视是指“一项规定、标准、惯例、行为、契约或行为表面上中立，可能使信奉特定宗教或其他性质意识形态的人、残疾人、特定年龄的人或性取向的人与他人相比处于某种特别不利的境地”。
法院通过大量引用意大利最高法院与欧洲人权法院的判决，指出：“在直接歧视的情况下，是行为造成了区别对待，而在间接歧视的情况下，是一份文件、协议和本身合法的规定、一种抽象正确的行为所造成的不平等影响，其目的是对具有特定特征的主体产生影响，而这些特征构成了歧视的危险因素，造成一种会受到法律制裁的不平等情况。”[17]判决进一步指出歧视具有客观性，或许可能仅因为劳动者属于不同受保护类别从而获得不同待遇，与雇主的主观意愿无关。
因此，可以看出，间接歧视的构成要件主要有：政策或行为表面上具有中立性；实质上不平等对待，可能使信奉特定宗教或其他意识形态的人、残疾人、特定年龄的人或性取向的人与他人相比处于某种特别不利的境地，具有不成比例的不利影响；歧视的客观性，与雇主的主观意志无关。
此外，需要指出的是，歧视的结果可以是一种假设，当存在使就业变得困难的可能性时，该行为就可以被视为歧视。法院指出，2003年第216号法令对直接歧视的定义是一种现实的比较、一种纯粹的假设。也就是说，即使仅仅是一种具有抽象性方案的行为，如果阻止就业或使就业变得非常困难，也可以被认定为歧视。
（二）算法构成间接歧视的理由
通过对上述两种歧视概念的法律界定及对歧视含义的司法理解，博洛尼亚法院接下来用1/3的篇幅精心构建了判决实质性内容，即界定被告行为是否构成间接歧视。判决指出，就目前情况而言，法院有充分的证据表明被告公司所采取的获得工作时间的制度具有歧视性。判决层层深入，针对被告的答辩，抽丝剥茧般地进行说理。
1.算法的运行机制及其表面上的中立性
法官首先对被告与原告之间合同的成立及算法运行机制进行了概述。每个骑手和平台从签订合同开始建立关系，根据合同规定，被告公司提供灵活的自助预定服务系统，骑手可以自由登录或者预定自己想要接受订单的时间与区域。骑手可以选择使用自助预定系统，一旦使用并确认，平台将会保证骑手在预定时间进入并接受订单。如果骑手没有提前取消，在预定工作时间接单的可靠性和在特定高峰时间内的工作参与性将作为两个重要参数来决定骑手下次预定工作时间的优先性。
一旦签署了上述合同，骑手就会获得用户名和密码，以访问下载到其手机上的应用程序。只要骑手有空接受订单，他就会输入其用户名和密码访问该应用程序；当骑手登录时，他可以自由决定是接受还是拒绝系统推送的订单。在2020年11月2日之前，骑手可以通过两个渠道接受订单：第一，使用自助预定系统SSB（self-service booking）提前预定工作时间；第二，可以实时登录，即通过“自由登录系统”（free log-in）接受订单。
尽管在判决中没有非常明确地提到，但从判决对系统运行机制的简介，可以看出，表面上看被告行为的中立性毫无问题：其系统对所有的骑手都适用，且延迟取消的结果对所有人都是一样的。
2.算法设置的两个参数及对骑手可能的不利影响
在简单概述被告的制度运行之后，法院指出，原告要求审查的是自助预定系统的算法具有歧视性，该系统允许骑手在每周一预定下周其所希望接单的工作时间与工作区域。对于骑手可以预定的三个时间及其决定因素法院一一进行说明：骑手每周一可以在11：00、15：00或17：00开始进入平台预定系统，在哪个时间内进入系统取决于两个参数：“可靠性和高峰时段参与性”，前者是骑手预定了工作时间但没有赴约的次数，赴约意味着在预定工作时间开始后的15分钟内登录；后者是骑手在高峰时期（周五至周日20：00—22：00）送餐到家的次数。这两个参数决定了每个骑手的“统计数据”，即决定骑手可以在哪个时间进入自助预定系统的“分数”。
判决认为，统计数据排名前15%的骑手可以在11：00开始进入预定系统；统计数据排名前25%的可以从15：00开始进入预定系统；所有其他骑手从17：00开始可以进入预定系统。随着时间的推移，可供预定的工作时间逐渐减少。因为从11：00开始进入的骑手可以预定下周所有时间，15：00进入系统的骑手只能在11：00进入的骑手没有预定的剩余时间里预定，相应地，17：00进入系统的骑手可以预定的时间更少。判决指出，很明显，15：00与17：00进入预定系统的骑手能够获得的工作机会逐渐减少。通过引用被告网站的内容以及原告证人证言等，判决认为“第一时间进入系统对于骑手而言将有更多潜在工作机会”。[18]
判决认定了原告的推断，即对骑手的可靠性评估与工作时间选择的优先性直接相关，这会阻止罢工权，因为任何参与“集体行动”的行为都会导致骑手分数的下降，尤其是发生在对企业具有巨大利益的周五、周六与周日，分数下降影响骑手获得未来的工作机会，降低其优先选择工作机会的概率。法官指出，事实证明，参与集体停工活动将会对骑手的统计数据造成负面影响。因为骑手参加罢工必须放弃工作，没有在预定时段工作将会不可避免降低其得分，从而影响其可靠性指数；如果预定工作时间在周末的20：00—22：00，也会影响其参与性指数。
被告为其算法并不会对骑手造成不利影响进行申辩，提出两点理由：第一，如果骑手生病或参加罢工，完全可以登录而不接受任何订单；第二，骑手如果延迟取消，不会对其统计数据产生任何影响。
针对被告提出的“如果骑手生病或参加罢工，完全可以登录而不接受任何订单”的理由，判决对此进行了驳斥。判决指出，被告的软件应用系统可以通过地理位置系统检测到骑手所在的位置，而骑手必须进入其预定的工作区域才能登录，为了避免对自己的统计数据造成不利影响，想要罢工的骑手必须在预定工作时间开始的15分钟内进入工作区域，也就是骑手必须出现在其预定的特定工作场所，这与行使罢工权的需要不符，因为行使罢工权必须完全放弃工作。在有疾病或需要照顾生病未成年子女的情况更是如此，此时骑手根本无法离开其住所，不能去预定工作区域登录。
针对被告公司提出的“延迟取消至少在意大利不会对骑手统计数据产生任何影响”，[19]判决在列举大量的被告网页上的证据以及原被告的证人证言后，指出被告公司提供的证明文件反而证明其答辩理由是错误的。所谓“延迟取消”，即晚于被告要求的在预定工作时间开始前24小时取消工作预定，也会影响骑手的统计数据，继而影响其获得未来的工作机会。“不能认为骑手为避免参加罢工的不利影响简单地取消已经预定的工作时间就可以了，因为这会导致骑手被平台替换掉，使得集体停工没有任何实际效果，并使宪法所保障的针对类从属劳动者的罢工权变得毫无意义。”[20]此外，判决认为，因为参加临时罢工劳动者被雇主替换的案例越来越多，之前宪法法院以及最高法院的判例已经认定无须提前通知的临时罢工是合法的。
因此，被告的算法所设置的两个参数对排名在后的骑手具有消极影响，判决认为，此算法实际上阻碍了“骑手参加工会罢工的合法行为，因为该系统会无情地使他丧失未来的工作机会，在换班选择上将其边缘化”。[21]
3.算法导致的结果：差别对待
正是因为算法的两个参数对骑手产生的消极影响，导致骑手有可能丧失工作机会。法院指出，这种算法的设置，不考虑骑手没有赴约的各种原因，产生差别对待，属于间接歧视。
首先，法院明确认定被告算法构成间接歧视。判决指出，“因为其他法律原因（疾病、残疾、照顾未成年子女的需要等）未能赴约或未能及时取消预定工作也一样：在所有这些情况下，不管骑手的理由多么正当，都会面临其统计数据受到影响的处罚。被告公司明确承认，这么做的意图很简单，即平台无法识别也不想识别骑手取消工作预定的原因或未赴约也未取消的原因”。“而正是因为统计数据处理方法对每个骑手具体情况的这种‘无意识’（被告公司所指出）和‘失明’（原告方指出），才造成其具有潜在的歧视性。”[22]
因此，法官得出结论：“基于劳动者的自由性而认为未赴约和延迟取消工作的原因无关紧要，必定会使劳动者遭受差别对待，这是典型的间接歧视。”“意大利户户送公司平台基于可靠性和参与性两个参数对骑手进行系统分析，对于因轻率理由和因罢工（或因疾病、其本身残疾、照顾残疾人或照顾生病的未成年人等）原因不赴约的情况同样对待，实际上造成了对后者的歧视，因为系统会将其从优先群组边缘化，从而大大减少其未来获得工作的机会。”[23]
其次，针对被告提出的其在算法程序中所特别考虑的骑手未赴约的情形，判决进行了分析。被告提出，其公司算法对两种特别情形予以考虑，即骑手在工作中发生事故或者网站有技术问题而无法登录，在这两种情形下系统会纠正数据，消除对骑手的负面影响，保存骑手发生事故或系统崩溃之前的统计数据。对此，判决指出，被告只考虑这两种情形而并未考虑其他情形，显然是有意识选择的结果，并尖锐地批评道：“如果平台愿意，面对那些没有赴约骑手的理由，它完全可以摘掉使它‘失明’与‘无意识’的绷带，它没有这么做，是因为故意选择将除因事故或系统故障之外的所有其他理由同等处理，而不论其他理由是否被法律所保护。”[24]
综上，判决指出，被告的算法不构成直接歧视，而构成间接歧视，因为其所采取的规定表面中立，但实际上会使得某类劳动者（参加工会活动停工的人）处于潜在的特别不利的地位。
4.算法追求的目的及适当性与必要性
在确认被告行为具有歧视性后，还需要明确的是被告是否为自己不存在歧视行为进行了有效的抗辩。根据2011年第150号立法令第28条第4款有关歧视争议中举证责任的规定，[25]如果原告通过统计数据推断存在歧视性行为、协定或态度等事实要素，则举证责任倒置，应由被告证明不存在歧视。此外，根据2003年第126号法律第3条第6款的规定，被认为存在歧视行为的主体“尽管有间接歧视行为，但是区别对待是因为通过适当与必要的方式追求合法目的，客观上是正当的，根据第2条的规定就不构成歧视行为”。也就是说，被告可以通过证明其目的合法、方式适当且必要，从而排除自己的歧视行为。[26]
法院首先指出，被告有义务证明其算法是为了追求一个合法目的，为此目的而选择的手段是适当且必要的，接着判决从三个方面指出被告的抗辩理由不成立。
第一，被告仅仅确认其目的是“追踪那些骑手预定但没有取消的时间，以及在此期间骑手决定不登录，包括预定工作时间开始之后14分钟59秒之内未登录的情况，这应被认为是合法的。因为这是一种委托方与自由劳务提供者之间的关系，追踪取消数据对骑手的统计没有任何影响，也无须以任何方式考虑其理由，这些方式是适当的，符合平台与骑手之间的关系及所涉利益的性质”。法官指出，被告上述主张侧重于界定骑手与平台是自由劳动关系，且不说二者之间的关系在司法界观点还存在争议，被告抽象的确认“实质上是一种纯粹的循环论证，完全缺乏具体的回应”。[27]
第二，针对被告提出的自助预定系统总体上对骑手有好处，因为可以允许其他骑手进入那些先被预定而后又取消的工作时间，法院认为，本案审查的核心问题既不是算法系统本身合法性，也不是鼓励提前取消已预订的工作时间，而仅仅是骑手无法以具有法律意义的理由对其延迟取消或没有赴约进行辩解的事实，尤其涉及宪法保证的罢工权的行使。
第三，针对被告提出的自助预定系统具有选择性，骑手也可以选择进入“自由登录系统”接受订单，判决指出，存在不同的登录渠道并不影响对第一种渠道具有歧视性的认定。此外，根据预审显示，自助预定系统潜在地已经“覆盖”绝大部分（即使不是全部）可预定的工作时间，自由登录系统基本是多余的。接着列举了被告网站内容及原、被告的证人证言，进一步明确骑手使用自由登录方式基本没有订单，被告公司一直鼓励骑手成为优先群组成员以获得相应优势，并在很多情形强调该优先群组骑手所享有的“特权”。判决指出，被告“很明显是在推动骑手使用自助预定系统，而在这里被告又开始强调对自助预定系统的使用是纯粹具有选择性的”，[28]显然与其力推使用自助预定系统是矛盾的。
因此，从上述内容来看，被告并没有为算法的合法性及方式的必要性与比例性进行有效的抗辩，法院因此断定被告没有完成举证义务，从而再次确认被告公司自助预定系统的算法具有歧视性。
四、此案的意义与启示
博洛尼亚法院的判决做出后，立即被众多媒体所宣传，并引起了理论界的重视。我国法律对于互联网平台与平台劳务提供者之间的关系也没有非常明确的规定，二者之间关系也较为复杂，[29]因而是否构成劳动关系对于骑手各种权益的保护具有重要意义。例如涉及对骑手的用工歧视方面，无论是《劳动法》还是《促进平等就业法》都明确规定了劳动者就业不受歧视的权利，然而对于骑手是否属于劳动者这一问题，一直存在争议，尤其是平台用工有“专送”与“众包”等不同形式，司法实践中对于二者用工的合同性质也存在分歧：有的判决认为外卖送餐员与公司存在劳动关系，[30]有的认为不构成劳动关系。[31]目前，笔者尚未找到我国关于外卖骑手平台算法歧视的司法案例，但是各大平台算法对外卖骑手所设计的严格等级奖励机制及惩罚机制，并不考虑骑手自身的因素（如是否为残疾人）及派送延误的各种原因；此外，用户对骑手的评价也会导致骑手的升降级，而用户有可能并非因骑手的服务而是根据个人喜好打分；等等，都对骑手造成不利影响。对于平台的算法是否构成歧视以及如何保护骑手的权利等问题，博洛尼亚法院的判决具有一定的启示意义。笔者认为，本案至少在三个方面具有重要意义：
（一）首次宣布算法具有歧视性
近些年，算法歧视成为全球性的问题，尤其出现在平台与网约车司机和外卖骑手之间的纠纷中。本案涉及的是外卖公司对骑手进行荣誉排名而导致的歧视结果问题，这种荣誉排名对就业有影响，被指责是因程序员的偏见而造成的歧视，已经成为通过平台系统提供劳务的普遍问题。比如优步（Uber）就通过客户信誉评价系统选择司机，根据乘客在旅程结束时按照预先确定的等级进行评价从而确定司机的星级评定，这种星级评定表面上是一种客观评价模式，但是有可能因为用户对于司机存在性别、年龄或种族等方面的偏见从而影响其星级评价，最终造成对司机就业的影响。2020年10月26日，一群优步司机在美国加利福尼亚北区的联邦法院提起集体诉讼，指控优步的司机评价体系受到乘客种族偏见的影响。优步使用的系统允许乘客以1—5分的评分给驾驶员评分，如果驾驶员没有保持足够高的评分，可能会导致被解雇。起诉者认为，优步使用其星级评定系统终止驾驶员的行为构成了基于种族的非法歧视，这既是因为它对非白人驾驶员产生不利影响，又是因为优步意识到了乘客在对驾驶员的评估中容易产生歧视，但是其一直在使用这个系统。[32]这个案件与博洛尼亚法院判决的案件具有一定的相似性。
博洛尼亚法院做出的判决被认为是世纪性判决，[33]因为这是在意大利甚至在欧洲首次针对算法歧视做出的司法判决。一般认为算法是中立的，在此判决中，法官认为算法在其决策中并不是中立的，而是有意识的、具有辨别能力的。在强调算法的伦理性时，法官将算法进行拟人解释，指出当平台愿意的话，它可以解开使它“失明”或“无意识”的绷带，如果没有，那是因为它故意选择这么做。算法排名毫不考虑骑手没有按预定时间登录可能是因为参加罢工、生病、照顾未成年子女等特殊情况，而是对于不同原因同样对待，法院从而明确肯定算法构成间接歧视。尽管被告公司明确声明在判决之前已经不再使用该系统，因此所争议的事项已经不复存在，但是法院指出：“原告工会的起诉不仅为了判定被告违法，从而修改获得工作时间的制度，还在于确认该机制的歧视性以及实现对间接损失的补偿。”所争议系统不复存在“并不影响原告所提出的查明是否存在歧视性的请求或补偿请求”。[34]面对这个世界性的问题，博洛尼亚法院的判决对类似的案件具有一定的启示作用。
（二）明确数字经济形态下对骑手权利的保护
在零工经济（Gig economy）下如何确定平台与劳务提供者之间的关系，各国的司法判决并不相同。2021年2月19日，英国最高法院对备受关注的优步司机对优步公司要求算法透明的案件做出最终判决，认定优步司机是优步公司的worker（第三类劳动者），[35]该判决对于零工经济模式下网约车司机的保护具有重要影响。[36]
博洛尼亚法院的判决被意大利记者认为是“在新数字经济形态下对于劳动者的劳动保护方面迈出了根本性一步”。[37]如前所述，意大利法律对骑手与平台的关系也并不明确，博洛尼亚法院也引用了近期影响较大但观点不同的两份判决——意大利最高法院与巴勒莫法院的判决，然而博洛尼亚法院并没有对平台与骑手的关系进行正面确认。鉴于意大利现有法律将原本只保护从属性劳动者的规定也扩大适用于骑手，法官直接从适用反歧视法律规定出发，通过对“个人信仰”含义的立法目的的解释、司法判决的引用，从而将因工会的原因造成的歧视纳入因个人信仰造成的歧视范畴之内，为骑手适用相关法律找到法律依据。判决的重要意义在于指出无须看名义上平台与骑手之间签署的合同类型，而是深入剖析骑手应受到相应法律保护，为将来类似案件的法律适用提供了一个可供参照的先例。
（三）明确非财产性赔偿具有预防性与惩罚性
在判决最后一部分，法官确认了原告根据2011年第150号法令第28条第5款提出的损害赔偿请求，[38]这是对原告非财产性损害的赔偿。对于非财产性赔偿是否具有惩罚性，意大利理论界与司法界都有不同的观点。[39]博洛尼亚法院判决非常明确地站在保护弱者的一边，引用与此相关的欧盟指令与欧盟法院的判决，尤其是在意大利具有重要影响的最高法院联合庭2017年第16601号判决，指出民事损害赔偿制度具有多种功能，除了最主要的“恢复性”与“补偿性”功能之外，当然还具有“预防性”与“惩罚性”的功能。博洛尼亚法院判决考虑到被告行为的影响，即“其行为、其行为实施的系统性、公开性广泛散布于全国”，[40]且被诉行为不仅对骑手造成歧视，还影响工会组织发挥其所保护利益方面的代表能力，从而削弱工会行为的效力损害集体利益，因此基于公平原则，将工会组织所受到的非财产损失确定为5万欧元。此判决在对劳动者的保护可以确定惩罚性赔偿方面确定了一个新的范例。
博洛尼亚法院在算法歧视问题的认定上进行了有益的尝试。在对骑手权利进行保护方面，显示了法官高超的说理技术与能力，除了依据意大利现有的法律规定，并对现有法律进行目的解释、文意解释外，还大量引用欧盟法院与意大利宪法法院、最高法院及其他法院对类似案件的观点，极大增强了判决的说理性和信服力。总之，无论在哪个国家、经济如何发展、用工形式如何变化，只有切实保障宪法与法律所保护的人的尊严与劳动者的合法权益，才会最终实现经济的发展与人类社会的进步，因为“所有的法都是为人而设立的”。[41]人是目的，而不是工具，[42]正像意大利总工会秘书长塔尼亚·斯卡切蒂（Tania Scacchetti）所言：“骑手是具有权利的劳动者，并非机器。”[43]
【注释】
*本文受到中国政法大学青年教师学术创新团队支持计划资助（项目编号：20CXTD01）。
[1]赖祐萱：《外卖骑手，困在系统里》，载《文摘报》2020年9月12日，第01版。
[2]Giuseppina Mattiello, Riders: la piattaforma Deliveroo è discriminatoria, Altalex, https://www.altalex.com/documents/news/2021/01/15/riders-piattaforma-deliveroo-discriminatoria.
[3]根据《意大利民法典》第2094条的规定，从属性的劳动提供者是指因获取薪金而服从于企业主并且以在企业主的领导下提供自己的智力或体力劳动的方式为企业服务的人。根据该法典第2222条的规定，自由劳动是指收取一定报酬的、与委托方无隶属关系的、以自己的劳动完成的某项工作或服务。参见《意大利民法典》，费安铃等译，中国政法大学出版社2004年版，第490、518页。
[4]Franceso Basenghi et al.，Diritto del lavoro, Giappichelli Editore, 2018，p.8-14.
[5]所谓的协作性与持续性的合作（collaborazioni coordinate e continuative），参见：Severino Riva, Compendio di Diritto del Lavoro e della Previdenza sociale, Simone, 2017，p.23-25.
[6]《意大利民事诉讼法典》这一规定是根据2017年5月22日第81号法律修改的。
[7]Federica Scordino, Il lavoro del rider tra etero-organizzazione e subordinazione, in Cammino Diritto (20gennaio 2021), https://rivista.camminodirittoi.it/articolo.asp?id=6198.
[8]这里所指的摩托车应符合1992年4月30日第285号法令（《道路法典》）第47条第２款a)项规定的标准，即L1e类：两轮车辆，其发动机的排量不超过５０毫升，且最大时速不超过４５千米／小时。
[9]随着意大利境内骑手与平台之间纠纷的司法案例不断增多，司法在界定二者关系时也出现不同观点。意大利近期产生重大影响的案例有三个，一个就是最高法院2020年第1663号判决，在涉及骑手与平台关系的判断时，最高法院直接适用了2015年第81号法令第2条的规定，认为二者属于类从属性关系（Cassazione civile, sez.lav.，n.1663/2020）；一个是巴勒莫法院2020年第3570号判决，该法院直接确定骑手与平台之间存在的是从属性劳动关系（Tribunale di Palermo, n.3570/2020）；最后一个是2021年2月9日弗罗伦萨法院刚刚做出的判决，驳回了意大利总工会针对户户送有限公司的涉及工会权的诉讼请求，认为骑手与户户送公司平台之间的关系是自由劳动关系，从而不适用1970年第300号法律第28条对反工会行为的制裁（Tribunale di Firenze, Decreto n.2425/2021）。
[10]Tribunale di Bologna, sez. Lavoro.，ord.31/12/2020.
[11]1970年第300号法律第15条：（歧视行为）下面任何协议与文件都是无效的：1）雇佣劳动者的条件是劳动者加入工会或不再是工会会员；2）在任职资格、职责分配、调动、纪律处分等方面歧视劳动者，或者因参加工会或参加罢工而对劳动者造成其他偏见，由此辞退劳动者；前项规定，亦适用于以下歧视目的的协议或行为：因政治、宗教、种族、语言或性别、残疾、年龄、性取向或个人信仰的歧视。
[12]1970年第300号法律第28条：（制裁反工会行为）如果雇主有阻止或限制行使工会自由、工会活动和罢工权的行为，根据相关的全国性工会的地方机构的申诉，行为发生地的行政长官在接下来的两天内，传唤双方当事人并收集简要信息，如果他认为本款所指的侵权行为存在，则通过说明理由和立即可执行的命令，命令雇主停止该非法行为并消除影响。在行政长官以劳工法官的身份进行审理做出判决之前，不得撤销该法令的强制执行效力。在将针对申诉做出的命令通知当事人各方后15天内，可以针对该命令在行政长官处提起异议，行政长官以劳工法官的身份接受，并做出立即执行的判决。适用《意大利民事诉讼法典》第413条及以下条款。不执行第1款命令或异议之诉中判决的雇主，根据《刑法典》第650条进行惩罚。法院依据《刑法典》第36条规定的方式公开刑事赔偿判决。
[13]Vito Vannucci, Dallo Statuto dei lavoratori allo Statuto dei lavori, Ora Legale (28February 2020), https://www.oralegalenews.it/magazine/dallo-statuto-dei-lavoratori-allo-statuto-dei-lavori/10281/2020/.也有意大利学者指出，工会的选择是深思熟虑的，因为除了此法可以适用从属性劳动关系之外的其他关系，该法还规定了禁止间接歧视以及集体歧视，有利于原告的举证责任规则。Vedere M. V. Ballestrero, Ancora sui rider. La cecità discriminatoria della piattaforma, Rivista Labor (19gennaio 2021), http://www.rivistalabor.it/wp-content/uploads/2021/01/tbr.pdf.
[14]此款由2011年第150号法令所添加。
[15]最高法院2020年第1号判决所涉及的是一个地方工会提起的针对企业因工会原因造成歧视的案件，最高法院通过解释欧盟2000/78/CE平等指令，指出因“个人信仰”的歧视包括因工会原因造成的歧视，以获得对国内法律规范的一致性解释。Vedere Discriminazione sindacale, Sentenza Corte di Cassazione numero 1 del 2 gennaio 2020,Osservatorio Sulle Discriminazioni, http://www.osservatoriodiscriminazioni.org/index.php/2020/02/21/discriminazione-sindacale-sentenza-corte-di-cassazione-numero-1-del-2-gennaio-2020/.
[16]Tribunale di Bologna,sez.Lavoro.,ord.31/12/2020.
[17]Tribunale di Bologna,sez.Lavoro.,ord.31/12/2020.
[18]Tribunale di Bologna,sez.Lavoro.,ord.31/12/2020.
[19]Tribunale di Bologna,sez.Lavoro.,ord.31/12/2020.
[20]Tribunale di Bologna,sez.Lavoro.,ord.31/12/2020.
[21]Tribunale di Bologna,sez.Lavoro.,ord.31/12/2020.
[22]Tribunale di Bologna,sez.Lavoro.,ord.31/12/2020.
[23]Tribunale di Bologna,sez.Lavoro.,ord.31/12/2020.
[24]Tribunale di Bologna,sez.Lavoro.,ord.31/12/2020.
[25]2011年第150号立法令第28条第4款：“如果申请人提供事实证据，包括统计数据，据此可以推定存在歧视性行为、协议或做法，则应由被告证明不存在歧视。统计数据还可能涉及有关企业的招聘、工资制度、职位和资格的分配、调动、职业发展和解雇。”
[26]该法之所以这样规定，是因为间接歧视的规定实际上扩大了雇主的责任。然而，雇主进行辩解的标准也较为严格。Vedere M. Barbera, Principio di eguaglianza e divieti di discriminazione, in M. Barbera e A. Guariuso, a cura di, La tutela antidiscriminatoria, fonti, strumenti, interpreti, Giappichelli, 2019,p.59ss. Adalberto Perulli, La discriminazione algoritmica: brevi note introduttive a margine dell’Ordinanza del Tribunale di Bologna, in Lavoro Diritti Europa, n.1/2021.
[27]Tribunale di Bologna, sez. Lavoro.,ord.31/12/2020.
[28]Tribunale di Bologna, sez. Lavoro.,ord.31/12/2020.
[29]参见王天玉：《超越“劳动二分法”：平台用工法律调整的基本立场》，载《中国劳动关系学院学报》2020年第4期，第66—82页。
[30]例如江苏省连云港经济技术开发区人民法院行政判决书，（2019）苏0791行初308号；湖南省永州市零陵区人民法院行政判决书，（2019）湘1102行初108号；重庆市大渡口区人民法院行政判决书，（2019）渝0104行初174号；江苏省溧阳市人民法院行政判决书，（2019）苏0481行初124号；山东省烟台市芝罘区人民法院行政判决书，（2019）鲁0602行初26号；安徽省太湖县人民法院行政判决书，（2019）皖0825行初24号；北京市朝阳区人民法院行政判决书，（2019）京0105行初194号；慈溪市人民法院行政判决书，（2018）浙0282行初87号；山东省无棣县人民法院行政判决书，（2020）鲁1623行初18号。
[31]例如上海市金山区人民法院民事判决书，（2018）沪0116民初3208号；江苏省江阴市人民法院民事判决书，（2018）苏0281民初10620号；重庆市第二中级人民法院民事判决书，（2018）渝02民终2924号；湖北省高级人民法院民事判决书，（2020）鄂01民终1206号。
[32]Evan Symon, Class Action Lawsuit Filed Against Uber in San Francisco Over Discrimination Claims, California Globe (October 26,2020), https://californiaglobe.com/section-2/class-action-lawsuit-filed-against-uber-in-san-francisco-over-discrimination-claims.
[33]“L’algoritmo di Deliveroo è discriminatorio”:sentenza del Tribunale di Bologna, La Repubblica, https://bologna.repubblica.it/cronaca/2021/01/02/news/l_algoritmo_di_deliveroo_e_discriminatorio_sentenza_del_tribunale_di_bologna-280803158.
[34]Tribunale di Bologna, sez. Lavoro.,ord.31/12/2020.
[35]根据英国相关法律规定，worker是雇员与自雇者之外的第三类劳动者，享有最低工资、带薪年假、病假等与工资及工时相关的权利。参见林欧：《英国网约工劳动权益保障的思路、困境与启示》，载《中国人力资源开发》2019年第4期，第130—131页。
[36]Ryan Browne, Uber Loses a Major Employment Rights Case as the UK’s Top Court Rules Its Drivers Are Workers, CNBC, https://www.cnbc.com/2021/02/19/uk-supreme-court-rules-uber-drivers-are-workers-not-contractors.html.
[37]Rachele Samo, Rider, Tribunale di Bologna: “L’algoritmo di Deliveroo è discriminatorio”, Cgil: sentenza epocale, Sputnik News (January 2,2021), https://it.sputniknews.com/italia/202101029966336-rider-tribunale-di-bologna-lalgoritmo-di-deliveroo-e-discriminatorio-cgil-sentenza-epocale/.
[38]2011年第150号法令第28条第5款：“法官进行审理做出裁定，可以命令被告人就损害（包括非财产损害）支付赔偿，并命令停止损害性的歧视行为、作为或协议，包括针对行政机关，做出任何其他消除其影响的适当措施。为防止歧视再次发生，法官可命令在判决规定的时限内做出消除歧视的计划。对于集体歧视行为，应在听取集体机构原告的意见后通过该计划。”
[39]Emilio Balletti, Danni punitivi, moduli sanzionatori e standard di tutela nel diritto del lavoro, in Massimario di giurisprudenza del lavoro n.1/2019.
[40]Tribunale di Bologna, sez. Lavoro.,ord.31/12/2020.
[41]（古罗马）优士丁尼：《学说汇纂》（第1卷），罗智敏译，中国政法大学出版社2008年版，第89页。
[42]参见[德]康德：《康德著作全集》（第4卷），李秋零译，中国人民大学出版社2005年版，第437页。
[43]Tribunale ‘condanna’ l’algoritmo di Deliveroo: discrimina i rider, Rai News（2gennaio 2021），https://www.rainews.it/dl/rainews/articoli/tribunale-di-bologna-condanna-algoritmo-frank-di-deliveroo-discrimina-rider-1d4277d0-aac8-443b-bc93-cdeb8e8c6c23.html.
