BBC报道指出，Uber Eats送餐员Pa Edrissa Manjang因“种族歧视”的面部识别检查而无法使用该应用，后来收到了Uber的赔偿。引发了对英国法律的质疑，以处理日益普及的AI系统的使用。特别是，对上市的自动化系统缺乏透明度，承诺提高用户安全性和/或服务效率，可能会冒着忽视个体伤害的风险，即使为受到AI驱动的偏见影响的人提供补救可能需要多年。
诉讼源于对Uber在2020年4月在英国实施实时身份验证系统以来，关于失败的面部识别检查的一系列投诉。Uber的面部识别系统基于微软的面部识别技术，要求账户持有人提交一张与文件中保存的照片相匹配的现场自拍以验证其身份。
Manjang的投诉称，Uber在他的身份验证检查失败和随后的自动流程后暂停了然后终止了他的账户，声称在他为访问该平台而拍摄的自拍照片中发现了“持续不匹配”。Manjang在2021年10月提起了针对Uber的法律诉讼，得到了平等和人权委员会（EHRC）和应用程序驱动程序与送货员联盟（ADCU）的支持。
多年的诉讼后，Uber未能使Manjang的索赔被驳回或要求继续进行此案的押金。该策略似乎有助于拉长诉讼时间，EHRC在2023年秋季描述此案仍处于“初步阶段”，并指出该案表明“处理AI技术的索赔的复杂性”。最后的听证会原定于2024年11月的17天。
尽管与Manjang达成了和解，但Uber并未公开承认其系统或流程存在错误。尽管与Manjang达成了和解，但Uber并未公开承认其系统或流程存在错误。该案件质疑了英国法律在监管AI使用方面的适用性。Manjang最终通过基于平等法律的法律程序获得了对Uber的赔偿。具体而言，他是根据英国《平等法案2006年》提起歧视投诉的，该法案将种族列为受保护特征。
除了数据访问权利外，英国GDPR的权力应为个人提供额外的保护，包括对具有法律或类似重大影响的自动化决定的保护。该法律还要求对个人数据进行处理提供法律依据，并鼓励系统部署者积极评估潜在的危害，进行数据保护影响评估。然而，执行力量是这些保护措施产生效果所必需的，包括对引起偏见AI的部署进行应对。在英国的情况下，相关执法机构信息专员办公室（ICO）未能介入并调查对Uber的投诉，尽管有关其误判身份的ID检查的投诉可以追溯到2021年。
目前，政府正在通过一项后脱欧数据改革法案削弱数据保护法。此外，政府今年早些时候还确认，暂时不会引入专门的AI安全立法，尽管首相Rishi Sunak曾声称AI安全是他政府的优先领域。
国家政府仍然未提供关于分发这笔小额额外资金的时间表。多个监管机构都在框架内，因此，如果现有的监管部门和部门中的资金分配均等，比如信息专员办公室、平等和人权委员会和药品和医疗保健产品监管机构等13个机构，他们每个人可能只会分到不到100万英镑来增加预算以应对快速扩展的AI风险。