共计 982 个字符，预计需要花费 3 分钟才能阅读完成。
SafeRent，一款专为房东设计的 AI 筛选工具，将不再使用 AI 驱动的“评分”系统来评估使用住房券的租户是否适合。本周三，美国地区法官 Angel Kelley 最终批准了一项约 230 万美元的和解协议，旨在防止 SafeRent 基于收入和种族歧视租户。
这一和解源于 2022 年在马萨诸塞州提起的集体诉讼。诉讼指控 SafeRent 的评分系统对使用住房券的人，特别是黑人和西班牙裔申请人，造成了不成比例的伤害。此外，诉讼还指控 SafeRent 违反了《公平住房法》，该法禁止住房歧视。
根据最初的诉讼，SafeRent 的评分算法使用信用记录和与租金无关的债务等因素，为潜在租户分配一个评分。房东可以使用这个评分来决定是否接受或拒绝某人的租赁申请。诉讼声称这一过程不透明，因为 SafeRent 不会告诉房东它是如何得出某人的评分的。据称，该系统对黑人和西班牙裔租户以及使用住房券的人不公平地分配了较低的评分，导致房东拒绝他们的住房申请。
根据为期五年的和解协议，SafeRent 将不再在全国范围内为使用住房券的申请人显示租户筛选评分，也不能在使用其“经济适用”SafeRent 评分模型时包含评分。SafeRent 的服务也不能在使用住房券的情况下显示是否“接受”或“拒绝”某人申请的建议。这意味着房东现在必须根据租户的整个记录来评估使用住房券的租户，而不仅仅是使用他们的 SafeRent 评分。
“信用评分和类似模型的评分，如 SafeRent 评分，依赖于仅用于预测信用义务偿还的信息，”国家消费者法律中心主任 Shennan Kavanagh 在一份声明中表示。“没有证据表明此类数据能预测租户支付租金的能力。”
作为和解协议的一部分，所收集的资金将用于马萨诸塞州使用住房券但因 SafeRent 的租户评分而未能获得住房的租赁申请人。“尽管 SafeRent 继续认为 SRS（SafeRent Solutions）评分符合所有适用法律，但诉讼既耗时又昂贵，”SafeRent 发言人 Yazmin Lopez 在给_The Verge_的一份声明中表示。“越来越明显的是，在此案中为 SRS 评分辩护将分散 SafeRent 用于服务其核心使命的时间和资源，即为住房提供者提供筛选申请人的工具。”
SafeRent 是最新一款面临法律行动的算法驱动的物业管理软件。今年 8 月，司法部起诉 RealPage，指控其算法定价软件提高了租金。
