公平性标准群体个体与反事实

6 minAdvanced

公平性文献三大家族：群体公平(人口统计均等、机会均等、条件使用准确率均等)、个体公平(Dwork 2012 Lipschitz条件)、反事实公平(Kusner 2017因果图依赖)。不可能性定理：不等基率下三者不可同时满足。回溯反事实避免对受保护属性的干预。ICLR 2024哲学调和：群体与反事实公平是同一因果结构的不同面。

问题定义

第20课关于测量偏见。第21课关于定义测量应服务的公平性标准。三大家族给出结构不同的标准——模型可以群体公平但个体不公平，反事实公平但群体不公平。选择标准是政策决策；没有标准是普遍最优的。

核心概念

群体公平

人口统计均等(Demographic parity)。 对所有群体P(Y=1 | A=a) = P(Y=1 | A=a’)。均等接受率。
机会均等(Equalized odds)。 P(Y=1 | Y*=y, A=a) = P(Y=1 | Y*=y, A=a’)。跨群体均等TPR和FPR。
条件使用准确率均等(Conditional use accuracy equality)。 P(Y*=y | Y=y, A=a) = P(Y*=y | Y=y, A=a’)。跨群体均等预测值。

不可能性(Chouldechova, Kleinberg-Mullainathan-Raghavan 2017)：在不等基率下这三者不可同时满足。

个体公平

Dwork等人2012。决策映射f相对于任务特定相似度度量d是个体公平的，如果|f(x) - f(x’)| <= L * d(x, x’)对某Lipschitz常数L成立。相似个体获得相似决策。

需要定义d。政策问题，不是统计问题。

反事实公平

Kusner等人2017。在种群的因果模型下，如果个体i的敏感属性被反事实改变时决策不变，则决策对个体i是反事实公平的。

需要因果DAG。DAG是建模选择。反事实公平的合理性仅与DAG一样。

CF-vs-准确率权衡

NeurIPS 2024理论：反事实公平和预测准确率之间存在固有权衡。模型不可知方法可以将最优但不公平的预测器转换为CF公平的，以有界准确率成本为代价。准确率成本取决于最优不公平预测器中敏感属性系数的大小。

回溯反事实

arXiv:2401.13935 (2024年1月)。传统反事实需要对敏感属性的干预——“如果这个人是不同性别，决策会改变吗”。在法律上，这是有问题的：受保护属性在分类法中不能被干预。

回溯反事实翻转方向：不是干预属性，而是问个体实际特征的什么组合会产生反事实结果。这规避了法律异议。

哲学调和

ICLR Blogposts 2024。有了因果图，满足某些群体公平度量意味着满足反事实公平。三大家族不是正交的；它们是同一底层因果结构的不同面。

这不解决不可能性定理（不等基率仍然阻止同时群体公平）。但它表明”群体”和”个体/反事实”之间的表面对立部分是不明确因果模型的伪影。

关键术语

术语	常见说法	实际含义
Demographic parity	”均等率”	P(Y=1 \| A=a)跨群体相等
Equalized odds	”均等TPR/FPR”	跨群体均等真正率和假正率
Conditional use accuracy	”均等PPV/NPV”	跨群体均等预测值
Individual fairness	”Lipschitz条件”	相似个体获得相似决策
Counterfactual fairness	”因果改变不变性”	反事实属性改变下决策不变
Backtracking counterfactual	”通过实际解释”	从结果向后推理的反事实，而非从属性向前
Impossibility theorem	”三者冲突”	Chouldechova / KMR 2017：不等基率下群体标准互斥