AI偏差与公平性（2026.08.25）

概念编号：096

一句话理解

AI 偏差是系统性地偏向某些数据、群体或结果；公平性是用明确标准检查并减少不合理差异。

具体解释

偏差可能来自训练数据代表性不足、标签标准、目标函数、评价指标、部署环境或历史制度。公平不是一个脱离场景的单一数字，而要结合任务、群体、风险和使用者共同定义。

边界与易混淆概念

• 偏差不只来自模型：数据和业务流程也可能造成偏差。
• 公平不一定意味着所有人结果完全相同：需要先明确适用的公平标准。
• 模型输出客观流畅不代表没有偏差。

例子

如果招聘筛选系统在无合理依据的情况下系统性降低某一群体的通过率，就需要进行偏差分析和公平性评估。

相关概念

• AI评估（Evals）（2026.08.25）
• AI隐私与安全（2026.08.25）

来源

• OECD AI Principles
• NIST AI Risk Management Framework

概念卡更新日志

• 2026.08.25｜创建概念卡：依据可信 AI 的公平性原则和 AI 风险框架，登记为 096。