人工智能的“歧视”：“她数据”在算法运行中隐形

纵观人类的发展史，每一次科技进步都将对性别平等产生深刻影响。尤其是当下，人们对于借助人工智能技术快速发展来弥合性别不平等寄予厚望。

但很多人没想过，人工智能技术本身是客观中立、不存在“算法歧视”“性别偏见的吗？

弗吉尼亚大学计算机科学专业教授在测试图像识别软件时曾发现，人脸识别系统会将厨房图片中的男性识别为女性；在烹饪和体育活动方面，用搜索引擎搜索出来的图片也存在明显的偏向性，如烹饪形象与女性相关，而体育形象则多为男性……

这些社会活动中的性别“刻板印象”，折现出算法本身的“性别偏见”。作为人工智能的核心要素，算法通过解决问题的逻辑规则，将数据转化为决策或预测。而在从数据运行到结果呈现，算法过程的每个环节都可能存在社会偏见，“性别偏见”往往被忽视却又真实存在。

如何消除算法中的“性别偏见”？如何平衡性别平等与个性化推荐？是人工智能发展过程中需要解决的伦理问题。

女性的“隐形”与“缺失”

数据是算法运行的基础，更是人工智能学习成长的“养料”。但实际上，当前的数据更偏向男性，在数据采集环节就可能埋下性别偏差的“种子”。

例如，美国加利福尼亚大学、华盛顿大学的研究人员在《柳叶刀·公共卫生》杂志上刊发的研究结果显示，女性遭受的非致命性疾病未得到足够重视。其中一项原因是，由于历史和社会原因，临床试验中纳入女性数据较少。

这意味着，当此类数据被“投喂”给AI，并用于医疗领域时，针对女性的疾病诊断、治疗和预防策略可能并不完全准确和有效，AI提供的决策参考也会存在偏差。

维基百科也曾被指出在内容的质与量上存在性别偏差，其中女性条目数量占比不到五分之一。联合国教科文组织发起#Wiki4Women倡议，通过创建、编辑和翻译维基百科上的女性简介和列表，改善百科中性别失衡的情况。这一举措恰恰证明，数据世界中的女性“隐形”与“缺失”。

算法运行中同样存在性别偏差的风险，且隐蔽性更强，这往往体现在内容推荐层面。学者邓松在论文《算法性别歧视的认定与法律规制——以消费领域为例》中表示，算法设计者直接或间接、显性或隐性的性别主观思想，会直接反映到算法之中。具体表现为，算法通过一套内生的“歧视性”运算流程，对所收集的消费者数据进行分析, 并做出针对不同性别的不同商品推荐、价格标签等行为。

中华女子学院社会学系副教授周旅军则举例表示，在算法运行过程中，AI可能会向女性用户更多推荐美容、育儿类内容，而向男性用户更多推荐科技、体育等内容，看似基于用户兴趣，实则可能加深性别分化。