有一位求职者向美国一家在线辅导公司投了两份申请，内容一模一样，只改了出生日期。显示她超过 55 岁的那份被系统自动拒绝，改成年轻日期的那份却收到了面试邀请。原来，这家公司的筛选软件被设置为自动拒绝 55 岁及以上的女性和 60 岁及以上的男性。2023 年，公司以 365,000 美元与美国平等就业机会委员会（EEOC）和解。
没有人刻意去歧视谁，软件只是安静地重复了几百次。这正是 AI 偏见最难察觉的地方：它看上去不像歧视，更像效率。本文将讲清楚 AI 偏见是什么、它藏在哪些日常工具里，以及香港老板如何在不懂技术的情况下自己检查。
什么是 AI 偏见？
AI 偏见是指 AI 系统以稳定、可重复的方式不公平地对待某些人或情况，原因通常来自它学习的数据或被设定的规则。结果会形成固定规律：某些姓名、年龄、性别、口音或地区，总是得到更差的答复、更低的评分或更少的机会。
打个比方：公司新来一位前台，跟着一位只给“看起来有钱”的访客倒茶的老同事学了半年。没人教她以貌取人，她却学会了。AI 的学习方式一样，只是它每天要接待成千上万人，而且从不怀疑自己学到的东西。
AI 为什么会有偏见？
AI 偏见主要有四个来源：从不均衡的历史数据中学习、抓住能代表年龄或性别的隐藏线索、有人把不公平的规则写进系统，以及系统自身的决定不断反馈到下一轮学习。这四种情况都不需要恶意，所以出发点再好的公司也可能踩坑。
--- 不均衡的历史：据路透社 2018 年报道，Amazon 放弃了一个实验性的招聘 AI，因为它会给含有“women's”一词的简历打低分。系统学习的是过去十年的简历，而其中大多数来自男性。
--- 隐藏线索：删掉“年龄”字段，信息并不会消失。毕业年份暴露年龄，学校、居住地或职业空档也可能暴露性别、族裔或家庭状况。
--- 人为规则：上面那家辅导公司其实谈不上高深的 AI，只是有人把年龄门槛写进筛选软件，自动化让不公平的规则执行得更快、更隐蔽。
中小企业在哪些环节最容易遇到 AI 偏见？
对香港中小企业来说，AI 偏见最常出现在五个环节：简历筛选、客服聊天机器人、营销图片与广告投放、定价或信用判断，以及用 AI 总结员工或客户反馈。这些工具都在高速地对“人”做判断，不公平的规律往往在无人察觉时已被放大。
--- 招聘：AI 因为简历空档较长、毕业年份较早或非本地院校，把求职者排到后面。
--- 客服：机器人能读懂规范的中英文，却对中英混杂、繁体字或有错别字的咨询回答得更差。
--- 营销：让图像工具生成“成功的老板”，结果总是同一年龄和性别，宣传物料无形中在告诉客户你的品牌属于谁。
一个简单的判断标准：只要 AI 的结果会影响一个人能否获得工作、价格、服务或第二次机会，就值得做一次偏见检查。
工具有偏见，企业要承担责任吗？
要。香港的四部反歧视条例看的是结果，不看方法。如果你使用的 AI 工具因性别、怀孕、残疾、家庭岗位或种族而给予较差对待，企业承担的风险与员工亲自做出同样决定时并无二致。
这四部条例是《性别歧视条例》《残疾歧视条例》《家庭岗位歧视条例》和《种族歧视条例》，覆盖雇佣以及不少商品和服务的提供，投诉由平等机会委员会处理。
海外已有先例。在 Mobley 诉 Workday 案中，求职者指控多家雇主使用的 AI 筛选工具因种族、年龄和残疾拒绝了他。2026 年 6 月，美国联邦法官 Rita Lin 拒绝驳回核心指控（见 GPA 的报道整理），软件供应商本身也可能需要担责。
怎样自己检查 AI 工具有没有偏见？
多数中小企业工具都能在一个下午内用四步完成检查：做替换测试、向供应商问三个问题、每个“拒绝”都由人复核，以及每月抽样。整个过程不需要技术背景，只需要一张表格和一点坚持。
第一步：替换测试。准备两份完全相同的资料，只改姓名、年龄、性别或地区中的一项，分别输入工具。如果评分、答复或价格变了，就值得深挖。揭穿那家辅导公司的，正是这个办法。
第二步：问供应商三个问题。模型用什么数据训练？是否测试过不同群体的结果差异，能否提供报告？客户或求职者投诉时由谁负责？答不上来，本身就是答案。
第三步：每个“拒绝”都由人决定。AI 负责排序和建议，拒绝、婉拒和价格例外由人拍板。仅这一条，就能消除大部分法律风险。
第四步：每月抽样。抽取最近 20 个 AI 决定，看看谁得到了什么结果。某类人总排在最后，就先暂停、查清楚。这些检查可以与其他 AI 护栏一起建立。
关于 AI 偏见的常见问题
以下是香港老板最常问的 AI 偏见问题，从 ChatGPT 有没有偏见，到偏见和“幻觉”有什么区别。简短的答案方便你在采购或上线任何会评估“人”的 AI 工具之前快速参考。
ChatGPT 有偏见吗？
所有大语言模型都可能有偏见，因为它们从人类文字中学习。Bloomberg 2024 年的测试发现，GPT-3.5 给内容相同、只有姓名不同的简历排序时，结果会随姓名暗示的族裔和性别而变化。它对人的判断只能作为参考。
偏见和 AI 幻觉有什么区别？
AI 幻觉是编造事实；偏见是倾斜的规律，即使每条事实都正确，也可能出现。
用 AI 招聘前需要做偏见审计吗？
香港没有硬性规定，而纽约市自 2023 年起已要求自动化招聘工具接受偏见审计。替换测试加上人工复核每个拒绝，是合理的最低标准。
结语：AI 要快，更要公平
AI 偏见不是科幻问题，也不只是大企业的问题。它是一个快速、不知疲倦的系统，把昨天的习惯复制进今天的决定。解决办法不是回避 AI，而是监督它：做替换测试、追问供应商、去掉隐藏线索，并让人对每个影响他人工作、价格或服务的决定负责。
懂AI，更懂你 UD相伴，AI不冷
由 UD AI 团队审阅。
不确定团队正在用的 AI 工具，对求职者和客户是否公平？欢迎免费做 AI 体检，UD 团队手把手教你，从盘点会评估“人”的工具，到建立替换测试和人工复核流程，全程陪你走好每一步。
