文章详情

XM交易:GLAAD称AI对LGBTQ用户偏见风险上升

币界网报道:

倡议组织 GLAAD 发布最新报告称,人工智能系统已经在医疗、就业、住房、信贷和隐私等场景中放大对 LGBTQ 群体的不利影响。报告认为,随着 AI 被更广泛嵌入日常服务,这类偏见不再只停留在聊天机器人回答层面,而可能进入更具体的决策流程。

报告聚焦训练数据与错误输出

这份名为《Build for Everyone: A Framework for LGBTQ Representation and Safety in AI》的报告指出,若模型建立在有偏或不完整的数据之上,系统可能强化刻板印象,压低相关群体的可见度,并生成带有误导性的内容。

GLAAD 列出的主要问题包括:训练数据偏差、反 LGBTQ 虚假信息、预测型 AI 的歧视性结果、内容审核失灵,以及隐私风险。报告认为,这些问题会直接影响用户获得信息、服务和机会的方式。

风险正从内容生成转向自动化决策

报告特别提到,随着 AI 代理逐步具备更高自主性,风险可能进一步扩大。与传统聊天工具不同,这类系统可以在较少人工干预下执行任务,因此一旦继承既有偏见,歧视结果也可能被自动放大。

GLAAD 举例称,这类系统可能在搜索结果中排除支持 LGBTQ 的医疗服务提供者,或对用户身份作出错误推断,进而影响推荐、审核甚至资格判断。

报告同时提到,模型幻觉和迎合式回答也会加剧问题,尤其是在健康、选举等高敏感议题上,错误信息的后果更为直接。

呼吁加强监管与行业协作

GLAAD 在报告中呼吁 AI 开发者改进训练数据中的 LGBTQ 表征,强化隐私保护,并在内容审核和高风险应用中保留人工监督。报告还主张科技公司与民间组织建立更紧密合作,以便在产品设计阶段更早识别问题。

在行业层面,GLAAD 要求提高问责力度,并推动更强的监管审查。报告认为,如果企业忽视相关群体在训练数据、产品设计和治理中的实际处境,不仅会伤害边缘群体,也会削弱产品质量和用户信任。

AI偏见争议仍在扩大

这份报告发布之际,AI 偏见问题正持续引发讨论。此前有研究称,部分主流模型在宗教相关回答中表现出明显倾向性,对不同群体的回应并不一致。

与此同时,马斯克旗下 xAI 也卷入相关争议。6 月早些时候,前 xAI 工程师 Devin Kim 起诉 xAI 和 SpaceX,称自己因提醒 Grok 在虚假信息和偏见防护方面不足而遭解雇。另据报道,xAI 还在就科罗拉多州一项 AI 歧视风险评估法律与当地展开法律争议。

GLAAD 认为,AI 已不只是技术产品问题,也会影响公民权利、商业信任和未来用户覆盖范围。报告援引数据称,Z 世代中超过 20% 为 LGBTQ 群体,相关消费能力也在持续扩大。