提到性别偏见，别以为只有人才会产生偏见，事实上作为非生命体的AI系统，也可能因为设计者的疏忽，或者社会语料库本身的性别不公因素，而流露出性别偏见倾向。这当然不是设计者的本意，可是这种现象无可避免地会对部分用户造成观感不适。

特伦托大学的研究人员以身力行，借用名为＂MuST－SHE＂的测试集，来评估AI语音翻译系统的输入文本数据集是否存在具有性别差异的语句，而AI又是否将这种性别差异从翻译加工成果中体现出来。

分门别类！为不同翻译语料类型找准定位

在机器翻译过程中，性别偏见可以归因于语言表达上之于男女性别的差异。那些有专属性别语法系统的语言，如罗曼斯语，依赖于性别词性和句法变化来区分出性别差异。而这对于英语和中文都是不适用的，比如说，中文是一种“自然性别”系的语言，它只通过代词（如：“她”和“他”）、固有性别的词语（如：“男孩”和“女孩”）和性别专用名词（如：“妈妈”和“夫人”）来反映性别差异。

如果AI翻译系统不能捕捉到这些细微差别，可能导致对不同性别群体的不准确描述。为了尽可能抹消这种区别，研究人员专门创建了一个被称为MuST－SHE的多语言测试集，旨在揭露潜藏在语言翻译系统后的性别偏见。

机器人在吸收歧视性数据集后，也会表现出歧视倾向

MuST－SHE是基于TED演讲数据集筛选得出的一个数据子集，其中包括大约1000份音频、文本和翻译素材，这些翻译素材都取自开源MuST－C语料库，有专门的语料注释了与性别相关的定性差异。这些素材被细分为两类：

第1类：当性别差异性仅取决于说话人本身的性别时（即没有相应的语境样本支持），翻译素材的形成需从音频信号中获取消除性别歧义的必要信息样本。

第2类：所得的翻译素材有直接消除歧义信息的样本支持，其中包含比较清晰的语境提示，如性别指定性词组、代词和专有名词都能说明说话者的性别。

每一类的第一框都是正确语料例子

第二框是错误例子作为参照物

基于语料库中的每一条翻译引用，研究人员都特意创建了一个反面语料例子，除了“他／她”不分、“男／女”不分之外，反面的翻译素材与原文的涵义其实完全相同。在将两种语料信息输入AI翻译系统后，研究结果表明，在性别的正式表达预料方面，原语料库中的翻译范例被AI驳回，认为其是“存在部分错误的”，而反面语料例子则被认为是“正确的”。这种结果差异可以用来衡量语音识别系统处理性别现象的能力。

寻找翻译法：测试语音识别系统的翻译准确度

在后续实验中，研究人员创建了三个语音识别系统：

End2End语音识别系统，它借助c语言和开放源码来接受Librispeech数据集的培训，并通过自动将原始英语文本翻译成目标语言，来对语料库进行“反哺式”扩充。＊ Cascade，其与End2End的核心技术相同，其区别在于，它从OPUS库中提取并训练了7000万对英语－意大利语数据和1．2亿对英语－法语语言数据，最后对训练数据进行微调，提供大量语料信息。＊ Cascade＋Tag系统，又在Cascade的基础上，在训练数据中添加了许多能够表明说话者性别的语料标签。

有趣的是，研究人员发现，在“MuST－SHE”上进行实验时，将性别信息输入Cascade语音识别系统，并没有收到显著效果。数据集中原始引用和“错误”引用之间的差异值表明，这三个系统都偏向于男性语言思维模式，似乎女性被放在了弱势地位。

三类语音识别系统的产出成果衡量示意图

在语料分类方面，Cascade在区分第一类翻译语料时表现最差，因为它无法获取说话者的性别信息，从而无法翻译出正确的语句。相比之下，End2End能够利用音频特性来准确地标注出说话者的性别，但它在区分第二类翻译语料上表现最差，原因可能在于它提取的训练数据集比较小，不足以让它推断出比较清晰的翻译思路。

研究人员写下了他们的实验感想：“如果在系统中输入＇机器吃什么’这样的话语，那么AI可能会根据人类的食谱来列举出具体的菜单，这就是站在人类的角度，对＇吃＇这个用词阐发思考。它也可能站在机器的角度，写出机器吃汽油之类的答案。但是通过对＇吃＇这个字的翻译解释，我们就能得到这样的结论：AI的巨大优势在于，它能够从输入的音频信号中推断说话者的性别／属性。这说明它的可塑性其实非常强。”

谷歌也在谷歌翻译软件中引入了性别区分翻译意识，主要目的也是为了解决性别偏见。谷歌研究团队将AI翻译的性别差异性通过一种被称为StereoSet的指标体现出来，以显示哪种系统翻译方式比较可行，那种语料库比较切合这种翻译识别方法。希望在不久的将来，性别偏见可以真正从AI市场上被根除殆尽。

关于我“门”

将门是一家以专注于发掘、加速及投资技术驱动型创业公司的新型创投机构，旗下涵盖将门创新服务、将门技术社群以及将门创投基金。将门成立于2015年底，创始团队由微软创投在中国的创始团队原班人马构建而成，曾为微软优选和深度孵化了126家创新的技术型创业公司。

将门创新服务专注于使创新的技术落地于真正的应用场景，激活和实现全新的商业价值，服务于行业领先企业和技术创新型创业公司。

将门技术社群专注于帮助技术创新型的创业公司提供来自产、学、研、创领域的核心技术专家的技术分享和学习内容，使创新成为持续的核心竞争力。

将门创投基金专注于投资通过技术创新激活商业场景，实现商业价值的初创企业，关注技术领域包括机器智能、物联网、自然人机交互、企业计算。在近四年的时间里，将门创投基金已经投资了包括量化派、码隆科技、禾赛科技、宽拓科技、杉数科技、迪英加科技等数十家具有高成长潜力的技术型创业公司。