作者：Kyle Wiggers
来源：VentureBeat
参与：Cynthia
翻译：本文为天善智能编译，未经容许，禁止转载
微软正在开发一种可以在人工智能算法中检测出偏差的工具，用于帮助企业在使用人工智能时规避产生偏见的风险。
微软的偏见检测工具的高级研究员Rich Caruana将其描述为一个“仪表盘”，工程师可以将其应用于已训练人工智能模型。在麻省理工科技评论（MIT Technology Review）的采访中他说:“透明度、可理解性和解释都是新的领域，我们当中很少有人有足够的经验去了解我们应该寻找的所有东西，以及我们的模型中可能潜藏的偏见。”
算法的偏倚问题正越来越突出。本周在波士顿举行的深度学习峰会上，哈佛大学机器学习讲师、罗德岛大学的首席信息官Gabriele Fariello说，在人工智能领域今天的道德和偏见的处理中存在“重大的问题”。他说:“在医疗保健、司法系统以及其他直接影响你生活的地方，都有存在决定。”
算法偏差的列表似乎在逐年增长。Northpointe的Compas软件，利用机器学习来预测被告是否会犯下未来的罪行，被发现相比白人被告更严厉地审判黑人被告。来自波士顿大学和微软的研究表明，用于教授人工智能程序的数据集包含了性别歧视的语义连接，例如，认为“程序员”这个词更接近“男人”这个词，而不是“女人”。麻省理工学院媒体实验室进行的一项研究表明，面部识别算法对深色皮肤男性的识别率比识别浅色皮肤的男性高出12%。
微软并不是唯一一个试图降低算法偏差的公司。今年5月，Facebook发布了Fairness Flow，当一个算法对一个人基于他或她的种族、性别或年龄做出不公平的判断是，它会自动发出警告。IBM的沃森和云平台集团最近的研究也集中于减轻人工智能模型的偏见，特别是在与面部检测有关的方面。
