义正如我们的客户所知网络用于颁发和识

khatijaseobd14

但问题是一些最准确且计算成本最高的模型并不容易解释。使用这些模型的工具也被称为黑盒模型确实往往比更简单的模型表现得更好但代价是缺乏更好地理解它们的清晰机制。在某些类型的问题例如图像分类中理解模型的内部机制可能并不是什么大问题我们最终可以清楚地看到狗的图像是否被正确分类。但当我们处理主观的人类数据时事情很快就会变得复杂。数据例如某人是否适合某工作。已经有很多案例表明善意的人工智能工具最终引入的偏见比其减少的偏见还要多从而造成了巨大的人力成本。为了在人力资源领域解决这一问题从年开始在纽约州和加利福尼亚州运营的为招聘决策提供人工智能服务的公司必须接受偏见审计。

将制定什么样的标准还有待观察但可以肯定的是可解释性将是一个关键组成部分。可解释的模型如何减少招聘中的偏见可解释的模型可以减少招聘中的偏见因为它具有出色的能力来传达可能存在偏见的变量是否与分析相 英国电话号码清单 关这可能会促使部署该模型的公司进一步检查该变量是否应该保留在模型中或者是否应该预先考虑。处理或清洁。有些变量可能是显而易见的我们不应在招聘决策中考虑种族或民族因素。但其他变量则更加棘手。例如邮政编码可能与该国部分地区的种族高度相关如果模型没有删除邮政编码它仍然隐式地将潜在的偏见信息包含在模型中。



公平地说黑盒模型并非无法解释。但它们确实需要更多的工作和专业知识即便如此全球和本地化的解释仍然存在差异这可能是一个太大的话题无法在这里讨论。在一些流行的模型中例如随机森林您甚至可以轻松地理解某些变量的信息增益换句话说它们对确定结果有多大帮助但您将无法轻松地知道该变量朝什么方向摆动例如它是否使某人更有可能适合该工作或者不太可能。另一方面可解释的模型例如回归可能缺乏更复杂模型的嗡嗡声但它们会告诉您变量如何影响结果的大小和方向。他们将能够告诉您邮政编码和种族是否共线。