欢迎您来到天津格斯环保有限公司、祝您体验愉快! 咨询热线:+86-22-58395279

在人工智能技术中偏差存在的三个平台

在2018年末,Google决定阻止其智能撰写功能(该功能可预测用户打算在电子邮件中写的内容并自动完成句子),不建议使用基于性别的代词,例如他,她和其。为什么?Google担心该工具带有偏见,并且容易暗示不正确的基于性别的代词。这种变化是促使由谷歌科学家谁类型,见证智能撰写下周我满足投资者建议采取以下跟进的问题:你想见见他。问题?有问题的投资者是女性。

偏差是AI的致命弱点。DataRobot的研究发现,在美国和英国,近一半(42%)的AI专业人员非常或极其担心AI偏见。AI可以在最意想不到的地方徘徊。没有系统是免疫的。随着AI在工作场所的稳固据点,必须警惕可能会持续存在偏见的地方和平台。

人工智能工具有望最大程度地减少招聘偏见。LinkedIn的研究表明,有43%的招聘人员和招聘经理表示,AI的主要优势在于其消除人类偏见的潜力。然而,承诺将偏差最小化的相同AI工具也可以将偏差注入到招聘过程中。以Google的招聘广告算法为例,该算法不成比例地向男性显示高薪工作。同样,许多由AI驱动的招聘工具都依赖于面部识别技术。研究表明,即使是表现最好的面部识别系统,识别黑脸的比率也比白脸高出五到十倍。

虽然很难消除AI驱动的招聘工具的偏见,但我们可以朝正确的方向采取许多步骤。它始于监督。负责构建,实施和使用招聘工具的团队必须多样化,否则他们自己的偏见将被纳入该工具。其次,必须仔细检查数据。太多公司依赖AI驱动的招聘工具,这些工具主要基于历史数据。由于许多公司都优先考虑某些类别的个人(例如,白人男性和顶尖大学的毕业生)对历史的偏爱,因此这些个人还可以通过对历史数据进行训练的算法来获得优势。在将它们以及类似的关联构建到AI工具中之前,必须仔细检查并删除它们。最后,所有由AI驱动的招聘工具都应接受内部和外部审核。像这样的公司创建基于AI的招聘工具的HireVue致力于参与内部和外部审计,以查明其工具中可能存在偏见的地方。这是朝正确方向迈出的一步。

Slack等工作场所协作工具已在工作场所中无处不在。最近,几家公司已经开始开发和启动基于AI的工具,以帮助管理人员和领导者了解电子邮件,Slack和类似平台上正在发生的通信。例如,Vibe是一家总部位于东京的公司,它搜索公共Slack消息并利用AI来评估员工满意度。它可以通过扫描五种情绪来表达员工情绪状态的关键字和表情符号,从而做到这一点:幸福,激怒,不赞成,失望和压力。

问题在于,许多这些由AI驱动的工具都没有考虑到个人具有不同的情感倾向和其他倾向的事实。例如,男性和女性在工作场所协作工具上的行为有所不同。Quartz的记者Leah Fessler指出您公司的Slack可能是性别歧视者。她解释说,男性倾向于主导公共频道的Slack对话,而女性则更可能使用支持性和友好的标点符号。

Slack本身越来越倾向于人工智能。特别是,它创建了一个工作图来分析用户之间的相互关系。工作图的概念并不新鲜。谷歌已经建立了自己的知识图,而Facebook则建立了自己的社会图。工作图使Slack能够在Slack平台内进行更快,更准确的搜索,同时还使用户能够确定最重要的消息。根据《麻省理工学院技术评论》的说法,它的目标是成为一个无情的,多任务处理的助手,他了解正在发生的一切,并仅向您简要介绍最突出的事件。

鉴于普通用户每天发送70条消息,因此不可避免的是,许多企业将依靠AI更好地了解其工人在Slack和类似工具上的协作。至关重要的是,我们必须保持警惕,以了解如何训练这些工具所基于的模型以及它们如何易于产生偏差。

人工智能工具正在迅速渗透到销售组织中。最有前途的用例之一是线索评分。根据Gleanster Research的数据,一半的潜在客户是合格的,但尚未准备好购买。一些AI工具允许公司挖掘其依赖的所有各种渠道来与客户联系,并提取人口统计,公司和技术信息,并最终确定销售线索的质量。这些工具甚至可以指出消费者的情绪,以预测他们的购买倾向。

就像所有AI工具一样,重要的是要了解如何构建基于AI的销售工具的模型。大多数工具旨在发现悬空的果实,即最容易关闭且预算最大的线索。这些工具很少能提供全面的信息。例如,他们通常不考虑哪些线索可能具有最高的生命周期价值,或者哪些线索可能会提供最高的净启动子分数。

另一个问题是,许多公司将潜在客户生成与潜在客户评分混为一谈。也就是说,他们假设符合理想客户角色的客户就是理想客户。他们不考虑潜在客户准备就绪,尤其是领导者是否准备立即购买。第三个问题是,基于AI的销售工具通常会受到历史销售信息的影响。他们会优先考虑看起来像过往客户的客户,并且这样做无法顾及不断变化的市场动态以及过去没有购买过但未来可能会通过扩大覆盖范围和扩大广告来成为恒星客户的客户。

根据《哈佛商业评论》,使用AI进行销售的公司可以将潜在客户增加50%。人工智能有助于消除猜测,并使销售代表将时间集中在与客户建立牢固的关系上。释放这些工具潜能的关键是识别存在偏差的地方并采取积极措施将其最小化。

自蒸汽机以来,AI被认为是最大的创新。随着AI成为我们工作场所中不可或缺的一部分,我们必须不断挑战和审查工具的基本假设。通过指出人工智能偏见可能潜伏的地方,人工智能将赋予我们力量,而不是限制我们。