博客和新闻

“人工”并非一直在:人工智能背后的真相

由...撰写
Fretes, Augusto
高级内容制作人

您的“聊天机器人”如何将数据泄露给未经授权的人员

现如今,“人工智能”一词常被滥用。但事实上,很多人工智能创业公司与这项技术并没有多大关系。MMC Ventures 的调查显示,在欧洲,有40%的所谓“人工智能”创业公司与人工智能毫不相关。其中绝大多数(十分之九)在商业市场。

而且,即使是正在开发人工智能解决方案的公司,也经常雇佣远程工作人员作为人工智能的补充。每当机器无法独立完成任务时,工作人员就会介入。

实际上,混合人类和人工智能以提供更好的产品本身并没有什么错,在很大程度上这就是未来的工作。问题其实在于公司在这件事上不够坦诚。近期,《卫报》的一篇调查文章显示,许多人甚至懒得去调查那些查看其个人数据的人员,就依靠亚马逊的土耳其机器人(Mechanical Turk)等第三方服务来签约外包零工。

它的运作方式是这样的:在人工智能程序无法理解或解决问题时,该任务会被发送给第三方服务。在第三方服务中,为了几美分的报酬,许多合同工相互竞争,力争尽快解决此问题。没有调查。不论你是谁,也不论你在何地,都可以在短短几分钟内加入。对于某些任务来说,这点十分有用,而对于另一些任务来说则难以接受。

并非所有信息都是平等的。企业要控制特定人员可看的特定内容。缺乏透明度限制您保护客户和员工隐私的能力,还会经常在未经您明确知晓或同意的情况下将敏感信息泄露给第三方。

对人力资源来说,这件事影响巨大。简历包含个人身份信息,因此简历的处理属于《通用数据保护条例》和全球其他数据隐私法规的保护范围。如果所谓的人工智能解决方案正在将数据泄露给随便一个坐在自己卧室里办公的陌生人,您又如何保证候选人的个人数据受到了保护?

这并非是反对人工智能,而是表明您应该了解您的供应商,并确保您可以信任他们不会在未经您知晓或同意的情况下向第三方泄露信息。

在 Avature 中,我们让客户自主控制信息揭示的内容、地点和时间,对此我们感到自豪。客户可以任意授予和撤销第三方的访问权限,还可以详细定义第三方可看的内容和时长。通过让他们适应其系统即时处理数据的方式,以促使他们遵守当前和将来的任何隐私法规。

我们的人工智能方法也不同于行业中普遍使用的黑匣子方法。我们主张透明,这意味着我们需要在内部开发人工智能工具。一开始,我们设计人工智能工具,向客户提供了解系统运行所需的所有信息。想象一下,招聘人员搜索特定职位,Avature 语义搜索用所知的相关术语扩展其查询内容,而且每一个都会显示出来,可由用户打开和关闭。

《通用数据保护条例》、安全性和数据隐私是行业日益发展的要素,因此,除了功能之外,您更应该仔细琢磨您是从谁那里购买技术。您需要了解供应商的核心价值、发展原则和战略蓝图。