谷歌人工智能伦理部门动荡不安,已引起外部监管机构关注操盘配资

文章正文
发布时间:2021-06-08 21:08

北京时间 6 月 2 日下午动静,操盘配资据报道,谷歌近日向外界暗示,它仍坚定致力于以合乎道德规范的方法进行人工智能研究。该公司还做出答理,将把人工智能研究人员数量增加一倍,到达 200 人。谷歌首席执行官皮查伊也暗示,将为更多切合伦理规范的人工智能项目提供资金支持。

六个月前,谷歌的人工智能伦理明星研究员蒂姆尼特・格布鲁(Timnit Gebru)遭到解雇,原因是她在一篇学术论文中对谷歌的一项人工智能技术提出了伦理质疑。今年五月份,谷歌人工智能卖力人杰夫・迪安(Jeff Dean)暗示,尽管格布鲁离职事件影响到了谷歌的声誉,但人们需要向前看。

然而,对谷歌人工智能伦理团队的部门成员来说,现实与谷歌高管的公开宣示却有所差异。该团队是谷歌新创立的一个人工智能分支研究机构,共有成员十人,主要任务是研究人工智能如何影响社会。按照成员的反应,该团队几个月来一直处于一种前途未卜的状态。团队成员怀疑,公司是否能在学术界重建信誉,以及公司带领是否会听取团队的建议。目前,两位团队带领已经离职,而谷歌尚未聘请到合适的继任者。许多成员感想职业前景不不变,一些人开始考虑分开谷歌,筹备去其他科技公司工作或者重返学术界。

谷歌人工智能部分的发言人已拒绝就人工智能伦理团队的事情颁发评论。

谷歌的研究机构拥有数千研究人员,但专门研究人工智能伦理的仅有十人。人工智能伦理团队以颁发了有关人工智能训练数据集的算法公平性的开创性论文而闻名于世。该团队为谷歌在学术界成立起了学术声誉,证明谷歌有能力进行前沿、有时甚至是批判性的研究 —— 这对谷歌来说非常重要。究竟,每天都有几十亿人依赖谷歌的产物来飞舞互联网,而该公司的核心产物,好比搜索引擎,正越来越依赖人工智能。

虽然人工智能在癌症诊断、地动探测和与人类交互方面具有改变世界的潜力,但这一正处飞速成长阶段的技术也会有可能扩大对女性和少数族裔的成见,对个人隐私构成威胁,以及导致碳排放的增加。谷歌为此成立了一个审查措施,用以确定新的人工智能技术是否切合其在 2018 年提出的人工智能伦理原则。在这一配景下,人工智能伦理团队的职责是辅佐谷歌寻找公司在人工智能范围的盲点,确保公司卖力任地开发和应用人工智能技术。然而,人工智能伦理专家格布鲁的离职引发了巨大的争议,并导致了人工智能伦理团队的人事动荡。一些学者开始担忧,谷歌在开发有可能改变世界的人工智能新技术时,可能无法充实处理惩罚公司内部的伦理反馈意见。

例如,今年 5 月,谷歌公布了一款新的皮肤病人工智能检测应用措施,但这款应用措施引发了批评,因为它有一个明显的缺点:它在测试数据中大大低估了较浅肤色与较深肤色的比拟。如果在公布前能事先咨询一下人工智能伦理团队,这一问题原本有可能加以制止。

在过去的几个月里,谷歌伦理研究团队的带领层一直处于连续动荡的状态。在短短几个月的时间里,该团队继格布鲁研究员离职后,又先后失去了两位带领人。今年 2 月,谷歌解雇了梅格・米切尔(Meg Mitchell),正是她卖力创建了谷歌人工智能伦理团队,并与格布鲁共同带领该团队。到了 4 月份,米切尔和格布鲁的直接带领、顶尖人工智能科学家萨米・本吉奥(Samy Bengio)也宣布辞职。本吉奥曾向外界暗示,他对格布鲁的解职感想“震惊”。本吉奥是谷歌大脑研究部分的卖力人,谷歌人工智能伦理团队正是在其带领下开展工作。从谷歌离职后,他将带领苹果公司一个新成立的人工智能研究团队。

2 月中旬,谷歌任命前工程副总裁玛丽安・克劳克(Marian Croak)为新创立的人工智能责任部分(Responsible AI Department)的卖力人,人工智能伦理团队也划归该部分打点。然而,克劳克的行政级别太高,因此并不直接加入该团队的日常运作。

这样一来,人工智能伦理团队的运作就变得比力难堪。他们不得不向上述已经离职的带领人寻求非正式的工作指导和研究建议。团队成员搭建了临时的组织架构,让每位成员轮流卖力每周的部分会议。他们还自行指定了两名研究人员,按期与谷歌其他团队沟通,以让他们了解团队的最新成就。由于谷歌在全球雇用了凌驾 13 万名员工,对像人工智能伦理团队这样的小团体来讲,一般很难知道他们的工作成就是否真正应用到了公司的产物中。

过去的半年对该团队的新成员来说显得尤其困难,他们有时甚至不知道该如何领取本身的薪水,以及如何才气访问谷歌的内部研究东西。一些团队成员在看到格布鲁和米切尔的遭遇后,开始觉得他们正在从事的工作有风险,担忧如果以后他们的工作成就也引发了争议,那么他们也可能会被解雇。

克劳克是一位有成绩的工程研究带领人,但在人工智能伦理范围经验不敷。在与人工智能伦理团队的会面中,她试图向员工担保,她是团队的盟友。克劳克是谷歌级别最高的黑人高管之一。在谷歌,黑人女性只占员工总数的 1.2%。她认可,谷歌在改进员工种族和性别多样性方面缺乏进展。据几位研究人员称,克劳克在与人工智能伦理团队的会面中,也向团队成员表达了歉意,对团队目前的困境暗示感同身受。

然而,又有动静称,这位高管与人工智能伦理团队的关系还是呈现了问题,因为他们觉得她只是做出了一些空洞的答理。在克劳克被正式任命为人工智能责任部分卖力人之前几周,她就已经与人工智能伦理团队的成员进行了非正式的交流,讨论如何修复对团队造成的损害。然后,人工智能伦理团队的成员共同起草了一封信,提出了包罗对团队进行“布局改良”在内的一些建议。谷歌后来确实对团队进行了重组,并将团队划归新组建的人工智能责任部分打点。然而,团队成员是公司内部最后得知此事的人。因此,当团队成员得到动静时,他们是一脸的懵逼。团队成员对此感想很不满,认为重组过程与他们缺乏沟通,不尊重他们。

一些团队成员对本身在谷歌的未来感想灰心,并开始怀疑是否真正拥有展开研究所必须的自由环境。他们要求谷歌公开答理学术自由,并澄清其学术研究审查措施。截至目前,谷歌尚未对这些要求有所回应。别的,团队成员还但愿谷歌向已经离职的格布鲁和米切尔致歉,并向她们再次提供工作机会 —— 但目前看来,这些要求极不行能实现。并且,格布鲁也已经暗示,即使谷歌再次向她提供工作机会,她也不会回来。

一些团队成员暗示,他们正在考虑分开公司。在竞争激烈的人工智能范围,顶尖研究人员可以拿到七位数的薪水,如果这些人员离职,那将是谷歌的一个巨大损失。

此刻,谷歌在学术研究范围的职位正变得风雨飘摇。到目前为止,谷歌是科技行业最大的研究扶助者之一 —— 它去年在研发范围投入了 270 多亿美元,这甚至凌驾了美国宇航局(NASA)的年度预算。但谷歌人工智能伦理团队近期呈现的这些争议性事件,让一些学者质疑,谷歌的让研究人员自由开展研究的答理,是否已被公司的商业利益所束缚。

数千名计算机科学传授和研究人员曾签署了一份请愿书,批评谷歌解雇格布鲁的举动,称之为“前所未有的学术研究审查”。谷歌的人工智能高管心里很清楚,谷歌已经失去了学术界的信任。迪恩在今年 2 月的一次员工研究会议上颁发评论称,重建信任的计谋是“继续颁发‘非常有趣’的前瞻性工作”。他说,“从头获得人们的信任需要一点时间。”

然而,重建信任所需的时间恐怕不止“一点”。加拿大安粗略西部大学(Western University)的研究人员卢克・斯塔克(Luke Stark)评论说:“我认为,目前谷歌基本上是无法挽回其在学术界的声誉的,至少中期来看是如此。”斯塔克最近还拒绝了谷歌的六万美元的不受限制扶助,以抗议格布鲁的被迫离职。据报道,他是有史以来第一个拒绝谷歌研究扶助的学者。别的,还有另外两个人工智能研究团体也已经暗示将拒绝谷歌的任何扶助。

目前,至少有四名谷歌员工,包罗一名工程总监和一名人工智能研究人员,已经分开公司,而且是以格布鲁被解雇作为辞职理由。固然,这些离职仅代表了一个大群体中的少数人。其他人选择留下是因为他们仍然相信事情会有转机。一位不属于人工智能伦理团队的员工暗示,他和同事们强烈阻挡谷歌解雇格布鲁的决定,但他们也觉得,留下来继续做有意义的工作是他们的责任。

对谷歌如何处理惩罚人工智能的伦理问题暗示担心的远不止学术界,监管机构也开始关注此事。去年 12 月,9 名国会议员致函谷歌,要求谷歌就格布鲁被解雇一事作出解释。颇具影响力的族裔正义组织“Color of Change”也呼吁,对谷歌解雇格布鲁一事所可能存在的种族歧视展开外部观察。

这些外部团体正密切关注谷歌人工智能部分内部产生的事情。他们意识到人工智能将在人类生活中发挥越来越大的影响。几乎所有主要的科技公司,包罗谷歌在内,都将人工智能视为现代世界的一项关键性技术。基于反垄断的考虑,谷歌已经成为了政治上的热门话题,谷歌人工智能部分正面临着很高的政治风险。