谷歌掀起首次集体离职潮,抗议人工智能用于军方行动

高层速读

关键信息:近日,十几名谷歌员工正在集体离职,以抗议谷歌与军方合作的Maven项目,同时,国际机器人武器控制委员会也发出了公开信,呼吁谷歌退出军方项目,并承诺不将其技术武器化

关键数据:三个月前,近4000名谷歌员工发出内部请愿书,12名呼吁停止与军方合作;近日,员工集体离职,用行动继续抗议该合作。

关键意义:谷歌陷入了道德困境之中,但“它有义务保护其全球用户群,这超过了它与任何一个国家军队的结盟。”

谷歌掀起首次集体离职潮,抗议人工智能用于军方行动

近3个月前,谷歌员工和公众了解到,谷歌决定向一个有争议的军事试验项目——Maven提供人工智能服务,Maven项目通过自动对物体和人的图像进行分类,加快对无人机镜头的分析。现在,大约有12名谷歌员工辞职,以抗议谷歌继续参与Maven项目。

辞职员工担心无人机战争中人工智能的使用和谷歌的政治决策,以及这些行动可能导致的用户信任等问题,他们中的许多人都写过关于离开公司的决定,他们的故事也被收集并分享到一个内部文件中,其中有多个消息来源向媒体描述了这些内容。

辞职以示抗议的员工表示,谷歌高管们对有争议的商业决策变得不那么透明了,而且似乎对倾听员工的反对意见也不像以前那么感兴趣了。在Maven事件中,谷歌正在帮助国防部实现机器学习,对无人机收集的图像进行分类。

谷歌掀起首次集体离职潮,抗议人工智能用于军方行动

一些员工认为,人类,而不是算法,应该对这种敏感的、可能致命的工作负责,而且谷歌根本不应该参与到军事工作中来,谷歌陷入了道德困境之中。

首次大规模离职潮,Maven项目仍在继续

有史以来,谷歌一直倡导开放的公司文化,鼓励员工对产品和决策进行挑战和辩论。而现在,一些员工认为他们的领导不再那么关注他们的担忧,而是让他们面对后果。一位辞职的员工表示:“在过去的几个月里,员工们的回应和想法越来越不受到的对待和倾听。”

谷歌掀起首次集体离职潮,抗议人工智能用于军方行动

其实,员工的抗议在以前生效过一次,当时导致了产品的改变。2015年,员工和用户成功地让谷歌取消了给Blogger色情内容的禁令。但这次却不同,是谷歌首次因决策而出现的大规模辞职事件,该事件传到出离职员工强烈的道德担忧

除了辞职外,近4,000名谷歌员工在一份内部请愿书中表达了对 Maven的反对意见。该请愿书要求谷歌立即取消合同,并制定一项反对未来军事行动的政策

然而,来自员工不断增加的压力似乎并没有影响谷歌的决定,谷歌为其在Maven上的工作进行了辩护,并且还在参与五角大楼云计算项目的竞标,与微软和IBM一起。

谷歌声称,谷歌只向Maven提供开源软件,这意味着即使谷歌不收费用或不提供技术援助,军方仍能继续使用该技术,这也让谷歌终止与五角大楼合同的要求变得更加复杂。

谷歌掀起首次集体离职潮,抗议人工智能用于军方行动

尽管如此,辞职员工认为谷歌在Maven方面的工作与公司的“改良”( do-gooder )原则不符。一名辞职员工表示:“谷歌并不是一家想要在不同行业寻找客户的机器学习创业公司,谷歌若想保住声誉就要撤出Maven项目。”

请愿活动不断,道德和信任不能再忽视

谷歌一直强调它的人工智能并没有被用于杀戮,但在五角大楼的无人机项目中,人工智能的使用给技术工作者和研究机器学习领域的学者带来了复杂的伦理和道德问题。

当今年2月底消息在谷歌内部开始传播时,谷歌的一位发言人称,公司正在起草关于机器学习使用的“政策和保障措施”,但该政策文件尚未形成正式文件

除了在谷歌内部流传的请愿书,科技工人联盟(Tech Workers Coalition)也在4月发起了一项请愿活动,要求谷歌放弃在Maven方面的工作,而包括IBM和亚马逊在内的其他大型科技公司也拒绝与美国国防部合作。

“我们的行业和技术带来的有害偏见、大规模的信任破坏和道德缺乏,已经不能再被忽视”请愿书写道,“这些是生死攸关的赌注”。

谷歌掀起首次集体离职潮,抗议人工智能用于军方行动

超过90名人工智能、伦理学和计算机科学的学者今天发表了一封公开信,呼吁谷歌终止其在Maven的工作,并支持一项禁止自主武器系统的国际条约。这封信的两位作者已经在联合国就自动武器问题发表了证词;第三位作者Lilly Irani是一名科学教授,曾是谷歌的一名雇员。

她说,谷歌对项目Maven的贡献可能会加速开发完全自主的武器,尽管谷歌总部设在美国,但它有义务保护其全球用户群,这超过了它与任何一个国家的军队的结盟

“谷歌已经进入了军事领域,没有在国内或国际上进行公开辩论或审议。尽管谷歌经常在没有民主公共参与的情况下决定技术的未来,但它这是在军事技术领域的介入,是将信息基础设施的私人控制问题转化为高福利。”

“在某种程度上,我意识到我不能很好地推荐任何人加入谷歌,因为我知道我所知道的一切。我意识到如果我不能推荐人们加入这里,那为什么我还在这里呢?”一位辞职的谷歌员工说。

谷歌掀起首次集体离职潮,抗议人工智能用于军方行动

“我试图提醒自己,谷歌的决定不是我的决定,我对他们所做的每一件事都不负责。但是,当我看到我应该让它升级的东西时,我确实感到有责任。”另一位补充道。

“我们文化的一个重要部分就是让员工积极参与我们的工作。我们知道,在使用新技术方面,有许多开放的问题,所以与员工和专家的交流是非常重要和有益的,”谷歌的一位发言人在4月份的一份声明中说。

“这项技术被用来标记人类和动物图像,目的是拯救生命,拯救人们不需要做单调乏味的工作。任何机器学习的军事使用自然都会引起合理的担忧,但我们正积极进行公司的全面讨论,并与外部专家进行讨论,我们将继续围绕机器学习技术的开发和使用制定我们的政策。”

谷歌发言人没有立即回复媒体就辞职事件发表评论的请求,但员工希望看到公司采取行动,制定道德政策,取消合同,或两者兼而有之。

一位辞职员工说:“行动胜于言语,这也是我自己的标准。只是在内部表达我的担忧是不够的,我能采取的最有力的声明就是离开。”

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2018-05-16
谷歌掀起首次集体离职潮,抗议人工智能用于军方行动
以抗议谷歌与军方合作的Maven项目,同时,国际机器人武器控制委员会也发出了公开信,呼吁谷歌退出军方项目,并承诺不将其技术武器化。

长按扫码 阅读全文