安妮 编译整理量子位 出品 | 公众号 QbitAI

今早,谷歌内部上演了一场年度抗争大戏。

400多名AI、伦理学和计算机科学学者联名,向Alphabet CEO佩奇、谷歌CEO劈柴、谷歌云CEO Diane Greene和AI/ML首席科学家李飞飞4位高层上书。

这是为何?

公开信中,大家明确要求谷歌结束与五角大楼合作的军用无人机项目Maven,呼吁禁止自主武器系统的国际条约。

此外,还有十几名员工因为Maven项目不满,继而愤愤离职。

谷歌内部员工情绪空前高涨,反对谷歌参与军事项目的呼声到达新顶峰。

“400+3100”

从谷歌与美国国防部签订Maven项目开始,员工的不满其实已经发酵了三个月

这份合作条约中表示,谷歌将负责加快军方人工智能技术发展的速度,将AI、机器学习等方法用到国防领域。

Maven首个研究方向,就是用机器自动处理MQ-9和MQ-19无人机上传感器收集的动态视频数据,通过TensorFlow的API帮助军方自动识别图像物体,知情人士透露谷歌还在帮助国防部配置软件。

从谷歌员工的角度看,这次合作好像完全变了味。

与国防部合作,开发“帮美国政府进行军事监控、甚至还有可能夺取生命的技术”,完全违背公司的核心价值,还可能威胁到Google的名誉,人才和客户都会因此疏远。

事后,虽然谷歌也解释自己扮演的角色是“非攻击性的”,五角大楼也声明不会用谷歌的技术开发无人自动化武器系统,但是……这个声明一点都没用。

3100名员工联名上书,秉着“不认可、不理解、不接受”的态度要求谷歌立刻退出Maven项目,并起草政策声明谷歌及其承包商都永远不会开发战争技术。

然而一个多月过去了,这份上书好像并没有起到什么作用。

学者的公开信

不满还在持续膨胀,截止到今天下午5点,已经有400多名学者再次上书要求停止项目,其中还包括深度学习大牛Yoshua Bengio。

 部分上书学者名单

公开信的开头这样写着——

作为学者、教授和开发信息技术的研究人员,我们和3100多名谷歌员工及其他反对Google参与Maven项目的技术人员联名上书。

我们全力支持谷歌终止与国防部的合同,并且谷歌及母公司Alphabet承诺不开发军事技术,也不将收集的个人数据用于军事目的。

我们还敦促谷歌和Alphabet的高管联合其他人工智能和机器人技术研究人员和技术高管,签署一项禁止自主武器系统的国际条约。

 Yoshua Bengio

公开信中表示,谷歌的产品收集了大量用户行为、活动和兴趣数据,有责任用数据扩大业务、造福社会。

而Maven目的是利用机器学习来分析大量的无人机监控录像,据《Defense One》报道,美国已经在“中东”进行了初步试验,计划在明年扩展成“一个可以俯瞰整个城镇的复杂高科技系列相机”。这种行为,恐怕已经牵涉到针对性的杀人行为。

谷歌的技术将成为自动目标识别和自动武器系统的基础。目前,国防部已经计划在无人机上安装图像分析技术,离授权无人机杀人只有一步之遥。而之前剑桥分析公司的丑闻表明,公众越来越担心科技行业将拥有如此大的权力,与国防部合作恐怕对自己不利。

上书已送达,至于谷歌官方如何回应,还得听下回分解~

作者系网易新闻·网易号“各有态度”签约作者