言语犯罪?一年半后,谷歌人工智能解雇了另一名持异议的研究人员

澎湃新闻记者 邵文

当地时间5月2日,谷歌表示最近解雇了一名高级工程经理Satrajit Chatterjee,称其此前一直试图诋毁他所参与的AI软件里程碑式研究,同时指控他有骚扰行为。这个骚扰指谷歌研究员Goldie说,Chatterjee多年来一直通过传播关于他们的错误信息来骚扰她和Mirhoseini。

这个消息在业界引起广泛讨论,纷传被解雇的Chatterjee是因为对研究有异议而获罪。谷歌在一份书面声明中也闪烁其词,称Chatterjee博士“因故被解雇”。

这里所指的研究是2021年6月谷歌在《自然》上发表的著名论文“A graph placement methodology for fast chip design”,这篇研究用基于深度强化学习的芯片布局规划方法生成芯片平面图,且所有关键指标(包括功耗、性能和芯片面积等参数)都优于或与人类专家的设计图效果相当,而且人类需要几个月的时间完成,AI只需要6小时。

据《泰晤士报》报道,在一封内部电子邮件中,Chatterjee对该研究的一些说法持保留意见,并对技术是否已经过全面测试表示质疑。后来Chatterjee团队被允许合作撰写一篇对《Nature》这篇论文提出异议的研究,但研究提交后被驳回。据《纽约时报》知情人士称,“谷歌告诉他的团队,它不会发表一篇论文来反驳《自然》杂志上的一些说法。”

谷歌研究院副总裁Zoubin Ghahramani在一份书面声明中对原论文做了辩护,“我们彻底审查了《自然》的原始论文,并支持同行评审的结果。我们还严格调查了随后提交的技术声明,它不符合我们的出版标准。”

路透社认为,这场源于芯片设计自动化努力的纠纷,有可能损害谷歌研究在学术界的声誉。它还可能扰乱用于人工智能和芯片研究的数百万美元政府拨款的流动。

据两名谷歌工作人员对路透社表示,在3月份(Chatterjee也是在3月被辞退)在线发布的一篇匿名论文(Stronger Baselines for Evaluating Deep Reinforcement Learning in Chip Placement,以下简称“Stronger Baselines”)中发现,其提出的基于基本软件的两种替代方法表现优于AI,一个在著名的测试中击败了它,另一个在专有的谷歌规则中击败了它。

谷歌拒绝对这篇泄漏的论文发表评论。谷歌表示,由于不符合其标准,它拒绝发布“Stronger Baselines”,并在不久之后解雇了这项工作的主要推动者Satrajit Chatterjee,也拒绝说明解雇原因。

谷歌研究员、原论文第一作者Goldie表示,Chatterjee曾在2019年要求管理他们的项目,但他们拒绝了,“当他后来批评这篇论文时,他无法证实他的批评,并忽略了他们提供的证据。”

对于Goldie指控Chatterjee通过传播关于他们的错误信息进行骚扰,Chatterjee的律师Laurie M. Burgess表示否认,并补充说Chatterjee没有泄漏“Stronger Baselines”。

Burgess说,“令人失望的是,《自然》论文的某些作者试图通过诽谤和攻击Chatterjee仅仅是寻求科学透明度的行为,以关闭科学讨论。”同时质疑谷歌AI的掌门人Jeff Dean,称其压制所有相关实验数据的发布,还包括支持他喜欢假设的数据,“这种行为应该会给科学界以及消费谷歌服务和产品的更广泛群体带来更大的麻烦。”

在网上出现“Stronger Baselines”论文后,谷歌研究部副总裁Zoubin Ghahramani在Twitter上写道,“谷歌支持在Nature on ML for Chip Design上发表的这项工作,该工作已被独立复制、开源和在Google的生产中使用。”《自然》还没有发表评论。

这不是谷歌第一次面对这样的质疑,2020年12月,谷歌就曾解雇人工智能研究团队的著名AI学者和人工智能伦理研究员Timnit Gebru。Gebru在Twitter中表示,她在不知情的情况下被负责谷歌AI部门的Jeff Dean发了封邮件就辞退了。而在被解雇前,她曾想要发表一篇有关谷歌在当时的语言系统可能会从网站上学习到包含偏见和仇恨言论的论文。

几个月后,该公司解雇了团队的另一位负责人玛格丽特·米切尔(Margaret Mitchell),后者公开谴责谷歌对Gebru的处理方式。该公司表示,Mitchell违反了其行为准则。

谷歌在2020年解雇了当时Ethical AI 团队的负责人Timnit Gebru

Gebru的被解雇使谷歌遭到美国国家劳工关系委员会(NLRB)诉讼,广被外界批评。在当时,Gebru的同事Alex Hanna代表谷歌AI伦理研究部门向谷歌的领导呈递了一封联名信,提出了五个诉求:

· 公司必须进行结构性改革,以保证谷歌AI伦理研究工作可以继续进行

· 不再向谷歌副总裁Megan Kacholia汇报工作,她和Jeff Dean需要道歉

· Gebru回归,并为其提供比此前更高的薪资

· 公开承诺学术诚信

· 管理层进行种族素养培训

信中写道,“谷歌解雇和报复道德人工智能团队核心成员的短视决定清楚地表明,如果这项工作要继续下去,并且如果整个领域的合法性要坚持下去,我们需要迅速和结构性的改变。”

责任编辑:李跃群

校对:刘威

发表评论

您的电子邮箱地址不会被公开。

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据