当前页面: 主页 > 神码堂 >

神码堂

揭秘谷歌内部AI伦理委员会 由高管组成把持真正
更新时间:2019-08-10

  498888王中王,]ATRC由谷歌首席法律官肯特沃克(KentWalker)管理。其他成员包括谷歌基础设施主管乌尔斯霍尔泽 、AI主管杰夫迪恩、总裁杰奎琳富勒、教育和大学项目副总裁麦吉约翰逊以及谷歌母公司Alphabet旗下领先AI研究公司DeepMind联合创始人穆斯塔法苏雷曼。

  腾讯科技讯 4月8日消息,据外媒报道,两周前,谷歌成立了专门的外部专家团队,负责审查与人工智能(AI)相关的棘手伦理问题。然而,此举很快就引发了喧嚣。在员工对该委员会所招募成员表示不满之后,谷歌于上周解散了这个新团队,其新成员甚至都没有机会见面。

  这段插曲表明,谷歌在努力应对这项塑造其未来的强大技术所带来的社会影响方面面临的艰巨挑战。再怎么强调AI对谷歌的重要性也不为过,该公司首席执行官桑达尔皮查伊(Sundar Pichai)去年就曾表示:“AI比电或火的出现具有更深刻的意义。”但谷歌始终处于一场日益扩大的公众辩论的中心,这场辩论的主题是:自动化系统如何可能使处于不利地位,或导致大规模失业,以及AI是否应被集成到武器装备中。

  谷歌打算组建的团队名为“先进技术外部咨询委员会”(ATEAC),其如何应对上述问题的能力已经无关紧要。但是在谷歌内部,还有另一个几乎与ATEAC名字相同的团队,即高级技术审查委员会(ATRC),据称这个团队才有真正的权利来帮助塑造谷歌解决其AI伦理困境的方法。

  彭博社查阅的文件显示,谷歌宣称,该公司去年召集的另一个委员会试图“代表不同的、国际的、跨职能的观点,这些观点可以超越眼前的商业问题”。据知情人士透露,谷歌尚未公开其ATRC成员名单,但其中包括该公司多名最有影响力的人士,他们与皮查伊及其老板、谷歌联合创始人拉里佩奇(Larry Page)合作多年。

  熟悉这个内部委员会的批评人士将其视为一种粉饰。他们表示,在谷歌声明的伦理原则与其财务利益相抵触的情况下,由高管组成的内部AI伦理委员会不太可能对谷歌起到认真的制衡作用。谷歌内部多人表示,该公司ATRC的议程和决定在启动几个月后仍不清楚。这些人因害怕报复而要求不具名。

  当被要求置评时,谷歌发言人提到了去年12月份发布的一篇博文,该博文首次提及了ATRC,强调了该公司在AI部署的伦理原则方面取得的进展。当时,谷歌进行了100次审查。在这篇博文中,沃克举例指出,该公司决定在解决重要的技术和政策问题之前,暂缓使用一种通用的面部识别工具。

  许多技术公司最近制定了伦理原则来指导他们在AI方面的工作。微软、Facebook和为警察部门生产电击枪和身体摄像头的Axon公司,现在都成立了针对这一问题的咨询委员会。但专家们质疑,这些行动是否主要是为了阻止新的政府法规生效。纽约大学研究团队AI Now Institute在2018年的一份报告中写道:“伦理规范可能会通过承认存在问题来转移批评,而不会放弃任何监管或改变技术开发和应用方式的权力。我们没有看到强有力的监督和问责来支持科技公司旅行这些道德承诺。”

  去年,谷歌的AI战略首次遇到了严重的伦理问题。当时,有关谷歌在名为Project Maven的无人机项目上的工作被披露,导致员工抗议和罢工。去年6月,谷歌发布了一套合乎伦理的AI原则,并成立了多个委员会,对提议的产品是否符合标准进行投票。这些团队类似于谷歌对广告和移动软件等服务的隐私准则和法律责任进行审查的方式。

  对于AI来说,则有个“负责任创新团队”(Responsible Innovation),它由为谷歌效力12年的老将Jen Gennai领导,负责处理“日常操作”,并将问题提交给全权负责的委员会。另一个较大的顾问团队由较低级别的工作人员组成,他们随时需要获得关于技术产品和规程的内部专门知识。这份内部文件指出,这两个机构位于ARTC之下,后者会将“帮助解决谷歌审查过程中出现的复杂问题”。

  “短命”的外部咨询委员会已经成为谷歌内部尖刻政治冲突的典型例证。在该机构成立后几个小时内,那些谷歌反对者将传统基金会主席凯科尔斯詹姆斯(Kay Coles James)和她此前公开发表的关于同性恋、变性人以及气候变化的言论联系起来,促使谷歌员工迅速愤怒起来。

  一份要求罢免詹姆斯的请愿书开始流传。ATEAC的一名成员辞职,另一名成员为留下来的决定辩护。右翼新闻媒体发布了员工批评詹姆斯的泄密信息,Breitbart News将严厉批评詹姆斯的信息描述为“彻头彻尾的污点”。传统基金会没有立即回复记者的置评请求。

  被邀请加入谷歌外部咨询委员会的巴斯大学计算机科学教授乔安娜布莱森(JoannaBryson)称,谷歌委员会的崩溃是一个重大挫折。她在一封电子邮件中写道:“归根结底,我们回到了现状,我个人认为这是不可接受的。”

  谷歌似乎离想出一种让任何人都满意的方法还差得很远。上周四,当该公司关闭其外部咨询委员会时,一份公司声明称,该公司正在“重新制定计划”,但它没有提到内部审查团队。 (腾讯科技审校/金鹿)