专访梅琳达·盖茨与李飞飞:没有女性参与的AI研究终将走向偏见,男性不该成为技术象征

猎云网  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  

专访梅琳达·盖茨与李飞飞:没有女性参与的AI研究终将走向偏见,男性不该成为技术象征

人工智能存在一个多样化问题。开发人工智能的人虽多但背景大多雷同。在知名研究人员李飞飞看来,这种观点多样性的缺乏隐藏着一个危机:“作为一名教育者,一名女性,一名亚裔女性以及一名母亲,我对这个问题感到日益担忧,”她说道。“AI将对人类社会做出巨大改变,但我们这一整代的技术人员和领导人的多样性却正在消失。”

坐在她边上的梅琳达·盖茨对此表示赞同,她补充说:“如果没有女性和其他种族的人参与到AI研究中——即真正的技术人员做真正的研究——我们的系统将逐渐走向偏见。如果10年或20年后才想到要去改变这种状况将会十分困难,几乎不可能。”

在座的两位女性都是极具影响力的科技人员。作为Google Cloud的人工智能和机器学习首席科学家,李飞飞还在斯坦福大学带领其人工智能实验室,目前正在享受斯坦福大学的假期。1980年代初,在杜克大学学习编程的时候,盖茨曾了解过人工智能。离职前她曾在微软工作近十年,后来投身于慈善事业。现在,盖茨正把她的精力和资金投入到李飞飞协助成立的国家非盈利组织上:AI4All。

这个组织的名称已说明一切。AI4All将帮助那些致力于让代表不足群体的高中生了解人工智能的交与项目。上周,我与盖茨和李飞飞面对面交流,讨论了如何让AI研究对女性更有吸引力,为何男性不应成为技术象征,以及AI研究需要些什么。

杰西·赫普:你们是如何认识的呢?

梅琳达·盖茨:如果你对人工智能感兴趣,你必定听说过飞飞的研究。我想认识她然后了解她的工作,特别是她一些博士学生的工作,以及一群女性在AI领域做研究是怎样的感觉。

专访梅琳达·盖茨与李飞飞:没有女性参与的AI研究终将走向偏见,男性不该成为技术象征

李飞飞:梅琳达,当我听说你对AI感兴趣时,我当时就想,“终于!终于有一个拥有极大话语权的世界领导人是一名女性科技人员,而且她还对AI感兴趣!”

我在这个领域已经很多年了,即是教育者又是技术研究院,但是近来我对AI领域的担忧越来越甚。作为一名技术人员,我明白AI和第四次工业革命将影响人们生活的方方面面。如果你去看一下人工智能在微软、Google还有其他了不起的技术公司里的发展程度,你会感到十分高兴。

但与此同时,作为一名教育者,一名女性,一名亚裔女性以及一位母亲,我对这个问题感到日益担忧,AI将对人类社会做出巨大改变,但我们这一整代的技术人员和领导人的多样性却正在消失。所以,当我听说梅琳达正在关注AI,并且你的手下联系到我时……你知道的,他们联系上我的时候,我女儿刚四个月大,我正在家休产假。

梅琳达·盖茨:是这样的。

李飞飞:那时我很高兴。我们立即安排了你的拜访,并希望进行一次开诚布公地谈话。我跟我的学生说,“你们是非常优秀的技术人员,但你们仍处于探索的道路上。在跟梅琳达谈话时,务必将你们的经历坦诚相告。”

梅琳达·盖茨:那次谈话实在太棒了,飞飞说的一句话我不能再赞同,她说:如果没有女性和其他种族的人参与到AI研究中——即真正的技术人员做真正的研究——我们的系统将逐渐走向偏见。如果10年或20年后才想到要去改变这种状况将会十分困难,几乎不可能。是时候应该让女性和多样化声音加入到AI中,只有这样我们才能开发出合理的AI系统。这将是一项壮举,无处不在,将令人惊叹。但是我们首先必须让人们参与到其中。

李飞飞:没错,因为AI是一项关系到我们所有关心事物的技术。它所具有的价值观对我们的生活至关重要。如果我们没有代表各类人的技术人员参与到AI研究中,那么这项技术终将不可避免地走向无法代表我们所有人的局面。

杰西·赫普:但是我们已经看到在技术发展早期看到缺乏多样化声音的结果。现在来谈这些,会不会有点晚了?

梅琳达·盖茨:说晚倒不至于,但是我认为我们前进的速度越来越快。因此,飞飞和我特别关注如何让更多女性技术人员进入到这一领域。

杰西·赫普:你们的谈话带来了什么?

李飞飞:当我结束产假的时候,我在深入思考自己能为这一代人真正做些什么。我认为这是我能做出的最大贡献。三年前,我和我的前博士学生Olga Russakovsky启动了一个测试项目。这是一个名为SAILORS的试点项目,全称为“斯坦福人工智能实验室暑期推广项目”。我们邀请了湾区的九年级高中生。这是一个侧重年轻女性的走读项目,我们邀请她们参与AI实验室的两周项目。

SAILORS分为两部分,我们有一个强假设,即技术呈现于年轻学生面前的方式深刻地影响着管道问题。在我生活里近十年的硅谷,总有一个主导声音在说:“技术很棒。技术是极客。技术是穿着休闲衫的年轻小伙。”

梅琳达·盖茨:对的。

李飞飞:穿着休闲衫的年轻小伙们改变了我们的世界。但他们不是唯一的技术人员。这不是鼓励人们的唯一方式,也别是还有很多年轻女性,她们也拥有很多选择,他们会想:“我可以成为医生,救死扶伤。我可以成为记者,向世界传递被掩盖的呼求。为什么我要选择AI或计算机科学,如果大家都认为这是男人的领域?”

在这个年轻人都渴望的核心技术的教育中,我们赋予了人性化使命。比如,作为一个研究项目,我们在机器人团队为SAILORS研究自动驾驶汽车。我们将其放在老龄化社会背景中。毫无疑问,自动驾驶汽车是一项非常前卫的技术,但是最需要这项技术帮助的人群之一是我们日益增长的老龄人口。

杰西·赫普:为这么选择九年级学生?

专访梅琳达·盖茨与李飞飞:没有女性参与的AI研究终将走向偏见,男性不该成为技术象征

李飞飞:我们花了很长时间研究过去的数据。我们发现在刚上高中阶段,是学生们开始思考大学专业的时候。他们会想——我是谁;我能为世界做什么贡献?

这个项目很受欢迎也很成功。我们有很多非常棒的女性。唯一的问题是,项目还不够大。所以我在想,我们需要在全国范围内推广。这时候,我们开始和梅琳达合作。我们成立了AI4All组织。不过我得说明,项目还在隐秘结算。

NVIDIA创始人梅琳达和黄仁勋为我们提供了种子资金。Al4All旨在向不同校园和公司传播SAILORS的模型——向不同人群的学生传播带有人性化使命的AI教育。

杰西·赫普:项目推出了?

李飞飞:项目在三月份正式成立。五所大学已经与我们建立合作关系:伯克利大学、卡耐基梅陇大学、普林斯顿大学、波士顿大学以及西门菲莎大学。他们打算成立自己的SAILORS项目。他们为根据不同当地社团定制项目。比如,伯克利会更加关注机器人和低收入学生。普林斯顿项目会更多关心种族多样化,因为新泽西的非裔人口比较多。

杰西·赫普:启动这类项目的主要障碍是什么?

李飞飞:很少有AI技术领导者本身就属于多样化人群。而且,他们也忙于创业或发表论文这些事情无暇顾及此类项目。但是这种教育是一个长期项目。短时期内,很难看到教育的效果。

杰西·赫普:梅琳达,在你帮助其他组织的过程中,你觉得那些经验可以帮助AI4All成功?

梅琳达·盖茨:飞飞正在着手招聘一名高管,进展很顺利。她有不少十分优秀的候选人。但是我们想说的是这样一名高管应该具备的能力。因为有时候,比尔和我经常会犯这类错误,包括我们自己和其他租住。你觉得你知道自己需要什么。你的候选人非常棒,他们拥有许多其他技能。但是如果他们不擅长招聘、留住人才或者打造一个组织,你依然很难成功。

杰西·赫普:梅琳达,当我们去年秋天交流时,你说想把你的资源集中在帮助女性在技术领域获得成功。这是不是你的首个尝试?你还会进行更多尝试吗?

梅琳达·盖茨:是其中之一,而且还会有更多尝试。自那次对话依赖,我们赞助了Girls Who Code等等,因为我觉得这是另一个模型可以填补这方面的空缺。

但是我还关注工作领域的多样化。我也会在这方面进行投资。哈佛大学有位非常出色的经济学家Iris Bohnet。她研究行为经济学,她还在研究如何在系统中引入多样性。她曾经讨论过为什么在交响乐团中女性不能获得首席位置。最终,当试镜人员用帘幕挡住候选演奏人时,首席女演奏家人数也逐渐变多。但是效果提高地并不明显。之后,她意识到面试官可以听到走上台的人的脚步声。这个问题一并解决后,首席女演奏家人数显著上升。

所以在编程上,当教授检查男性和女性写的代码时,我们也看到这种偏见。一旦匿名后,结果如何呢?女性丝毫不比男性差。

最后我要说的是,我的另一个投资领域是NCWIT(国家女性与信息技术中心)。他们正致力于设计吸引女性的计算机科学课程。

杰西·赫普:在这个领域其实已经有很多女性和有色人种在做研究。我们怎样才能关注到他们的工作呢?

李飞飞:我跟媒体说,请找来一张AI技术人员名单,然后让他们发表意见,因为给他们打电话一点也不费力。你可以找到女性和其他种族的技术人员。如果你需要别人帮助来寻找他们,我很乐意,而且还有很多像我一样的人乐于帮助。我很乐意为你提供一份具有多样化背景的AI技术人员名单。我认为他们的声音也需要被世界听到。

梅琳达·盖茨:我还能告诉读者的是,这真的是一个非常令人兴奋的领域。AI将改变很多东西。我们完全无需惧怕AI。但我们必须知道AI是怎么工作的,你可以学习AI,学习如何成为该行业的一部分。如果你真的很感兴趣,向有能力的人请教然后全力以赴。

杰西·赫普:很高兴听到你这么说,因为我觉得有时候,我们会想,你们之所以选择九年级学生是因为其他人都已经到了职业生涯中期。

梅琳达·盖茨:还有,我觉得,有时候你听到技术大咖讨论AI时,你会想“只有他有能力做这些。”不是的,其实每个人都能参与到AI之中。

李飞飞:我们的文化总是趋向于将少数人称为天才。然后普通人就会想,“我们不是天才。”并不这样的。如果某人具有很棒的生物背景,他或者她依然可以为AI和医疗事业做贡献。AI具有很多方面,AI关乎一切,AI不可怕,AI就在我们身边。

310390

随意打赏

ai 李飞飞
提交建议
微信扫一扫,分享给好友吧。