「Yoshua Bengio：孤军奋战的AI学者和他的乌托邦情怀」百家号

「Yoshua Bengio：孤军奋战的AI学者和他的乌托邦情怀」百家号_作者自评：

如何看待百家号Lite小程序热议话题「Yoshua Bengio：孤军奋战的AI学者和他的乌托邦情怀」
在现代人工智能领域，所有的道路似乎都绕不开三位与加拿大大学有联系的研究人员。
首先，在多伦多大学任教的70岁英国人GeoffreyHinton开创了一个名为“深度学习”的分支学科，这个分支学科已成为人工智能的同义词；其次，57岁的法国人YannLeCun，80年代在辛顿实验室工作，现在纽约大学任教。第三个，54岁的YoshuaBengio，出生在巴黎，在蒙特利尔长大，现在蒙特利尔大学任教。
这三个人是亲密的朋友和合作者，所以AI领域的人戏称他们为“加拿大黑手党”。不过，Hinton于2013年去了谷歌，LeCun去了Facebook。两人都保持着学术地位并继续教学。因此，在蒙特利尔大学创建了世界上最好的人工智能项目之一的Bengio，被认为是最后一个学术纯粹主义者。Chapter1Bengio不是天生的实业家。他举止谦逊，近乎谦卑，像一个在电脑屏幕前呆了很长时间的人。他给几家公司出谋划策，一直被邀请加入其中；但Bengio坚持追求充满有激情和有价值的项目，而不是最有可能获利的。
他的一个朋友是一家人工智能初创公司的联合创始人，他告诉我说:“你应该注意到Bengio的志向有多大，他的价值观有多好。”“有些做技术的人忘记了人的一面。Bengio没有。他真的希望这一科学突破能帮助社会。”科罗拉多州博尔德大学的代理教授MichaelMozer更直言不讳地说:“Bengio还没有把自己卖出去。"
然而，Bengio坚持的“不卖”，如同孤军奋战。
亚马逊、Facebook、谷歌和微软等科技巨头大量收购或投资创新型初创企业，并且竭尽全力吸纳大学优秀人才，以确保其在领域内的领导地位。华盛顿大学AI教授PedroDomingos说，他每年都会询问学术联系人，问他们是否知道哪些学生想申请博士后职位。他说，他最后一次问Bengio时，Bengio说：“我甚至在学生毕业前就已经抓不住他们了。”Bengio受够了这种情况，他想阻止人才流失。2015年9月的一个温暖的午后，Bengio和他最亲密的四位同事在位于蒙特利尔的家中会面。这本是一次关于Bengio多年前创立的技术转让公司的战略会议。但Bengio对自己领域的未来深感担忧，他认为，是时候提出自己一直在思考的问题了:能否创建一个有助于创业和大学更广泛生态系统的企业，而不是伤害它——甚至可能对整个社会有益？如果是这样，在一个以科技为主导的大世界里，这种生意有竞争力吗？
Bengio特别想听到他的朋友Jean-FranoisGagné的建议。Gagné比Bengio小15岁，是一名精力充沛的连续创业者。早些时候，Gagné曾将一家合伙创业公司卖给了名为JDASoftware的公司;在那里工作三年后，他离开并到加拿大风险投资公司RealVentures任职。
Bengio热衷于参与Gagné的下一个项目，只要它符合自己的目标。恰巧Gagné也一直为如何在一个科技主导的世界中生存而苦苦挣扎。当三个小时的会议结束，太阳开始落山时，Gagné对在场的人说：“好的，我要制定一份商业计划书。”那年冬天，Gagné和一位同事在蒙特利尔大学的小办公室拜访了Bengio。Gagné被Bengio教授的工具——教科书、一摞摞的论文、一张布满方程式的白板所包围，他宣布，他已经想出了一个计划。
他提议共同创建一家初创公司，为其他初创公司、资源不足的组织，或无力建立自己AI部门的公司提供人工智能技术。这家初创公司的主要卖点是，吸纳了地球上最有才华的一些劳动力：它将支持Bengio实验室和其他顶尖大学的研究人员每月为企业工作数小时，同时保留学术职位。这样一来，企业就能以优惠的价格获得顶尖人才，大学也能留住研究人员，而他们的客户有机会与更强有力的对手竞争。每个人都会赢，也许除了科技巨头。Chapter2谷歌CEOSundarPichai今年早些时候宣布：“人工智能是人类正在研究的最重要的事情之一。”谷歌和其他巨头公司已经将自己定位为推动人工智能民主化的力量，让所有消费者和企业都能负担得起，并用它来改善世界。“人工智能将彻底改变世界，”谷歌云首席科学家李飞飞告诉我，“它应该是一种使工作、生活和社会变得更好的力量。”
当Bengio和Gagné开始讨论时，最大的科技公司还没有卷入备受瞩目的AI伦理事件——关于人工智能在军事和预测性警务方面的有争议的销售，以及种族和其他偏见在产品中呈现。
但即使如此，内部人士也清楚知道，科技巨头正在部署人工智能来增加他们的话语权和财富。了解这一点需要知道AI与其他软件不同。首先，全球人工智能专家相对较少，这意味着他们可以将薪水控制在六位数字之内;这导致想打造一个AI专家团队，需要极高的成本。除了巨头等大的科技公司外，对创业公司来说这过于昂贵了。其次，人工智能通常需要比传统软件更高的计算能力，这可能是昂贵的，你也可能难以获得好数据，除非你碰巧是一个技术牛人，几乎可以无限制地访问两者。Bengio说：“现在人工智能的运作方式有些问题......这使专业知识、财富、权利等集中在了少数公司手里。”更好的资源吸引更好的研究人员，从而带来更好的创新，又带来更多的收入，从而购买更多的资源。
Bengio与AI最早的接触预示着BigTech的崛起。20世纪70年代，他在蒙特利尔长大。他很喜欢科幻小说，如PhilipK.Dick的《DoAndroidsDreamofElectricSheep?》其中，由一家大型企业创造的有感知力的机器人最终变成了恶棍。
大学期间，Bengio主修计算机工程;他在麦吉尔大学读研究生时读到了Hinton的一篇论文，如被电击，因为他找到了儿时非常喜欢的科幻故事的感觉。“天呐！这是我想做的事！”他回忆道。
随着时间的推移，Bengio将与Hinton和LeCun一起成为深度学习领域的重要人物。但他们的研究充满了错误的开始和混乱的野心。理论上深度学习是诱人的，但没有人能在实践中使其发挥作用。“多年来，在机器学习会议上，神经网络都不受欢迎，而Bengio坚持与他的神经网络为伍，”科罗拉多大学教授Mozer回忆说，“我当时觉得，可怜的Bengio，他太落伍了。”
在20世纪后期，研究人员开始明白为什么深度学习效果不佳。训练高水平的神经网络需要更强的计算能力。此外，神经网络需要良好的数据，在消费互联网崛起之前，还没有足够的数据能用来学习。到了本世纪初，这些变了，大型科技公司开始应用Bengio和他同事们的技术来实现商业里程碑：语言翻译、语音识别、面部识别。
当时，Bengio的哥哥Samy也是AI研究员，他在谷歌工作。Bengio很想跟随他的兄弟和同事前往硅谷，但在2016年10月，他、Gagné、Chapados和RealVentures推出了自己的创业公司ElementAI。
投资该公司的DCVC公司的管理合伙人MattOcko说：“Bengio在任何人工智能平台上都没有实质性的所有权，在过去五年里，他一直处于这种状态，除了在Element。”“他拿出自己的名誉来支持这项事业。”
为了赢得客户，Element依靠其研究人员的明星效应，背后投资方的名誉，以及比巨头更个性化服务的承诺。
它的高管们也从另一个角度看问题:在谷歌向军方出售人工智能，Facebook曾有影响选举的流氓行为的丑闻，亚马逊正在吞噬全球经济的时代，ElementAI可以将自己定位为一个不那么贪婪、更合乎道德的人工智能机构。今年春天，我参观了位于蒙特利尔的ElementAI总部。员工急剧增加到300人，从墙上彩色的便条纸上看，工作量也在增加。在一次会议上，十几个员工观看了一个开发中的产品的演示：客户可以在类似谷歌搜索的屏幕上输入问题——“我们的招聘预测是什么？”获取最新的答案。答案不仅包括现有信息，也包括美国航空工业协会对未来的预测，还包括AI对业务目标的理解。
就像典型的快速成长的初创公司一样，我见到的员工精力充沛，也筋疲力尽。
ElementAI的一大挑战是缺乏好的数据。训练AI模型的最简单方法是给他们提供许多标记良好的例子——成千上万的猫图像或翻译文本。科技巨头们能获得大量消费者的数据，其他人几乎不可能在构建大规模消费品方面具备竞争力。
但是企业、政府和其他机构拥有大量用户隐私信息。即使一家公司使用谷歌收发电子邮件，或者使用亚马逊的云计算，通常也不会让这些供应商访问其内部数据库，了解设备故障、销售趋势或处理时间。这就是Element看到的一个出口。
Element团队如果它可以访问多个公司的数据库，比如产品画像，那么它可以在客户的许可下使用所有这些信息，来构建一个更好的产品推荐引擎。科技巨头也在向企业销售人工智能产品和服务——IBM正致力于此——但没有人垄断市场。Element的赌注是，如果它能将自己嵌入这些组织中，就可以获得优势。
并不是说它已经接近这一点。Element与包括蒙特利尔港和加拿大广播电台在内的一些著名的加拿大公司签约，并且全球1,000家最大的公司中有超过10家成为他们的客户。但是产品还是处于发展的早期阶段。
在产品演示过程中，项目经理FranoisMaillet（并非英语母语人员）问AI“howmanytime”，要求了解员工在某一产品上工作了多少时间。人工智能被难住了，直到Maillet修改这个问题，问“howmuchtime”。
Maillet承认该产品还有很长的路要走。但他说，Element希望这个产品可以变得更聪明，能够回答深层的战略问题。比如，“我们应该做什么？”Chapter3
只要看看谷歌员工对自己公司向五角大楼提供人工智能决定提出反抗，就知道科技公司在军事使用人工智能上的立场已经成为道德的试金石。
Bengio和他的联合创始人很早就发誓，永远不会为具有攻击性的军事目的建立AI。但今年早些时候，韩国研究型大学韩国先进科学技术学院宣布，将与韩国大型企业集团韩华(Hanwha)的防务部门合作建立军事系统。
尽管Element与韩华有联系，Bengio还是签署了一封公开信，抵制韩国研究所，直到它承诺“不研发无人控制的自主武器”。Gagné更是谨慎地写信给韩华，强调Element不会与建立自主武器的公司合作。Gagné和科学家很快得到保证:大学和韩华不会这样做。
自主武器既不是AI所面临的唯一道德挑战，也不是最严重的道德挑战。研究人工智能社会影响的纽约大学教授KateCrawford写道：“人工智能作为未来存在威胁的所有‘苦恼’转移了人们对现有问题的注意力，因为‘性别歧视、种族歧视和其他形式的歧视’正在被植入机器学习算法中。”由于人工智能模型是根据工程师提供的数据进行训练的，数据中的任何偏差都会毒害给定的模型。
Tay是一个由微软部署到Twitter的AI聊天机器人，用于了解人类的谈话方式，它很快开始发表种族主义言论，比如，“希特勒是对的”。微软道歉，将Tay撤离，并表示正在努力解决歧视问题。
谷歌的ai-power功能，利用自拍帮助用户追求艺术，这一功能把非裔美国人匹配上了奴隶，把亚裔美国人匹配上了斜眼睛的艺妓。
我是一名印第安裔美国妇女，当我使用这个应用程序时，谷歌给了我一幅铜脸、四面楚歌的美国土著酋长的画像。我也觉得被人身攻击了，不过后来Google把这一部分修改了。(一位发言人道歉说，谷歌“致力于减少人工智能中的不公平偏见”。)
这样的问题源于全球的偏见，但与白人和亚洲男性占主导地位的更广泛的计算机科学界相比，人工智能领域的多样性更少，这是没有帮助的。“该领域的同质性正在产生巨大的问题，”研究人员TimnitGebru说，她曾在微软等公司工作，是一名埃塞俄比亚裔美国女性，“他们处在这个泡沫中，认为自己非常自由和开明，无法看到自己带来了问题。”Element的女性员工占公司的33％，领导层女性占35％，技术角色占23％，这比许多大型科技公司高。其员工来自25个以上的国家：我遇到了一位来自塞内加尔的研究员，他之所以加入，部分原因是他通过富布赖特计划（美国国际教育交流计划）学习后，无法获得留在美国的签证。
但该公司并没有按种族划分员工队伍，在我采访期间，看到员工主要以白人和亚裔为主，尤其是高层。运营高级副总裁AnneMartel是Element七位高管中唯一的女性，行业解决方案高级副总裁OmarDhalla是唯一的有色人种。在隶属于Element的24位学术人员中，有三位是女性。
在Bengio实验室网站上列出的100名学生中，有7名是女性。（Bengio说这个网站已经过时了，他不知道目前的性别分类。）Gebru与Bengio关系很好，但也会批评他。她说：“我告诉他，他正在签署反对自主武器的信函，并希望保持独立，但他正在向全世界提供一个主要是白人或亚洲男性为主的群体创造的AI，”她说，“如果只在实验室里解决问题，你怎么能看到世界的饥饿？”
Bengio说，他对这种情况感到“惭愧”，并试图解决这个问题，他扩大了招聘范围，并专门为来自代表性不足群体的学生提供资助。与此同时，Element聘请了一位新任人事副总裁AnneMezei，她将多元化和包容性作为重中之重。为解决产品可能存在的伦理问题，Element正在聘请伦理学家作为研究员，与开发人员一起工作。它还在伦敦开设了一个人工智能实验室，由谷歌DeepMind的前研究员JulienCornebise指导，研究人员在那里免费或付费地与非营利组织、政府组织和其他人一起从事具有社会效益的人工智能项目。
但道德挑战依然存在。
在早期的研究中，Element的一些产品用的是自己的数据，例如，问答工具利用内部共享文件进行训练。运营执行官Martel告诉我，因为Element的高管们不确定如何从道德的角度将AI用于面部识别，他们计划在自己员工身上进行实验。通过安装摄像头，在员工允许的情况下，拍摄他们的面部，以训练人工智能。
管理人员将调查员工对此的感受，以加深他们对道德的理解。“我们想通过自己进行验证。”Martel说。当然，这意味着任何面部识别模型使用的数据都不够广泛。Martel说，高管们意识到这个问题：“我们真的担心没有合适的代表性，我们正在为此寻求解决方案。”即使Element的产品旨在为高管回答这个问题——我们应该做些什么？——这些问题都带有伦理困境。对于一个以商业为导向的人工智能来说，推荐任何一种行动方式都能最大限度地提高利润，这是无可厚非的。但它应该如何做出这些决定？什么样的社会代价是可以容忍的？谁决定？
正如Bengio所承认的，随着越来越多的组织部署人工智能，数以百万计的人类可能会失去工作，尽管会有新的工作会被创造出来。虽然Bengio和Gagné最初计划将其服务向小公司推销，但后来，他们转向了全球2000家最大的公司;Element对大型数据集的需求，小型组织是无法满足的。尤其是，他们瞄准的是金融和供应链公司——大公司并不是毫无防备的弱势群体。
Gagné说，随着技术的进步，Element也希望将其销售给更小的组织。但在此之前，为全球最大的公司提供人工智能看起来更好，能够丰富现有的强大公司，将AI的优势传播给大众。
Bengio认为，科学家的工作是继续追求AI的新发现。他说，政府应该更积极地监管规范这一领域，同时更公平地分配财富，投资于教育和社会安全网络，以减轻人工智能不可避免的负面影响。
Gagné当然，这些立场都假设政府考虑到公民的最佳利益。华盛顿大学教授Domingos说，“我确实相信Bengio说的，AI可以是合乎道德的，他的公司可以是合乎道德的AI公司。”“但说穿了，Bengio有点天真。很多技术人员都有点天真。他们有这种乌托邦的情怀。”
Bengio不认同这一描述。“作为科学家，我认为我们有责任与民间和政府进行接触，”他说，“以在我们所信奉的方向上影响思想和心灵。”Chapter4今年春天，一个寒冷的清晨，Element的工作人员聚集在一个被改造成活动空间的高顶教堂，接受协作软件设计的场外培训。与会者在圆桌会议上分组工作，被指派发明一种游戏，以被教AI的基本知识，我和6名员工坐在一起，他们决定开发一款名为索菲亚机器人的AI游戏，该机器人需要自然而然地使用AI技术进行战斗。
新任人事副总裁Mezei恰巧坐在旁边。“我喜欢索菲亚，因为我们需要更多女性，”她插话道，“但我不喜欢打架。”周围有许多赞同的声音。一位行政助理建议说：“也许这个目标是改变索菲亚的思维方式，因为它是用来帮助世界的。”这是一个更适合游戏的版本，更符合Element的企业形象。一名员工告诉我，“在办公室，我们不允许谈论天网”——系列电影《终结者》中的充满敌意的AI系统。谁要是犯规，就得把一块钱放进一个特别的罐子里。一位同事用一种鼓舞人心的口气补充说：“我们应该是积极乐观的。”后来，我去了蒙特利尔大学的Bengio实验室，那里是一个充满了电脑显示器，堆满了教科书的房间。在一个房间里，十几个年轻人正在研究AI模型，讲数学笑话，并探讨他们的职业道路。我无意中听到：“去微软有很多好处——你可以买到更便宜的机票，去便宜的酒店。”“我每周去一次ElementAI，并且得到了这台电脑。”“他是个叛徒。”“你可以说他在其他领域是‘叛徒’，但是深度学习领域不可以！“”为什么？“”因为在深度学习领域，每个人都是叛徒。”想来，Bengio不当叛徒的愿景似乎还没有完全实现。
尽管如此，Bengio可能比其他任何学者都更有影响力，因为他培养了下一代研究人员。（他的一个儿子也成为一名AI研究员;另一个儿子是音乐家）。一天下午，我去办公室看望Bengio，一个小小的房间，有个白板，有人在上面写着“BabyAI”，还有一个书架，上面写着“老鼠大脑皮层”等标题。尽管作为Element的共同创始人之一，但Bengio承认他并没在办公室花太多时间;他一直专注于人工智能研究的前沿领域，这些领域还没有达到商业应用。尽管科技公司一直致力于让人工智能更好地发挥作用——识别模式并从中得出结论，但Bengio希望跳过这些基础知识，开始构建更受人类智能启发的机器。
他不敢描述那可能是什么样子。但人们可以想象，机器将不再只是在仓库里移动产品，而是在现实世界中导航。他们不会仅仅识别图像，还会创造艺术。为此，Bengio一直在研究人类大脑的运作方式。正如他的一位博士后告诉我的那样，大脑“证明智能系统是可能的”。
Bengio的一个项目是一个游戏，玩家在白板教一个虚拟孩子的游戏——“BabyAI”。通过和模拟婴儿交谈、互动等，来了解这个世界是如何运作的，“我们可以从婴儿学习的方式及父母和他们的婴儿互动的方式中获得灵感。”当你意识到现在的一些主流技术，源于Bengio曾经古怪的想法之前，你或许会认为这个“BabyAI”似乎很牵强。虽然Bengio认为像人一样的人工智能是可能的，但他表示对ElonMusk等人强调的道德忧虑不耐烦。Bengio更感兴趣的是人类建设和使用人工智能的道德选择，“最大的危险之一是人们以不负责任的方式或恶意地对待人工智能——我的意思是为了他们的个人利益。”他曾在一次采访中这样说。其他科学家也有Bengio的感受，然而，随着人工智能研究的迅速发展，它仍由世界上最强大的政府、企业和投资者提供资金。
有一次，在讨论最大的科技公司时，Bengio告诉我：“我们希望ElementAI变得和这些巨头一样大。”
当我质疑他是否会延续他所谴责的那种财富和权力的聚集时，他回答说：“这个想法不仅仅是创建一家公司，成为世界上最富有的公司。这是为了改变世界，改变做生意的方式，让它不那么集中，让它变得更加民主。”
尽管我钦佩他的立场并相信他的意图，但他的话与那些巨头企业的口号并没有太大差别。不作恶。让世界更加开放和连接。创建一个合乎道德的企业与其说是创业者的意图，不如说是随着时间的推移，企业主如何衡量社会利益和利润的问题。
我们该怎么办？如果电脑在努力寻找这个问题的答案，当它们知道人类并没有好多少的情况时，它们会得到一些安慰吧。原文链接：
http://fortune.com/longform/element-ai-startup-tech/?eminfo来源：财富杂志
作者：VauhiniVara
智能观编译—完—亲爱的朋友：
Yoshuabengio是深度学习领域的大神级人物。他的故事，不仅关乎科技与热爱，更关乎情怀与坚持。
这个时代，尤其是这个领域，缺乏坚持情怀的人；而这个时代，恰恰又亟需这种坚持的人。
看到本文时，我们第一时间想分享给你。希望bengio的故事，能给你一点启思。
祝安！
智能观一米
2018-6-26于北京中关村想知道AI加教育领域有哪些最新研究成果？
想要AI领域更多的干货？
想了解更多专家的“智能观”？
请前往：www.智能观.com。声明：
编译文章旨在帮助读者了解行业新思想、新观点及新动态，为原作者观点，不代表智能观观点。
该话题由百家号作者智能观「简介:AI+教育及教育创新领域深度垂直媒体」整理发布
更多有关Yoshua Bengio：孤军奋战的AI学者和他的乌托邦情怀的话题讨论请关注百家号Lite小程序