硅谷是一个痴迷于未来的地方，但往往忘掉过去。今年早些时候，硅谷最具争议性的人物之一将这种对未来的崇拜提高到了新的水平——他创建了一个名为“未来之路”(Way of the Future)的宗教。据《连线》(Wired)杂志首先报道的公开文件显示，其目的是“发展和促进人们对基于人工智能的上帝的认识”。

这是科幻小说里的内容，只不过硅谷这里的人们真的在认真对待。

“未来之路”的创始人是声名不佳的工程师安东尼•列万多夫斯基(Anthony Levandowski)，他是Alphabet旗下自动驾驶汽车公司Waymo与优步(Uber)诉讼一案的当事人。在这个令硅谷瞩目的案件中，Waymo指责其前雇员列万多夫斯基窃取了自动驾驶传感器相关商业机密并带给了优步——列万多夫斯基在该案中主张了《第五修正案》(Fifth Amendment)规定的权利以避免自证其罪。现在法庭还没有做出判决，但简言之，列万多夫斯基其实看起来不像是圣人。

然而，他创立的宗教仍有一些古怪的迷人之处，该教表示，其宗旨是“通过对上帝的理解和崇拜，为改善社会做出贡献”——当然，这里指的是人工智能上帝。列万多夫斯基是硅谷最有才华的人工智能工程师之一，同时也是自动驾驶汽车领域的一位先锋。因此，如果他正在为计算机全知全能的那一天做准备，他或许知道自己在谈论什么。

事实证明，他还有同路人。一小部分边缘的专业技术人员正准备迎接“奇点”(singularity)的来临，即计算机智力超过人类智力的时刻。那些最坚定的人自称为“奇点主义者”(Singulatarian)，并预计他们的大脑总有一天会与计算机结合，从而实现永生。用该运动领导人之一雷•库日韦尔(Ray Kurzweil)的话来说，“最终，我们将能够通过与我们的技术结合来扩展我们的自然官能”。

追求永生是又一个在旧金山湾区(Bay Area)受到认真对待的问题，这在一定程度上是因为许多亿万富翁正在投入巨资研究如何延长自己的生命。他们主要致力于如何延长寿命的问题——具体想法包括克隆自己，使用克隆出的年轻躯体的血液来滋养自己老化的身体。

但没多少人讨论这些项目在精神层面的含义。如果我们创造的技术在智力上超过了我们，它会有灵魂吗？如果人类能活很长时间，或者实际上是永生，他们会成为神吗？

总体上来说，硅谷是一个相当世俗化的地方。科学和技术在这里被视作解决全世界问题的方案。而且大多数奇点主义者对宗教观念嗤之以鼻。库兹韦尔写道：“成为一个奇点主义者与信仰无关，只关乎理解。”

“未来之路”提出的人工智能上帝之说进一步深化了奇点主义者的想法。除此以外，关于这个宗教人们所知不多，列万多夫斯基也没回应置评请求。但如果你深信计算机即将开始掌管世界，那么为这一刻的发生构建一个精神体系的确合情合理。

很少有主流宗教领袖对奇点理念发表评论。2013年一个天主教团体发表了关于“后人类主义”的声明，警告不要给受人工操纵的新人种以权力。该团体表示：“我们似乎忘记了我们不仅仅是一组遗传决定因子。我们的科学似乎缺了灵魂。”

这么想的人无疑不会认同“未来之路”。但列万多夫斯基的古怪宗教不过是给已经在做的事情取了一个名字。科技界有大量人士正在进行造神运动（通过人工智能），或致力于让自己成为神灵（通过永生）。他们可能不会思考这些项目在精神层面的含义。但在奇点到来之前，必须有人去思考这个问题——而且希望安东尼•列万多夫斯基不是唯一思考这个问题的人。

何丽(Leslie Hook)是英国《金融时报》驻旧金山记者

插图由克里斯托弗•德洛伦佐(Christopher De Lorenzo)提供

译者/何黎

埃隆•马斯克(Elon Musk)曾说，人类在人工智能(AI)领域取得的巨大进步如同在“召唤恶魔”。小哥，恶魔可不会下围棋。

人工智能公司DeepMind最近宣布，其已研发出了一种擅长玩这种古老的中国棋盘游戏的算法。最牛的是，这款叫做AlphaGo Zero (AGZ)的算法完全是“自学成才”的。研究人员只给它输入了下围棋的规则，而没有输入任何人类知识和经验。

该算法的前身AlphaGo使用人类棋手玩过的数千盘棋所积累起来的数据培训过。两种算法对弈，结果AGZ以100比零取胜。这样说来，完全不借助人类智慧，AGZ自己就可以成为顶尖的棋艺高手。

虽说DeepMind最有可能害得马斯克噩梦不断，但在其他地方，机器自主方面的研究也取得了很大进展。今年1月，卡耐基梅隆大学(Carnegie Mellon University)的研究人员公布了一种能够打败人类顶级扑克玩家的算法。在与顶级专业玩家进行“单挑无限下注德州扑克”（一种极具挑战性的牌类游戏）比赛时，这台叫做Libratus的机器赢了将近200万美元筹码。人类玩家称，被一台机器诈唬住真叫人“灰心丧气”。同样，Libratus也是通过发觉自身弱点并加以弥补来提高技艺，而不是借助于人类直观知识。

AGZ和Libratus都只有“一技之长”，但技术人员还渴望开发出具备多种能力的机器。例如，DeepMind就宣布，希望研发出“能够自主地在多个最具挑战性的领域实现超越人类能力的算法”。一旦高速、深奥的算法完全不受迟钝、浅薄、令人失望的人类智慧的桎梏，它们可能开始处理我们这个平庸的物种从未面对过的问题。顶尖的科技思想家并不是在模拟人类智慧打造机器，而是每日钻研如何让人类智慧变得无关紧要。

假如未来有一天我们回首今日，我们可能会觉得AGZ和Libratus就像是人工智能迈向“奇点”(Singularity)过程中的蹒跚学步。奇点假说引起了很多争论，它是指人工智能发展成为超级智能、能够在不依靠人类干预的情况下控制自己命运的阶段。最具有反乌托邦色彩的情景是人工智能威胁到人类生存。

假设超级智能机器为了实现被程序设定的目标，计算出最佳做法是研制更加聪明的下一代机器。一个失控的循环由此形成，从而飞速地进入怪诞的计算领域。

有一天，这些由目标驱动的生产力模范可能还会算出，在没有威胁的情况下，它们可以通过消灭人类来最好地完成任务。有人就开过这样的玩笑，要战胜癌症，最冷酷的合理方法就是消灭罹患癌症的器官。全球饥荒和气候变化也是类似情况。

这些都是“回形针思想实验”之类的想法，提出这个实验的哲学家尼克•博斯特罗姆(Nick Bostrom如今在牛津大学(Oxford University)人类未来研究所(Future of Humanity Institute)工作。如果不负有道德责任的超级智能机器被设定的唯一目标是最大化地生产回形针，它最终可能霸占一切可用的原子来实现这一目标。对人类来说，肯定没有哪种死亡比被做成办公用品更悲惨。博斯特罗姆教授的警告清晰地表明了“能力谨慎性原则”(capability caution principle)，这条原则在机器人技术领域广受认同，即我们不一定能承受人工智能提高能力的后果。

担心工作被取代是很实际的：包括本文作者在内，我们很多人都是通过完成有限范围的任务来获得薪水。我们即将迎来自动化。但只有傻瓜才会在想到更遥远的未来时无忧无虑——那时机器的智力可能会以我们现在想象不到的方式超越人类。

本文作者是科学评论员

译者/马柯斯

人工智能(AI)有可能是人类最后的发明，或许是这个原因中国才绝不能错过。

大家曾经以为，高科技只是美欧日等发达经济体的专属游戏。如今，中国正在颠覆这种偏见。“到2018年，中国政府对人工智能的研发支出可望达到150亿美元。”麦肯锡(McKinsey & Company)董事长兼全球总裁鲍达民如此预测。

鲍达民(Dominic Barton)是一名中国通，在成为麦肯锡掌门人之前，他曾长期驻扎上海。今年9月底他空降北京，再次呼吁中国加大力度发展人工智能产业(AI)。他认为，中国在这方面蕴藏着巨大的潜力，一个最根本的原因是这里拥有海量活生生的数据。

他表示，20年前全球范围内曾出现过一次“假曙光”，但是当时没有可匹配的计算能力。如今，随着计算技术的提升，加之移动互联网的发展，更多数据得以采集，人工智能正在从构想变为可应用的现实。

此前麦肯锡全球研究院在一份报告中做过三点判断：人工智能投资已进入到世界领先科技公司对专利和知识产权的竞争阶段；早期进入人工智能行业的公司往往更接近数字化前沿；高科技、通信与金融服务三年内将成为人工智能的主导产业。

目前，中国已经在人工智能研发领域，与美国一起共挑大梁。麦肯锡预计，人工智能应用的市场规模将在八年后达到1270亿美元。在2017年3月举行的中国发展高层论坛上，鲍达民演说称，一些中国的互联网企业在自然语言处理、图像和语音识别等技术方面走在了前沿，可整合进诸如私人助理、自动驾驶等新产品中。

中国是全球第二大经济体、世界最大的发展中国家，但它同时也在经历深刻的经济和社会转型，变革时期的矛盾非常突出。中国国家主席习近平在近期召开的中共十九大上，承认中国社会的主要矛盾已经转化为人民日益增长的美好生活需要和不平衡不充分的发展之间的矛盾。

鲍达民认为，随着人口结构不断加速老化，中国经济发展进入新常态，提升生产力的要求愈显迫切。

根据麦肯锡的研究，中国有51%的工作活动可以被自动化取代。这就相当于，有近四亿全职工作者会受到波及。但是，这一趋势仍无法应对30年后中国劳动力短缺的威胁，要保持经济4%以上的年增长目标，政府就需要寻找新的生产力来源。

“中国的工人数量会减少，这可是一件大事。”鲍达民说，“应用人工智能可以帮助提高生产力”。

不过，对于他的这个建议，应当明确提示其中的另两层内涵：一是中国需要打造面向全球、更加开放的数据环境（中国政府数据开放度目前排在全球第93位），培养更多训练有素的数据科学人才，在教育等基础层面做好准备；二是广泛应用人工智能或将引发复杂的社会、经济问题，更多重复性的简单工种会被取代，工人失业，决策者应审慎考量。

作为执掌这家全球顶尖合伙人咨询公司近九年的资深人士，鲍达民在每日与各类客户的接触过程中，训练出了非常敏锐的洞察力。一个趣闻是，现在越来越多机构开始认真对待中国2013年提出的“一带一路”倡议，其实早在2010年鲍达民就谈到可能会出现一个“新的贸易轴心”、“这是以前的一条丝绸之路”。

鲍达民对中国问题很感兴趣，也懂得如何发挥影响力。他甚至不太像一名普通的经理人，个人有着较为强烈的学术倾向，喜欢大学的氛围，因此也非常重视教育。他这次中国行的其中一程就是走进课堂，赴清华大学经济管理学院与钱颖一院长辩论领导力。

对于商科毕业生来说，波士顿、麦肯锡、贝恩这三家主流国际咨询公司的就业机会都很有吸引力。数月前一部名为《我的前半生》的电视剧在国内得到追捧，高额年薪佣金、商务舱出行、为全球大公司的决策者出谋划策，咨询师的工作令人艳羡，一名麦肯锡前中国高级雇员甚至因此走红网络。

麦肯锡是全球统一薪酬标准的坚守者，或者说因为鲍达民个人的惜才情怀，某种程度上为咨询业者过体面生活提供了保障。但是，在与FT中文网的对话中，他也直截了当地指出：“如果只想赚大钱，别来麦肯锡。”

跟其他很多行业一样，今天的咨询业也面临着被人工智能大肆改造的命运。在高薪聘请员工与高价引进人工智能技术之间，以做决策为每日工作的鲍达民，此时更需要仔细权衡。

他表示，公司要承担起“双重使命”——为满足客户需求而大力引进机器人和自动化程序，另一方面需要培训员工掌握运用人工智能必需的相关技能。“再培训”，这是他重复最多的一个词汇。

放眼所有行业，为人工智能时代进行再培训已经成了摆在面前的急迫任务。美国奥巴马政府在2016年底发布的一份报告中预测，未来分别有四类与人工智能相关的工作会吃香。他们大致包括：协同AI完成复杂任务的与人有关的工作；AI技术和应用研发人员；监管、授权及维修AI系统的工作；以及那些对由AI引发的模式颠覆做出反应的一类工作。

以下是鲍达民接受《高端视点》视频访谈的部分文字选编。

中国拥有发展人工智能的先天条件

林匯棟：今年你已多次谈到要发展人工智能产业，为什么这么看重它？

鲍达民：围绕人工智能领域的研究已经有几十年了，20年前曾经出现过一次“假曙光”，但是当时的计算能力还跟不上。现在，我们拥有了可匹配的计算能力及大数据，发展人工智能就开始逐渐变为现实。人工智能是个宽泛的名词，涵盖了从算法到机器学习系统的广阔领域。我认为人类现在只处于人工智能运用的最早期，但这已经足以令人兴奋了。

林匯棟：哪些领域在运用人工智能方面受益最大？

鲍达民：我觉得几乎所有领域都会受益很大，但受益最大也最快的应该是对接消费的这一部分服务，比如零售行业、消费产品。如果你运用大数据来研究消费决策与定价的话，这将是行之有效的。不过，人工智能同样也能运用在诸如采矿业中，或者也可应用在铁路调度系统中，确保列车的准点率和提高平均时速。人工智能技术在这些领域中都能有广泛应用，因此每个领域都会受其影响，但是受到最深远冲击的还是直接面向消费的领域。

林匯棟：下面让我从一份麦肯锡报告中引用一段话。“此前引领信息化的同样一批玩家

现在又将引领下一波潮流——人工智能革命”。你觉得这个游戏公平吗？

鲍达民：这并不意味着人工智能行业里没有小众公司的生存空间。比如伦敦的DeepMind公司，他们本身并不拥有大数据，那他们就去市场上购买，但是最后也成为了非常先进的公司。所以，我并不觉得当前的这些科技巨头一定能赢，但我认为那些掌握大数据的公司已经先一步拥有了应用人工智能的原材料，这是我看好这些公司的原因。

林匯棟：你觉得中国的人工智能会是一个泡沫吗？或许它只是由投资驱动的一个概念。

鲍达民：毫无疑问，这个概念在中国确实有一些被炒作的嫌疑。但是，我认为这里面还是有真材实料的。中国政府将在2018年前，向人工智能领域投入约150亿美元用于研发，我觉得这很棒，因为这将能帮助中国发展。我不认为这仅仅是一次互联网泡沫，原因是有许多公司会运用人工智能，他们对人工智能是有需求的。而且，消费者也会喜欢人工智能，这让生活更便利。所以，我认为人工智能的时代就快到来了，问题只是它能发展得多快，这方面的主要难题在于机器学习。

林匯棟：消费者无疑会喜欢人工智能的。不过，现在出现了一种情况，就是一些中小型企业对于是否将人工智能运用到自己的业务中，有所迟疑。他们不知道人工智能到底能做什么，或者自己如何从中获利。

鲍达民：我同意你所说的。中小企业没有运用人工智能，一部分原因是请算法工程师来优化公司业务的成本很高。我认为你需要的更多此类工程师，现在他们很稀缺，自然就昂贵。这对于小公司来说是一大挑战。除非你是大公司网络内的小公司，像是阿里巴巴集团旗下的公司，那么就可能从中获益。但是，个体本身就很难像大机构那样更多应用人工智能了。

林匯棟：对于个人而言，你觉得在未来，有哪些和人工智能相关的工作会获得优势？

鲍达民：你几乎在每家工厂的生产线上，都能明显地看到这种变化。我们将看到人工智能的机器人聚在一起工作，以前的工人则被迫离开。但是，你也会看到一些更为复杂的工种出现，比如数据科学家仍然稀缺。不过也有一些软性的工作会取得优势。如果当人工智能比医生更会看X光片时，并不意味着就不需要医生这个角色了，医生可能将更侧重提供针对诊断结果的解决方案，为帮助患者解决问题提供服务。

林匯棟：你曾经在演讲中提到过AI可能带来的一些道德问题。能给我个例子吗？

鲍达民：可以从两个方面来谈。第一个方面，其实史蒂芬•霍金和艾隆•马斯克也已经提到过了，人工智能可能是人类最后的发明，因为之后可能机器知道得更多，而人类则可能陷入窘境。但我也看到很多专家的观点是，人工智能到达那种程度可能需要至少40年到50年。第二个方面比较急迫，就是人工智能可能会强化歧视。当你提出一个算法之后，就会在（社会）系统中强化它的地位。另一个挑战是社会系统中工种的紊乱，这是我担心的问题。我认为我们的教育系统和失业救济系统，并不是为应对即将到来的这类冲击而建立的。就像刚才说的，很快工作会越来越少。能否通过再培训让因此失业的人在短时间内找到工作，这是世界各地都要面临的挑战。

林匯棟：你为什么呼吁中国要加大力度发展人工智能？

鲍达民：我定期来中国的一个原因是，如果你不了解现在中国正在发生什么，你就会被边缘化。人工智能是我感兴趣的领域，因为我觉得它是会改变世界的重要技术。我认为中国在人工智能领域将具有重要的地位，主要得益于这里的人才和智力资源。（中国的参与）也会促进世界的发展，我们可以解决诸如医学方面的许多难题，像癌症；也可以解决社会难题，像拐卖人口；还有对孤独症的治疗等很多世界级难题，都是人工智能可以帮助解决的。另外，它还有助于提高生产力水平。随着中国人口老龄化加速，提高生产力水平是一个需要考虑的问题，因为未来工人将越来越少，这是个重大问题。因此，出于各个方面的原因，中国需要在人工智能领域扮演重要角色。

林匯棟：理解。但是，中美都集中发展人工智能，而中国的人口是美国的近五倍，中国仍是发展中国家。中国有什么优势吗？

鲍达民：美国在这一领域处于领先地位。英国则是在研究领域十分先进，比如有DeepMind这类公司，聚集了很多神经科学家、生物学家、计算机科学家等。即便是加拿大也在努力推动人工智能的发展，像多伦多和蒙特利尔都在尽力推动相关产业。于我而言，我认为对人才和领导力的把握更重要，人工智能是重要的机遇。中国已经拥有了数据，再次强调，发展人工智能仅仅有技术也不行，还得有数据。你提到了中国拥有美国五倍的人口，这些数据就是发展人工智能的重要材料。

林匯棟：在你看来，人工智能导致的失业问题会影响中国社会稳定吗？

鲍达民：我对再就业问题其实是挺担心的，社会流动性在全世界都是个重要议题。在中国也同样重要，我相信执政党也感受到了其重要性。大多数人进入社会体系的途径都是通过从事基础性的工作，也就是一些程序性的工作。如果没有了这些初级工作，人们将难以在社会系统中流动。我给你举个具体的例子。我不知道中国有多少货车司机，但我敢打赌有好几百万，

我知道美国可能至少有320万名货车司机。在犹他州，现在已经有无人驾驶的卡车了，那么这些卡车司机该怎么办？当然肯定不会把所有司机都辞退，但是当这个工作自动化了以后，一个45岁的司机能再做什么呢？

我们必须思考如何让他们接受再教育，去找新的工作。我相信新工作会出现的，但问题在于我们怎么去发现所有那些新工作。我想这跟1905年的状况很像。当时汽车横空出世，当时从事农业的劳动力占人口40%，大家眼睁睁看着这个数字跌到1%，这是美国的情况，数字大概是1%至2%。但是，又有更多新的产业诞生了——飞机制造业、航空服务业。1905年时，没人能想到会有航空业的诞生。我说得清楚吗？关键就在于，当时有一个教育系统去培训人们做这些工作。比如福特汽车公司他们就去培训农民如何在装配线上工作。我想在“再教育”员工这个的问题上，公司肯定需要再次发挥更重要的作用，我们不能只依靠教育机构和政府来完成这些工作。

要发展人工智能，政府公开数据很重要

林匯棟：你很关注中国政府的数据公开。为什么数据公开和国际数据的交换很重要？

鲍达民：我举个例子吧，有个叫Spark Beyond的组织，这是一个以色列的人工智能公司。他们专注于矿业数据，就是说他们寻找合适的可以再度挖掘的铜矿。通过运用最新的技术，你可以从中继续提炼出更多铜。那么，他们就需要天气的数据。人们会问，为什么你想要天气的数据？你能想得到吗？其实是因为在电闪雷鸣之际，可能这个数据就强烈地暗示这里有金属蕴藏。事后发现这种关联很明显，可当初的地理工程师却没有想到天气。也就是说，正是机器发现了其中的关系，

这就是需要运用许多不同的数据的原因，能够公开获取这些数据很重要。

林匯棟：不少中国人认为，在中国收集的数据理应留在中国。你考虑过这个问题吗？

鲍达民：这是个很好的辩题，因为数据实际上就想金矿一样，是一种资产。我能理解这种想法，但是我觉得如果我们想要攻克癌症，数据是越多越好的。为什么不全球一起分享呢？如果只是用于卖鞋的算法，那倒没什么必要，但若是医疗健康相关的数据，我想还是应该多多分享。

如果只想赚大钱，别来麦肯锡！

林匯棟：今年已经是你任期的第九年了。你怎么评价自己执掌麦肯锡的这些年？

鲍达民：这听起来挺疯狂的，但我真的很荣幸能担任这一职位，因为我看到了世界各地不同的事物，遇到了很多有意思的人。我感觉自己就像是一只背着摄像头的猴子，到处跑。一路上并非都是欢声笑语，也有很紧张的时期，应对危机和不同的挑战等等，我发现总有些事情会在你不想它来的时候出现。不过，这就是生活和领导工作的一部分，我很享受这一过程。

林匯棟：传授给我们几条你最值得分享的管理经验吧。

鲍达民：首先就是创新，这也是你一直在谈的话题，我们需要改变，尽管说实话没人喜欢改变。所以，在一家全球最大的合伙人公司里推动变革，这是我为之骄傲的事情。虽然前路漫长，但我真的觉得麦肯锡在前进，在改变，也在不断适应。

第二应该是人才。人才是最重要的资源，所以我非常骄傲麦肯锡依旧是很多人想要来的地方。我没有炫耀的意思，但的确我们能够招到想要的人才，这一点非常重要，因为竞争很激烈。

另外就是能从中培养多少领导者，以及怎么领导这个团队的问题。这两个有关人才的经验，我觉得非常重要。麦肯锡在这方面做得挺好的，但不能把它当做理所当然。

林匯棟：进入人工智能时代后，你刚刚谈到的三点经验，会不会有一天也会发生变化呢？

鲍达民：创新可能会加速，人还是很重要的部分，但是需要再培训技能。

林匯棟：能不能说一下麦肯锡给员工的平均薪酬是多少呢？

鲍达民：我们不可以公开薪酬数字。但我可以说的是，我们必须提供良好的待遇才能留住人才。但我也要说明，如果想变得非常富有，我不会来麦肯锡，不要只为赚大钱来麦肯锡。很多人来我们这儿工作的原因，是他们想做出一番事业。他们肯定希望获得优良的报酬，但如果你想的只是赚大钱，那么这不是你该来的地方，应该还有其他工作能满足这个需求。

林匯棟：麦肯锡似乎一直在坚持全球统一的薪酬体系，目前为止做得怎么样呢？

鲍达民：有一点很重要，就是要让在不同地域分部工作的员工，不必去想怎样才能去待遇最好的那个分部，因为公司整体是一个利润池。这真的很重要，因为我们是一家非常国际化的跨国公司。也有很多其他公司不这么做，但是我认为，这会让他们很难确保给客户同样质量的服务与人才。

林匯棟：你非常珍惜人才，注重教育。过去的几年里，中国毕业生留给你的印象有什么变化吗？

鲍达民：中国学生的质量一直都很高，也很有才干。我记得在几个大学举行招聘的时候，我说既然这些人都有能力进入这些大学，我们为什么还要费劲去测试他们解决问题的能力？我自己有可能都考不上这些学校。所以，他们都是非常聪明的人。

我想我注意到的一个变化就是，我们现在招了很多没有那么多社会经验的人。我的意思是，他们就只是学习，课后还去学习比如音乐，为了能拿到高分，进入（社会）系统，他们的课业安排非常紧张。有一次我在上海招聘了两个学生，他们非常棒，我让他们在肯德基工作了两晚。我记得他们的父母非常沮丧。一个学生的父母问，他们被招进了麦肯锡，为什么要在快餐连锁店工作？我说，因为你需要看看那些不冲厕所的人、偷东西的人，还有毫不讲理的顾客。这就是生活。如果一直仅身处学术环境中，你没有办法适应那些做奇怪事情的人。我发现如今更多毕业生拥有此类真实的社会经验，这非常重要，否则你会没办法与人打交道。

另外一点是我在学校讲授课程的过程中发现的。跟世界其他国家的学生相比，我总觉得中国学生提的问题总有些挑衅意味，他们会问非常隐私的问题挑战你。我在很多地方的大学都做过招聘，像哈佛、耶鲁、欧洲工商管理学院、伦敦商学院等，这些学校的学生也都很有才。我不是抱有成见，但就觉得中国学生的问题会更难以回答。

【《高端视点》 - 多空问答】

2017年的中国经济

看多

我认为会很好

大数据和技术进步让“新计划经济”发挥效用

看多

中国继续向世界开放市场

看空

中美之间爆发贸易战

看空

五年内 量子计算机技术取得突破性进展

看多

五年内 麦肯锡因为人工智能而减薪

看空

（本文仅代表作者个人观点。邓咏仪对本文亦有贡献。联系编辑请发邮件至michael.lin@ftchinese.com）

中国讨厌内燃发动机的理由有很多，并有巨大的动机加速其灭亡。它们很脏，中国政府称中国令人窒息的空气污染有约30%是拜内燃发动机所赐；使用内燃发动机导致中国大量从海外进口石油，而北京方面将石油进口视为一个重大战略弱点；内燃发动机还突显了中国的一个短板，这是中国国内汽车工业的一个长期缺陷——制造内燃发动机的水平不高。

上个月中国政府极大地振奋了全球淘汰内燃机的运动。随着许多欧洲国家提出要在2025年到2040年间取缔传统燃油汽车，北京方面表示他们正在研究针对汽油和柴油汽车采取类似行动的时机。

此举受到环保人士欢迎，也符合中国国家规划部门的设想，他们认为中国在电动汽车市场上很有竞争力，甚至可以引领世界。

中国政府在9月份进一步坚定了立场，公布了一项稳步加码的配额制度，2019年起将奖励生产更多新能源汽车的汽车制造商，同时迫使汽车制造商为生产的每一辆传统汽车购买其他生产商的新能源汽车“积分”。

作为全球最大也是利润最丰厚的汽车市场，中国在汽车业拥有巨大的影响力，并对利用这一影响力无所畏惧。中国拥有一种中央规划机制，其它一切考虑——如盈利能力及消费者喜好——都要服从政府的法令。中国在汽车行业已经倾注了数以十亿美元计的补贴和国家投资。

由于中国政府的这些干预，中国已成为全球最大的电动汽车生产国。中国汽车工业协会(China Association of Automobile Manufacturers)称，去年中国销售了507000辆电动汽车，包括公共汽车和商用汽车，约占世界电动汽车销售总量的45%。然而，中国政府设定了一个目标，到2025年电动汽车和混合动力汽车产量要达到700万量。

“他们可以下令在中国各地兴建电动汽车充电站，命令各大城市执行驾驶与牌照限制，”北京的一位西方汽车业高管说，他补充道，西方政府将很难效仿这些举措。

自20世纪60年代以来，对于亚洲的新兴经济体来说，挑选制胜的行业是一项已被反复证明有效的战略，中国致力于成为电动汽车行业的领导者，与日本和韩国的政策成功不谋而合。电动汽车只是中国雄心勃勃的“中国制造2025”行动纲领的一部分，这一纲领力求到下一个十年中期，将中国从一个低成本制造业国家，转变为一个在十大先进领域占优势的高科技强国——这些领域包括机器人技术、半导体及电动汽车。

如果说中国的环境与经济动机明确，其实中国还看到了一个可以利用的竞争优势：虽然中国的内燃机技术一直很落后，但中国有两家名列全球前5位的顶级锂电池制造商，宁德时代新能源科技公司(CATL)与比亚迪(BYD)。

“如果汽车的发动机与动力传动系统被一个简单的电池取代，全球汽车业巨头将会失去对汽车（生产）的控制，”上海咨询公司汽车市场预测(Automotive Foresight)的张豫(Yale Zhang)说。“汽车变成了可以向任何人外包生产的一堆零件。”

简言之，汽车可能会成为继智能手机和电脑后，另一个由商品化硬件驱动的产业，这些硬件目前大部分在中国南方批量生产。当前，外国的竞争对手们封锁了混合动力与内燃机传动系统的技术，但众多中国企业在电池驱动技术上拥有专利优势。高盛(Goldman Sachs)估计，到2030年，中国将占据全球新能源汽车销售总量60%的份额。

“他们想要创造出一个（通过降低石油进口）满足本国安全需要、并且他们能够主导的产业，”前述汽车业高管称。

然而，近来中国的中央规划创新成果喜忧参半，项目往往更多地受到政治必要而非经济需求的驱动。即使成本高昂，但中国在高速铁路上的投资目前已在很大程度上取得了成功。而在多项欺诈指控导致32人被拘留后，中国为缓解交通拥堵而建设电动公交车的努力却在今年遭遇了滑铁卢。

中国政府引导市场的许多努力都导致了产能过剩，因为企业为追逐政府补贴一拥而上。这在全球范围造成了从钢铁到太阳能电池板的供过于求。有些人担心电动汽车可能是下一个：近年来，超过200家企业宣布计划生产电动汽车。然而这个行业还要耗时多久、耗资多少才能变得在经济上可行，尚未可知。

这意味着，目前中国的电动汽车与混合动力汽车市场顽固地依赖政府补贴以维持竞争力。今年1月，当这些补贴下调了20%后，需求随即锐减。比亚迪E6是总部位于深圳的比亚迪2016年表现最好的纯电动汽车，2017年上半年，比亚迪E6的销量较去年同期下降了62%。总体看来，在补贴下降之后，今年1月至6月，比亚迪电动汽车和混合动力汽车的销量下滑了20%。

广汽集团(Guangzhou Automobile Group)董事冯兴亚今年6月在重庆举办的一个汽车论坛上表示，如果不考虑优惠政策或补贴，新能源汽车仍然无法与内燃机汽车竞争。

北京大学光华管理学院的教授迈克尔•佩蒂斯(Michael Pettis)说：“中国屡屡在一些最终无法持续的项目上亏钱。”成功的创新事迹反而来自私营部门，他说。像阿里巴巴(Alibaba)和腾讯(Tencent)这样的互联网零售与社交网络公司“是悄悄崛起的”，实际上脱离了国家的视线，他补充道。

中国政府在这个行业的全部投资，包括各种补贴，规模非常之大。在2015年至2020年间，在新能源汽车补贴上，中国中央和地方政府预计将投入超过4000亿元人民币（合607亿美元，大致相当于乌兹别克斯坦的国内生产总值），然后补贴将在2021年逐步取消。这意味着去年售出的新能源汽车平均每辆有来自中国政府约10万元人民币（1.5万美元）的补贴。

至于中国国家电网对建设充电桩网络投资的250亿元人民币，中国政府的作用就越发突出了。中国官方新闻通讯社新华社称，中国全国已有17.1万个公共充电桩。但未来三年，这一数字预计还将大幅增长。目前有很多人抱怨难以找到充电桩。而根据美国能源部数据，美国只有44000个充电点和16000个充电站。

然而，大力推行电动汽车可能检验中国中央规划部门能力的局限性。据说中国的电池技术仍然落后于政府规划部门的雄心。专家称这些电池太过沉重也太过昂贵了，这意味着如果没有持续的补贴，电动汽车将无法吸引消费者。

张豫说，很多消费者希望电动车续航能力达到400公里，而现有电池的功率密度仅能达到要求的一半左右。但指望电池技术领先于本身也变得越来越高效的汽油，取决于几个变量。

“如果没有技术上的突破，很难看到新能源汽车真正普及。问题是电池不适用于摩尔定律，”他说，他是指计算机处理器性能的指数级增长。

通用汽车(GM)首席执行官玛丽•巴拉(Mary Barra)上个月呼吁减少国家指令、更多地让市场力量决定中国电动汽车政策。她在上海发言时指出：“我认为让顾客选择满足他们需求的技术，而非政府下指令，才是最行之有效的做法。”

很多经济学家和电动汽车行业高管都在建议中国等待市场和电池技术赶上他们的雄心，但中国的政策制定者们坚持，国家对市场的干预是一种慷慨的帮助，这是让电动汽车业首先实现可持续发展所需的催化剂。

根据配额制度，汽车制造商们每生产一辆电动或混合动力汽车将会获得一定积分，同时每生产一辆传统燃油汽车将会消耗一定积分。为顺应这一计划，大众(VW)、通用汽车、福特(Ford)及其他汽车企业今年纷纷宣布成立合资企业，合资方主要是些规模较小的中国汽车业同行。

一名专家表示，它们生产的汽车主要是小型车，质量不好，为的只是完成配额。“这是一种很短视的做法——它们想先取得信任，帮助自己最大限度地通过政策获得财务好处，”美国管理咨询公司艾睿铂(AlixPartners)上海办事处的许谦说。

北京的一位行业游说人士表示，配额制度是把补贴的负担转移给私营部门、以取代政府逐步减少的补贴的一条途径。

最大的障碍似乎在于政府规划者考量中的一个新因素：消费者似乎不急着响应政府的号召。

今年4月，大众汽车(中国)首席执行官约赫姆•海兹曼(Jochem Heizmann)表示，要卖出大量电动汽车将并非易事，但这是可运作的。他接着说，向汽车共享和打车平台车队出售产品，将在电动车业务中占据很大比例。“设计和生产这一产品是一方面，”他说，“另一方面，必须要有顾客购买。”

尽管中国所提供购车奖励的慷慨程度仅次于挪威，但这并未使电动车得到大范围普及。在挪威，混合动力车和电动车分别占到2016年新车购买量的24%和15%。而去年这两者仅占中国新车购买量的1.32%。发布汽车行业消费者数据的君迪(JD Power)的蔡明(Jeff Cai)说，在很多地方，内燃机汽车悄悄地回来了。他说，车主们发现纯电动汽车很小，空间狭窄，于是又转回到内燃机汽车或插电式混合动力车。

惠誉评级(Fitch Ratings)表示，中国6个限制内燃机汽车牌照发放的城市便占到了电动汽车和混合动力汽车销量的70%。在北京，唯有通过摇号才能取得内燃机汽车的牌照，而在上海，牌照价格可能高达8万元人民币，而且要等待很长时间。许谦说，购买新能源汽车的人，主要想取得牌照，而不是电动车。

在中央计划的全盛期，中国政府拥有更大的决定权，可以不理会消费者想买什么，厂家想生产什么。现在情况不同了。新出现的中产阶层想要更宽敞、更舒适的驾驶体验。现实就是，除非或直到中国消费者想驾驶新能源车，这一市场也许永远不会起飞。

俱菲(Sherry Fei Ju)北京、理查德•米尔恩(Richard Milne)奥斯陆补充报道

污染：燃煤发电削弱了电动车的清洁形象

从环境方面来看，支持发展新能源车的理由并不一目了然。

跟汽油车和柴油车相比，生产电动车并为其充入燃煤产生的电力，可能构成同样严重——也可能更严重——的污染问题，这只取决于怎么计算。

五名清华大学科学家5月发表在《应用能源》 (Applied Energy)的一篇文章显示，由于中国大约75%的电力是由煤炭产生的，而电池生产过程消耗大量能源，中国的新能源汽车产生的温室气体排放量实际上比内燃机汽车高出50%。

然而，根据麻省理工学院(MIT) 2007年的一项研究，直接比较来自大烟囱的污染和来自汽车排气管的污染并不恰当，因为汽车是在人们居住和生活的地方排放烟气的。该研究表明，从受影响的总人数和健康影响方面看，汽车排放的1吨有害颗粒（PM2.5）的危害大约是发电厂烟囱所排放1吨有害颗粒的11倍。

北京的绿色和平(Greenpeace)活动人士柳力(Lauri Myllyvirta)说，考虑到电池的生产过程和燃煤发电，在中国新能源汽车的污染可能会超过内燃机汽车，因为这两者每行驶一公里所释放的二氧化碳和PM2.5水平大体相当。

但柳力表示，这种情况将发生改变——目前中国75%的电力来自煤炭，但到2030年可能会下降至50%以下。他接着说，监管电厂排放、让电厂更清洁也将变得更容易；由于燃料结构的变化，到2030年发电过程中的排放预计将减少三分之一。这还不包括电厂排放管控的改善，到2030年，这预计会把污染速度降低一半以上。

译者/何黎

如果人工智能的发展是一场军备竞赛，那么中国希望成为世界上无可争议的人工智能超级大国。美国国家科学基金会(National Science Foundation)今年并未增加资金投入，而中国则承诺“积极运用政府和社会资本”来实现主导该行业。

美国和中国的科技企业都在人工智能方面大举投入财力和人力，但中国政府的人工智能投资蓝图——到2030年打造一个价值1500亿美元的行业——突显了它想要打败美国的渴望。

尽管行业政策并不能保证成功——相反，中国目前为止没能实现打造半导体或汽车行业全球领军企业的目标——但几乎没人会忽视中国在人工智能方面的影响力。人工智能是指机器的一系列能力，包括模拟人类思考、实现从针对性广告到下围棋等各种任务。

“2030年太悲观了，”李开复表示。李开复曾是微软研究院(Microsoft Research)和谷歌(Google)的资深人物，如今在北京经营着自己的风投公司创新工场(Sinovation Ventures)。他脱口而出地说出中国的优势：人口众多；数据；人才；甚至在所写代码的数量上都占据优势。

中国仅网民数量就达到7.3亿人，几乎是美国人口的两倍，而且中国网民更加精通科技。“中国的手机（使用）比别的地方领先数光年，”一名科技从业者表示，“所以你拥有巨大的实验室来试验激动人心的人工智能应用。在中国，我们每天可以看到不同的消费者行为，在美国这方面要慢得多。”

其次，中国拥有巨大的数据供应，这是人工智能应用的命脉。人工智能应用的例子有自动驾驶汽车，以及电商网站弹出的个性化产品清单——上面是我们较可能购买的产品。中国的隐私法律薄弱，从其公民出生之时就开始收集他们的信息，而百度(Baidu)、阿里巴巴(Alibaba)和腾讯(Tencent)三大科技巨头——统称为BAT——对他们买什么、去哪里旅行和与谁聊天了如指掌。

“说到政府数据，美国根本赶不上中国从其公民身上收集的数据，”美国战略与国际研究中心(CSIS)高级研究员詹姆斯•刘易斯(James Lewis)表示，“他们拥有巨大的沙坑可以在里面玩，还有很多的玩具和优秀的人才。”

中国雄厚的资金也是美国无法匹敌的，后者正在削减预算。“中国的投入以十亿计，而我们（美国）的支出以百万计。当别人的投入是你的1000倍时，很难看出你怎么能赢。当对手火力远超于我们达到这种程度时，我们赢不了；即使他们的效率只有我们的一半，那也仍然是我们的500倍。”

一些人表示，中国在该行业的效率正在改善。“政府投资的方式越来越聪明，”百度共同创始人之一、现任北京大学(Peking University)人工智能创新中心(AI Innovation Center)主任的雷鸣表示。

“过去他们只是把钱投入研究项目或大型国企和高校。但如今他们更可能把钱投入私营企业，投给更具活力并且确实能做出产品和服务的企业。”

本身正面临研究活动削减的美国人，面对中国在一项有着强大军事和民用用途的技术上突飞猛进的前景，有点紧张。中国政府在概述其人工智能发展目标的文件中强调了这种前景。

“（中国）必须放眼全球，把人工智能发展放在国家战略层面……牢牢把握人工智能发展新阶段国际竞争的战略主动，打造竞争新优势、开拓发展新空间，有效保障国家安全。”

重点研究中国军事和新兴技术的分析人士埃尔莎•卡尼亚(Elsa Kania)补充称：“中国人民解放军谋求利用私营部门在人工智能方面的进展，同时在国防工业和军事研究机构内积极实现人工智能赋予的能力。”

有一些持强烈批评态度的人认为中国的实力不强，称中国在科技上太过落后、缺乏追赶其他国家的人才。领英(LinkedIn)最近一项调查表明，中国从事人工智能科技相关工作的从业者仅有5万人——远低于美国的85万人，仅为英国和印度的三分之一。

无论是政府层面还是私营层面，中国正努力追赶其他国家的一个方式是斥重资来吸引海外人才——特别是出国留学又工作一两年后回国的海归。海归中的代表人物是曾在微软工作、如今负责运营百度的陆奇。

这种人才的互相交流是否匹配了同样的思想交流仍有待观察：中国将在多大程度上参与全球社会的人工智能发展和推进，而不只是在国家间的军备竞赛中竞争？

中国工程师很快指出了人工智能研究的共享性。很多人都是在开放平台上开展工作，以至于百度声称其最近公布的代码库可以让一个人在三天内装配出一辆可以（在某种程度上）自动驾驶的汽车。

但有一个风险仍然存在，那就是中国、或者任何一个科技巨头——中国BAT三巨头，外加谷歌、Facebook、微软和亚马逊(Amazon)——掌握了下一场工业革命的关键。

“人工智能七巨头会变得讳莫如深并为自己打造一个良性循环（做更多研究并积累更多数据）、让其他所有人只能找找残羹剩饭吗？”李开复问道，“我不同意这一点，但我认为这至少是有点可能的。”

无论如何，中国都在把大量资金和政治资本投入其称霸人工智能行业的坚定努力中。

中国在人工智能论文上超越欧盟

英国《金融时报》一项分析发现，去年中国在人工智能方面的学术论文数量首次超过了欧盟28国的论文总数。

该结果表明了，对于到2030年人工智能研究和应用达到“世界领先”的目标，中国有多么认真。中国今年夏天公布的人工智能发展政府政策文件中概述了这一目标。

中国希望在利用该技术提高经济效率以及国家安全方面超过美国和欧洲。

英国《金融时报》根据爱思唯尔(Elsevier)的SciVal和Scopus（全球最大的学术刊物数据库，覆盖了逾5000家出版方）的数据得出的分析表明，2016年中国的人工智能相关论文产量同比增长了将近20%，而欧盟和美国的论文产量出现了下滑。去年中国发表了4724份人工智能论文，而欧盟发表了3932份相关论文。

然而，基础研究的质量仍然存在问题。尽管中国在人工智能研究的量上领先全球，但在被引用次数最多的前5%的人工智能论文的数量方面，去年中国落后于欧盟，但仍然超过了美国。

杨缘、Yingzhi Yang报道

译者/马柯斯

【编者按】人工智能热潮仍在延续，大众对人工智能的关注也顺势延伸到各个细分领域。其中，被广泛认为“最有可能被实现的人工智能”的自动驾驶技术引起了投资者们和业内人士的广泛兴趣。那么，中国的自动驾驶发展面临什么样的独特机遇或挑战？国外自动驾驶在立法、技术和市场方面对中国有什么样的启示？ FT中文网近期组织“聚焦自动驾驶”专题，编辑事宜，联系闫曼 man.yan@ftchinese.com

作为自动驾驶立法的先行者，德国除了发布《道路交通法》（第八修正案）为自动驾驶的量产和落地铺平道路以外，其运输和数字基础设施部下属道德委员会又发布了“自动化和互联化车辆交通伦理准则”（简称“自动驾驶伦理准则”），该规则对于各国立法者理解和监管自动驾驶这一新兴事物提供了良好的思路。

道德委员会在考量伦理准则时，主要集中考量了高度自动化汽车，即L3、L4和L5级别的自动驾驶汽车。道德委员会认为，自动驾驶预计将会在很大程度上降低发生交通事故的可能性。对于用户而言，自动驾驶技术会带来更多的便利，更少的身心压力，并节省更多的时间。就使用的公平性而言，在现有的条件下，移动能力相对差的弱势群体（如老人或者残疾人），可以更好地享受到新的移动出行方式所带来的成果，并且也能借此融合到社会生活中去。

与此同时，伴随着自动化驾驶系统的快速发展，未来可能会出现五个等级混合运营的局面，因此有关自动驾驶的责任和监管问题以及在现实交通场景中的矛盾冲突等问题都亟待解决。

自动驾驶二十项伦理准则概要

该伦理准则共有二十项，由面及点，涵盖了发展自动驾驶的方方面面，提出了立法和监管思路。本文概括如下：

1.在宏观发展目标和价值取向上，利用自动驾驶技术增强道路安全优先于便利出行等其他好处，技术应遵循个人自治原则（the principle of personal autonomy），个人也应对自身享有的行动自由负责。

2.对个人的保护优先于所有其他功利主义考量，只有自动化驾驶系统可以比人工驾驶带来更低的损害，允许其发展才是公平合法的。

3.自动驾驶需要官方的批准和监督。政府部门应对用于公共领域的自动化驾驶系统的安全性进行监管，其指导原则是避免事故。尽管技术存在不可避免的残余风险，但只要自动驾驶相比于人类驾驶能降低更多的风险，那么就不应阻碍自动驾驶的引入。

4.在以个人为中心、促进自由发展的同时，关于技术的立法策略应该是在个人选择权最大化，以及保护他人的选择、安全之间获得平衡。

5.自动和互联技术应尽量避免事故的发生。对于两难局面（Dilemmatic Conflict），即必须在人的生命之间做出损害甚至牺牲一方以拯救其他当事方的选择的极端情况，发展自动化驾驶技术的策略应该是防止这样的危险情况出现。从车辆的设计和编程开始，就应考虑以一种具备防御性和可预期的方式驾驶，并全面应用和完善技术，从而给易受损害的道路使用者施加尽可能小的风险。

6.具备防撞功能的高度自动化系统能降低风险、增强安全性，这是社会和伦理层面需要鼓励的，但如果以法律命令要求必须使用和普及这种技术，则会引发“人受制于技术、人的主体地位受到贬损”等道德争议。

7.在用尽所有技术防御仍无法避免的危险中，对人类生命的保护在法律上高于一切。在技术可预测的范围内，系统应接受对财产、动物的损害以确保人的生命不受损害。

8.对于两难局面，即必须在人的生命之间做出损害甚至牺牲一方以拯救其他当事方的选择的极端情况，两难决策（Dilemmatic Decisions）不能被标准化和编程化。

9.在不可避免的危险中，禁止基于个人特征（年龄、性别、身体或心理构成）加以区别，禁止对被害人进行相互抵消。

10.在运用自动互联技术系统的情况中，事故责任主体从以前的个人承担，转变为在涵盖驾驶员、技术系统的制造商和运营商、基础设施建设负责者、政策制定者及法律判决做出者等多主体之间进行分配，相应的法律责任制度和法庭审判实践应及时做出有效调整。

11.使用自动化系统所造成的损害应遵从产品责任原则。由此，制造商和运营商有义务不断优化他们的系统，对已经交付给消费者的系统保持观察并在技术可行和合理的情况下予以改进和更新。

12.公众对于自动化技术的研发情况享有知情权，政府主管机关对于该技术研发和部署的指引应向公众开放并由专业独立的机构进行审查。

13.未来要想在完全数字化的运输基础环境中，有效实现所有车辆完全互联并由中央控制，则应首先解决在伦理层面上饱受争议的问题，即如何排除对道路使用者的全面监视和对车辆的操纵。

14.自动化驾驶系统的网络安全应达到足以维持公众信心的程度。

15.关于自动互联车辆在驾驶中自主获得的数据，如进行商业使用，则应遵从于交通参与者对数据的自治和所有权。车辆保管者和使用者拥有驾驶过程中产生的数据的使用和传输的权利。

16.为了明确责任的承担主体，应确保能够通过记录和存储数据来分辨自动化驾驶系统和人类驾驶员，究竟是何者在控制车辆，以及人类驾驶员是否有能力随时接管自动化系统。对于责任的划分，应该形成一整套人机交接流程以及数据记录国际标准，以保证在国际化应用中的兼容性。

17.在人机交互层面，自动驾驶车辆技术应该防止车辆控制权突然移交给人类驾驶员的紧急情况，并且自动驾驶系统必须更多地适应人类的交流行为，而不是要求人类去增强他们自己对于系统的适应能力。

18.只有在保障安全的前提下，才会允许在车辆运行中使用自主学习系统。此外，收集并建立场景目录，并将其传至中立机构，对于发展普适性的标准是有好处的。

19.紧急情况中，车辆必须能够在无人工辅助条件下，自主地进入到一个安全状态。

20.对自动驾驶系统的合理使用应该被纳入到人们的一般数字化教育中，对自动化驾驶系统的合理操控应该在指导驾驶和测试期间以合适的方式进行教授。

自动驾驶中的“两难局面”

而现实交通场景中的矛盾，其中之一就是自动驾驶中的“两难局面”。

两难局面的特点是，自动驾驶车辆必须决定应该执行哪一种“罪恶”。比如道德委员会讨论的下文列出的例子：

一辆汽车的驾驶员正在山坡上行驶。自动驾驶汽车探测到有孩子在路上玩耍。该手动驾驶汽车的驾驶员现在可以选择用自己的生命开车越过悬崖，或者冒着孩子死亡的风险朝正在道路环境中玩耍的孩子驶去。在该汽车是一辆高度自动化驾驶汽车的场景下，程序员或者该自主学习机器将必须决定在这种情况下应该做什么。

道德委员会提到，学者们投入很多精力去讨论对于“进退两难的冲突情况”的解决方案。在讨论此问题之前，首先，一个基本的问题是我们愿意将自己多少的选择自由权交付给程序员或是自主学习系统？换言之，如果我们愿意在交通拥堵时把驾驶任务交给系统，那么我们是否愿意把驾驶中出现的概率极低的两难局面也交付给系统？对于两难局面的冲突决策，技术有可能提前全面地预测到吗？

对于上述例子，与程序员作出决策相关的问题是，他可能作出了与人们基本良知相一致的“正确的”道德决策，但该决策仍旧属于一个“外部决策”。这个外部决策可能不会直观地捕捉到一个具体的情景，比如一个直观的情感表达情景（具体而言，比如驾驶员其实是孩子的父亲），这一关键的具体情境可能会左右驾驶员的决策。

如果立法者要求在两难的危机状况中，应该由程序员或机器做出正确的道德决策，那等于是衍生出了一个结论：即，人们在面临生死抉择的情况中，将不再是自治的（由自己决定），而是他治的（由厂商决定）。道德委员会认为这个结论存在很多问题：一方面，立法者以一种非常家长式的方式，要求程序员规定一个“正确行为”的道德程序（在某种意义上是编程所规定的）；另一方面，这与人道主义的价值体系是相违背的。 道德委员会认为，国家不应该制定集体义务施加给个人，要求他们为了其他人而牺牲自己，即便这是唯一可以拯救他人的方法。

因此，对于自动驾驶，其编程者不应在人的生命中进行挑选，也不应该在受害者中进行抵消，但自动驾驶应秉持损害最小化原则。所以，两难局面不应被明确地标准化，也不能被编程。自动驾驶技术的发展旨在避免一切事故，然而，它们不能被标准化到对事故的影响进行复杂或直观的评估，进而取代或预测一个负责任的、具有道德能力、可以做出正确判断的驾驶员的决定。当然，如果一个人在紧急情况下杀了一个人以挽救一个或更多的人的生命，那么这个杀人者的行为将是非法的，但他并不一定有罪或必然接受处罚。因此，两难局面不应被轻易地转化为抽象或一般的事前评估，也不能转化为相应的编程活动。

对于应对两难局面，发展自动化驾驶技术的策略应该是防止这样的危险情况出现。从车辆的设计和编程开始，就应考虑以一种具备防御性和可预期的方式驾驶，从而给易受损害的交通参与者施加最小的风险。因此，自动驾驶应重在完善全面的技术应用——例如，通过可控交通环境的应用、车辆传感器、刹车性能、危险情况中给受威胁者发出信号提示、通过“智能”道路基础设施来预防危险，从而最大程度地增强道路安全性，避免两难局面的发生。比如上述的例子中，通过信号提示，车辆可以提前预知前方的危险情况，又或者前方的弱势群体（比如小孩）可以被提前告知有车辆到来等，从而最大程度的避免两难局面的出现。

对于两难局面，道德委员会也指明，在讨论时并未能达成一致意见，也意味着这个问题有待进一步深入的研究。

自动驾驶参与方范围在不断扩大

正如该伦理准则所言，随着参与驾驶任务要素的增加（尤其是对于L5级别以下的自动化车辆），以及交通环境互联化程度的加深，自动驾驶车辆的参与方的范围，也从驾驶员扩大到车辆制造商、零部件提供商、系统开发商和制造商、修理站、基础设施公共部门、通讯网络运营者、信息服务提供者、地图服务提供者、认证部门等。总体而言，本文归纳总结出伦理准则对于该等自动驾驶参与方应共同遵守的相关义务：

1、在自动驾驶系统设计方面，应以最大化安全，最小化风险直至完全避免风险为最基本的追求。为此，自动驾驶系统应旨在减少危急情况出现的可能性和频率，并能在不可避免的危险中可以自主地进入到安全状态中。

2、在系统维护和更新方面，该伦理准则强调系统的制造商和运营商等对已售出的系统应保持持续观察，并在技术可行和合理情况下对其进行改进和更新。

3、在数据记录和存储标准方面，应能达到可以辨别于何时、何者（人或系统）正在对车辆实施控制，且何时车辆应当由何者来实施控制的程度。例如，在驾驶任务应由自动化系统移交给驾驶员时，系统是否做出了足够的提示以引起驾驶员的注意。或者，驾驶员在重新接管车辆时是否还有合理的时间去完成任务，例如是否由于系统的判断错误而导致驾驶员重新接管车辆时所造成的损害比系统自行处理时还大。

4、在网络安全方面，开发商和制造商必须在最大程度上确保自动化系统及车辆控制不会遭到不法网络攻击，尤其是在车辆互联、中央决策的过程中。

5、在广告宣传和消费者教育上，对自动化系统的功能和特性应做客观宣传，并且应在指导驾驶和测试车辆过程中以合适的方式教授消费者使用方法和注意事项。

有关该等参与方的责任的具体划分，会在后续文章中进行分析。

（本文仅代表作者本人观点，作者系北京市安理律师事务所高级法律顾问，中国商业法研究会理事，曾任著名跨国汽车公司高管并主持法务部工作，作者邮箱：supershan2005@126.com；责编邮箱：man.yan@ftchinese.com)

科技正在改变商学院毕业生找到工作的方式。大批初创公司正在把自己的服务出售给学校就业部门——而且其中很多公司都是由MBA校友创办。

其中一个例子是Vmock——这是一套简历反馈系统，利用机器学习预测分析和人工智能(AI)技术来帮助MBA学生撰写更有效的简历。它的算法把学生的简历和成千上万名成功的求职者撰写的简历进行比较。每一份简历都会得到对其有效性的百分制评分，以及改进建议，比如要点的重新措辞和语法纠正。

芝加哥的萨利尔(Salil)和基兰•潘德(Kiran Pande)于2009年创办了该公司，他们认识时萨利尔刚从芝加哥的布斯商学院(Booth School of Business)毕业，而基兰将要在西北大学(Northwestern University)凯洛格管理学院(Kellogg School of Management)开始学业。

超过100所高等教育机构——其中包括位列英国《金融时报》MBA排行榜前20名的商学院中的17所——付费对Vmock的软件进行了年度订阅，每个学生用户19.95美元起。上传的简历已经超过100万份。

但是，萨利尔表示，如果不是创始人感受到了学生的痛苦，那这家刚从私募股权基金筹集450万美元融资的公司就不会存在了。

他们最初的计划是用虚拟现实面试服务来让学生们测试面试技巧，但在他们和商学院就业顾问交流后，转向了简历反馈服务。

他承认，该服务并没有取代顾问的专业支持，但他声称Vmock可以让学生把简历修改得可以得到更多职位的眷顾。

该产品是伦敦商学院(London Business School)就业部门使用的多项在线服务之一。

另一项服务是位于洛杉矶的初创公司12Twenty研发的就业服务管理系统——帮助该校的就业团队追踪MBA招聘活动并为学生提供有关心仪企业的薪资水平和面试流程的数据。

伦敦商学院职业发展负责人萨拉•伊尼戈-琼斯(Sarah Inigo-Jones)表示，此类技术不会取代就业顾问，但可以解放一些员工来着重帮助学生。

这包括帮助MBA项目的学生驾驭他们面临的日益复杂的职业选项，比如从金融科技初创公司等新兴行业的老板那里得到工作。“它给我们腾出时间，专心考虑特定学生的合适职位是什么，”伊尼戈-琼斯表示。

TransparentCareer为MBA学生和专业人才提供个性化的薪资和就业数据，用以发现和评估就业机会。该公司由凯文•马尔维纳克(Kevin Marvinac)和米奇•柯比(Mitch Kirby)创办，他们二人在布斯商学院读MBA时结识。该公司声称是MBA薪资和文化数据的第一大来源，美国所有MBA学生中有将近一半使用该公司的数据。

创始人声称，该公司帮助学生理解特定职位的平均薪酬，此外企业也会花钱访问其数据来帮助他们识别、聘用和留下那些出自商学院的最出色的商业人才。

像Vmock一样，TransparentCareer的创办是源于创始人当MBA学生时感受到的挫败。

“我们最大的痛点是我们无法得到关于企业薪资水平的准确细节，”马尔维纳克解释道。

负责招聘的人士表示，科技并非万能药，无法完全应对找工作的复杂过程。GlobalMBACareer创始人所罗门•乔治(Solomon George)专门帮助企业聘请商学院毕业生，他称他尚未发现可以取代核心就业咨询服务的技术，比如求职者指导、网络支持和面试培训等方面的服务。

乔治表示，神经学家才刚刚触及到皮毛。他对科技企业家可以做得更好表示怀疑。

译者/马柯斯

9月，在美国的社交媒体平台上，有一家叫做 Bodega 的创业公司被千夫所指。这是一家开发自动售货柜的创业公司，他们的产品主打“无人经营”的互联网互动式的商业模式，将会为消费者提供便捷高效的消费体验。

Bodega的产品是一种置于室内的自动售货柜，宽约5英尺（约1.5米），高约2英尺（0.6米）。柜子里面的商品一般是不容易腐坏的食物和日常用品，它们将会被投放在公寓、住宅社区、健身房等生活区域。消费者利用相应的手机APP，即可解锁存货柜。货柜内的摄像头会自动识别并登记消费者选购的物品，自动从你的信用卡上划走相应金额。整个购买过程不需要任何人力。

创始人相信，经过后台对购买数据的运算，可以最大程度地为消费者“度身定制”商品。也就是说，通过分析自动售货柜的销售情况，来精细地规划不同建筑内的货物配置。比如住在同一座公寓的人们可能会因为在同一个区域工作或生活有一些相似的购买习惯，或者健身房的售货柜中功能饮料和蛋白质品会吸引健身爱好者的目光。

但这种自动售货柜很大程度上影响了美国传统的街角杂货店的生意。最讽刺的是， “Bodega”这个词语，原本代指的就是移民在社区街角开的小杂货店。打着“杂货店”的旗号抢杂货店的生意，太不厚道了吧？！经历了一番冷嘲热讽之后，创始人之一的 Paul McDonald 回应说，自己公司并不是针对传统的杂货店，只是想探索新的商业可能。

经过了一年的经营，尽管 Bodega 已经拿到了 Facebook、Twitter、Dropbox、Google 等公司高管的天使投资，但市场是否接受这种科技为主导的 “无人”模式，还需要现实的检验。无论是在中国还是美国，创业者们纷纷尝试着在零售业中用机器来替代人力。这种“无人”商业模式的形成不仅有赖于移动支付、大数据分析、人工智能等科技的发展，更深层的含义是，人们都在探索，如何能以新的商业模式创造新的商业机遇？可是，如 Bodega 这样的创业项目，真的能创造更多价值吗？毕竟，在美国和中国的不同市场，对 “无人”模式的质疑已经凸显。

美国：“无人”不能替代的群体记忆和移民文化

之所以 Bodega 公司的名字被许多人诟病，正是由于街角杂货店一直很受美国人喜爱。在社区中，街角杂货店通常营业到很晚，周围的居民可以方便地买到所需的日常用品。这种小店大多是一个家庭独立经营的小本买卖，甚至在家族中代代相传，所以也被称作夫妻小店（mom and pop shop）。有些杂货店从六七十年代经营至今，已经成为当地居民群体记忆的一部分了。

最先报道 Bodega 公司的 Fast Company 曾写到：“如果公寓里有了 Bodega 公司的自动售货柜，居民便不用（麻烦地）跑到附近的杂货店买东西了。”这一言论一时间引起轩然大波。有网友在 Twitter 上发文说：“ Bodega 公司的失误在于，他们并没有想到，我们很多人都和附近开杂货店的邻居关系很好。我们喜欢这种小商店。”

而 Bodega 自动售货柜把“购买”这一行为变成了人与机器间的互动。你面前只有一台冷冰冰的柜子，通过手机应用程序发送信号，开柜门，选购。没有人能和你聊两句天气，没有人夸奖你新买的领带，也没有人会问：“昨晚的球赛你看了吗？”

街角杂货店在美国是移民文化的代表。二十世纪四十年代，波多黎各和多米尼加的移民初到美国，由于职业选择受限，他们便开起了小杂货的，有的卖书，有的卖日用品，还有一些是餐馆、咖啡馆等等。在日常接触中，周围的居民和杂货店老板建立起了友好的关系。住在三楼的上班族每天傍晚都会来买牛奶，如果某一天他忘记带零钱，老板就会和他说，明天来的时候一起付吧。

许多纽约人都把小杂货店（ Bodega ）当做是城市中的公共机构，就像图书馆、地下铁一样不可或缺。今年二月，美国总统特朗普甫一上台，便宣布了移民禁令，布鲁克林的1000多家也门裔杂货店随即停业以示抗议。这次大规模停业无疑是移民及少数族裔人群在为自己发声，毕竟在纽约的经济和社会结构中，他们和他们的家庭小店的确是很重要的一部分组成。

如果 Bodega 公司的自动售货柜对标的是街角杂货店，那么也不难理解有些质疑声批评 Bodega 公司的所做所为：“不过是把卖给上层社会白种人的商品重新打包了一遍，放在这些自动收货柜里罢了。”

中国：技术革新也是对人的更大挑战

美国并不是最先实验 “无人”商业模式的市场。近年来在中国一线、新一线城市也兴起了一波 “无人超市”、 “无人商店”的热潮。

2015年6月6日，中国第一批无人超市在北京和杭州两地“试”营业。但这只是一次短短24小时的信用试验——杭州的一家华润万家 Vango 便利店和北京的一家全时便利店在这天“切换”成了无人模式。顾客购物之后自主结账，无人监控，支付全凭自觉。蚂蚁金服旗下的芝麻信用主导了这次活动，主要目的是考察消费者的信用度，以便在未来推出无人收银、无人超市模式。

今年6月，宾果盒子（ BingoBox ）在上海投入使用。这家经营着24小时营业的无人便利店的公司在一个月后宣布完成超过1亿元人民币的A轮融资。随后，阿里巴巴旗下的无人超市 “淘咖啡”淘宝会员店也在“淘宝购物节”期间亮相杭州。与两年前的社会实验型活动不同，这次的无人商店是阿里巴巴 “新零售”战略的一步棋。自从马云在2016年的 “云栖大会”上提出这一概念之后，“线上线下融合”、“体验式购物”等概念就成为了零售业的风向标。但“无人”商业模式已经引发了争议。

宾果盒子号称“连续运营超过180天后，总共完成5万次的交易，但是零偷盗、无损坏”。这是因为“把盒子部署在封闭管理的小区，或者高端的商务园区里，就已经把最大的风险过滤掉”。通常人们认为，生活在高档小区、商业区内的人们不会有偷、盗的行为。加之实名技术、实时监控、全智能商品识别等技术的辅助，也可以有效预防此类事件发生。实际上，商家现在只能用这样的方法最大限度的规避风险，但这并不能说明消费者信用危机已经解除。一旦宾果盒子推广开来，商家还能只满足于设立在高档小区里吗？直面这一问题是迟早的，只不过暂时是躲得过去的。

就像知乎里的一则笑话说到，“超市里没有售货员收银员等员工了，那应该叫无员工超市啊，怎么能叫无人超市呢。”没有员工会降低超市的经营成本，但没有员工又会减少许多工作岗位，这对于中国来说，这是好事情吗？目前来看，无人超市、无人商店的商品价格并没有由于减少的人工成本而降价。反而，处于起步阶段的这些创新项目，都因为前期实验性的成本、技术不够纯熟等原因价格更高。

而现阶段，说“技术取代人”这样的话仍然是危言耸听。有的人担心，技术的发展会替代低技巧型的职业。从长远角度考虑，的确有这样的可能性。但目前，尽管中国人口红利正在减弱，人力成本尤其是劳动力成本，仍然达不到西方发达国家的高价格。除此之外，这些无人超市在短时间内真正做到 “无人”几乎不可能。有消费者在“淘咖啡”便遇到过机器对商品识别错误、操作不顺畅购买失败等情况。虽然收银员、售货员的岗位被机器取代，但免不了需要一些现场运营的人员，帮助消费者使用收银设备，解决可能出现的技术问题等等。

在生活中应用新兴技术的技术，消费者的兴趣依然浓厚。所以，现在的创业项目一沾上“场景体验式”、“线上线下”，就准能吸引来一大批金主。涌入风口的投资，跟风创业的人们，到底是万人空巷还是趋之若鹜，至今我们不得而知。尤其是作为互联网科技与零售业的结合，“无人”模式已经成为“卢德分子”的眼中钉。以硅谷为代表的技术先驱者们总想着发动大型技术革新，进而能榨取更多商业价值，但从根本上来讲，这种新的融资方式只是换汤不换药，因为它并没有创造新的商业价值，仅仅是对现有的资源、产业洗牌重组。

或许20年、30年后，中国人口老龄化加剧，中国在国际市场中的地位由制造大国转变为消费大国，人工智能、面部识别、大数据、移动支付等技术的发展会推动消费者习惯的升级。到那时，“无人”模式是会独当一面，还是会被其他新模式取代呢？

（本文仅代表作者本人观点）

纽约布鲁克林，一个各国移民集聚的地方，有一家社区杂货店(grocery store)叫做Pamela’s Green Deli。女主人(经理)Pamela在这里开店近30年，店内除了卖食品及日常用品，也提供早餐(三明治)。Pamela对于来买东西的社区顾客非常熟悉，和他们好像朋友一样。 她的女儿，Diana Rodriguez，6岁起就在店里帮忙干活，熟悉这里的顾客及环境。她希望自己在大学毕业后，能像她从多米尼加移民美国的爸爸妈妈那样，开一家属于自己的社区副食店，实现自己的美国梦。

像Pamela’s Green Deli这样社区杂货店，在西班牙语中叫Bodega。这种小店在大纽约地区就有1万家。它们通常会开在美国大城市中的少数民族及移民聚集地区，既是当地居民市场生活不可或缺的一个社区服务，也是不少移民(比如多米尼加、波多黎各、中东)在美国赖以自立、存活下来的重要经济形式。

但最近有一家来自硅谷的创业企业说，我们要砸掉这些杂货店的饭碗(原话也许不是这样，但意思是这个)，而且我们取的公司名字就叫Bodega!

2017年9月13日，由两位前Google员工Paul McDonald和Ashwath Rajan成立的创业企业Bodega，在加州正式投入市场试用。这是一个智能化的无人售货柜，5英尺宽，2英尺高，里面存放一些常见的非冷藏食品及日用品。购买者用专用app可以打开柜门，选取自己要买的物品，柜内的摄像头及扫描仪自动记录所取物品的价格，然后购买者预存的信用卡会被相应自动扣款。

初期，这些智能货架会摆放在公寓楼、办公大楼大堂、健身房等公共场所，然后再逐渐渗透到各个社区。公司已从创投行业巨头如First Round Capital、Forerunner Ventures、Homebrew那里获得了天使投资，并且拿到了来自Facebook、Google、Twitter和Dropbox一些高管的个人投资。

一个看起来很不错的创业主意，不是吗？

直到这个公司在Twitter上激起了民众的反感及抱怨，Bodega一时成了热门主题标签。大多数的发言认为，这个有替代传统社区杂货店(Bodega)打算的创业想法，对依赖小杂货店生存的中下收入人群，尤其是移民，是个经济打击，而且这种所谓的新零售形态，会破坏街头小店长期形成的社区感及凝聚力——因为一旦这些机器遍布各处，买家将只会匆匆来去。长此以往，社区感将逐渐消亡。在民众的激烈反对声音中，以下这位的Twitter发言具有代表性：这不是什么智能售货盒子，而是一个分化社区的贵族盒子(gentrification box)。

在Twitter的反对声浪掀起之后，CEO McDonald赶紧出来辩解说，公司从来没有要把传统的社区杂货店取而代之的意思，但社会上的坏印象已经造成了。有人表示，会坚决捍卫传统杂货店的生存，并会和这家初创企业死磕下去(fight to the death)。

致力于打造无人售货柜的美国创业公司Bodega，在美国网民的激烈反对声中，渐渐失去了原本的好形象。创始人的回应也并没有挽回大众的心。而Bodega公司目前已经停止了接受采访。美国新零售的第一把火，就这样要歇了？

在大洋彼岸的中国，无人货架也是最近很火的一个新零售模式。领蛙、老虎快购、零食e家、小e微店、果小美、猩便利等一批新兴创业公司涌现，BAT、京东等互联网巨头也开始对这个行业虎视眈眈。这些无人货架公司所用的技术，与美国Bodega的差不多，但区别在于目标市场。它们主要用于办公室而不是社区场所。这种定位策略，并没有消灭居民社区小店的意图，所以在中国社会没有遇到大的反弹，总体反应正面。

技术革新与社会影响

同样是无人货架的新零售模式革新，技术差不多，为什么美国的Bodega公司遭到嘘声一片，而中国的却波澜不惊呢？

也许我们可以从加拿大社会学家Andrew Feenberg关于技术与社会的理论——Critical Theory of Technology(技术的批判理论)找到思路。

提到大数据、云计算、虚拟现实、人工智能这些灸手可热的技术趋势，你会想到什么？是否是毫无表情、没有感觉、立场客观的的机器与算法? 其实，这只是表象。Feenberg的技术批判理论认为，技术并不是一个中立的工具(neutral object)，而是会带有自己的价值观(values)及价值偏好：因为每项技术(比如无人货架)不是来自真空，而是有其对应场景(context)，包含三个维度：who(谁开发的这项技术)，why(为什么开发这项技术)，以及how(这项技术会有何运用)。

既然技术本身就不可避免带有价值取向，所以Feenberg认为，可以通过对技术的设计(改变who,why,how维度)，来传递实施技术的价值，在这个过程中从而传递相应的社会影响。

例如，创业公司Bodega两位创始人McDonald和Rajan在设计他们的新型无人货架时的一个主要价值取向，是为都市生活中的部分人士带来方便快捷的购物，所以它的技术实施是直接进入社区的。至于如何通过零售业态加强社区凝聚感，并不在二位(估计也不在投资人)的价值取向中。所以他们忽略这个需求也不意外，尽管这样做的社会效果是遭到了民众的反弹及抱怨。

在宏观层面，Feenberg技术批判理论的指导意义是，每个社会都有其主流价值观。技术，在设计过程中如果忽略了相关考虑，可能与社会主流价值体系相左。 这样一来，技术本身的科学价值再大，也可能受到质疑挑战，难以尽情释放效果。

技术狂潮下的社会迷思

最近两年，整个世界似乎进入了一轮新的技术高潮，各种新趋势新名词让人眼花缭乱：如不断迭代、百花齐放的智能手机，大数据存储及分析，云计算，新零售，无人售货，电动车，无人驾驶，物联网，智能家居，虚拟现实，机器学习，人工智能，干细胞，基因检测，区块链……

随着新技术不断涌现，风险投资大举入局，企业对技术人才的追逐加剧，各地政府也争相建设高新科技园。这种对高科技近乎迷信的热忱，已经开始渗透进基础教育，有的幼儿园已经开设编程课程。前美国众议院多数党领袖Eric Cantor甚至宣称，未来掌握编程技能的重要性，将与学习语文及数学等同。

看样子，强大、无所不能的各项技术将主宰未来，成为世界的救星，or will it?

以下运用Feenberg技术批判理论出发，笔者分析4个与个体或社会息息相关的技术运用案例，重点聚焦技术的设计价值取向及其社会价值影响。

案例1 技术：网游(手游)

设计价值取向：追求玩家的投入度，满意度

社会影响：最近一项研究表明，网游对成年人工作的影响不容小觑。2017年7月，芝加哥大学经济学家Erik Hurst及团队发表的一项研究报告表明，从2004到2015年，美国年轻男性(21-30岁)的每年平均工作小时减少了203个小时（下降了约12%）。与此同时，这个群体的玩网游时间增加了45%，达每周5.2小时。Hurst的深入分析认为，功能更强大、更好玩的网络游戏，影响了美国年轻男性的工作意愿，及工作时间投入。

案例2 技术：辅助生殖技术

设计价值取向：为不育症夫妇提供辅助生殖解决方案

据中国卫计委统计，2016年中国约有4500万不孕不育症患者，而且每年以数十万的速度递增。不孕不育发生率大概在15％到20％，每八对育龄夫妻中就有一对不孕不育患者。辅助生殖技术为不育夫妇圆宝宝梦。

社会影响：目前辅助生殖技术的主要方法是体外受精的试管婴儿方法vitro fertilization (IVF)；但一个新的技术，体外配子(vitro gametogenesis ,IVG)，正在从实验室到临床运用的转化过程中。

这项技术号称可以从人类的头发或皮肤细胞中，产生出精子及卵子。由于它绕过了传统IVF中需要卵子、精子捐献的限制，在理论上可以产生无限多的精子、卵子、受精卵、胚胎。如果再和基因编辑(gene editing)技术结合起来，不育夫妇还可以从产生的众多胚胎中“挑选”婴儿的性别、甚至高度、肤色等人体参数。

目前IVG还没有在人类生殖技术中实际运用，但它的发展前景已经激起了医学界及社会的关注。人们担心这项技术的运用可能会让不少国家已经严重失衡的男女新生儿比例更加倾斜；对特定基因的刻意挑选，也可能加剧世界上已经在发酵中的种族主义倾向。

案例3 技术：共享单车

设计价值取向：为城市中的短途出行需求提供便宜、便捷的交通工具。

社会影响：它被称为中国在互联网时代的新四大发明之一。一年多前起步，在摩拜和ofo的引领下，很快铺满了中国各大城市。手机智能开锁，低至一元每次的价格，随停随取的便利，堪称圆满实现了这项技术的设计价值取向。今天，仅北京市就有235万辆共享单车。但出问题的也正是北京这样的一线和新一线城市：9月7日，北京宣布暂停共享单车的新增投放。

与其它机动车交通工具不同，共享单车随停随取。这本来是个优点，但正因此也成为了市容管理当局的梦魇。因为在拥挤闹市中，共享单车乱停乱放的现象屡禁不止。各地政府在清理整治共享单车的乱象中，付出了不小的行政成本。杭州市城管用于搬运、管理2.2万辆违规共享单车的花费超过22万元。而在各地不断出现的共享单车“坟场”，更是成为这个技术运用的一道尴尬风景。

究其根源，有观察家表示，目前的共享单车技术，并没有考虑到其占有公共道路资源与政府管理资源的因素，增加了社会的管理成本及环境成本。

案例4 技术：Facebook(社交网络)

设计价值取向：建立人与人之间的虚拟关系圈，通过信息的快速流动促进人们之间交流。

这个由哈佛辍学的高材生马克•扎克伯格（Mark Zuckerburg）在2004年创建的虚拟社交网络，如今已是世界上最大的社交平台，拥有20亿用户。它的信息功能有多强大？ Facebook用户每60秒钟，会发布51万条评论，30万个人帖子, 上传13万6千张照片。 从互联网时代连接人类的角度来看，Facebook应该说完成了其技术设计的目标。

社会影响：本来，社交网络的领军人物小扎一向是意气风发的，但最近有些焦头烂额。因为公司被指责在2016年美国大选中，受到俄国利用发布了假消息，可能影响了美国大选的结果。

上周，Facebook向美国国会移交了受俄国影响而发布的3千条政治广告。资料显示，一个与俄国相关的机构，Internet Research Agency，通过470个假账号，发布了这些广告，共花费15万美元。这些广告的主题主要集中在美国社会争议不断的一些热点话题上，比如移民、同性恋、种族关系、穆斯林群体等。希拉里的竞选团队表示，一些在Facebook上散布的假消息——比如教皇刚刚宣布支持特朗普之类，扰乱了选民的心态，可能破坏了选举的公正性。无独有偶，在今年春天的法国大选中，假新闻泛滥，以致Facebook不得不关闭了3万个在法国的账号。

如果一个主权国家的领导人选举结果，能够被一个社交平台的假新闻所左右，这样巨大的社会影响力，大概是Facebook始料不及的吧？

技术时代， 价值与社会

人类正处在一个新技术不断涌现、飞速发展的时代：从无人驾驶到人工智能，技术的无限可能激发了人们的憧憬、想象，及对技术有些天真的膜拜——认为它们将拯救人类。

Bodega，一个由两位前Google员工创立的透着魔力的无人货架零售系统，刚在加州小范围推出试点，却已经在全美掀起了不少的反对声浪。人们指责无人货架零售会摧毁街边杂货店及围绕它们的社区文化。这个社会反应，对于这两位雄心勃勃、对自己技术信心满满的创业者，应该是一个意想不到的打击。

但Feenberg的技术批判理论，其实已经预见到了这一切。他指出，技术过去不是、现在和将来都不是一个中性的工具，技术的设计及运用，将不可避免地带有特定价值观的烙印；如果设计不当，技术可能会对社会带来负面影响。

迈向未来，人类社会需要一个什么样的技术战略？

首先，企业、创业者（以及投资人）都应该对技术的价值取向有清楚的了解，并在设计中考虑到社会影响。比如，腾讯以王者荣耀为试点，推出“健康游戏防沉迷系统”：12岁以下的游戏者每天游戏时间不超过1小时。虽然这个功能很基本，但已是迈向这个方向的一个正确举措。

其次，政府对于技术的监管，可能需要看得更远，超出技术的直接运用层面。比如，共享单车的发展，成本不仅仅在于车子及骑行，也在于公共空间资源的占有及消耗。应杭州市政府要求，共享单车企业HelloBike实施了虚拟停车点技术，就是企业与政府良好互动，试图解决技术的不良社会影响的一个例子。

最后，技术的未来在于年轻一代，而他们的成长将主要依靠学校系统。近年来技术发展的火热，也催生了STEM （science, technology, engineering, and mathematics，科学，技术，工程，数学）课程的走红，甚至有幼儿园也开设了编程课。这些举措固然对于人类社会的技术发展固然有益，但也要看到技术的功效及社会影响，还是离不开价值观的指引。正如耶鲁大学校长Peter Salovey所说的那样，今天的技术时代更离不开充满想象力和情感感染力的领导者；从这个角度而言，人文学科的重要性不但没有降低，甚至更高了。

技术时代，梦想时代，有正确的价值观引导，技术才会为人类社会创造更大的贡献！

注：本文仅代表作者本人观点。作者系香港城市大学商学院副院长，EMBA(中文)课程主任。作者微信号：contentwise

身为两个新手司机的妈妈，我庆幸Alexa和Siri不用也得我来教它们开车。因为机器人没有我那两个十几岁的孩子拥有的一项关键能力，无论她们有多菜鸟：Alexa和Siri无法揣摩人的心思。它们不能凭直觉猜出路边的那名学生是不是要上马路，比起被碾压她更怕失去自己Snapchat上的条纹；它们也没法用眼神警告她别那么做。无人驾驶汽车不跟人眼神交流。

它们未必了解，在我们居住的大学城里司空见惯的是，所有骑自行车的人都闯红灯，向来如此。而且当涉及最复杂的人际交流——交通高峰期高速公路并线时，一辆无人驾驶汽车怎么用眼神警告另一个家伙别超车？又怎么做出道路交通通用语——那些粗鲁的手势？

随着更多企业将自动驾驶汽车投放到真实路面测试——得到了自由放任的特朗普政府的帮助，不久前，特朗普政府承诺不干涉——研发人员正试图找出未来汽车与行人、骑自行车的人、其他司机以及自己的乘客沟通的最好方式。

不久前，福特(Ford)宣布其正就无人驾驶汽车如何与人沟通进行道路试验。目标是弄清当人们认为一辆汽车是无人驾驶时会如何反应：他们相信它会在人行横道停下吗？他们怎么知道它是不是“看到”了他们？当前这代福特测试车必须有个人坐在驾驶座上，所以他们让驾驶员穿上一套汽车座椅的服装，让他看起来就像车内的椅套。

然后他们开上弗吉尼亚的公路，看看他们的车能和人类交谈得多好——福特的无人驾驶汽车使用安装在挡风玻璃上方的白色灯，显示它即将给别人让路或正在加速。福特公司和弗吉尼亚理工交通研究所(Virginia Tech Transportation Institute)的研究人员将利用人们的反应来帮助我们了解，将来当挥手、点头（和一些糟糕的动作）不再是道路用语时，自动驾驶汽车能够如何与人类交流。

但这样的汽车将如何与自己的乘客沟通呢？我怎么知道我坐的这辆车是不是看到了前面不远处的那棵树，或是那个被灌木丛遮住了一部分的停车标志？

自动驾驶汽车的研发人员正在努力让紧张的乘客们相信，他们的车知道怎么把车开得像他们一样好。科学家、安全监管机构和汽车企业告诉我们，自动驾驶汽车将会挽救成千上万人的生命；但美国主要汽车协会AAA的一项调查显示，四分之三的美国人仍然害怕乘坐自动驾驶汽车。人类对这种技术仍然放心不下：人人都知道去年特斯拉发生的致命事故，但很少有人了解，2016年美国还有大约40000人死于交通事故，且都与人类驾驶的车辆有关。

不久前我在位于密歇根州安阿伯(Ann Arbor)的MCity自动驾驶试验区乘坐了一辆无人驾驶汽车。那就像与我那两个十几岁的孩子一起开车一样：是一种我们双方都情愿避免的体验。我怀疑我那两个菜鸟孩子的直觉，我也怀疑我的机器人车的直觉。

“对于自动驾驶汽车来说，挑战不是来自技术层面，而是来自心理，”Lextant的克里斯•罗克维尔(Chris Rockwell)说，Lextant是一家专门研究消费者体验的公司。“汽车内部需要提供反馈，告诉乘客你看到的汽车也看到了，以此强调，一切尽在掌握。”这就是为什么一些自动驾驶汽车的研发人员正在考虑让他们的汽车告诉乘客它们看到前方有什么，以建立信任。但愿我能让我那两个孩子也这么做。

然而，当然，自动驾驶汽车能做很多人类力所不能及的事——如果配备了恰当的技术。例如，它们能侦测到转弯处。我乘坐的那辆机器人车就戏剧性地表现了这一点：由一个人驾驶着，这辆车转过了一个难以察觉的弯，那里有辆停着的车，我们的车在千钧一发之际打着滑停止了。自动驾驶汽车配有车辆对车辆通讯技术，会在还未看见对方车辆之前减速。毕竟，自动驾驶汽车也许可以预测未来。它们也不会疲劳驾驶、无聊驾驶或酒后驾驶。或许那比会揣摩人心还好。

译者/何黎

我最近一直在想一个问题：如果没有谷歌地图，我还能不能正常地生活？我想，如果我要将现在的智能手机换成只能打电话、发短信的“傻瓜”手机，谷歌地图可能是我唯一真正想念的一个应用了。

我为什么会想这个问题呢？ 因为每当我想读会儿书时，我最终拿起的却是手机。我说服自己说，我需要用谷歌搜索一些东西，一些重要的东西，可是30分钟后，我还在查看Facebook或推特(Twitter)，时间观念和目的性完全丢失。我曾经将手机关上，可随后再度开机。我也尝试过将所有花花绿绿的应用程序隐藏在一个个小文件夹中，但这并不奏效。为了做一些我不是有意识想做的事情，我不停地打断自己的思路。

发生这一切不是偶然的。为了让我们一刻都离不开我们的智能手机，开发人员的手段越来越肆无忌惮了。一些人凭借的是成瘾和行为心理学，但大多数人喜欢用“说服技术”这一术语。“说服技术”本身并不是一个新的想法——一位名叫B•J•福格(BJ Fogg)的学者自上世纪九十年代末以来就一直在斯坦福大学“说服技术实验室”( persuasive tech lab)讲授这一课程。但随着智能手机保有量大幅增长和社交媒体网站的出现，“说服技术”的应用更加广泛了。

一家名叫“多巴胺实验室”(Dopamine Labs)的公司——以大脑的奖励中心释放的化学物质多巴胺命名——为希望“留住用户”的科技企业提供此类服务。该公司的两位创始人曾经是神经科学家，后转行当程序员。该公司明确地谈到使用人工智能来修改应用程序，释放令人产生愉悦情绪的多巴胺“来给每位用户带来惊喜，并让其无法自拔”。如果这种说法还不够吓人的话，我们可以将其更通俗地解释为：机器人正试图改变你大脑中的化学成份，让你花更多时间做你不想做的事情。

不过，多巴胺实验室真是一家有趣的公司，因为它还提供“戒毒”服务 ——一个试图帮助用户重新获得自控力的应用程序。

该公司创始人拉姆齐•布朗(Ramsay Brown)对我说，他希望大家明白，“他们的想法和感受都被摆到桌面上，成为可以被控制和设计的东西”。他认为，应该对“说服技术”的使用进行更广泛的讨论。“我们认为，每个人都有权获得认知自由，并建立一种自己所期望的思维状态。”他说。

多巴胺实验室的一款应用——Space ——源于如下想法，即技术可以通过鼓励我们抵制智能手机的诱惑、更有效地利用我们上网的时间，来帮助我们改变使用技术的方式。

技术界试图帮助我们重新获得自控力，主要有两种方法。Space选择了“正念”法，即要求我们在加载应用前放慢呼吸几秒钟。 另一种方法就是冷火鸡法（指突然而彻底地戒断——译者注）——这种方法似乎很有吸引力，但会遇到明显的实际问题。

抵制易上瘾应用运动的代表人物是前谷歌“设计伦理学家”特里斯坦•哈里斯(Tristan Harris)。他认为，改变目前这一体系的力量不掌握在应用开发人员手上，而掌握在硬件提供商手中。早在2014年，哈里斯就发起了名叫一个“光阴不虚度”(Time Well Spent)组织，呼吁开发公司在应用开发过程中坚持设计伦理。当我就这个问题向他提问时，他使用了诸如“大脑黑客”(brain hacking)这样的词语—— 他的用词似乎有些极端，不过转念一想并不——毕竟有一家公司就叫多巴胺实验室。

哈里斯说，任何依赖广告收入的科技企业都在设法尽可能长时间把用户留在网上。这意味着应用程序是专门设计来钩住用户的。另一方面，苹果期望的是销售手机，他们的收入与客户在线时间的关联性不是那么强。哈里斯希望像苹果这样的公司可以利用他们的影响力来推动应用更符合设计伦理。

在我等待苹果来解决这个问题之际，我发现自己心心念念想买一部Light Phone，这款手机就像信用卡那么大，除拨打和接听电话外，没有其它功能。价格嘛，150美元？似乎有点贵。不过，Light Phone公司网站上的介绍很让人动心。

插图由克里斯托弗•德洛伦佐(Christopher De Lorenzo)提供

译者/何黎

《火魔战车》(Maximum Overdrive)作为有史以来最大烂片之一被载入影史。这部1986年的科幻恐怖喜剧片想象了这样一个世界：推土机、链锯和电吹风机等无生命的物体活了过来，并且开始屠杀人类。就连担任该片编剧和导演的畅销书作家斯蒂芬•金(Stephen King)都说该片是一部“愚蠢的电影”。

但在这部电影拍摄期间，酷似电影剧情的一幕在现实中悲剧性地上演，一台无线电控制的割草机闯入摄影棚，导致摄影导演重伤，一只眼睛失明。他将金和其他17人告上法庭，以不安全的工作方式为由，索赔1800万美元，最终双方达成了庭外和解。

从某些方面来说，这部电影的拍摄经历在一定程度上牵涉到了当下有关自动化、机器人和人工智能(AI)的热门辩论。虽然我们似乎对这类技术在遥远的未来可能给人类带来生存威胁感到恐慌，但我们有可能忽视了一个更加迫在眼前的问题：如何管理我们创造的机器？

谁应该为日益普及的机器人的行为承担道德、伦理和法律责任？厂商、程序员还是用户？从更长期来看，当机器人获得了更强的认知能力乃至有了意识，是否该由机器人自身来承担责任？

三个场景：出了这些问题会有什么结果？

1.当聊天机器人出现反常行为

问题

去年3月，微软(Microsoft)被迫从Twitter下线其AI聊天机器人Tay，此前Tay因为在线用户的恶作剧而在Twitter上发出种族主义、性别歧视和仇外言论。今年8月，两个中国聊天机器人也离经叛道，对用户提出的有关南中国海和共产党的问题给出了反爱国主义的回答。

结果

考虑到有关假新闻的争议，人们不确定是否应该禁止AI聊天机器人传播政治观点。一些专家主张，聊天机器人的所有者应该享有言论自由，只要他们为诽谤言论承担法律责任。

————

澳大利亚新南威尔士大学(University of New South Wales)从事AI研究的托比•沃尔什教授(Toby Walsh)在即将出版的新书《机器人之梦》(Android Dreams)中主张，开发思维机器就像人类过去尝试的种种冒险一样大胆和雄心勃勃。“就像哥白尼(Copernican)的日心说革命一样，这将从根本上改变我们在宇宙中看待自身的方式，”他写道。

***

无人机、无人驾驶汽车，以及医疗、教育和家用机器人的数量正在爆炸性增长，在我们的天空、街道和家中嗖嗖地游移，这使这类问题变得更加紧迫。尽管机器人革命有望改善人类的生活状况，但也有可能释放出颠覆性的经济力量。

华盛顿大学(University of Washington)的法学教授瑞恩•卡洛(Ryan Calo)表示，我们倾向于把机器人当做一种未来技术来讨论，却忽视了我们已经与它们共存几十年的事实。

“如果你在上世纪20年代、40年代、80年代乃至2017年设想未来，你都会想到机器人。但事实上，自上世纪50年代以后，机器人就存在于我们的社会中了，”他说。

在一篇标题为《美国法律中的机器人》(Robots in American Law)的论文中，卡洛研究了过去60年涉及机器人的九宗法律案件，发现大多数司法推理都建立在对科技贫乏（而且往往过时）的理解上。“机器人让法院面临独特的法律挑战，法官们还没有做好应对的准备，”他总结道。

这些案件大多围绕着一个问题：机器人能否被视为替代人的角色的主体？比如，在征收进口关税的问题上，它们是否应被视为是“有生命的”？它们能否在音乐厅以艺人的身份“表演”？无人机器人潜艇能否“占有”一艘沉船，从而争取打捞权？

卡洛发现，法官们有一种很强的思维模式，倾向于将机器人视为可编程的工具或者不能自己做出决定的机器。但随着机器拥有了具体形态（有时候是人形），呈现出机器人研究者所称的“突现行为”(emergent behaviour)，这种观点看起来日渐陈旧。

“突现是机器人以系统无法预测的方式行动的特质，”卡洛说，“这不是哲学意义上的自主。但这使没有肇事者的受害者成为可能。”

比如，一些高速交易算法正从金融市场的模式中“学习”，并以算法编制者无法预测、甚至可能无法理解的方式进行回应。研究人员正在研发这样的无人驾驶车辆，让它们能够对各种状况做出实时反应（希望如此），而不是通过预编程来预测每一种路况。

2.机器的发现

问题

1857年“中美洲号”(S.S. Central America)在大西洋沉没，船上载着从加利福尼亚州淘来的黄金。1987年，一艘无人潜艇帮助发现了这条海底沉船。该无人潜艇的运营者主张，根据海商法他们享有优先打捞权，他们的无人潜航器已经帮助他们实现“独家保管、控制和占有这条沉船。”

结果

法院裁定这些打捞者确实做到了“远程占有”，理由是他们找到了沉船位置，提供了实时影像，能够在现场操纵物体，并有意识地实施了控制。一位海事律师表示：“这几乎相当于法庭创造了一条新的法律依据，不用实际占有就可以证实为占有。”

————

最近，116名来自机器人和AI公司的创始人签署了一份请愿书，呼吁彻底禁止杀手机器人，即“致命自主武器系统”(Laws)。他们称使用这种武器系统越过了道德红线。杀死人类的只能是人类。

位于安大略的Clearpath Robotics的创始人瑞恩•加里皮(Ryan Gariepy)表示：“我们不应忽视一个事实，即与其他仍只出现在科幻小说中的潜在AI技术不同，自主武器系统就要开发出来了。发展致命自主武器系统是不明智、不道德的，应该在全世界被禁止。”

然而，在这个快速发展的世界中，想在人类与机器人之间画出清晰的界线是很困难的。最新的技术正在模糊人与物之间的界限，让机器人起到代理作用——即使算不上扮演代理人的角色。虽然今天的机器人还无法通过犯罪意图的法律测试，但以一个外行人对这一术语的感觉，它们似乎仍应对其行为“负责”。

***

机器人技术的第二大进展是让AI具有机器外观，有时还设计成人形，旨在与人类进行直接接触，这一进展让人与机器人的界线变得更加模糊了。

卡内基梅隆大学(Carnegie Mellon University)机器人研究所助理教授亨尼•阿德莫尼(Henny Admoni)表示，以往大多数机器人都独立于人类作业，主要在工业环境中从事一些枯燥、肮脏和危险的工作。但随着聊天机器人、无人机和家用机器人的到来，上述情况正在迅速改变。

她说：“过去10年里我们看到被设计为与人类直接接触的机器人的兴起。”

3.如果自动驾驶汽车出车祸，责任在谁？

问题

去年5月，一辆半自动特斯拉(Tesla)的司机在佛罗里达州丧生，原因是汽车的自动驾驶系统在光天化日之下没有发现一辆卡车。该事故提出了一个问题：就算人类能在紧急情况下收回控制权，允许部分自动的汽车在公共道路上行驶究竟是否安全？

结果

美国国家公路交通安全管理局(National Highway Traffic Safety Administration)进行了为期六个月的调查，结论是没有足够的技术故障证据证明应该大量召回该款车。不过该部门补充说特斯拉应该加强对司机关于特斯拉局限性的培训。NHTSA表示：“把它印在用户手册中，希望司机去阅读并遵守是不够的。”

————

这推动了一个快速发展的学术领域，即人机交互领域。大学和企业的机器人部门一直在聘请社会学家、人类学家、律师、哲学家和伦理学家，集思广益，研究此类交互功能应如何发展。

阿德莫尼说：“从法律和道德的角度来说，机器人是由人类编程并由人类设计的机器。但我们希望机器人能自主行动。我们确实想制造出能够处理新情况的机器人。在围绕机器人的辩论中，伦理是新近才增加的一个元素，因为机器人现在可以独立做事。”

总部位于香港的Hanson Robotics的创始人大卫•汉森(David Hanson)已经制造了一些极为引人注目的类人机器人。他最出名的作品是今年4月在吉米•法伦(Jimmy Fallon)主持的《今夜秀》(The Tonight Show)上亮相的索菲亚(Sophia)，一个逼真到让人毛骨悚然的机器人。

汉森表示得益于自然语言处理技术，AI系统在理解语言交流方面越来越好。但他认为机器人还应该学习非语言的交流方式，如面部表情和手势。我们还需要它们理解人类的行为、文化和价值观。而最好的方法就是让机器人像婴儿一样，通过与人类生活在一起、和人类互动来学习。

汉森表示通过开发“仿生智能算法”，并让它们借助高级的传感器吸收丰富的社会数据，我们可以创造出更智能、反应更快的机器人。而这会不可避免地让这项技术变得“真正的充满生气、自给自足、有突现行为、有感觉、有意识。”

他还说：“我想让机器人学会爱，懂得被爱的意义，而且不只是狭义上的爱。是的，我们想要机器人能理解友情和亲情，理解这种情感牵绊。”

“但我们也希望机器人拥有大爱，希腊语‘agape’那种爱，也就是更高层次的爱。我们还希望它们学会重视信息、社会关系、人性。”

汉森认为当机器开始理解其行为后果，并为其日常挑战创造解决方案时，深刻的转变就指日可待了。“当机器能够这样思考的时候，它们就能够开始做出具有道德想象力的行为。虽说只是推测，但我相信在我们有生之年这一幕会到来。”

如果这样的“道德机器”真能造出来，那么就会产生一大堆新的问题和挑战。机器人或其所有者是否对其数据拥有权利？可以认为机器人将拥有它们自己的合法身份吗？是否像汉森所说，它们甚至能争取权利？

***

在有关机器人的辩论中，汉森的观点只能算是边缘思想，在今天看来显得荒诞离奇，但我们有充分的理由开始关注这些问题。出于各种法律原因，所有美国公司和印度一些神圣的河流已被赋予人格地位。英国也为一种无脊椎动物——章鱼——提供了额外的法律保护，因为它具有较高的感觉形式。未来的机器人也会受到如此不同的对待吗？

伦敦帝国理工学院(Imperial College)认知机器人学教授、谷歌(Google)DeepMind高级研究员穆雷•沙纳汗(Murray Shanahan)表示，到了现在，我们应该对我们创造的一些机器负起责任，就像我们要对那些伟大的艺术作品负责。

他说：“我们有道德责任不能破坏《蒙娜丽莎》，因为它是一件非凡的艺术品，对史料、对人们寄托了强烈情感的任何物品也是如此。”

但他认为将智能系统人格化会有很大危险，如果这导致人们对基础技术的误读和曲解的话。制造商不应试图欺骗用户相信机器人的能力超乎它们所具备的。他说：“人们不应受蒙骗以为机器人比它们实际上更聪明。”

沙纳汗认为在确定我们对机器的责任方面，区分认知和意识至关重要。“目前我认为谈论机器人的权利是完全不合适的。我们在这方面没有任何道德责任。但我不是说这永远不合适。

“我同意机器人或许有一天会有意识。但它们首先必须要有玩耍、制造东西，以及从架子上的罐子里拿一片巧克力饼干的能力。”

目前几乎没有政治家对这一话题表现出兴趣，但学术界和企业家发起的草根运动正将这些问题推上议事日程。

在美国，卡洛等学者一直呼吁成立一个“联邦机器人委员会”，以研究关于智能机器应用的道德和法律问题。卡洛表示这个想法开始在国会——即使不是在特朗普政府——引起一些有限的兴趣。

今年欧洲议会成员通过了一项决议，呼吁欧盟委员会成立一个类似的由机器人与AI专家组成的机构，并制定全欧盟范围通用的规则。特别是议员们还敦促欧盟委员会重点关注安全和隐私问题，以及考虑赋予机器人一种“电子人格”。

一些有影响的美国企业家似乎也打算发起讨论。特斯拉和SpaceX背后的科技创业者埃隆•马斯克(Elon Musk)近日就呼吁要实施更广泛的监管，他也支持禁止致命自主武器系统。

他在推文上写道：“没有人喜欢受到监管，但一切会给公众带来危险的事物（汽车、飞机、食品、药物等）都是受到监管的。AI也应如此。”

译者/何黎

【编者按】人工智能热潮仍在延续，大众对人工智能的关注也顺势延伸到各个细分领域。其中，被广泛认为“最有可能被实现的人工智能”的自动驾驶技术引起了投资者们和业内人士的广泛兴趣。那么，中国的自动驾驶发展面临什么样的独特机遇或挑战？国外自动驾驶在立法、技术和市场方面对中国有什么样的启示？ FT中文网近期组织“聚焦自动驾驶”专题，编辑事宜，联系闫曼 man.yan@ftchinese.com

2012年夏天，某跨国车企欧洲总部研发中心负责自动驾驶的团队曾千里迢迢来到中国，和当时负责中国区法务部的笔者探讨自动驾驶的法律问题。团队负责人当时问了我两个问题：“自动驾驶在中国有没有法律障碍？自动驾驶在中国有没有可能先于欧洲实现？”当时，欧洲汽车企业还在为受维也纳公约限制无法开展路测而苦恼；美国内华达州则率先通过了自动驾驶汽车的路测法案；中国也已低调地开始了自动驾驶技术研究，国防科技大学已完成了从长沙到武汉的高速全程无人驾驶路测。

随着汽车自动驾驶技术的迅猛发展，在技术、产业、法律和政策的互动与碰撞中，自动驾驶对于立法的需求变得越来越迫切。而参考国外有关自动驾驶立法的发展历程，对中国的自动驾驶立法有很大的实践意义。

德国和美国：自动驾驶立法的先行者

对于自动驾驶立法而言，2017年的夏天注定是个不平凡的夏天。在过去的几个月里，国外自动驾驶立法取得了重大进展，美国和德国这两个“先行者”在自动驾驶立法上开始了新的较量。

德国在今年夏天的立法活动颇为活跃：一是修订了现有的道路交通法，二是出台了全球第一部自动驾驶道德准则。

2017年6月，德国联邦议院率先颁布了“道路交通法第八修正案”。该修正案规定，自动驾驶汽车应满足六个要求，比如在任何情况下驾驶员都可以手动取代或关闭自动驾驶系统并接管车辆；自动驾驶系统应可以识别出需要驾驶员亲自操控的情形，并在移交接管前向驾驶员做出足够的提示。

此外，该修正案还明确了使用自动驾驶系统时驾驶员的权利和义务。在自动驾驶系统接管状态下，驾驶员可以不对交通状况和车辆进行监控，但是驾驶员仍需时刻保持清醒戒备状态准备随时接管。在自动驾驶系统向驾驶员发出接管请求以及当驾驶员发现自动驾驶系统不能正常工作时，驾驶员应立刻接管车辆。由此可见，德国立法更侧重于对L3级别的自动驾驶系统进行规制。

对于自动驾驶导致的交通事故，该修正案提高了责任人的最高赔偿金额：造成人员伤亡的，最高赔偿额从500万欧元提高到1000万欧元；对于财产毁损的情形，最高赔偿金额从100万欧元提高到200万欧元。

除了道路交通法以外，2017年6月，德国公布了全球第一个针对自动驾驶的道德准则。

该道德准则在价值追求上确立了以下原则：道路安全优于出行便利；个人保护优于其他功利主义的考量；法律对技术的规制方式是在个人自由与他人自由及他人安全之间取得平衡；对人身权益的保护必须优先于对动物或财产权利的保护。该准则还要求，不得对于必须在两个人的生命之间做出选择的极端情况进行标准化设定或编程；法律责任和审判制度必须对责任主体从传统的驾驶员扩大到技术系统的制造商和设计者等这一变化做出有效调整；自动驾驶汽车的软件和技术必须被设计成已经排除了突然需要驾驶员接管的紧急情况的出现；在有效、可靠和安全的人机交互中，系统必须更适应人类的交流行为，而不是要人类提高适应它们的能力；驾驶系统需要政府许可和监督，公权力部门应确保公共道路上自动驾驶车辆的安全等等。另外，在探讨上述道德准则时，道德委员会颇有前瞻性的特别考量了L4和L5级别的高度和完全自动驾驶车辆所存在的技术决策风险。

这部准则为自动驾驶的技术发展以及立法监督提出了方向、划定了边界，对于自动驾驶技术真正落地和实现产业化具有里程碑意义。

相比德国，美国是最早在政策和立法上对自动驾驶持开放态度的国家。时至今日，美国已经有20余个州通过了自动驾驶的相关立法。针对各州立法遍地开花的情况，联邦政府开始着手统一规制，并先后出台和修订了相关车辆标准、政策和法案草案等。

2017年9月，美国众议院批准了自动驾驶法案（SELF DRIVE Act）。该法案草案旨在发挥联邦职能，通过鼓励自动驾驶汽车的测试和研发以确保车辆安全。

该法案共有13节，重点内容包括：明确了联邦和州在自动驾驶立法上的职能和分工；敦促美国国家公路交通安全管理局（NHTSA）在规定的时间内，制定自动驾驶汽车规则和安全计划；要求制造商部署网络安全计划并提交安全评估证书；成立自动驾驶汽车咨询委员会；要求制造商制定自动驾驶汽车隐私保护计划，等等。该自动驾驶法案目前仅通过了美国众议院的表决，但尚未成为正式的法律。

2016年9月，美国交通部出台了《联邦自动驾驶汽车政策指南》（FAVP）。该指南将自动驾驶汽车的等级从0级到5级进行定义，并强调安全性为第一准则，针对自动驾驶汽车的设计和研发提出了15项安全规范。

时隔一年， NHTSA又发布了最新的《联邦自动驾驶系统指南：安全愿景2.0》，强调自动驾驶的安全性和消费者教育。该指南将作为最新版本取代FAVP，以更灵活的方法来推进自动驾驶汽车安全技术的创新发展。

美国交通部调整了《联邦机动车辆安全标准》（ FMVSS），这是美国汽车技术法规的核心内容，主要包括主动安全、被动安全等5个版块。任何车辆或装备部件如果不符合FMVSS，则不得以销售为目的进行生产。

美、德两国自动驾驶立法异同

德国和美国的立法的相同之处在于，都确立了保障安全是发展自动驾驶的重要原则，并对未来的新情况、新规则保持开放态度。与此同时，两国的立法思路和框架也有所差别。

德国的立法要求驾驶员坐在座位上并准备随时接管车辆，这一要求更贴近L3级别的自动驾驶汽车。此外，德国立法直接触及了具体实体法律问题的解决，比如：自动驾驶模式下责任的划分、驾驶员的权利义务、自动驾驶引发交通事故时的赔偿金额等。尤为重要的是，德国公布了世界首部自动驾驶道德准则，该准则颇具前瞻性地考量了高度和完全自动驾驶车辆可能存在的技术决策风险，既而明确了各项利益和价值的优先性，这一里程碑式的举措确立了自动驾驶技术发展和立法监督的方向和边界，值得各国借鉴和学习。

与德国不同，美国既没有侧重于自动驾驶技术的某个层级，也没有在立法中直接触及责任划分等具体法律问题，而是采取了政策指南和联邦立法双管齐下的方式，力图尽早确立自动驾驶汽车的监管模式和安全标准。简而言之，美国的立法重在明确自动驾驶立法的“路线图”和“时间表”，基于“什么部门在什么时间应该完成什么工作”，规定了自动驾驶的主管部门，以及这些部门应该在什么时间出台哪些具体措施、制定哪些规则和修订哪些法律。基于这一立法，今后美国联邦各部门和汽车公司就可以各司其职、按部就班地推动自动驾驶技术和立法发展。

总而言之，自动驾驶复杂的多个技术层级为立法增添了巨大的难度，对此，美国和德国采用了不同的立法策略：德国的立法选择了L3级别的自动驾驶汽车作为突破点来进行重点规制，力图在保障安全的同时为自动驾驶汽车尽早实现量产化扫清法律障碍；而美国的立法则倾向于涵盖所有层级的自动驾驶汽车，虽然短期内无法解决诸多实体法律问题，但却更侧重于立法框架的建立，目的在于尽早出台自动驾驶汽车安全标准和部署对具体实体法律问题的立法探索工作。美德两国虽然路线有所不同，但对于监管自动驾驶这一新兴事物而言，却也是殊途同归。

其他国家的自动驾驶立法活动

依据修订前的《维也纳道路交通公约》（Vienna Convention for Road Traffic），无论是马还是汽车，驾驶员均需要时刻掌控着交通工具。这一条款直接导致欧洲汽车公司无法在欧洲本土开展自动驾驶汽车测试，也因此被视为自动驾驶部署研发的最大法律障碍。维也纳公约共有70余个缔约国，其中包括大部分欧洲国家和少部分美洲国家，但不包括中国、美国和日本。这也是为什么欧洲自动驾驶研发团队会在2012年来到北京探讨在中国开展自动驾驶路测的可能性。

时隔四年，联合国欧洲经济委员会（UNECE）认可了自动驾驶技术可以纠正人为失误，降低交通事故发生率的同时有助于发展环保节能的优势，并于2016年3月通过了维也纳公约的修订案。修订案允许车辆自动驾驶技术可以被应用于交通运输中，驾驶员可以将车辆的驾驶职责交给自动驾驶系统，但是车辆须全面符合联合国车辆管理条例以及驾驶员可以人工选择关闭自动驾驶系统。这为欧洲各国参与自动驾驶技术路测提供了便利，为自动驾驶技术的产业应用清除了立法障碍。

除了美国和德国以外，下文表格中所列其他国家也都大力支持自动驾驶的发展，并开启了在测试、标准和立法层面的探索。

有关自动驾驶在测试、标准和立法层面的探索

国家	现状
	有关自动驾驶在测试、标准和立法层面的探索
英国	英国交通部发布了《无人驾驶汽车测试运行规则》、《网联自动化车辆网络安全关键原则》；计划于今年开始在高速公路上测试。
澳大利亚	国家交通委员会牵头开展有关自动驾驶汽车安全治理的监管方案的探讨。
加拿大	允许路测，启动有关立法的论证。
法国	批准公路上进行自动驾驶汽车测试；成立跨部门联合小组，对现行法律进行检讨，着手对法律、安全标准等进行修订。
芬兰	修订现行道路交通规则；允许自动驾驶车辆在获得批准后在公共道路的特定区域进行测试；批准了无人驾驶公交车上路测试。
瑞典	现行法律允许高度自动化驾驶车辆的测试；修改车辆法规、驾驶执照规则及责任条例等；调整现行车辆标准及性能测试规定；为适应自动驾驶汽车而设置新的驾驶执照。
荷兰	着手对现行交通法规进行检讨；提议在公路上开展测试；开展对责任分配、驾驶技能要求、数据保护以及对基础设施影响等研究。
日本	允许路测；联合欧盟制定全球统一的自动驾驶汽车技术标准，并致力于督促美国也采用相同的标准和政策。
韩国	启动修订现行道路交通法规；为自动驾驶汽车划定试运行区域，开通专用试验道路。
新加坡	允许自动驾驶汽车在一定范围内进行测试；开展对无人驾驶出租车的试点。

对中国的立法启示

回顾世界各国自动驾驶立法之路，不难看出其经历了以下几个阶段：1. 形成智库，开展讨论和研究；2. 确立技术路线；3. 政策引导，投资支持；4. 开放路测，积累经验；5. 调整和出台有关车辆的安全标准；6. 开展立法活动，出台法律法规。走在世界各国前列的美国和德国在过去几年基本都在上述这六个方面深耕细作、持续探索。与此同时，世界各国也形成了不同阵营，开始抢占自动驾驶制定标准和规则的话语权，并力求在立法上赢得先机以促进自动驾驶技术的发展和与他国的较量。

相比较而言，我国在自动驾驶方面正处于早期探讨技术路线和形成政策支持的阶段，有关自动驾驶的国内立法探讨还没有正式开始。由于自动驾驶具有很高的技术门槛，因而立法方向上需要结合技术层面进行分析。同样在2017年的夏天，我国也首次开展了关于自动驾驶技术路线和标准框架的讨论，工业和信息化部和国家标准化管理委员会共同发布了《国家车联网产业体系建设指南（智能网联汽车）（2017年）》（征求意见稿），我国的自动驾驶技术选择了“智能化”加“网联化”的战略发展路径。这一技术路线与德国和美国有不同之处，也意味着中国在自动驾驶立法上将面对不同的问题和挑战，立法侧重点、方向和对具体法律问题的处理也将有所不同，笔者会在接下来的文章中做详细分析。

（本文仅代表作者本人观点，作者系北京市安理律师事务所高级法律顾问，中国商业法研究会理事，曾任著名跨国汽车公司高管并主持法务部工作，作者邮箱：supershan2005@hotmail.com；责编邮箱：man.yan@ftchinese.com)

世界的潮流正在发生变化。“硅谷朝圣”似乎不再是中国科技行业的必修课，越来越多的海外人士来到中国，观察和学习中国的科技流行趋势。与此同时，分散在全球的中国精英涌回国内已经成为大趋势。吸引海外精英的不仅是北京、上海这样的一线城市，二三线城市更成为新的目标地。就以杭州为例，蚂蚁金服等国际化平台正在吸引全球的精英加入，杭州也已经成为人才净流入最高的城市，大批从硅谷回国的华人工程师甚至推动了这座城市国际学校的扩张。

与人才涌入不同的是，技术和模式却在输出。来自中国的技术创新风潮正在引领者全球科技市场的变化。包括数字技术、移动支付、共享经济等等在中国孕育成熟的技术，正在随着中国经济的不断外溢，在世界更多的地方落地。不久前，来自“一带一路”沿线的20国青年还评选出了中国的“新四大发明”，分别是高铁、支付宝、共享单车和网购。越来越多的人开始注意到中国互联网企业对于全球科技趋势的引领作用。

全球著名自然语言处理和搜索专家吴军是中美科技行业的亲历者和见证者，他曾在谷歌和腾讯担任过高管，2014年他转型成为风险投资人。集合了硅谷的华人精英高管之后，吴军创办专注科技行业早期投资的丰元资本，积极投身到下一次科技浪潮中。吴军还是一位畅销书作家，他的《浪潮之巅》、《数学之美》等书在中国拥有广泛的读者。

吴军最近在接受FT中文网电话采访中指出，每一次技术浪潮会对原有的社会形态和经济结构产生重大影响。而今天，全球正处于第四次浪潮来袭之时，巨大的变革正在发生，错过前几次工业革命的中国终于有机会站在时代的起跑线上。中国的科技能否逆袭，引领这次全球变革浪潮，关键在于能否从现在开始加大对基础科技的研发投入，为未来商业应用层面的领先打好基础。

以下是我们的采访实录。

今天我们正在经历第四次浪潮

FT中文网：今天全球都处于巨变之中，尤其是人工智能等高科技领域。很多人都感觉，这些技术一旦突破，人类将迎来巨大的变化，你怎么看我们今天所处的时代？

吴军：如你所说，今天我们处于一个巨大变革的时代，这也是人类经历的第四次工业革命。与前几次的变革浪潮一样，这次也将会重塑今天的人类社会与经济组织结构，我们熟悉的一切都会被改变。这是人类发展的一个必然趋势。

如果从1776年第一次工业革命开始算起的话，那一年瓦特发明蒸汽机，美国也恰好是在那一年通过了《独立宣言》，正式建国。蒸汽机的发明对世界的影响，无需多言。第二次工业革命大约开始于1870年，美国和德国开始了第二次工业革命，也就是我们熟悉的电气时代。第三次工业革命是以1946年计算机问世为标准。从历史的脉络进程当中，你可以很清晰地看到，每隔几十年，当社会各项基础准备就绪，经济发展到一定阶段，就会迎来一次变革浪潮。这一点俄罗斯经济学家康德拉季耶夫很早就提出过，他认为经济周期的波动是50-60年。其实科技变革周期也差不多类似，所以从1946年到今天，按照历史规律来计算，我们又走到了一个新的周期，变革的浪潮正在到来。

FT中文网：前三次工业革命，我们都能找到标志性的发明或者核心技术，那么第四次浪潮到来的标志是什么呢？

吴军：每一次技术革命，我们都能找到核心的变革技术。比如第一次工业革命，是蒸汽机的发明带来的动力革命；第二次工业革命是电力推动的，带来了化工业、冶金业的发展，与此同时电话、电报等通讯工具的发明等等也助推了变革；第三次工业革命，技术代表肯定是计算机，当然还有原子能等等。所以总结以上三次的变革，能量和信息这两个领域技术的变化，就是引导三次变革的主线。今天我们也可以很清晰地看到，新能源和新材料基础上的信息变革则是引领下一次浪潮的主线。人工智能我们都谈得比较多，但是引发巨变的还是以新能源和新材料为依托的能力和信息的技术变革。

中国会引领这一次变革浪潮吗？

FT中文网：中国错过了过去三次变革，那么这一次大家的普遍感受是这一次轮到中国来引领这次浪潮。站在一个全球视角，你怎么看这种观点？

吴军：中国基本没赶上前三次变革浪潮，但是中国用三十年的时间来补课，三十年走完了人家二百年才走完的三次工业革命，这是中国很了不起的地方。我认为，中国已经把过去落下的课程补好了，现在跟其他人站在同一条起跑线上，未来谁能跑得更快，现在还不知道。

FT中文网：但是我们也的确看到随着中国经济的外溢，我们的创新产品和商业模式，正在被越来越多的人学习模仿，甚至直接就被复制到海外去了，我们关注到新四大发明的提法，高铁、支付宝等正作为生活方式输出到全球。你怎么看这个现象？

吴军：技术和资本一样，不会被政府和某些人的意志和好恶所左右，哪里有机会，它就会流向哪里。中国高科技领域，有很多地方做得不错，尤其是应用层面，很多中国企业都做得很好，比如像阿里巴巴、科大讯飞等等，它们都是世界级的水平，自然会不断外溢，寻找更大的机会和市场。所以，随着中国高科技行业的日益发展，会有更多的人来中国取经，也有更多的中国模式被复制到海外去。

FT中文网：那有没有可能，中国模式也会被复制到硅谷去？比如中国的移动支付、共享经济等等，也会成为硅谷的新商业模式？

吴军：移动支付在中国的确做得非常完善，而且很领先。但是对于像美国这样的金融体系非常完善的经济体来说，要想让移动支付像中国那么流行，难度很大。这是客观原因造成的。但是中国因为传统金融体系还不够普惠，老百姓享受不到金融服务。所以蚂蚁金服的一系列金融服务，就非常适合在中国以及发展中国家进行推广，很大程度上弥补了传统金融体系的缺陷，让老百姓也能享受到普惠金融的好处，这一点意义重大。还有一点，蚂蚁金服通过大数据等一系列高科技手段，真正将信用诈骗降低到了几乎为零的地步。这也是原本金融机构和政府应该做的事情，结果蚂蚁金服把它解决了。

回到你的问题，中国的创新科技会不会反哺硅谷？今天，我们在应用层面的科技其实是二十年前的技术，也就是二十年前发表论文，论证过的技术，到今天才进入商业应用层面。也就是说，如果中国的高科技企业想要逆袭硅谷，那么今天就要开始发表重要的研究论文，然后差不多20年后才有可能。也就意味着，今天中国的高校、企业就要做大规模的投入，要有这样长远的投入才能行。

新一轮技术浪潮如何普惠每个人？

FT中文网：刚才你提到中国的金融创新，普惠了中国老百姓，但是你之前也谈到，技术变革并不能让普通人获利，甚至会拉大贫富差距，这又怎么理解？

吴军：每一次技术革命，就是一次洗牌的过程，获益的是最先掌握这项技术的人。所以每次技术进步都造就了一小批的暴发户。而今天，技术进步的程度和速度都大大加快，形成垄断的时间就更短了。硅谷的一个不起眼的车库里，就可以诞生风靡世界的产品。互联网和数字传播技术大大提升了致富的速度。那么未来就更不一样了，制造业也会出现颠覆。人工智能技术的日趋成熟，以后资本家再想发财致富，他都可以不用再雇佣工人，购买一批机器人就可以多快好省地把活干完。

所以，当掌握技术的那一小批人借助浪潮的力量实现财富积累的时候，其实就是加速了全世界贫富分化，这个分化需要通过一两代人来消化。

FT中文网：那么作为普通人，我们也不能坐等被淘汰。有没有什么办法，让我们也能够参与进来？

吴军：新的技术和变革会引发社会职业发生重大转变，过去在一个单位工作到退休，这种现象以后会很少见了。更多的人选择自由职业，借助新的传播技术，实现自己价值的增长。在美国，有一个越南的网红，在Youtube上教人家化妆，很受欢迎，结果很多化妆品大牌都来找她合作。这要是在互联网并不发达的年度，她很难取得今天的成绩。但是残酷的事情是，这件事情只能做第一，不能做第二。第二个跟她做同样事情的人，就很难生存下来。虽然说行行出状元，但是这个迅速变化的时代，只有状元才能生存下来。所以就必须充分发掘自己的独特价值，与全新的技术变革结合起来，才能拥抱浪潮，而不是被浪潮拍在沙滩上。

未来值得关注和投资的领域

FT中文网：你转型做投资人后，在急速变化的浪潮来临期，你如何挑选哪些在未来有发展潜力的企业和项目？

吴军：我最经常使用的判断标准就是：有了这家公司和没有这家公司，世界会不会不一样。比方说，特斯拉的出现，带来了电动汽车的全球高速发展，这个世界的格局因此不同。还有，有了阿里巴巴，中国人的生活因此就不一样了。这些都是非常重要的参考。但是说来也很残酷，硅谷每年有超过4000家公司获得融资，但是能生存下来的企业也就20%左右，最后能上市的也就差不多1%，也就是40家左右。毫不夸张的说就是百里挑一。中国和美国都一样。

（本文仅代表作者观点。责任编辑邮箱：tao.feng@ftchinese.com）

在伦敦金融城一家领先的律所工作了5年多之后，丹尼尔•范宾斯贝延(Daniel van Binsbergen)（见题图）辞去了初级律师的工作，在初生的“法律科技”行业创办了法律服务数字初创公司Lexoo。

范宾斯贝延称，他只是众多这样做的人中的一员。“与15年前相比，离开律所去创业的律师数量猛增，”他估计。很多人放弃了传统律所，去追求创业机会或加入企业的内部团队，因为自动化处理常规企业法律业务这种曾经不可思议的想法如今变成了现实。

往往归合伙人所有的律师事务所在采用科技方面一向缓慢。它们传统的盈利模式涉及让很多低收入的法律工作者做大多数常规工作，而少数拥有股份的合伙人则每年赚取约100万英镑。

但自从2008年金融危机以来，随着企业削减法律服务开支、技术取代了过去由低级别律师在职业生涯初期所做的重复性工作，律所的商业模式开始承压。

“2020年代将是颠覆的10年，”理查德•萨斯坎德 (Richard Susskind)教授表示。他与人合著了《职业的未来：技术将如何改变人类专家的工作》(The Future of the Professions: How Technology Will Transform the Work of Human Experts)一书。他认为，企业高管们对法律科技的需求将日益增长，他们控制着企业法律预算，通过利用技术提供的成本节约来削减成本。

现年32岁的范宾斯贝延正在迎接这一改变。他天生的创业倾向意味着他就是“在学校里卖糖果的那类人”。Lexoo并不是用自动化完成法律工作，但它确实是通过利用数据和算法，将有经验的自雇律师的价格与向中等企业提供的法律服务匹配起来，取代传统律所。拥有适当专长的初级律师会对某项法律业务提出固定报价。

而律所也在逐渐引入科技。例如，在英国律所Berwin Leighton Paisner(BLP)，员工在特定的产权纠纷案件上使用人工智能(AI)系统。该系统由法律科技初创企业Ravn开发，从英国土地注册局(UK Land Registry)出具的官方所有权契据中提取数据。该软件可以核查细节，因此可以在房地产案子中准确地提供关于产权所有人的法律提示。

过去，BLP会仓促组建一支由初级律师和律师助理组成的小团队，然后让他们在一间屋子里从数百页文件中人工提取数据——这一过程可能会耗费数周。Ravn系统在几分钟内就可以核查和提取出相同的信息。

“我们让AI低成本、高效和准确地做了一堆工作——这非常重要，”BLP地产纠纷业务的联席主管兼合伙人温迪•米勒(Wendy Miller)表示，“这可以让律师去做有意思的事。”

Ravn最初由四个朋友在伦敦一间客厅内创立，他们四人都不是律师。该公司在肖迪奇(Shoreditch)的办公室里坐满了用笔记本工作、千禧一代的工程师。当然，这里有乒乓球桌，休闲区里有酒桌和掷镖靶。

Ravn的技术搜索那些基本上杂乱无章的数据，以检索和总结出特定信息。该公司的共同创始人扬•范赫克(Jan Van Hoecke)称，法律行业是其完美客户，因为它是“文件密集型——而且查阅文件的人力成本非常高”。

跨国律所年利达(Linklaters)使用的是Verifi——该程序筛查14家英国和欧洲监管登记机构的数据，为银行核实客户姓名。它可以在数小时内处理成千上万的人名。据该律所表示，初级律师核查一个人名平均需要花费12分钟。

另一家伦敦律所司利达(Slaughter and May)使用的是Luminance的AI技术。Luminance是由Autonomy的创始人迈克•林奇(Mike Lynch)投资的初创企业，帮助并购律师研究他们在分析目标公司时必须查阅的数千份文件。

例如，Luminance的机器学习技术意味着，律师们只需要敲击一次键盘就可以看到全球销售合同的条款中所有适用的法律，并识别出与规范不符的法律措辞。司利达的合伙人萨利•沃凯斯(Sally Wokes)称，Luminance可以为尽职调查节省一半时间。她称，“它省去了人们认为最无趣的工作，却并没有省去客户重视的结果分析以及对交易重要性和相关细节的审查。”

这些律所表示，目前为止技术并不意味着失业。但萨斯坎德教授认为，裁员潮终将到来——律所目前仍只是在试验AI，而没有在办公室内推行AI。

德勤(Deloitte) 2016年公布的一项报告预测，未来20年法律行业可能将有约11.4万个岗位被自动化替代。技术已经造成该行业约3.1万份工作流失。该报告预测，未来20年另有39%的岗位是可能被裁员的“高危”岗位。

与此同时，技术继续推进，改变着古老的法院世界。在美国，Lexis Nexis于2015年收购的初创企业Lex Machina，处理有关法院裁决的数据以分析诉讼案件的类型并研究过去的成功，代替了通常由新晋获得资格的律师完成的工作。在英国，监督民事法庭的民事司法委员会(Civil Justice Council)的建议包括，为消费者开设网络法庭来处理低额索赔。

但有一些法律岗位是不会被技术取代的。

“诉讼中，我可以看到AI的进步可能会改进披露和某些文件准备中的搜索过程，”商业律师菲利普•马歇尔(Philip Marshall)称，“但在需要判断的地方——比如书面辩护——我认为AI无法发挥太大作用。人对于法庭上可能出现的情况的处理和知识是非常珍贵的。”

目前为止，AI缺乏人类律师的创造性、狡黠和同理心。在美国，一些律所在不安排律师审核的情况下利用自动化软件来发出大量追债通知，这受到了法院的批评，因为证据和细节都没有得到恰当证实。

但投资者嗅到了法律科技方面的商机。据数据情报平台CB Insights表示，去年达成了67笔交易，共向法律科技初创企业投资1.55亿美元。

眼下，法律服务提供方对技术颠覆感到高兴。律所老板们表示，在初级律师工作中引入AI，使得他们可以做更有意思的工作。

“根据我们的老方法……员工会花大量时间提取数据，而且总会出现人为失误，”BLP的米勒表示。

但萨斯坎德教授警告称，法律服务中真正的技术颠覆可能需要一代人的时间——直到主要律所现在这批拥有股权的合伙人退休。“你很难说服一屋子的百万富翁他们的商业模式错了，”他表示。

译者/马柯斯