美国前防长：为在这一领域击败中国 美需要新的计划

[文/美国《连线》杂志总编辑尼古拉斯·汤普森]

2021年1月13日，我对前国防部长阿什顿·卡特（Ashton Carter）举办了一次视频采访，他今朝在哈佛大学肯尼迪学院贝尔弗科学与国际事务中心（the Belfer Center for Science and International Affairs at the Harvard Kennedy School）接受主任。这次采访是《连线》杂志“2021美国消费电子展”（CES）系列访谈的一部门，筹谋这一系列访谈的目标在于为各人先容从医学、无人驾驶到国防科技等对将来趋势有重大影响的技能规模的成长环境。我所问的问题有些是从观众们及时提出的诸多问题中选出的。为了便于读者领略，本文所泛起的采访稿已颠末编辑。

美国《连线》（Wired）杂志2021年1月17日刊发了该杂志总编辑尼古拉斯·汤普森对哈佛大学肯尼迪学院贝尔弗科学与国际事务中心主任、美国前国防部长阿什顿·卡特的采访记录：《为了在人工智能规模击败中国，美国需要拟定新的打算》

尼古拉斯·汤普森（总编辑）：您在当局部分和私营公司积聚了35年不凡的事情履历，作为一位在共和党当局和民主党当局都事情过的高级官员，您老是很清晰地指出我们这个时代最要害的问题，您不单为此提出了极具伶俐的办理方案并且还向各人先容了本身成熟的思考进程。

在接受国防部恒久间，您曾经很是明智地划定：在做出任何与击毙仇人有关的决按时都必需有人参加个中（in every kill decision，a human would have to be involved）。因此，对付一小我私家工智能兵器系统来说，它是没有权限向无人机下达进攻指令的。不外在这方面，我尚有一个疑问，防止性兵器系统是否可以由人工智能来节制呢？也就是说，将来是否大概呈现一种可以或许比人更准确地识别来袭导弹、更精准地举办对准响应、更快速地下达发射呼吁的反导系统呢？进攻性兵器必需由人来操纵，而在举办防止时，是否也必需由人来操纵呢？

阿什顿·卡特：从道德角度来说，防止比打击时的记挂更少，这是毫无疑问的。顺便提一下，尼古拉斯，你适才说“由人来操纵”，我认为这并不切合事实。这是绝对不行能的，并且很早以前人就已经不在兵器系统的决定环内里了（it‘s not literally possible， and hasn’t been for quite some time， to have a human in the decision loop）。你的意思可能说我们实际上在谈论的问题是：我们该如何确保人工智能技能在应用时可以或许受到道德判定的过问。可能换一种说法：假如人工智能把问题搞砸了，你该如作甚本身辩解呢？当你站在法庭上，站在股东眼前，站在记者眼前，你该如何表明“人工智能把工作搞砸不该被视为人类的一种犯法”呢？这是一个很是实际的问题。

假如你是一个回收了人工智能技能的告白商，那虽然问题不大。一个从不买对象的人大概收到了你推送的告白，可能一个常常购物的人没有收到你的告白，这些都不是很严重的问题。但是在涉及国度安详时，在军事、法令可能医疗规模，人工智能犯下错误就会造成很严重的效果。

在军事规模，相较于防止，打击行为所担负的责任越发重大。譬喻，发射核兵器的决定就是严重依赖人类意志的，发射核兵器的呼吁必需由美利坚合众国总统亲自下达。我曾接受国防部长，可是我本人和我所有的部下都没有按下核按钮的权力。我们绕过总统自行抉择利用核兵器的大概性是不存在的，我们必需得到总统的核武暗码才气发射。并且我本身也有一组核武暗码以证明我就是国防部长本人，究竟发射核兵器是最高层级的军事行为。

虽然，也有层级不是那么高的军事行为，好比拦截来袭导弹。假如反导系统犯了错误，它在美国没有受到进攻时向空中发射了一颗导弹，这颗导弹在空中爆炸了，导弹很贵，损失了许多钱，军方会出丑，可问题不大，究竟没有死人。总统把实施这一军事行为的权力给了我，而我把这个权力又给了美国北方司令部的洛里·罗宾逊（Lori Robinson）将军。她虽然也可以把这个权力再下放给更低层级的军官，因为这种军事行为没有发射核兵器那么事关重大。

另外，在发射核武和反导这两者之间尚有一个居中的层级，好比击落民航客机，这也是一个效果很是严重的军事行为。不外总统把这一权力下放给了国防部长，我在任期间天天都是负担这一责任的。你也许不知道，此类事件曾多次产生。有时候是民航客机偏离了航线，有时候是无线电应答出了问题，有时候甚至一架飞机直接冲着国会大厦飞过来，有时候悲剧是难以制止的。如何应对，还要看详细环境。

我想我们本日谈论的问题是观众们日常在利用大数据和人工智能时城市碰着的，那就是——我们该如何让技能行为也切合伦理道德尺度？向人们举办说教是意义不大的，各人需要很实际的发起。所以我但愿把这个问题举办简化，也就是说：我们该怎么做才气让技能行为切合伦理道德尺度？我要讲的是详细的做法而不是原因，因为我们每小我私家都想做一个有道德的人。我们必需做一个有道德的人，不然我们的事业就会失败，我们的名望就会丧失。对付任何一个有本心的人来说，做不道德的事是会令其心田瓦解的。

尼古拉斯·汤普森（总编辑）：是的，我们应该好好接头一下您说的问题，不外首先我们照旧先谈一谈您适才提到的击落民航客机的话题。当一架飞机向白宫或五角大楼飞去的时候，您作为国防部长会收到关于飞机时速、偏向等信息的陈诉。不外在将来，自动化的防空系统大概会比此刻越发高效，它可以追踪每一架飞机，对其信号举办阐明以判定该飞机是否应被视为可怕威胁。您认为将来有一天是否会呈现一种事情效率极高、极可信赖且事情道理可被人类领略的人工智能系统可以或许在无需高级军官授权的环境下自动执行击落飞机的任务呢？

阿什顿·卡特：我但愿这一天最好不要到来。接受国防部长时，我的事情日程表是排得满满的。要知道，我在夜里12点还没有睡。保密电话就在我旁边，联邦航空局、联邦观测局和中央情报局都有人在电话线的那一边待命，部队的批示官们也在待命，各人的神经都是紧绷的。有时候留给我们采纳动作的时间只有几分钟。几分钟时间照旧有的，并不是几个毫秒那么危急。

不外也有别的一种环境，就是必需对大势作出极为快速的回响，快到不容人类参与的水平。假如大势要求我们作出如此快速的回响，我们又该如何确保道德因素可以或许参加个中呢？谜底就要在算法、数据集、兵器系统设计进程以及设计尺度中去寻找了，并且要确保最终拿出的兵器系统在道德层面是站得住脚的。我们无法参加兵器系统的阐明决定，不外我们必需确保系统所采纳的动作在道德上是站得住脚的。它未必完美，但必需在道德层面浮现出其合法性。

该奈何做到这一点呢？这就要靠算法了。呆板进修算法是如何实现那些设计意图的呢？这个问题是不太容易搞大白的。你需要把那些设计方针举办解析，你需要让设计团队认识到算法须满意必然的设计尺度，不然最终出产出来的兵器系统是无法投入实际利用的。设计团队要很严格地对数据集举办审查。数据集并不是越大越好，质量始终是第一位的。待一切都完成之后，你需要从新到尾举办查抄，整个事情流程并非是全自动的，个中有些环节会涉及人工，而只要是人就会出错。在整个事情进程中，你要有一套设计协议和测试协议。航行器的航行软件设计就是一个较量相似的例子。波音737MAX机型搞砸了，固然不属于人工智能系统，但这个机型的航行软件设计也长短常巨大的。按照设计，该软件在飞机航行时将发挥极为重要的浸染，但软件设计团队照旧把这个事情搞砸了。他们是怎么搞砸的？该如何举办正确的设计？最典范的步伐就是在设计团队A之外还要组建一个与之有竞争干系的设计团队B，另外还要有专门的审查团队对设计团队的事情成就举办全面的测试。

采纳这些法子并不能确保必然不出问题，不外它会让人工智能在应用时满意道德尺度。我们至少需要做到一点，那就是即便人工智能会出错，我们也要确保本身在道德层面是无懈可击的。这一点很是重要。作为美国的国防部长，我必需让本身的行为切合道德尺度。为了掩护美国公众的安详，有时我们会利用很暴力的手段，但暴力的利用也要切合道德尺度。就人工智能兵器来说，假如你无法在兵器实际运行时做到这一点，那么你就要在设计时把它思量进去。

无论如何，我们不能对记者说出这样的话：“昨晚有人被炸死了，是误炸，是自动化的兵器系统举办的误炸；我此刻还无法汇报你详细原因，不外简直不是人的操纵，而是呆板举办的误炸”。假如呈现这样的环境，我这个国防部长会被人们钉在十字架上的。实际上，从技能角度来说，制止呈现这样的环境照旧可以操纵的。你在算法、数据集、兵器系统设计进程这几个方面把好关，这样出了问题时你就能在法官眼前、在公家眼前、在记者眼前拿出说得已往的来由。其实这种环境很是普遍，天天都在产生。假如车祸中死了人，闯祸者就会对法官说：“产生这样的车祸很是不幸，我并没有酒驾，我也没有超速，可工作照旧产生了”。只要是呆板就会产生妨碍，我们对这一点也都能接管，只有道德层面的错误是我们不能接管的。

尼古拉斯·汤普森（总编辑）：假如我没领略错的话，您的意思是，人工智能和呆板进修技能将来在软件设计进程中是极为重要的；这些技能会更多地在防止性而非打击性兵器系统中得到应用；这些技能在疆场快速决定时极为要害；作为该技能的基本，经人类研究得出的算法应该是可领略的，并且从法令角度来说也应该是可表明的；另外，作为该技能基本的数据集也应该是颠末仔细审查并值得信任的。您或许是这样一个意思对吗？

阿什顿·卡特：是的。一个优秀的工程师在这个问题上会说，“不要只是空谈道德原则，我们应该用技能把它加以落实”。你的上述说法很言简意赅。

尼古拉斯·汤普森（总编辑）：下面我们聊一个更大的话题。您曾经指出，假如美国无所作为的话，那些专制国度就会通过人工智能技能重塑我们这个世界的诸多法则。您认为在将来几年里美国在人工智能政策方面有哪些很大、很危险的疏漏需要补充呢？

阿什顿·卡特：曾有人问我，“互联网会破裂吗？”其实中国已经做出了选择，中国已经果真宣称他们要独立自主，他们要活在由本身拟定法则的体系里，不外这种做法并不切合我们美国的代价观。我们不会去改变他们，但我们也无需改变本身的代价观。所以，其实没什么可争的。就像适才我们谈论的话题，我们干我们的。不外除了美中两国，这个世界上尚有许多几何其他国度。要知道，仅中国一个国度就相当于半个亚洲。假如亚洲的另一半以及欧洲国度等世界各京城能留在我们这个尊重法治的体系里，那么这个别系里的公司就可以或许继承获利，他们的条约就能获得执行，人员的自由活动、信息的自由流传、技能进步和社汇合理等迩来受到威胁的代价观就能得到有力维护。我们的体系仍然可以活着界上发挥模范的浸染，世界各国仍然可以在我们的技能生态体系里成长。

不外，面临中国时我们照旧要有一个现实的立场。中国和俄罗斯差异。俄罗斯无论人口照旧经济都在走下坡路，它的影响力一直在衰落，假如俄罗斯没有在我们的选举中拼命搅局的话，这个国度在美国人眼里不会有什么存在感。一个没有实力的搅局者对我们来说是危险的，因为除了捣乱，它没有本领做此外工作。很显然，俄罗斯之所以具备捣乱的本领是因为它是个核大国，不外我们这里谈的是网络。俄罗斯在科技规模无法成为独立的一极。令人遗憾的是，中国却有这个实力。

我已经跟中国人打了30年交道，我曾一度但愿他们能变得跟我们一样，我们美国人都曾有过这个等候。其实，好久以前我对中国人就不抱什么但愿了。他们不会走我们的阶梯。假如你读过中国的一些文件，你会发明他们要成立属于本身的一套体系。他们是共产党国度，他们要技能为他们的理念处事。这种想法与我们的体系是不兼容的，所以我们需要与他们的体系展开竞争。

不外，这并不料味着我们要割断与中国的商业干系。我但愿我们能搞出一个双轨制，在某些规模里我们可以跟中国人继承经商，不外在另一些规模里我们分属差异的技能生态系统。我认为美国比已往要强大，我们的体系比中国的要好，所以我没什么可忧虑的。固然这样一种将来并不十分抱负，可这就是我们要面临的现实。中国人已经做了他们的抉择。

尼古拉斯·汤普森（总编辑）：今朝有很多人主张一种概念，并且这种概念已经得到了许多支持，他们认为美国需要改变计策。我们今朝的做法是与中国脱钩，我们要捣毁华为的出产线。而他们认为美国应该向中国伸出橄榄枝，他们认为两国应该就人工智能技能的成长配合拟定尺度、分享数据集，两国应该构建一种越发相助合作的干系。假如我没有领略错的话，你是阻挡这种概念的，你认为这不外是一种很优美的设想，没有实际意义。我说的对吗？

阿什顿·卡特：是的，你说的根基正确。能相助的时候我们虽然照旧要相助；在对我们本身有利的时候，我们虽然照旧愿意跟中国人经商。不外中国已经抉择要走本身的路。美国在壮盛时期的代价观与欧洲启蒙时期的代价观是一致的，虽然最近几周产生的工作说明我们间隔壮盛时期照旧有差距的。人们在启蒙举动中曾高举“人的尊严”这一旌旗，而此刻我们会用“公共的尊严”这一说法。中国有本身的政治哲学，他们的政治哲学切合他们中国人的代价观。假如你是中国人的话，接管那套政治哲学没有问题，不外那套政治哲学对我们是不合用的。

对付那些主张与中国相助的人，我的回应是，能相助的时候我们虽然会相助。不外我要指出一点，假如他们但愿通过相助来改变中国，在我看来，汗青并不会站在他们一边，他们的想法照旧有些幼稚了。不外美国和中国并不会开启第三次世界大战，两国甚至也不会开启暗斗。与暗斗时代的脚本差异，我们本日要写一套新的脚本。许多人都在问美中两国事否会陷入暗斗，我经验过暗斗，与本日的大势对比，暗斗照旧要简朴一些。我们在暗斗中的敌手是前苏联——一个共产主义独裁政权，我们只是与它举办道德斗争，美苏之间没有什么商业勾当。其时美国的对苏政策就仿佛把一层防水膜严严实实地裹在苏联身上，什么也穿不透。甚至百事可乐在苏联上市其时也被视为一个很重大的事件。

可如今美中干系却差异，我们是但愿与中国举办商业的。所以我们需要一套新的脚本，这套脚本有浮现防止色彩的一面，好比说出口管束，尚有你适才提到的我们对华为采纳的法子，对中资在美国公司所有权方面的限制以及反特工法子等等诸如此类。不外这套新脚本主要照旧应该浮现一种主动打击的色彩——美国要成为一个优秀的国度，我们要变得更好，我们要在人工智能规模大力大举投资，我们要在人工智能规模引领世界，我们要跟其他国度一起面向将来构建一个配合的技能体系，在这样一个技能体系内里，科技成长迅速，但其成长偏向应该是有利于维护我们的代价观的。

我们需要一套与暗斗时期完全差异的脚本，不外在已往四年里我们并没有拿出这样的脚本。我们实验了各类应对之策，我们对中国输美商品加征了关税，采纳了很多雷同的自保法子。不外我以为这些做法照旧太纰漏了。美国应该拿出一套更简捷、更颠末深思熟虑的对华政策。我相信拜登新当局会在这方面有所作为。新当局里的官员我都很熟悉，我们很早以前就认识了，他们都是各规模的资深人士，个中虽然也包罗科技规模。我们需要协助他们把这个新的脚本编写出来，我相信把这件事做好是完全没问题的。

我但愿在这套新的脚本里我们能越发重视主动打击的一面。“主动打击”不是说要去攻打中国，而是说要晋升我们本身的实力，我们不能老是想着要减弱敌手，也不能老是想着如何自保，而是应该想一想该如何让美国变得更好。这才是新脚本中最要害的处所。

尼古拉斯·汤普森（总编辑）：我但愿有人，也许是此刻在当局里任职的人，能像当年乔治·凯南那样再写一份“长电报”或所谓的“X文稿”（1947年7月，时任美国驻苏联代劳乔治·凯南署名“X先生”在《交际事务》杂志以《苏联行为的来源》为题果真颁发了1946年2月撰写的“长电报”的内容，文章明晰提出“美国应该对苏联的扩张倾向举办恒久、耐性、刚强、警醒的截止”——调查者网注），为我们阐发一套适该当前环境的新版对华截止计谋。

阿什顿·卡特：当局里并不缺少有此本领的人，不外他们需要科技行业的协助。我一直主张的一个很重要的概念就是，我们应该在科技行业和当局之间搭建桥梁。其实我认为我本身饰演的就是这样一种脚色，我曾是个物理学家，我是个科技迷。虽然，我也很清楚搭建这样一座桥梁并不容易，不外为了塑造一个我们各人都但愿糊口于个中的世界，做到这一点尤为要害。

尼古拉斯·汤普森（总编辑）：下面我们选几个观众提出的问题。你以为国防部内部有几多人可以或许意识到国防部在科技公司眼中其实是一个挑剔的小客户并且国防部并不在他们的顶级客户之列？虽然，就我所知，你一直在很尽力地改变国防部的这一形象。

阿什顿·卡特：我最开始在卡斯帕·温伯格（Caspar Weinberger，1981-1987期间接受美国国防部长，人称“暗斗军人”；他在任期间认真实施2万亿美元的军事扩张打算，参加敦促了美国在僻静时期最大局限的兵力晋升——调查者网注）手下事情，当时候“星球大战”打算影响庞大。其时全球最重大的科技进步都是在美国呈现的，之所以如此是因为美国当局发挥了重要的敦促浸染，互联网、GPS等都是当时的成就。不外此刻环境差异了，我对近况虽然是很相识的。国防部今朝在科技规模饰演重要脚色，我们在研发方面的投入比所有大型科技公司的总和还要多。不外你说得对，国防部在分包商眼中相对来说只是个令其感想贫苦的小客户。我们的采购流程十分繁琐，这对我们是倒霉的。许多公司都说，“跟五角大楼相助让人头疼，实在划不来”。因此对付国防部的率领们来说，他们应该尽己所能增加本身对科技公司的吸引力。手段之一是对科技研发举办投资，国防部要对拥有遍及应用前景的最新科技的研发举办扶助；手段之二就是国防部要做新技能的尝鲜者，新技能在方才推出时价值都是较量高的，但国防部照旧应该遭受谁人价值，因为他们必需做好本身的分内事。这样做就能对美国的科技财富起到掩护浸染。所以说，国防部照旧可以有所作为的，但国防部不能把本身关闭起来，它需要融入到大的军事家产生态系统中去。国防部要谦虚地认识到本身已经不再像已往那样主导一切了。我是亲身经验了这一变革进程的，当前的环境已经与我方才开始事情时完全差异了。

尼古拉斯·汤普森（总编辑）：我们再选一个有代价的问题。最近美国当局的系统几回受到黑客入侵，您认为我们该怎么做才气让我们的人工智能兵器系统只管少地受到外军滋扰呢？您在这方面有没有一个大的框架性的想法？

阿什顿·卡特：其实我们的兵器系统与普通网络之间并没有那么大的差别，我们为兵器系统所采纳的安详法子与一般意义上的网络安详法子是一样的。总结起来就是“安详上网，别出错误”。大大都问题都是由粗心大意引起的，SolarWinds事件也是如此。好比，点击附件链接就大概激发问题，很多重大网络安详变乱都是这样产生的。

别的就涉及技能了，在这方面我们也有待增强。据我所知许多几何公司都想本身做公司的网络打点，我此前在国防部事情的时候，国防部等当局部分都很存眷网络安详问题，而那些网络公司给出的办理方案却是模块化的，他们说模块A是这个成果，模块B是谁人成果。这样一来就会碰着系统整合的问题。对付当局部分或非技能类公司来说，他们本身很难办理这个问题。另外，也有的公司宣称他们可以帮你做系统整合，不外实际上他们只是想借机卖本身的产物。所以我认为我们在整个网络安详系统中真正欠缺的其实是高质量可信赖的系统整合方案。我打仗过的很多公司都很清楚，系统整合是其公司网络的一个庞大的软肋。即便你是一家做普通小商品的公司，假如你的公司数据、贸易机要可能客户信息泄露了，那也是天大的贫苦。这内里躲藏着庞大的贸易风险。令人遗憾的是，我们为了掩护本身并没有拿出什么出格好的步伐。

不外这个问题得到办理的前景也不是一片黯淡，我们适才不是聊过人工智能吗，人工智能有它的问题，它给我们带来了挑战，不外人工智能在网络安详方面是可以帮上忙的。黑客在动员网络进攻时可以操作人工智能对进攻界面举办全面的阐明，不外作为网络用户你也可以借助人工智能举办全面的防止。无论进攻照旧防止，这内里的技能是共通的，叫做“全天候周界监测”（constant perimeter surveillance）技能，它可以一连不绝地对网络入侵等变态现象举办监测。因此，在网络安详方面，人工智能是一把双刃剑，它是你的仇人，但也可以成为你的伴侣。

尼古拉斯·汤普森（总编辑）：是的，简直如此。我们接着看下面一个问题，这个问题与我们最初接头的话题有关。当人工智能呈现问题时，谁应该包袱责任呢？谁该为人工智能技能中的瑕疵认真呢？是措施员？高级打点人员？照旧此外什么人？无论是谁，莫非我们人类不应为人工智能所犯下的错误包袱某种责任吗？

阿什顿·卡特：是的，人类无法逃避责任。说实话，从道德角度来讲，我认为为人工智能技能所造成的效果包袱最终责任的人是这一技能的实际利用者。假如你是一个公司的老板，你在为客户处事时设备出了问题，你可以去找设备的供给商。不外从实际角度来说，你公司的声誉必然会受损，你的生意也会受影响。作为设备供给商的客户和设备的实际利用者，你有责任要求供给商提供没有问题的设备，你应该很清楚一旦出问题本身是无法把责任推给别人的。假如你的公司利用有问题的设备，出了问题你是会受到指责的，你也应该受到指责。你无法把责任推给设备供给商，这行不通，因为人们会说，“请等一等，是你在浩瀚设备中选择了这个品牌的设备，你相识这个厂家的产物，它是你的选择”。

在我看来，你有一个担责链条。假如你是设备供给商的客户和设备的实际利用者，你应该对供给商提出要求，你应该对他说：“我必需确保这个设备没有问题。请向我担保，从算法的角度也好，从数据集整合的角度也好，从测试评估的角度也好，我在利用你的人工智能产物从事公司策划时是不会有任何问题的”。你可以把整个问题解析为两个工程问题，然后别离找到办理方案。一旦你采购了一台人工智能设备在你的公司里利用，你就要为这台设备包袱责任了。我曾接受国防部长，出问题时我会对总统说：“我是一名认真的官员，在公家眼中我是呼吁下达链条中的二号人物，我无处藏身，我无法推脱责任，我也不该该那样做。你等候我会维护你，但同时你也但愿我能以道德原则行事”。其实这番话对全美国所有的商界首脑都是合用的。他们不行能把所有责任都推给技能，他们必需对技能的供给商说：“我需要靠得住的技能”。

尼古拉斯·汤普森（总编辑）：感谢您介入我们本日的访谈节目。我但愿当局里有人能看到这一期节目。相信拜登新当局会对我们本日接头的问题有深入的思考。

（调查者网马力译自2021年1月17日美国《连线》杂志网站）