应美国情报高级研究计划局（IARPA）的要求，哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心与2017年7月发布《人工智能与国家安全》报告，分析人工智能（AI）对美国家安全的巨大影响，为美政府AI政策提供建议。本报告分为以下几个部分，我们将在接下来几天内，摘选报告部分主主体内容与大家共同分享学习。
第一部分：人工智能的变革潜力
第二部分：学习以前的变革性技术案例
第三部分：关于人工智能和国家安全的建议
结论
【深度】哈佛大学：人工智能和国家安全（八）AI与国家安全的11点建议与结论
附录：变革性国家技术的案例研究
哈佛大学报告：人工智能与国家安全（十一）
变革性国家技术的案例研究
案例研究 #3：互联网和网络技术
历史
美国政府在网络空间作战的三种基础技术（数字计算、互联网网络和密码学）的演化过程中起着不可或缺的作用。按照P.W.Singer和艾伦·弗里德曼（Allan Friedman）的说法，“网络空间”指“以在线方式储存、共享及传送信息的计算计网络领域（以及网络背后的用户）”。现代网络空间通过三种技术来实现：
1. 数字计算（尤其使用了硅集成电路）：允许通过机器来储存及处理信息
2. 互联网网络化：允许按照一种标准（即互联网协议）来连接、统一不同类型的网络
3. 密码学：允许无关的用户共享数据和基础设施，同时保持数据的机密性和完整性
所有这三种技术都得到了美国政府的积极支持。这种支持对于互联网的发展来说至关重要——从互联网在20世纪70年代投入最初应用一直到在90年代呈现出更加商业化的性质。
关键的技术方面
破坏潜力：中等
随着世界上越来越多的系统与计算机连接，继而与互联网连接，网络攻击的破坏潜力也相应地增加了。最典型网络攻击的破坏力相当低，但潜力相当大。我们用三个例子来说明技能型网络攻击的破坏力：
•网络能力可增强实际军事袭击：据报道，在2006年，以色列情报机构摩萨德利用网络攻击迷惑了叙利亚的整个防空雷达网络，使以色列空军顺利进入叙利亚领空而没被发现，直到以色列启爆了导弹。黑客攻击可能能够让对手进入与核武器有关的系统，但可行性有多大尚不清楚。
•网络能力会直接损坏实体基础设施：在2010年，伊朗的核计划推迟了很多年，原因是一次网络攻击导致伊朗的离心机猛烈自毁（Singer和弗里德曼，117）。原则上，这类攻击可用于毁坏很多类型的商用/军用基础设施。
•网络间谍活动可获得高度机密信息：据报道，中国政府派黑客攻击了与F-35计划有关的许多美国国防承包商和军事组织。F-35的研发成本超过了500亿美元，而中国据信已获得了与这种飞机有关的几乎所有知识产权。有人认为，中国还派黑客攻击了与美国核武库有关的绝密信息。
但网络与核能力或航空航天能力不同，因为网络能力的破坏潜力很难测试、证明。若公然宣布某人正在研究敌人网络的漏洞，通常会促使敌人堵住那个漏洞。因此，网络武器的“博奕论”方面仍然不明确，仍备受争议。关于这些问题的深入探讨，见本作者发表在Vox上的文章。
成本状态：不贵
网络技术很便宜，甚至连恐怖分子和罪犯都买得起很有用的网络技术。就拿现有的所有产品化软件来说，附加产品的边际成本几乎为零。对于那些只对别人开发的网络加以利用的团体或个人来说，边际成本常常极低。
-
个别攻击类型成本极低：国防部报道称每天都会遭到1000多万次网络入侵。但一些行动者——尤其是美国——看到了在网络上花“重金”所带来的价值。在为2017财年制定预算时，当时的总统奥巴马请求将网络安全的预算增至1700万美元，同比增长了35%。这个数字既反映了美国在保证其广泛数据网络的安全时面临的挑战规模，也反映了美国在利用它国网络的漏洞方面抱有的野心程度。
尽管如此，通过网络提供的能力还是要比以其它方式提供时的成本要低很多个数量级。 正如布鲁斯·施奈尔（Bruce Schneier）指出，“极度偏执的东德政府让102000名斯塔西人员监视1700万人口：也就是说在每166名市民中派一名间谍，或者在每66名市民中派一名间谍（如果包括市民线人在内）。”通过利用数字监视功能，情报机构——甚至企业——都能利用远比斯塔西少得多的资源收集有关数亿乃至数百亿人的数据。
技术复杂性状态：中等
如前所述，网络作战的类型、先进性和影响有广泛的多样性。所需要的技术先进性也相应地不同。一些攻击类型，例如击垮了伊朗的1/5核离心机的蠕虫病毒，很可能要求被攻击的资源和能力只存在于军事机构和情报机构内。其它攻击类型，例如以获得用户凭证为目的的鱼叉式“网络钓鱼”攻击，可由所谓的“脚本小子”黑客来执行——他们对自己利用的漏洞缺乏详尽的技术了解。但根据被盗凭证的系统授权的不同，鱼叉式“网络钓鱼”攻击也可能极具影响力。
军用/民用“两用”潜力：高
关于使用和访问数字网络的基本要求对商用用户和军用用户来说是类似的。在2011年，超过90%的军用数字通信是在民用网络上发生的。同样，军队也广泛采用了商用计算硬件，但有时要修改这些硬件以达到军队的安全要求或作战要求。在网络防御作战方面，军队和民间团体拥有很多共同的需求——保证数据的机密性、完整性和服务可用性。这两类群体需要用强有力的加密术来保证数据安全，并快速修补所用系统的漏洞。随着美国的企业越来越多地受到网络罪犯和敌国的威胁，他们对网络安全的需求也相应地增加了。在2015年，商用网络安全市场据估计为750亿美元，到了2020年这个数字可能会加倍。
间谍活动和监视的困难程度：很难
网络能力难以监视。军用网络设备通常与商用信息技术设备很相似。随着互联网安全性对于商业实体来说变得越来越重要，商业公司员工的培训和工作经历可能会越来越类似于攻击型网络实体的培训和工作经历。在某种程度上，“网络攻击和漏洞利用要比网络防御容易得多”这一事实使得很多更先进的政府军事组织能够相互渗入和相互监控，但实际上这个过程很秘密、不为人知。此外，罪犯和恐怖分子团伙都非常成功地隐藏了自己的在线活动。
政府管理方法
政府非常积极地支持美国的半导体行业，半导体是现代数字计算的关键技术引擎。
在半导体行业的初期和成熟期，美国政府的干预对于这个行业的发展来说至关重要。在初期，美国军队扮演着研发补助者和重要客户的角色，这对推动半导体行业的投资、创新和成长来说极其重要。在1987年，国防部在美国半导体行业科研联盟中投入了高达1亿美元的研发资金。这对恢复美国相对于日本的竞争力来说至关重要。
总的来说，美国政府非常积极地支持互联网联网技术的开发和计算机科学研究。
美国国防部高级研究项目管理局（DARPA，即以前的“ARPA”）是为长期先进研发项目提供资助的主要政府防御机构。大学科学家以DARPA项目经理身份在DARPA的资助下工作，开发了ARPANET——一种用于共享计算资源存取的网络。在1973年，斯坦福大学教授温特·瑟夫（Vint Cerf）与ARPA的罗伯特·卡恩（Robert Kahn）合作开发了一种互联网协议，最终演变成可用于连接任何两个信息网络的通用标准。在发明了互联网协议之后，政府又通过资助互联网主要基础设施的采购、促进互联网在政府科研机构中的应用以及资助持续的技术研发和标准化，不断地支持着互联网的开发。
从1975年一直到1996年，计算机科研人员获得的非保密联邦政府资助增加了将近5倍——从大约2亿美元增加到将近10亿美元（$1995）。
美国政府在先进密码数学和技术的开发上进行了重大投资，但几十年来只允许在政府机构中使用该技术。
美国国家安全局（NSA）自从成立以来，已经与密码研究机构建立了亲密的关系。NSA的两大使命是保证美国通信的机密性以及拦截其它政府的通信信息。因此，自成立以来，NSA已雇用了大量的数学家和工程师来开发先进的密码技术以及其他信息安全技术。
美国军队和情报界也是密码技术的最大客户。因此，政府拥有最好的保密能力。但与数字计算技术和联网技术不同的是，在战后的好几十年里美国政府对密码术的官方政策是“密码术是一种机密到在法律上须按军需品对待的技术”。因此，美国政府禁止美国公司在国外销售先进的密码软件。
但几乎所有的美国信息技术公司并没有为国际国内市场开发不同版本的软件，而是使用了弱到能在国际国内市场上不受美国政府出口限制的密码软件。较弱的密码标准很容易被有意者非法侵入，但在互联网初期，美国政府认为这种风险很低。仅在20世纪90年代后期，这道禁令才被解除。当时，非NSA附属学术机构在开发强有力的密码术方面取得了相当大的进步，有竞争力的优质国外密码软件也到处都能买到。
政府管理方法的结果
保持美国的军事技术领导地位：成功
到目前为止，美国拥有最先进的网络攻击能力和防御能力，但我们还不清楚美国在网络上的统治地位是否能与美国在航空上的统治地位相提并论，因为在航空上，美国能形成毫无争议的空中优势，而且还能阻止其它军队在指定的空域作战。美国的任何对手都不太可能通过部署轰炸机将美国的发电站或雷达装置炸毁。但通过利用网络，美国的很多潜在对手如今都能够摧毁美国本土的发电站或使雷达不能用。在2014年，NSA的局长迈克尔·罗杰斯（Michael Rogers）上将在国会面前出示了证据，证实中国及其它国家目前有能力利用网络攻击使美国的电网崩溃。这可能是由于美国未能在网络防御上充分地投资及规划，或者可能只是因为网络空间作为一个作战领域，面临着尤其困难的技术现状。
支持网络技术的和平利用：部分成功
无庸置疑，美国的互联网和信息技术产业在全世界都领先。在互联网技术行业，美国企业拥有世界领先的搜索功能、社交网络、手机硬件、互联网基础设施和云计算服务。总的来说，美国的互联网政策为美国的经济增长和在这个领域的竞争力提供了支持。但并非所有的美国政策都有助于提高美国企业在互联网行业的竞争力。由于NSA在20世纪90年代中期一度限制使用先进的密码软件，欧洲的软件变得比预期的更具竞争力。另外，很多美国公司都声称，政府对美国数字设备和网络的监视损害了美国企业在出口市场上的竞争力。在提到美国政府在2013年做的监视报告时，脸书的CEO马克-扎克伯格（Mark Zuckerberg）说，“政府的回答是，‘哦，不要担心，我们不是在监视任何美国人。’哦，那太好了：如果这样，政府将真的能帮助互联网企业为全世界的人类服务，并将真正鼓舞人们对美国互联网公司的信心。”近年来，美国的技术公司（例如苹果）已表现出越来越想拒绝政府关于数字监视合作的请求。
缓解网络技术的巨灾风险：部分失败
虽然美国在网络攻击方面取得了令人称奇的成功，但几十年来政府未能制定一种能充分解决在网络防御中面临的非对称弱点的战略。正如国家情报局前局长麦克·康耐尔（Mike McConnell）在2010年对国会提供的证据所述，“如果美国如今开始网络作战，那么我们一定会输。我们不是最弱的，但我们的联网性最强。我们最有可能输。”前面提到的F-35知识产权损失从另一个角度说明了这种非对称性弱点：当中国或其它对手攻击美国网络时，他们几乎不花一分钱就能窃取我们花了5000万美元才开发出来的尖端技术和设计。而当美国攻击中国的网络时，美国只能获取一些老的、基本上过时的军事技术，虽然实际情况很可能并非总是如此。还没有人因为窃取F-35计划而死亡，但在未来的战争中，中国将拥有他们自己本不会有的军事能力——也可能是新的导弹或飞机或电子对抗。在战争中，这种失败将以美国军人的生命作为代价。
自从康耐尔提出证据以来，这种情形已经有了改善。美国联邦政府——尤其是国家安全机构和国土安全机构——为商业公司提供了越来越多的支持，以保证其网络和系统的安全。尽管如此，政府问责办公室在2017年做的一份报告发现，联邦政府仍需要做更多的工作来保护自己的网络。
