颠(diān)覆性技术(shù)”和“高(gāo)度关注”依然(rán)是2019年评价AI的两个关键词。虽然工业界落地艰难,但是,军事(shì)界(jiè)热情不减。作为军事大国,美国的目标非常清晰(xī)。推动美国(guó)顶(dǐng)尖人工智能研究走向新的(de)技术突(tū)破,促进科学(xué)新成果的(de)发现、增强经济竞(jìng)争力、巩(gǒng)固国家安全。
仅凭12个月的角力难(nán)分胜负(fù),但是年度评估非常必要。花了(le)美(měi)国纳税人这么钱,坐(zuò)落在美国华盛顿波托马克河畔的五角(jiǎo)大(dà)楼,2019年工作做的怎么样(yàng)?
《国防授(shòu)权法(2019)》(National Defense Authorization Act for Fiscal Year 2019)有细则特别提(tí)到(dào),对人工智(zhì)能进(jìn)行(háng)专(zhuān)项(xiàng)研究,确定美国国防部(bù)在人工智能、机器学习等技术(shù)方面的竞争(zhēng)力。因此,第三方咨(zī)询机构兰(lán)德公司(RAND Corp.)受命于(yú)此。在2019年年末,他们对五角大楼的人工智(zhì)能(néng)态势(shì)进行了(le)独立(lì)、审慎的评(píng)估,出具(jù)一份重(chóng)量(liàng)级的报告《兰德(dé)咨询:美国国防部人(rén)工智(zhì)能(néng)态势分析》。

一、人(rén)工智能是五(wǔ)角大楼的机会
报告开篇聚焦三个本质性问题。五角大楼目前在人工智(zhì)能中的现状如何(hé)?五角大(dà)楼相关的人工(gōng)智(zhì)能处于什(shí)么状(zhuàng)态?哪(nǎ)些内部(bù)行动,外部参与以及(jí)潜在的立法(fǎ)或监管行动可能会增强五角大楼在人工智能中(zhōng)的(de)地位?这三(sān)个问题拷(kǎo)问五角大楼的灵魂报告对于(yú)五角(jiǎo)大楼目前态势的判断,成为一面镜子,意在推(tuī)动该机构深刻反思。
《报告(gào)》的分析框架分为“六大”维(wéi)度(dù),从六个不(bú)同的角度“照进”五角大楼要面对的(de)现实。
组织,从五角大楼的执行层的视角提出,包括远景、战略、组(zǔ)织结(jié)构和承诺的资源。
进展,技术的研(yán)究、开发、原型、验证、确认(rèn)、测试和(hé)评估。
应用,技术采购(gòu)、部署(shǔ)和(hé)生命周期管理,重新设计概念和流程,以充分(fèn)利用(yòng)技术(shù)。
创新(xīn),内部创(chuàng)新文化和引进外部创新(xīn)或创新者的机制(zhì)。
数据(jù),数据作为资源、数(shù)据治理和支持基(jī)础设施,数(shù)据的利用。
人才,五角大楼需(xū)要和培养和增(zēng)长人才(cái)的机制。

众(zhòng)所(suǒ)周知,企(qǐ)业界(jiè)的算法生而用于商业用途(tú),比如谷(gǔ)歌(gē)广告推荐,优步(bù)打车路径规划(huá)。这些不(bú)是五角大楼所直接期望的(de)用途,再加之目前(qián)算(suàn)法存在一定的“手工打磨的性(xìng)质(zhì)”。简(jiǎn)而言之就(jiù)是模型(xíng)的(de)质量需要高(gāo)质量(liàng)的数据,而数据(jù)标注需要花费大量(liàng)的人力物力。此前(qián)也有百度公司的AI科学(xué)家在论坛中戏称“需要有多少智能,就需要配套多少人工。”所以,直接扩展(zhǎn)企业(yè)AI的用(yòng)途到军事上(shàng),并不(bú)是一件容易的事情。《报告》观点与业(yè)界观点(diǎn)一致(zhì),并做出提示,需要谨慎的策略(luè)和执行,同(tóng)时在基础设施和支持(chí)方面进行大量(liàng)投资。
尽管(guǎn)不(bú)可缺(quē)少(shǎo)谨慎的态度,但是,在《报告》看来,人工(gōng)智能(néng)的技术进展(zhǎn),对美(měi)方,尤其是五角大楼这样的机构意味着机会。

《报告》站在积极的视(shì)角,鼓励五(wǔ)角(jiǎo)大楼应(yīng)该(gāi)探索、寻求(qiú)机会(huì),特别强调利用好企业(yè)级人(rén)工智能(néng)、任务支持类人工智能(néng)和操作类人工(gōng)智能(néng)(enterprise AI, operational AI and mission-support AI)这三(sān)类技术的(de)新进展,尤其关注“验证、确认、测试和评估(verification, validation, testing, and evaluation,VVT&E)”的应用。

《报告(gào)》进行深入(rù)的调研,自然也(yě)充(chōng)分理解(jiě)了人(rén)工智能现在面临的短板,算法在很多应用中缺乏鲁(lǔ)棒性(xìng),不(bú)可能一蹴而就地(dì)找到大规模应用的爆发点,并给出戒骄戒(jiè)躁(zào)的风险提示,也就是要对人工智能技术的性能提升不要心急,要付出耐心。——“对于五(wǔ)角大楼(lóu)来说(shuō),在(zài)从(cóng)演示到大规模部署的过程中,保持对(duì)性能(néng)和时间(jiān)表的现实预期是很重要的。”
不仅如此,除(chú)了保持对人工智能这一新(xīn)兴(xìng)技术正(zhèng)确(què)的认知与态度(dù),《报告》也做出了预判,明确指出了(le)继续投资的(de)方(fāng)向。“为了确保成功,还需要(yào)对(duì)基础(chǔ)设施和设备以及识别、验(yàn)证、测(cè)试和评(píng)估进行持(chí)续的配套投资。尽管离确保人(rén)工智能应用程序的性能和安全还差得很远,特别是在涉及安(ān)全关键系统方面。尽管这不是只有美(měi)国国防部一家机构面对的独(dú)特问题(tí),但它是对美(měi)国国防部(bù)产生重大影响的(de)关键性问题(tí)。”
二、像对待核武(wǔ)器技术一样对待人工智能
《报告》对于人工(gōng)智能技术高度的评价(jià),以今天(tiān)的人工智能技术比作(zuò)五十年(nián)前的核(hé)武器技术。并建议(yì),“建立美国五角大(dà)楼研究人工智能(néng)和机器(qì)学习的中心,整合(hé)该领(lǐng)域(yù)专业知识和能力。就像过去确保五角(jiǎo)大楼在核武器(qì)方面的技术优势(shì)一样。
众所周知,人工智能(néng)是属(shǔ)于贵(guì)族的(de)游戏。科技巨(jù)头亚马逊公司,在2018年末股东信中(zhōng)已经将(jiāng)这一结论(lùn)表达得非常清楚(chǔ)——“强化学习(机器(qì)学习(xí)重要分支之一)具有陡峭(qiào)的学习曲线和众多(duō)的发展方向,这在很大程(chéng)度上决定了它的效果,到目(mù)前(qián)为止,除了资金最充足和技术最先进的机构外,其他所有机构(gòu)都无能为力。只有具(jù)有(yǒu)好奇文化和强(qiáng)烈愿意为客户(hù)尝试全(quán)新事物的企业才能达成……”

众所周知,人工智能是属于实(shí)力派玩(wán)家的游(yóu)戏,上桌需(xū)要大筹码。只有最具实力(lì)的国(guó)家、企业、组织、机构(gòu)才有资格。五角大楼拥有人工智能(néng)应用的天(tiān)然(rán)场景当然不(bú)能例(lì)外,是人工智能“重点实(shí)施单位(wèi)”。例如,《国家安全战略》(NSS)有史以来第一次将人(rén)工智能列为优(yōu)先(xiān)事项,以(yǐ)及2020年(nián)研发预(yù)算的优先事项,并推动(dòng)国防(fáng)部成立人(rén)工智能中心(JAIC),设立人工智能(néng)国家安全委(wěi)员会,加大(dà)美国国防高(gāo)级研究计划局(jú)(DARPA)对人工智(zhì)能的投(tóu)资力度。
毫无疑问,这是(shì)“美国政府”的(de)意思,尽一切努力让人工智能(néng)的地位在(zài)美国(guó)五角(jiǎo)大楼不断地(dì)增强,没有人会对此视(shì)若罔(wǎng)闻。

兰德公司高级信息科学家丹妮尔·塔拉夫(Danielle Tarraf)表(biǎo)示,深度(dù)学习(xí)的成功目前是(shì)建立在海量、有标签的数据集能够使用(yòng)的(de)基础之上。在(zài)五角大楼(lóu)整个机构(gòu)范围内追求人工(gōng)智能的发展,将要求五角大楼从根本上将其(qí)现有文(wén)化,转变为数据驱动的文(wén)化。
文化(huà)至(zhì)关(guān)重(chóng)要,战略(luè)也只(zhī)是文化的早(zǎo)餐。这一(yī)在企业界通行的理论,在军事管理(lǐ)机构也同样适用。《报告》敦促五角大楼进行文化层面(miàn)的转变(biàn),可以说是(shì)从根本上要将五角大楼扭转为“数字化”的思维方式。

另外,《报(bào)告(gào)》强调,美(měi)国(guó)五角大楼需(xū)要一个集中、专注、资(zī)源丰富的(de)组织来推(tuī)动(dòng)人工智能和机器学习(xí)的应用研究中心。该中心(xīn)应协调各部门的研究,并与企业和高(gāo)效实验(yàn)室保持联系,向通(tōng)报这些(xiē)进展对国防企业的(de)影响。”
可以看出(chū),一个名为(wéi)“某某人工(gōng)智能中心”的(de)机构的(de)存(cún)在,就(jiù)是要(yào)做全美人工智能的研究信息中(zhōng)枢。这又是从组织(zhī)结(jié)构层面(miàn)要(yào)求五角大楼进(jìn)行转(zhuǎn)变(biàn)。面对变革,越是庞大、纪律性强的机构越是(shì)滞后。一个灵活、优(yōu)秀的先(xiān)遣部队对(duì)于机构整体变革会有良好(hǎo)的示范带头(tóu)作(zuò)用(yòng),可以被视为创新的发动机。一般这类(lèi)机构的建立一(yī)开始就会给予(yǔ)高度的(de)授权,以及丰沛(pèi)的资源。因(yīn)为他(tā)们将创造“明天”。
三、人工智能,五角大楼的“大考(kǎo)”?
2019年,美国(guó)国防部在人工(gōng)智能方面(miàn)获得了诸(zhū)多政策与资(zī)源支持。五(wǔ)角大(dà)楼究竟是“地主家的傻儿子”还是“江山(shān)代有才人(rén)出”,人工智能(néng)无疑(yí)是五角大(dà)楼的一场大(dà)考(kǎo)。

首先,曾任美国五角大楼副部长帕特里克·沙纳汉(Patrick Shanahan)在一份(fèn)备(bèi)忘录中宣布成(chéng)立联(lián)合人工智能中心(JAIC)后,五角大楼要(yào)求国防创新委(wěi)员(yuán)会(huì)(DIB)科学和技术小组委(wěi)员会安排在2019年1月、3月和4月举办(bàn)系列圆桌会议和公众聆听会议。
2019年伊始,美国国防部发(fā)布人工智能发展细(xì)则,确定(dìng)将把人工智能引入军队(duì)训练等多个领域。
2019年1月16日,位于美国(guó)华盛顿特区的国家(jiā)情报总监(jiān)办公(gōng)室发布了《使用(yòng)机器增强(qiáng)智能的策略计划》(Augmenting Intelligence using Machines)。该(gāi)计划使情(qíng)报机构能够从根本上改变其产生情报的方(fāng)式(shì),军事情报理所当然包括在内。
2月,特(tè)朗普签署(shǔ)行人工智(zhì)能总统行政命(mìng)令,又(yòu)称《美国人工智能(néng)倡议》,强调继续在(zài)对美(měi)国经济(jì)和国家安全方面,人工智能发挥领导力,将人(rén)工智能全球进化(global evolution)的方式塑造为符合美国价值观、原则。这是(shì)影(yǐng)响人工智能在美国发展的里程碑事件(jiàn)。
在总(zǒng)统签署行政命令的同时,五角大楼发布了人工智能(néng)战略的非(fēi)机密摘要。该战略概述了提(tí)高人工智(zhì)能能力、扩大人工智能(néng)影响、培养人工智能劳动力、积极(jí)与盟友和合(hé)作伙(huǒ)伴进行接触以及在军事(shì)、伦理和(hé)人工智能安全上发挥领导(dǎo)作用的五个方面的战略方法。该战略还将联合人工智(zhì)能中心指(zhǐ)定为“五角大楼人工(gōng)智能战(zhàn)略(luè)的(de)重点”,以“加速交(jiāo)付人工智能能(néng)力,扩大人工智能的全(quán)局性影响,同步(bù)五(wǔ)角大(dà)楼(lóu)人工智能活动,扩大联合部(bù)队优势”。

2019年3月,美国国家安全委员(yuán)会(huì)(NSC)举行了首次全体会议。
2019年5月3日,美国国防创新委员(yuán)会发布了(le)软件采购和(hé)实践(SWAP)研究报告。
2019年6月,美国(guó)国家(jiā)人工智能研发战(zhàn)略(luè)计划更新。
2019年(nián)7月(yuè)12日,美(měi)国五角(jiǎo)大楼于发布(bù)了其数字现(xiàn)代化战略。其目标(biāo)是通(tōng)过云计算、人工智能、命令、控制和通信和网络安全的优(yōu)先计划来支(zhī)持美国(guó)国防(fáng)战略的实(shí)施。
2019年8月9日,美国国家标准与技术(shù)研究(jiū)院(NIST)发布(bù)了人工智能计(jì)划,作为对特(tè)朗普的回应。
2019年9月6日,美国能源部宣布成立能源部人工智能与技术(shù)办公(gōng)室。
2019年10月最(zuì)后(hòu)一天,美国国(guó)防创新委员会提出了人工智能原(yuán)则(zé),并(bìng)在季度公(gōng)开(kāi)会(huì)议(yì)上投(tóu)票批准了该原则。
2019年11月4日(rì),美国国家安(ān)全(quán)委(wěi)员会发(fā)布了(le)关于人(rén)工智能的临时报告。
2019年美国(guó)国防授(shòu)权(quán)法案签署成为法(fǎ)律。该法(fǎ)案包含两项关于人(rén)工智能的立法,第238条和第(dì)1051条(tiáo),立法成立人工智能国家安(ān)全委员会。
回(huí)顾过去三年,美国五角(jiǎo)大楼(lóu)对自主能力(lì)产生了浓厚(hòu)的兴趣。这种兴(xìng)趣(qù)体现在美国国(guó)防科(kē)学(xué)委员会(huì)(DSB)的(de)反制自(zì)主任务(wù)小组、现(xiàn)已解(jiě)散(sàn)的(de)美国海军研究咨询委员会(NRAC)、美国陆军(jun1)科学(xué)委员会(ASB)多个机(jī)构目前(qián)正在开展的研究项目上(shàng),比如“人工(gōng)智能在战场上的应用”。同时,人工智能也渗透到美(měi)国(guó)空军科学顾问委(wěi)员会(SAB)诸多研究中。

回望(wàng)更(gèng)久远的(de)历史,美(měi)国五角(jiǎo)大楼结缘人工智能并(bìng)非始(shǐ)于过去几年。五(wǔ)十多年前(qián),DARPA就一直支持人工智能研究(jiū)。美国(guó)海(hǎi)军研究办公室,美国空(kōng)军(jun1)科学研(yán)究办公室和(hé)美国陆(lù)军研究实验室也在支持(chí)人工(gōng)智能研(yán)究方面(miàn)有着悠久(jiǔ)的(de)历史(shǐ)。
四、“六大槽点(diǎn)”,差评实至名(míng)归
人工智能受到五角大(dà)楼自上而下的(de)重(chóng)视,但是(shì)面(miàn)对一种新技术,美国人(rén)也是在(zài)摸索中前进。在尚(shàng)且无法判(pàn)断之时,勤(qín)奋的工作未必(bì)能取得优异的成(chéng)绩。
《报告》结论认(rèn)为,美(měi)国五角大楼的人工(gōng)智能态势在各(gè)个方面都受到了(le)重大挑战,并严苛(kē)地指出(chū)工(gōng)作中(zhōng)存在的“六大槽点”。
一、五角大(dà)楼没有人工智(zhì)能愿景,并缺乏相(xiàng)关的基(jī)准和指标,并且内(nèi)部沟通不畅。
二、五角(jiǎo)大楼内部对人工智(zhì)能投(tóu)资(zī)缺乏(fá)共识(shí),五角(jiǎo)大楼的收购战(zhàn)略在多大程(chéng)度上支持(chí)人(rén)工智能发展(zhǎn)仍不清(qīng)楚。
三、五角大楼牵头发展AI的部门权(quán)责(zé)受限(xiàn),缺(quē)乏长(zhǎng)期预算承诺,缺乏五年战略路(lù)线图(tú),没有明确(què)的目标,没有制定路线图。
四(sì)、五角大楼内(nèi)部的(de)创新可能会受到现有实践和流程的阻碍,而现有(yǒu)管理及(jí)流程限制五角大楼(lóu)引入外(wài)部创新。
五(wǔ)、整个美国国防部内部(bù)系统(tǒng)缺乏(fá)互用(yòng)性(interoperability)带来诸多(duō)问题。不能收集和存(cún)储好数据(jù)、数据的访问(wèn)受(shòu)限、有的数(shù)据不能追溯,涉及外部(bù)供(gòng)应商(shāng)的数据所有权含(hán)糊(hú)不(bú)清。
六、在人才方(fāng)面,五角大楼缺乏(fá)定(dìng)义和跟踪AI人才的明确(què)机制(zhì),难以(yǐ)发展和(hé)培(péi)养AI人才。
《报告》继(jì)续它的批评,特(tè)别指名点姓地评价了牵头部门——联合人工智能中心(JAIC),强调五角大楼需要一个(gè)集(jí)中、专注、资源(yuán)丰富的应(yīng)用(yòng)研(yán)究中(zhōng)心来推(tuī)动(dòng)人工智能和(hé)机器学习的发(fā)展,而目(mù)前的(de)牵头(tóu)部门难堪当重(chóng)任。该中心曾在(zài)《国防(fáng)部人(rén)工智能(néng)战略总(zǒng)结》中(zhōng)被指定为执行美国(guó)国防部战略(luè)的重(chóng)点(diǎn)部(bù)门,并(bìng)有(yǒu)望吸引和培养一支世界级(jí)的人工智能团队。然而,联合人工(gōng)智能中心2019年(nián)表现平平,毫无亮点。

《报告(gào)》坦诚(chéng)地讨论了(le)研究人员评估工作的局限,“我们(兰德(dé)咨(zī)询的研究人员)没有采访美国国家级实验(yàn)室(shì)和情报(bào)机(jī)构(gòu)。也没有采访美国政府资助的研究和发展中心,以及美(měi)国大学(xué)附(fù)属的研究中心。尽(jìn)管根据研(yán)究的既(jì)定目标对受访者进行了系(xì)统的选择和接触,但仍存在(zài)样本偏(piān)差的可能性。例如美国国防工(gōng)业基地,我们(兰德咨询的研究人员(yuán))本(běn)想(xiǎng)在那里撒一张更大的网(wǎng),但由于能力所限(xiàn),无法(fǎ)采访。”
言(yán)下(xià)之意,如果评估工(gōng)作做得再(zài)彻底一些(xiē),五角大楼槽点会更多。
另外(wài),兰德咨询公(gōng)司对五角(jiǎo)大楼目(mù)前在(zài)人(rén)工(gōng)智能领域的投资(zī)项目进(jìn)行了定量的评(píng)估工作(zuò),但这部分资料并不允许公开。

最后,《报告》毫(háo)不留(liú)情(qíng)面给出的决定性结论是(shì),“尽管我们(兰德咨询的研究人员)看到了一些积极的迹象(xiàng),但是,评估结果是,国防(fáng)部在人(rén)工智能中的态势,在被评估的所有(yǒu)方面都(dōu)受到了显著的挑战。”
除了批评与否定,《报告》提出(chū)了一(yī)系列建议,包括内部行动、外部参与以及潜在的立(lì)法(fǎ),以及监管行动提出了11项战(zhàn)略建议。要求五(wǔ)角大楼明(míng)确使命,促进人(rén)工智能的应用,制定(dìng)一项五年战略路线(xiàn)图以实(shí)现扩展人工智能用途,并要求(qiú)五角(jiǎo)大楼推进人工智能平台的(de)测试和(hé)验证实践(jiàn),扩(kuò)展与学(xué)术界和工(gōng)业界的合作。

综上所(suǒ)述,《兰德咨询:美国国防部人工智能态势分析(xī)》全(quán)面和彻底的,对(duì)五角大楼进(jìn)行了不留情面地批评,从领(lǐng)导层(céng)到执行层,从文化到管理,以“差评(píng)”为(wéi)美国(guó)国(guó)防部2019年人工智能的工(gōng)作画上句(jù)号,但是,人工智能是一场全球(qiú)性的技术变革,风起云涌之中,这场没有硝烟的战斗并不(bú)会因为新年的(de)钟声响(xiǎng)起(qǐ)而(ér)停止。