人工智能融入美国情报体系的现状及发展困境分析

作者:bzlx | 国际 2021/05/02 17:14:49 36
文章来源:https://www.secrss.com/articles/30945

摘要:

[目的/意义]人工智能是美国情报界正在推动的重要技术之一,无论是学界还是官方都进行了大量的研究和讨论,分析人工智能融入美国情报体系的现状和发展困境,对未来正确运用人工智能、合理有效规避风险有重要的借鉴价值。

[方法/过程]从美国情报界运用人工智能的相关报告和研究成果出发,探究人工智能在不同情报手段中的运用现状,并分析其融入情报界所面临的问题和挑战。

[结果/结论]美国情报界对人工智能的研究与运用居于世界前列,不能否认人工智能在情报工作中有较好的应用,但也必须重视其带来的一系列伦理和技术问题。

关键词:人工智能;美国情报界;开源情报;地理空间情报;信号情报;伦理困境

中图分类号:G359. 21文献标识码:A文章编号:1002-1965(2021)04-0005-08



引用格式:谢琪彬,石宇. 人工智能融入美国情报体系的现状及发展困境分析[J]. 情报杂志,2021,40(4):5-12.

DOI:10. 3969 / j. issn. 1002-1965. 2021.04. 002


经过多年的发展,美国情报界运用人工智能已经从最初的仿真模拟训练,进一步发展到自然语义分析、模式识别和人工神经网络技术,无论是在人工智能的软件开发、理论创新还是实践应用都走在世界前沿。不过,人工智能是一把“双刃剑”,它在提升工作效率的同时必然也会带来许多问题,情报工作作为涉密程度极高的活动,不可避免会遭受伦理冲突和技术问题的困扰,是否理解人工智能的能力局限所在,则是把握人工智能发展方向,从而更好服务于情报工作的关键。


1、人工智能与美国情报工作

随着数据存储和数据搜集技术的发展,大容量数据的处理能力得到显著提升,情报工作的自动化和智能化水平也不断提高。在人工智能的加持下,大数据技术与互联网融合,使得大规模人工神经网络的构建成为可能,也为情报工作的迭代与发展提供新的方向。


1.1人工智能概述

人工智能的定义最初由约翰·麦肯锡(JohnMcCarthy)提出,其认为:“人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样“。但由于可编程计算机在当时仍未出现,所以无论是从麦肯锡给出此定义的论述还是时代背景来看,其只是从思维层面对“人工智能”的概念进行思考,而并没有对人工智能的应用场景、实现方式和技术要求进行探讨。同样,虽然美国国防部在2019财年《国防授权法》(NDDA)中给出了人工智能的定义,但在2020年8月美国国会研究院发布的《人工智能与国家安全》报告中,国会研究院也表示国防部只是总结了学术文献中的相关定义,并明确指出:“由于在人工智能领域的研究方法多种多样,所以人工智能至今仍没有公认的定义,美国政府也尚未对人工智能进行官方定义“。

综合以上文件,笔者认为人工智能是由包括人工智能技术在内的许多技术和软硬件共同组成的集合体,目的是使机器最终能够达到类人的智能水平,可以感知、理解、学习和做出相应反应,帮助军民各领域主体实现自动化和智能化运行,以改善服务和优化体验。

通常来说,研究人员将人工智能分为狭义人工智能(Narrow AI)和广义人工智能(General AI)两种。狭义人工智能一般执行单个任务或一组紧密相关的任务,此类人工智能虽然适用面较为单一,但精确性较高,功能也比较强大。广义人工智能,又叫强人工智能,指能够具有类人智能的机器,可以战略,抽象和创造性地思考,并具有处理一系列复杂任务的能力。不过,尽管机器当前在数据搜集、处理和存储方面相比人类有巨大优势,但人工智能仍然只是人类能力的延伸,其发展仍停留在初级阶段。总体上看,由于人工智能研究领域的广泛性,无论是在科研还是官方层面都未能对其形成统一的认识,不过从国防的角度来看,这也为人工智能在情报领域的发展提供了足够的空间,给相关项目的审批和拨款留下充足的操作空间。




1.2 美国情报界的人工智能开发现状

目前,包括 美国中央情报局(CIA)和国防情报局(DIA)在内的多 家情报机构都在积极探索情报工作中的人工智能应 用,他们资助了多家私营公司在国家安全情报领域的人工智能项目。根据 CIA 技术开发副主任道恩·梅耶里克透露的信息,仅 CIA 目前就支持开展了 137 个不同的人工智能项目 。


当前,CIA主要通过其旗下的风险投资基金In-Q-Tel开展活动,主要是为CIA认为的对当前和未来国家安全与情报有重大意义的公司和项目提供风险投资。实际上,In-Q-Tel投资了多家为国家安全和情报部门服务的公司,包括提供卫星影像的“谷歌地球”(Google Earth),专门研究海量数据处理技术的软件公司Palantir和网络安全公司Cylance,这些公司都在本领域获得了相当大的成功。与CIA相似,DIA在2014年发布的《2014国防情报局创新战略计划》中就提出要发展人工智能等先进技术。但DIA与CIA在人工智能技术需求的一大不同点在于,DIA更为注重能在短时间内得到人工智能技术的分析处理结果,压缩情报数据提取、分析到应用所需要的时间。为了尽快为人工智能的应用做好数据准备,DIA在2019年5月对外宣布了其机器辅助分析快速存储系统(MARS)计划,旨在辅助人类分析师了解人工智能算法的内容和可信度,增强二者协同运作能力。


作为在全球人工智能领以及情报能力方面拥有绝对话语权的国家,美国情报领域的人工智能发展拥有巨大的先发优势。CIA作为美国情报界人工智能开发的主导者,通过In-Q-Tel基金发现并支持了一大批人工智能项目,使得情报界获得了许多重要的创新应用,特别是在信号情报和图像情报领域广泛运用的自然语言处理和模式识别技术获得了重大突破,可见在未来相当长的一段时间内仍将处于领先地位。


1.3人工智能与美国情报工作融合的研究现状

侦察装备性能的提升,使得情报部门每天都能够通过各种手段获得来自全球各地的海量侦察情报数据。众所周知,美国情报部门当前面临的主要问题,就是大量情报数据与滞后的分析能力间的矛盾,而这也正是人工智能的优势所在。因此,如何将人工智能引入国家情报体系,则成为政府机构、安全智库和诸多学者研究的热门领域。


1.3.1官方研究

为确保美军保持人工智能领域的领先地位,美国国防部在2018年《国防战略》中明确将人工智能确定为保证美国赢得未来战争的关键技术领域,并据此制定了《2018国防部人工智能战略概要》。在该战略概要中,国防部不仅对人工智能在增强决策和计划等辅助作战的方面提出构想,更是首次对军事领域的人工智能伦理与安全进行分析。


实际上,不仅仅局限于国防部层面,美国几大军种对人工智能都有相对独立的研究,其中也不乏将人工智融入到情报领域的探索。美国陆军研究实验室(ARL)下属的人工智能创新院(A2I2)就长期关注陆军在城市作战环境下的情报、监视和侦察(ISR)行动。希望通过人工智能增强作战能力,并发现将人工智能与士兵知识、情报相融合的独特方法,从而可以在战场情报竞争中取得优势。受美国海军作战部的委托,海军分析中心(CNA)也与2019年发布了《海军人工智能框架》报告,报告对人工智能在海军情报中应用及所需数据提出了要求,重视用于训练人工智能算法的数据合法性,同时也强调了在人的“判断力”基础上的人机协同。此外,美国空军也在2019年9月发布了其《2019人工智能战略》,该战略展现了空军对使用人工智能获取空天和网络空间优势的构想,尤其体现出空军对利用开源软件、算法及数据对支持情报和作战行动的重视。


总的来说,就美国政府和军方发布的文件以及部门研究报告而言,其多为政策层面对人工智能在情报领域应用提出指导原则,少有涉及相对具体的实践性引导。不过大部分研究中都表明了对人工智能伦理和安全问题的关注,各部门也都对本领域内的情报工作与人工智能结合提出了相应要求,这表明美国官方既重视推动人工智能的快速应用,同时也具备相对高的警惕和理性决策能力。


1.3.2智库及学者研究

美国拥有大量的防务与国家安全类智库,他们通过专业的研究来满足美国官方的政策咨询需求。新美国安全中心(CANS)、布鲁金斯学会(Brookings Institution)和兰德公司(RAND)等都是为美国国家安全提供政策咨询的核心智库,这些智库内部均设有专门的人工智能研究小组或计划,并且受情报界成员的委托开展了大量研究,研究成果在美国政府和军方后来发布的官方文件中均有所体现。

2017年7月,在官方尚未发布与国防有关的人工智能文件之时,哈佛大学贝尔弗中心便为国家情报总监办公室(ODNI)开展研究并发表了《人工智能与国家安全》报告,对情报界等其它关键国防领域运用人工智能提出了建议,其中多个部分的内容被吸收进2020年8月国会研究所发布的同名报告。此外,该报告还分析了军事和情报工作自动化所导致的失业问题,此部分内容在2020年2月白宫科技政策办公室发布的《美国人工智能倡议:年度报告》中也得到呼应。CANS从2018年至今也相继发布了6份与人工智能相关的报告,在2018年7月发布的《人工智能与国际安全》报告中,该中心对人工智能在部队态势感知和情报搜集与处理方面应用进行了探讨。与之相同,RAND在近几年也分别受到JAIC和空军ISR主任的委托,对国家安全领域运用人工智能的相关问题进行研究。在2020年发布的《人工智能的军事应用》报告中,RAND对人工智能的定义及在美军的当前应用进行梳理,简要概括了人工智能在图像识别和文本分析等情报处理层面的使用情况,特别是分析了运用人工智能辅助ISR行动可能出现的伦理和战略风险。


此外,近年涌现出大量的相关评论、文章和著述,表明国内外学者也非常关注美国情报界运用人工智能的情况。在2016年发表的《情报机构中的人工智能伦理》一文中,兰德公司情报政策中心研究员科尔特尼·韦恩鲍姆就对美国情报界的人工智能权限和监督问题进行了讨论。国内学者黄敏聪也利用文献分析的方法,系统搜集并梳理了美国情报界和智库近年发布的相关报告,对美国国家情报体系中人工智能应用的若干问题进行探讨,已经基本概括了其总体发展现状,不过缺乏对情报界人工智能伦理风险及技术问题的关注。


总体上看来,受制于技术限制或保密等原因,国内外智库和学者对人工智能在军事中的应用研究仍主要聚焦于智能硬件的应用,对人工智能在情报工作中的运用与实践并未进行详细探讨。虽然也有部分学者提出了人工智能在情报机构中运用存在的伦理问题,但也主要着眼于人工智能的技术安全性,而回避了情报人员关注的“人机关系”问题。通过查阅、搜集和提炼相关文献资料以及结合美国情报工作实践,本文力图对人工智能在美国情报体系中的运用现状进行相对系统的分析,并尝试探讨其未来发展的困境所在,为学界提供新的研究思路。


2、人工智能融入美国情报体系的现状分析

美国情报界每天都会搜集和分析大量的情报数据,不仅服务于驻外美军执行作战任务,同样也用于国内打击犯罪、毒品交易和恐怖主义。情报界长期以来都在积极开发技术工具,试图使用人工智能技术改善分析过程,帮助分析师更加有效的进行情报分析,这在情报工作中也体现出较好的应用实践。


2.1人工智能强化开源情报的现状分析

2.1.1整合海量数据信息

开源信息的无序性、复杂性和数量庞大,成为信息时代开源情报手段发展的主要限制因素,其本质是开源信息精确抓取与筛选困难。当前,美国情报机构和军方越来越多地利用基于机器学习的分析平台来筛选社交媒体等数据源。其目的就是要实现自动化检测,提高抓取和筛选数据的效率,最终搜集可用于分析的大量文档并自动生成包含任务、地点和时间的规范化材料。根据美国的一项调查研究显示,2019年平均每天有超过400万小时的视频内容传到YouTube,约43亿条消息在Facebook上发布。面对海量的数据,仅依靠情报人员人力处理和分析,已经完全不能满足需求,相比之下人工智能则能够突破人脑的计算速度和耐力限制,极大提升情报数据处理的效率和稳定性,满足开源情报所需的处理能力。


为情报界提供服务的国防承包商Electrif Ai公司推出了一种名为Signal Sensor的算法,该算法可以利用机器学习在数据量庞大的社交网络平台和在线论坛等网站检测和识别威胁,并可根据威胁严重程度对目标进行排名。从美国陆军开源情报专家内森·麦克尔丁的讲话中可知,人工智能已经与美国开源情报及传统军事领域相交织,在整个情报周期当中存在大量人工智能驱动的实体无人机和传感器,也有大量网络空间中的网络爬虫和蜘蛛程序,它们持续的搜集大量数据并形成针对目标的自动和半智能传播机制,实现人工智能加快情报周期的作用。


2.1.2提升开源情报可用性

国会《人工智能与国家安全》报告认为,人工智能系统可能有整合来自多源大量数据的能力。过去,开源情报工作的任务是找到隐藏的或难以找到的信息;如今,面对日益增长的数据量,另一个挑战则是挖掘大量信息背后所蕴含的知识。2019年10月,美国陆军情报与安全司令部(INSCOM)就与BAE Systems公司签订了4.37亿美元的采购合同,旨在向美国陆军派驻国外的部队提供开源情报支持,为地区指挥官提供骚乱、政治暴力、恐怖主义袭击或其他与安全相关事件的预警。与之相似,CIA所资助的Stabilitas公司,也是利用自动抓取网络信息,并通过情绪分析来监测某一地区的社会舆论和地区局势。Stabilitas公司的人工智能程序不断提取超过17000个全球数据源,每天识别近300000个关键事件,例如自然灾害和地缘政治事件。尔后,该公司通过软件识别和分析,找出受这些事件影响的人员和资产之间的相互联系,让CIA可以有效地监视世界各地的突发自然灾害和群体性事件。

总体来看,开源情报工作中人工智能的发展大致可分为三个阶段:第一阶段是作为数据整理和筛选的工具;第二阶段是人机协作,即在人工干预下的开源数据自动抓取和半智能分析机制;第三阶段是自主运行,即人工智能基于海量历史数据反复训练算法,最终实现相对独立的自主精确搜集和分析。目前来说,美国开源情报工作中的人工智能主要发展方向仍然是人机协作,完全脱离人工干预的人工智能技术实现还非常困难,鉴于开源信息数据样式和内容的双重复杂性,利用技术增强人类认知能力仍然是开源情报工作的人工智能发展目标。


2.2人工智能强化信号情报的现状分析

众所周知,美国情报界已经通过各种形式的人工智能技术来提升其情报工作效率,伴随通信技术的发展,信号情报能够搜集来自全球各地发出的电子信号和通信信号,其作为传统的情报手段也逐渐深入到网络攻防领域,成为信息化时代情报工作的重要组成部分。


2.2.1增强网络攻防能力

CIA很早就通过InQ-Tel基金布局网络安全领域的人工智能应用,In-Q-Tel投资的Palantir公司开发了Palantir Gotham和Palantir Foundry两大平台,它们帮助情报机构识别虚假信息、理解并抵御网络攻击。作为美国情报界的专业信号情报机构,国家安全局(NSA)也正在探索使用人工智能来检测漏洞,NSA局长Paul Nakasone在《联合部队季刊》采访中表示:“NSA正在开发和试验‘自我修复网络‘,在该网络中我们可以发现漏洞,并且可以迅速识别该漏洞并对其进行处理和修补“。


网络攻击和防御是一对矛与盾关系,从本质上来说网络攻防只是逆向对抗,其在技术上并无较大区别,通过改进网络监控和威胁快速识别,将会从实质上提升对脆弱网络的攻击属性。NSA也正在运用人工智能模式化分析其搜集的大量网络数据,尝试发现外国情报系统的网络漏洞,为注入欺骗信息或开展网络攻击提供指引。在美国“网络风暴”和“网络卫士”等常规演习中,网络分队通过发送智能网络“钓鱼电子邮件,搜集掌握假想敌“目标属性、规模和威胁水平“,并通过传送恶意文件谋求获取更加详细的目标信息。不过,人工智能需要接受大量样本的反复训练,才能适应网络数据的可变性和复杂性,而此种人工智能的网络攻防仍然只能对已知的攻击模式有适应性,对于此前未发现的新攻击模式有识别的不确定性,所以强化深度学习来探索对多样化攻击模式的自动识别,是未来必须要攻克的技术难题。


2.2.2强化信号情报感知力

在二战期间,用于战术通信的无线电信号可能是信号情报的唯一来源,情报机构依靠为数不多的设备和分析师就能完成分析工作;而现如今,民用无线通信和非通信的电子信号激增,使得情报机构在复杂的电磁信号中搜集情报变得越发困难。与开源情报不同,除通信数据外,信号情报所搜集的电磁信号往往表现为符号和编码,大部分都不具有可视性和可读性,这就决定了人工智能算法对信号情报有着比分析师更强的感知力。通过学习历史数据反复训练,人工智能和深度学习技术可以让软件处理信号的速度远远超过手工编写的算法。例如,美国DeepSig公司的OmniSIG传感器软件中使用了基于深度学习的商业化RF传感技术,借助深度学习的自动特征学习功能,OmniSIG传感器经过几秒钟的信号捕获和训练,就可以识别新的信号类型。美国通用动力公司在2019年5月发布的《Signal EyeTM:机器学习自动化的信号情报》报告也表示,该公司设计的SignalEye软件可以通过机器学习算法加快信号检测和分类,实现自动抓取电磁信号,自动检测、分析和调制,最终能够获得比人力处理更高的效率。总的来说,对于原始信号情报数据,基于数字代码的机器算法比人有着更直接的感知,所以人工智能的自动化处理可以极大提升信号情报处理效率。从这一角度而言,信号情报可能是未来一段时间内,人工智能在美国情报体系中能够发挥主要作用的少数情报门类之一。


2.3人工智能强化地理空间情报的现状分析

美国图像和地理空间系统认为,人工智能可以在人力密集型任务分析、目标识别、任务自动化、地理空间情报探员培训和推进情报技术的方法研究等方面产生影响。美国地理空间情报局(NGA)的前身国家图像测绘局(NIMA)在很早就开始研究图像情报中的人工智能解决方案。NIMA研究表明,在执行任务期间,建立准确、及时的态势感知至关重要。而人工智能可以将目标区域(AOI)的可用信息集成到一幅态势图中,生成2D或3D影像并实现动态通用操作画面(COP)的构建。此外,国防部高级研究计划局(DARPA)的许多人工智能项目也都与自动目标识别(ATR)和地理空间目标分析紧密相关。DARPA在2020年7月公开了“移动目标识别”(Moving Target Recognition program)计划,其目的就是要通过开发处理算法和收集技术,从而解决使用合成孔径雷达(SAR)对地面移动目标进行检测、成像和地理定位的难题。

变化检测是人工智能在地理空间情报中另一大应用。传统上,判读和分析每天传回的全球目标卫星影像并生成情报报告,是NGA图像分析人员最基本的日常工作,通常需耗费大量人力资源。但通过学习历史模式、当前趋势和动态因素(例如天气和对抗行为)等,人工智能可以提高预测目标行为的能力,帮助确定最合适的方法和位置来部署资产以进行监视。也就是说,针对对象国军事、工业设施等固定目标,通过完善人工智能变化检测算法,机器即可独立完成大部分的监测和筛选工作,帮助图像分析人员对高价值图像优先排序、发现目标物体、识别异常活动及监测目标设施变化情况,最终实现基于图像的自动化预警。


当前,用于辅助图像分析的软件,已经从校正、存储和标注功能发展到可以快速识别和检测大量图像的智能解译软件。面对来自异源多平台的图像数据,情报机构需要投入大量资源处理和分析;而如今,最新的自动化图像分析软件可以合并来自不同提供者的不同数据集,包括诸如不同分辨率、坐标系和多光谱带之类的属性。不过,在人工智能技术发展尚不完善的当下,人工智能在地理空间情报中的定位仍存在很大争议,如何解决人工智能和分析师分析结果的差异性问题也没有确切方法,所以深化数据挖掘、自动识别和数据可视化等辅助分析的智能增强手段,是当下人工智能在地理空间情报领域主要的发展方向。


2.4人工智能辅助情报培训的现状分析

2.4.1规范情报分析流程

美国情报界很早便开始尝试利用人工智能培训情报人员。据公开资料可知,美国海军战斗群(BG)的情报小组,需要在太平洋舰队情报训练中心(FITCPAC)的情报小组训练器(ITT)进行至少三次训练。该训练器对舰上各情报单元进行仿真模拟,不仅可以用于情报人员的培训,还能用于演练情报搜集、传递和分析各情报单元的协作过程。


人工智能技术作为人脑的辅助和延伸,可以突破人脑的生理限制,显著提升情报人员分析综合的科学性和效率。加强分析师分析过程的专业化和标准化,是改善情报分析工作的有效手段。现实中,分析人员是根据专业进行招聘、训练和使用的,从事信号情报分析的人员很难从事人力情报分析,要使分析人员由其熟悉的领域向其他领域全面扩展难度极大。


而人工智能技术能够将不可预测性元素整合到训练模拟中,因而对情报分析培训来说有特别的价值。近年来,美国情报界开发了多款专门用于辅助情报人员培训的人工智能软件,以情报高级研究计划局(IARPA)为首的研究机构,通过开发军事游戏和虚拟仿真环境等软件,为情报人员提供沉浸式的逼真虚拟体验。IARPA正在开发的CREATE程序,就是开发结构化分析技术来改善分析推理的系统,该程序旨在训练情报人员更好地理解支持或与结论冲突的证据和假设,同时还能帮助用户更好地传达其推理和结论。


人工智能的培训算法是基于既往重大事件、海量数据集和专家经验反复训练生成的,虽然缺乏批判性思维和对非常规事件模拟的创新性,但对于传统模式下事件的分析能力远超人力。因此,使用人工智能的培训算法辅助情报人员培训,可以在一定程度上消除人为因素带来的理解偏差,使得情报分析师的分析过程更加科学规范。


2.4.2辅助心理行为训练

情报分析是高度复杂的思维过程,因此情报分析本质上仍是情报分析师的思维活动。随着美国情报界对情报失误的反思和调查,人的心理认知过程逐渐成为情报分析理论研究的重点方向。以小理查兹·霍耶尔(RichardsJ.Heuer·Jr.)为代表的美国情报理论家们认为,情报分析人员自身的“心理决策机制”受其个人认知能力限制,会对情报分析结果产生重大影响。然而人的理性受其长期接触的客观世界所影响,一旦形成往往难以改变,这就需要通过标准化和一定强度的刺激来规范其认知模式,尽可能规避认知偏见。


目前,美国情报界也在探索利用模式化的人工智能和机器学习软件来培训分析人员,帮助其认识和规避思维误区。IARPA主导的MOSAIC项目基于认知心理学和行为科学理论,通过多模态传感来持久监测分析师及其周边环境变化,最终建立综合模型以评估分析人员的分析能力。IARPA另一个研究心理行为的项目KRNS,也向着理解人脑如何表示概念知识迈进了一大步,其高速获取、组织和运用已有知识,最终形成用于培训情报分析人员和语言学家的新颖技术。由此可见,美国情报界对利用人工智能辅助情报培训的研究已经取得了一定成果,通过机器学习和重复演绎大量的历史事件,人工智能软件也可以在一定程度上提出替代方案以测试或规范分析人员的分析过程,已经从简单的仿真模拟和数据可视化逐渐转向对人的认知和心理发挥影响。

3、人工智能融入美国国家情报体系的困境分析

人工智能自诞生之初就是具有争议的矛盾体,技术上的巨大前景与随之而来的一系列社会伦理问题形成鲜明的反差。对情报界而言,情报人员与人工智能的“人机关系”是无法回避的问题,数据安全和数据陷阱也是必须时刻注意的方面,如何理解人工智能当前的发展困境,则是未来能否有效应对的前提。


3.1伦理困境

3.1.1人本伦理问题

美国情报界对运用人工智能有截然不同的两种观点,一方认为人工智能系统缺乏抽象思维,因此将分析和判断的权利交给完全依赖模式化决策的算法存在较大风险;另一方则认为人工智能的算力远超人脑,因此只要模型搭建合适,是能够承担大部分分析工作的。事实上,这也就是长期以来强调思维符号化的“理性主义”和面向服务人类的“以人为本”理念之争。


一方面,人工智能的运用是否会伤害到情报人员的尊严,确实是一个有待探讨的问题。将人工智能引入情报工作,不仅会触动人类情报雇员的利益,还会在长期工作中削弱情报人员的自信。情报界的两种观点,体现在实际推动层面是“人工智能”(AI)与“智能增强”(IA)之争,其本质仍然是纠结于利用技术替代人类,还是作为工具增强人类。诚然,当涉及语言的细微差别、复杂问题的解决以及情感和社交情报的某些任务时,人工智能永远无法做到最好。机器和算法总是缺乏足够的人性价值,在面临难以量化和描述的情报问题时,分析人员往往能够依靠工作经验和知识积累快速做出判断,而这对于机器来说无疑是一项考验。


另一方面,情报界运用人工智能系统目的就是为了搜集、筛选尽可能多的情报信息,特别是对于开源情报和信号情报来说,人工智能在数据搜集过程中不免会对公民隐私权造成威胁。大数据分析、持续的ISR、人脸识别和网络功能等基于人工智能的系统可能使独裁者能够监视其人口,针对持不同政见者,审查内容或以其他方式侵犯基本人权。个人隐私数据的权责本身就具有法律含义,一旦泄漏便会造成严重的社会后果,情报机构不仅需承担相应责任,还会对自身形象产生极大负面影响,CIA前雇员爱德华·斯诺登曝光美国情报界秘密监控项目的事件便是典型案例。


3.1.2信任危机

支持还是反对发展致命性自主武器系统(LAWS),是人工智能和机器人领域面临着一个重要的伦理问题。情报界也面临同样的问题,自主系统可以在几乎没有人工干预的情况下搜集、分析和输出情报,但复杂的算法也使人们不能简单地阐释和理解人工智能的分析过程和结论,这就使得自主系统的准确性、自主程度和权限界定面临不小的困难。


一方面,人工智能可以快速地分析大量数据,并提供用于做出决策的短期判断,但情报分析是敌我双方持续、复杂的脑力对抗,虽然分析过程要求基于数据层面的客观,但准确的判断结论往往是分析人员对当前态势的感知和思维逻辑共同作用的结果,这种实质上的主观判断是模式化的人工智能算法所难以企及的;

另一方面,将人工智能和机器人引入美国情报体系之中,尽管为情报人员承担了大量事务性的工作,但也不可避免地替代了部分脑力劳动,而承担来自于机器决策的附加责任无疑是任何情报人员都竭力避免的。事实上,人工智能并不具有“认知”和“意识”这一判定责任归属的传统要素,也就是说,在算法无法保证其选择完全正确的前提下,即使人工智能能够通过复杂的运算来分析判断情况,并采取相应措施或做出决定,它们也缺乏伦理上的决策能力。因此,人类委托给他们的行动或决定的责任仍然是由开发和使用该技术的人类代理人承担的。而在现有技术水平下,无论是软件系统的开发者还是使用者,都无法对人工智能产生绝对的信任,自然也就不愿为其承担相应责任,这种本能的信任缺失是任何技术都无法避免的。


3.2应用困境

3.2.1安全问题

人工智能本质上是计算机技术的延伸,所以无论是软件还是硬件层面,人工智能面对恶意行为都具有相当大的脆弱性。鉴于当前人工智能技术的不确定性,针对人工智能安全性的考量值得关注。兰德公司《人工智能的军事应用》报告中也认为,从训练数据中学习的机器学习系统容易受到其他类型的攻击,包括所谓的数据中毒攻击,在这种攻击中,敌人可以操纵或欺骗训练数据以影响系统的预期功能。理论上来说,深度学习算法需要搜索与以前的恶意代码相匹配的历史数据,因此敌对方可能故意设计针对性算法,只需修改代码的小部分便能够绕过检测,从而欺骗和诱使我方人工智能系统犯错或崩溃。国会《人工智能与国家安全》报告也表示,尽管人类并非无法避免错误,但他们的错误通常是基于个人的,并且每次的错误趋于不同;但是,人工智能系统有可能以相同方式同时失效,从而可能产生大规模或破坏性影响。


此外,在高度复杂的自动化系统中,系统用户因不能正确理解系统设计者的初衷,进而对接收的信息处理不当,也会引发故障造成事故。一方面,当前人工智能算法一般都是针对某一特定种类的情报资料或数据进行开发的,一旦使用者输入错误数据或超过该系统的承载量就很可能造成故障;另一方面,对于非专业的情报人员来说,调试和监督人工智能系统运行几乎不可能,一旦自主系统抓取了如震网病毒(Stuxnet)等恶意程序,留给人工纠错的时间将被压缩,情报人员很难及时阻止其自我恶意复制、传播等其它恶意行为,极有可能造成己方情报机构网络的崩溃或数据泄露。


3.2.2数据陷阱

美国情报界拥有世界上最完善的情报搜集手段,但数据处理能力远不及搜集能力,因此存在大量的情报数据处理滞后。据统计,美军装备了8000多架使用效果良好的无人机(UAV),除图像外每天可侦获大约1600个小时的视频录像。因此,通常的观点认为人工智能和大数据技术在情报界有广泛的应用前景,情报界也不免会不断寻求先进的人工智能和机器学习技术。


然而,在人工智能时代,分析精度的提升使得软件对数据质量有着更高的要求,这就对情报工作中的人工智能提出了挑战。

一方面,在民用领域应用良好的人工智能算法都经过大量、规范的数据集训练而成,而各种情报手段搜集得到的数据通常是不完整的、片段的,所以情报界只能通过极有限的完整真实数据来训练算法。进一步说,人工智能系统是否能够识别和理解这些数据尚且难以判断,而缺乏一定量的训练样本则会使得其分析结果的精准性更差强人意。

另一方面,危机事件的发生概率非常低,且每个事件都有其自身的特殊性,这就会导致系统预警与真实威胁间的巨大差异。情报工作面临的挑战始终是从大量随机信号中挖掘高价值信号,尽管人工智能和大数据技术的应用确实提高了数据处理效率,但依赖算法的改进很难完全解决算力与运算量之间的矛盾。

因此,如果一味的推动人工智能和大数据融入情报界,很可能会使情报机构陷入盲目追寻超大数据量而忽略数据本身内涵的数据陷阱之中,从这一角度来说,通过改进情报搜集手段和方法,提升情报搜集的针对性和质量,或许是配合人力分析师共同改善情报工作的有效途径。


3.2.3技术瓶颈

人工智能算法将情报人员从许多繁杂的事务性工作中解放出来,借助大数据、云计算和并行计算技术,人工智能拥有了分析复杂问题时需要处理大量数据的算力。但是随着数据量的不断提升,现今的计算能力仍然不能满足长时间的高负荷工作,未来一段时间内硬件仍将是限制人工智能系统性能的重要因素。深度学习技术的发展,与GPU、CPU、内存和其它硬件性能的提升息息相关。系统和硬件之间的确存在相互促进的作用,并行计算的出现和算法的优化能够在一定程度上提升硬件的使用效能,但归根到底硬件性能仍是人工智能算力提升不可逾越的限制因素。基于量子理论概念的量子计算可能是解决计算能力困境的最佳方案,但该技术目前还处于研究和实验阶段,能否真正投入使用仍是未知。


此外,人工智能当前面临另一个技术性问题就是人机协同。要实现情报工作的人机协同,情报人员就必须了解与之协作的人工智能运作机理,继而进一步理解其决策过程并做出评估。然而,这对于当前深度学习算法依赖的神经网络而言较为困难,利用深度学习的分析软件并不比传统的监控和预警方法更贴近人类思维模式,只是因为其具有更强的算力而表现出高效率,也就是说计算机的分析路径无论如何也不能贴近人类的思维过程。弗吉尼亚理工学院的研究人员创建了适用于神经网络的眼动追踪系统,它记录了计算机分析像素时的顺序。研究人员尝试通过这种方式来追踪人工智能算法的决策机理,不过该试验暴露了机器的弊端,说明即使是深度学习算法也无法完全复刻人类分析师的认知能力。


4、结语

人工智能对于美国情报界的益处显而易见,无论是开源数据筛选、信号分类、图像自动识别乃至情报分析,人工智能都有很大的发展空间。强大的人工智能系统能够自主检测和保护己方网络不受侵害,先进的自然语义分析和模式识别技术能够提高复杂背景、环境下的语言、图像和视频识别的准确性,通过对历史数据和专家经验的深度学习,人工智能还可以预测目标地域天气、敌人行为模式以及对象变化情况。


然而,尽管人工智能在情报界有广阔的运用实践,但不可否认其目前仍存在许多问题。首先,人工智能应用的前提是深度学习所需要的大量的训练数据,虽然各种情报手段可以搜集大量的数据,但它们往往并不符合机器识别和运算的要求;其次,人工智能的安全性仍无法保证,计算机攻防技术的发展是此消彼长的过程,特别是对于复杂性和不透明度都较高的人工智能来说,即使遭受攻击或欺骗也通常难以被发现;最后,人工智能所带来的的伦理问题也是情报界所不可避免的。一方面,搜集的海量数据一旦泄露会造成极大的社会恐慌和动荡,如何在数据需求与公民权利之间做出取舍仍待讨论;另一方面,技术工具的应用难免会侵犯情报人员的利益,而人工智能的定位尚未明确,“人工智能“与“智能增强”的争论还将持续。


识别和应对风险的最佳方式是让适当的利益相关者参与进来。无论是技术人员、开发人员、情报人员还是管理者,都应当加入到人工智能的开发、使用与监督全过程,让他们充分发挥各自的专业优势,尽可能避免使用过程中产生的不确定性风险。总的来说,人工智能的发展对美国情报界既是机遇也是挑战,面对科技发展的必然趋势,情报界不能拒绝拥抱变革,但也必须警惕和应对其可能带来的各种挑战。


声明:本文来自丁爸 情报分析师的工具箱,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。

指导单位
广东省公安厅网络警察总队 | 广东省信息安全等级保护协调小组办公室