美军人工智能伦理准则研析

国防大学政治学院 李 澍

“第四次工业革命”基于信息时代，通过人工智能为核心的颠覆性技术对信息化产业再升级，使人类社会迈入智能时代。人工智能是继电动机、半导体之后新兴的“通用目的技术”，具备赋能全领域的潜力资质。国防是国家发展的保障，各国高度重视人工智能对提升军队战斗力的变革性影响，聚力推动该技术从民用领域向军事领域转化运用，旨在抢占科技高地，主动塑造战略态势。美国作为引领军事革命提升军队实力从而维持霸权的国家，在人工智能军事化方面走在前列。美国防部部长奥斯汀于2021年7月13日在国家安全委员会人工智能全球新兴技术峰会上指明，人工智能作为革命性技术，将在新发布的联合全域指挥控制概念（JADC2）的各领域发挥关键作用。与此同时，奥斯汀强调，美军坚持“民主”价值观，推行以负责为核心的人工智能伦理准则，确保人工智能的开发、部署和运用始终坚持负责、公平、可追溯、可靠和可治理的原则。结合美军历史行径来看，其一向善于为军力发展编织道德遮羞布，表面上推动科技向善，实则霸权和冷战思维当道，其发布并推行人工智能伦理准则具有深刻的军事考量。

根据美国国家政治体制，美军建设、任务行动等行政工作受到拥有立法权的国会监督。例如，国防部部长奥斯汀和参联会主席米利曾于2021年就阿富汗撤军一事接受国会参议院军事委员会的长期质询与批评。美军为了能够顺利筹措军事技术发展所需资金预算，减少国会干扰，为人工智能技术制定相应准则以彰显其“民主”价值观，并和现有纲领性政策保持一致是应然之举，伦理准则自然成为落脚点。

美国国防部于2022年6月发布的《美国国防部负责的人工智能战略和实施路径》中申明，其采用的人工智能伦理准则是基于数十年来国防部运行的道德、法律和政策框架，而道德原则的重要基础包括《美国宪法》《美国法典》第十条、战争法，隐私和公民自由的保护，以及长期存在的国际公约和价值观。着眼美军人工智能伦理准则，其以负责作为统领，将责任观念贯穿于人工智能的发展、部署和应用环节。同时，以公平作为价值导向，旨在减免人工智能无意导致的偏见。负责与公平原则，凸显美国国防部在遵从国家政策和价值理念的前提下发展军用人工智能技术，既在技术层面引领先行，也在价值观层面宣扬其在国际上的“民主”形象。需要注意的是，“美国优先”理念仍在发挥作用，准则的“负责与公平”仅是对本国军队技术发展负责，仅在本国军人和公民中消除技术偏见，至多只在美盟范围内生效。美军人工智能伦理准则与美国家政策及理念的贴合，意味着同多数发展中国家不合，该准则并没有对国际第三方监督持开放态度，自己既是参赛员，也是裁判员，无益于构建各国普遍同意的人工智能伦理准则。

自第二次世界大战结束以来，美国为了维护其世界霸权地位主导国际格局，先后发动多起干涉主权国家内政的战争，而美国普通民众反战情绪持续存在。随着新兴科技军事应用的推广，反战主体从普通民众扩展到学者和科技企业，他们主张科技向善，不应为战争服务。表面上民众和学者、科技企业达成了反战共识，实际上反战的出发点并不一致，甚至存在一种二律背反。美军人工智能伦理准则的推行是对该二律背反的一种解决路径，起到普遍消解国内反战情绪的作用。

一个军人背后就有一个家庭关系，这是军队和社会之间的重要联结，关系到军队和社会联系程度的深浅。对于普通民众而言，他们最关心的是参军家庭成员的生命，不希望亲人在战场上丧生构成了民众反战的出发点。美国参议员提出了“多佛标准”，指通过公众对战争中伤亡人数的反应来说明美国普通民众是否支持美国参战或其他军事行动。前美海军部部长约翰·华纳指出，超过35000人在朝鲜被杀害，在越南的死亡人数超过50000人，而科索沃战争是零死亡。如果战争可能造成历史上的那种伤亡水平，这个国家是不会再允许武装力量参与其中。针对此情况，以人工智能技术为基础的半自主和自主武器理应受到普通民众欢迎——军人远离战场，在机房中进行战争。美各军种围绕无人战争已推出系列发展框架与计划，为人工智能技术运用制定规划。而学者、科技企业对武器的自主化提出质疑：人工智能军事应用同人性相违背，其应用使消灭生命简单化，导致战争成本下降，人的生命价值被贬低。2018年3月，包括美国、德国、日本、加拿大、中国等多国学者签署公开信抗议韩国科学技术院将人工智能技术应用于研发军用武器。同年，谷歌公司迫于员工压力宣布不再与美国国防部续约“Project Maven”武器自动化项目，以践行“不作恶”的企业价值观。其实，美军实际进行人工智能军事应用实验要远远早于伦理准则的确立，美国国防部人工智能伦理准则为美军持续发展应用人工智能技术提供道德背书，从而普遍消解反战情绪。2020年，“不作恶”的谷歌公司同国防部下级单位国防创新部门（DIU）达成云服务合同以维护国防部网络安全，而正是国防创新部门为国防部提供了《实践中负责的人工智能指南》这一伦理准则实施建议。

美国国防部确立人工智能伦理准则耗时2年。2018年1月，国防部因社会舆论被动认识到人工智能技术会引发伦理难题；
同年6月，一份公开的国防部人工智能战略概述中提出，要引领制定合法、合乎道德地使用人工智能的原则；
2019年10月，国防部创新委员会提报军事和非军事目的的关于人工智能设计、发展、部署、应用中的伦理准则；
2020年2月，国防部正式采用人工智能伦理准则。美国国防部并没有止步于阐释伦理准则的原因与意义，而是以准则为基础，全面制定人工智能下一步发展框架，促进技术更好更快地部署落地。

一是塑形人工智能责任管理。确保在全政府部门建立严格的管理结构流程，加强组织能力改进国防部人工智能的监督和责任，制定关于负责人工智能的指导方针政策和激励措施。实现政府结构、行政流程现代化，减轻人工智能使用的意外后果及偏差。更新作战能力评估过程，支持伦理准则的实施。

二是建立人员信任感。构建强大的生态系统和配套基础设施，安全可靠地开发和部署人工智能。通过教育培训，为开发人员和用户明确角色和职责定位。建立集成实时监控、算法置信度和人员反馈的测试、评估、验证、确认框架，在人工智能生命周期中纳入人员和系统的反馈确保技术可信，使作战人员建立起对人工智能作战能力和先进系统的合理信心。

三是制定生产标准。在人工智能生产和采办过程中采取谨慎措施确保相关项目保持前瞻性风险判断，降低意外后果可能性。研制负责人工智能采办标准，如公告和合同的语言规范，指导供应商符合伦理准则。开发和应用相关工具和技术，并给予实践经验评估产品风险。同时确保研发速度同国防部需求匹配，满足国防战略。

四是要求技术验证。国防部引领开发可参考的过程，可遵循该过程来编写测试操作相关的人工智能程序。通过技术验证提高可追溯性，并建立问责制和内外部监督机制。

五是建立生态系统。改善政府、学界、工业界和民间相关利益者的合作，并与国会就宗旨原则进行接洽，支持其监督。在国防部设立数据与人工智能首席办公室（CDOA）来领导人工智能相关工作，依托国防部创新部门（DIU）、国防部高级研究计划局（DARPA）等引领人工智能创新。建立国家和全球负责人工智能生态，推动形成国际议题，形成基于共同价值观的国际规范，提高与盟友的互操作性。

六是塑造人才队伍。制定国防部人工智能人才管理框架，研究健全的人才培养和引进方案，开发相关专业课程，建立、培训、评估、保持一支专门的负责人工智能军事和文职人才队伍，确保其掌握技术理念、技术开发和使用。

《2018年美国国防部人工智能战略摘要》指出，“中国和俄罗斯正在为军事目的对人工智能进行大量投资，包括对国际秩序和人权造成挑战的相关程序。这些投资可能会抵消美国技术和运营优势，并破坏自由和开放的国际秩序”。美国国防部强调其是国际上首个推出具体人工智能伦理准则的军事主体，旨在率先占据道德高地，以“自由”“人权”为着眼点批评中俄等具有实力的竞争对手，实则是压制对手科技发展，确保自身的技术代差优势。奥斯汀声称，美国国防部每年和盟友和伙伴国家围绕人工智能军事应用举行会议，推进基于共同价值观的全球规范。可见，美国意图同少数发达国家结成人工智能同盟，从美国利益出发制定全球规范，排除中俄在内的大多数国家主体，暴露其冷战思维。美国智库作为人工智能发展生态系统中的重要成分，对如何压制对手科技发展提供方案。例如，新美国安全中心的报告中提议通过国防部评估办公室跟踪研究中国国防创新生态系统活动，扩大与中国私营部门的伙伴关系，获取研发进展。同时，限制人工智能技术的转让、合作以及关键硬件产品的输出，阻碍中国利用外国资源支持本土创新。此外，鉴于中国自主创新能力大幅增强，美国应加大投资基础研究、应用和教育，吸引高端人才，营造竞争氛围。

美军一直强调加强盟友和伙伴国家之间的军事互操性，以统一的标准提升协同作战效率。美军领导的位于欧洲的“欧洲捍卫者”“快速反应”，和太平洋区域的“环太平洋”“金色眼镜蛇”等系列演习中，巩固加强互操性一贯是演习目的之一。人工智能作为未来军事战斗力增长点，美军意图构建技术同盟，必然推动标准统一。

第一层维度是伦理准则的统一。随着美军推进人工智能伦理准则制定并高调发布，其盟友受其影响也先后发布人工智能准则。2022年6月，英国发布的《国防人工智能战略》中指出，要加强构建安全的人工智能生态系统，确保人工智能按照最高道德标准并符合国际法律负责任地使用，使人工智能可信。战略中同样强调要根据民主价值观塑造人工智能的全球发展，将俄罗斯和伊朗视作威胁，并且注意来自中国的挑战。但该战略致力于多边主义，重视联合国《特定常规武器公约》（CCW）审议会议对“合法自主武器系统”（LAWS）的讨论，具有一定进步意义。2021年10月，在北约公布的人工智能战略摘要中罗列了负责地使用人工智能的原则，包括合法性、可解释性和可追溯性、可治理、弱偏见性，强调减少其他国家主体对盟国人工智能的干扰。在《北约2022战略》中，特别说明了中俄的技术威胁。可见，北约相关立场基本同美军准则要求一致。

第二层维度则是技术标准的统一。技术标准的统一是重点也是难点，人工智能效用发挥需要以大量数据作为基础支撑，目前主要国家逐步将数据作为国家主权重要内容，关系国家安危。北约人工智能战略摘要中针对标准问题仅声称将进一步与相关的国际人工智能标准制定机构合作，帮助促进军民标准在人工智能标准方面的一致性。可以预见，由于数据关系到国家主权，且美军本身具有侵犯别国数据的历史污点，美军欲推动盟友间人工智能技术标准统一将面临阻碍。

猜你喜欢美国国防部国防部准则2020年《美国国防部数据战略》浅析军民两用技术与产品(2022年3期)2022-06-05美国国防部RDT&E预算拨款结构研究及其启示军民两用技术与产品(2021年3期)2021-06-09国防部来了新发言人环球时报(2020-09-24)2020-09-24具非线性中立项的二阶延迟微分方程的Philos型准则数学物理学报(2020年1期)2020-04-21基于Canny振荡抑制准则的改进匹配滤波器系统工程与电子技术(2016年7期)2016-08-21一图读懂《中国共产党廉洁自律准则》浙江共产党员(2015年11期)2015-05-23美国国防部继续推进超级计算能力建设军民两用技术与产品(2015年1期)2015-01-08混凝土强度准则(破坏准则)在水利工程中的应用湖南水利水电(2014年2期)2014-02-27我们占领了南京“国防部”军事历史(2004年4期)2004-11-22