Understanding the Limits of AI for Warfighters¶

AI在作战中应用的局限¶

美国空军正日益关注人工智能（AI）在提升作战各方面潜力中的作用。为此项目，空军委托兰德公司（RAND Corporation）的研究人员反向思考——探讨AI不能做到的事，以理解其在作战应用中的局限。

研究人员并未试图确定AI的一般性局限，而是选择并研究了四个具体的作战应用作为潜在用例：网络安全（cybersecurity）、预测性维护（predictive maintenance）、兵棋推演（wargames）以及任务规划（mission planning）。选择这些领域是为了反映潜在应用的广泛多样性，同时也突出AI应用的不同类型限制。每个用例都以单独的卷册形式呈现，因为它们将引起不同群体的关注。针对其中三种具备足够数据的情形，研究人员开展了AI实验；剩余的兵棋推演案例则探讨了AI可否以及如何被应用。

主要发现（Key Findings）¶

识别适应性威胁需使用最新数据。 数据分布漂移（distributional shift）会削弱模型性能，且无法避免，尤其在高维数据环境下。
AI分类算法无法学习其未被教授的内容。 AI无法预判或识别新型网络攻击。
数据必须可访问且良好定态。 相关后勤数据分散在多个数据库中，且常常条件不佳。若无自动化数据管线，则无法捕获足够数据以支撑AI。
和平时期数据不能替代战时数据。 AI无法弥补适用数据的稀缺。
数字化必须先于AI开发。 大多数兵棋推演尚未在数字化环境中进行，也未生成电子数据。数字化是构建AI数据管线的前提。
需要新型数据。 为启用AI，需要人机交互（HCI, Human-Computer Interaction）技术来捕获当前兵棋推演中未被记录的要素。
AI距离人类智能仍有巨大差距。 因此，AI无法替代人类，也无法进行人类式的判断。
应对适应性威胁需保持数据新鲜。 模型必须用更新的环境条件重新训练，以应对动态威胁。
AI在战术上出色，但在战略上天真。 它倾向于通过进入对手的“观察-判断-决策-行动”（OODA）环中来取胜，而非提出巧妙的总体战略。
AI的准确度低于传统优化方法。 但其解更具鲁棒性，且收敛速度更快。

建议（Recommendations）¶

空军部（DAF）应进行数据集分段测试，以确定分布漂移对AI系统的影响程度，并评估其性能衰减率与“AI寿命”。
DAF应尝试使用AI改进备件保障包（RSP, Readiness Spares Packages）的需求预测，并将概念验证模型扩展至所有机型。这可能需按部件和平台分别进行。
DAF应考虑利用AI解决更广义的运筹学问题，即确定应将何种部件发往何处。
DAF应建立数据操作管线，以便高效地对多部件、多平台的飞机维护与RSP进行回溯分析。
DAF应集中资源开发用于兵棋推演的AI应用，优先投入以下方向：探讨备选条件或以明确定义标准进行评估的推演；已具备数字化基础设施（包括HCI技术）的推演；以及可定期重复进行的推演。
DAF应增加数字化博弈基础设施与HCI技术的使用，特别是在为系统探索与创新设计的推演中，以收集数据支持AI发展。
DAF应更广泛地使用AI能力以支撑未来兵棋推演活动。
DAF应考虑AI如何驱动无人机在面对突发状况时的快速响应政策。
DAF应投资开发工具，将强化学习（reinforcement learning）应用于现有任务规划模型及仿真系统，如高级仿真集成与建模框架（AFSIM, Advanced Framework for Simulation, Integration, and Modeling）。