人工智能程序还缺乏“常识判断”，而人类却可以理解在和平时期“保护某区域不受敌军侵害”这样的指令，意味着保持警戒但不引发冲突。
可能导致意外升级或冲突的AWS失误或过错，存在多种原因，其中之一是AWS武器系统的新奇性。政治、军事和外交领导人缺乏与人工智能和AWS武器打交道的技能或经验。另外还存在人工智能和AWS可能缺乏人类共同遵守的规则和指引的问题。这种人类与人工智能交往中的理解或经验的缺失——尤其是在紧张时期、冲突或冲突降级期间——可能导致人类或AWS采取升级或制造冲突的行为。
另一个可能的原因是AWS作出决定或采取行动的快速性。由于领导人作出决定的时间有限，他们收集信息、研究选项和作出周密决策的能力也将受到限制。
AWS失误、纰漏或过错可能导致意外升级或冲突的主要原因，是归因和模糊性问题。归因是指分辨什么人采取了某项故意行为及其原因。归因对于领导人的决策过程极其重要，尤其是在冲突或紧张时期，它可以让领导人瞭解某种行为并指导应对。AWS缺乏归因能力将造成争议情形下的模糊性，这种模糊性将大大增加发生误会、误解和误判的机会。
要想限制AWS武器系统出现导致意外升级或冲突的失误的机会，笔者建议，作为一种建立互信的措施，美国应制定和推广公布AWS过失的实例，以及它们发生位置的规范。
|
