此外，朱启超认为，人工智能远未完美。由于人为错误、机器故障等因素带来的误差在所难免，在对抗的环境下人工智能系统平台也面临着被对手通过指令篡改、病毒入侵攻击的可能，无人系统平台的失控可能造成滥杀无辜。第四，人工智能的运用，使得人在回路和人不在回路并存，往往为失误行动的责任追查带来新的困难。对于因无人机反恐作战引发的人道灾难，责任追究可能涉及操控者、程序员、采购官、战地指挥官等多个方面，智能系统犯错要比人犯错更难以追溯责任。
同时，朱启超说，由于技术的扩散，人工智能同样可以被恐怖份子所使用，其弱点同样可能被恐怖份子所利用。在一个日益互联互通、信息快速传递的世界里，人类面临着新的跨域攻击、战争误判的风险。比如基于人工智能技术的网络攻击可使国家基础设施遭受破坏，甚至导致核武器乃至生化武器的失控，诱发战争的误判与升级。
朱启超还表示，各国在运用人工智能技术升级防务能力的同时，我们有理由对人工智能保持审慎。人工智能将揭开开源战争、算法战争、混合战争等各类冲突的盖子，各国将越来越难以追求绝对的安全。我们建议从人类命运共同体的角度，共同思考应对人工智能爆发时代的国际性安全挑战。
|
