从AI识别系统“掉链子”说开去

　　从AI识别系统“掉链子”说开去

　　■张 翚 白海慧

　　近日，网上流传一段隐身衣与人工智能(AI)识别系统过招的视频。视频中，几位衣着平常的普通人经过摄像头前时，无一例外被快速识别出身份，标注其姓名。然而，一位穿着色彩鲜艳、图案复杂外套的金发男子经过摄像头时，AI识别系统却将其标注为“长颈鹿”。镜头随后拉远，该金发男子漫步在人来人往的大街上，周围的人都被AI准确识别出身份，唯独对该男子的判定依然是“长颈鹿”。

　　功能强大的AI识别系统之所以“掉链子”，原因是着了男子身上那件“花里胡哨”外套的道，被衣服斑驳的图案迷惑了。其实，这并不是一件普通外套，而是一家意大利公司利用算法研发出来的隐身衣。该图案是以攻击对抗方式设计而成的，能够欺骗识别算法，将其印在布料上制成衣服，就变成了能够对抗AI识别系统的高科技隐身衣。当然，如果AI识别算法迭代升级，这个图案就有可能会失效，隐身衣则会立马原形毕露。

　　不难预见，未来战争中，如果批量设计生产能够迷惑敌方AI识别系统的隐身衣，在对手发现算法漏洞打好“补丁”之前猝然发难，则完全可能在透明化战场上发动高科技加持的突然袭击，并取得重大战果。随着智能技术加速演进以及在军事领域的广泛应用，战争时空条件、战争主体、战争手段、战争方式等正发生深刻改变，决定战争胜败的关键越来越体现在制智权的争夺上，智能优势即将成为超越信息优势的进阶优势。

　　未来战争，制智权将成为战场综合制权的核心。战时，作战双方将重点围绕军事智能活动的感知、推理、判断等各环节激烈对抗，争夺支撑作战体系高效运转的人机混合智能“思考”的速度和质量优势。同时，军事AI系统也将成为战场攻防的主要对象，作战双方可能通过迷惑、摧毁甚至控制对方智能作战系统来实现制胜目的。丧失制智权将导致极大被动，即使具有信息优势和能量优势，也会因为人机协同失调、自主决策失灵、作战体系认知速度和效能落后，从而导致整体作战效能大幅下降，甚至战争失败。

　　目前，对智能优势日益决定战争优势这条制胜机理，有些基层官兵可能认识不深，体会不透。因为制智权的争夺离不开人工智能，而人工智能的灵魂是算法。大部分人别说设计算法、改进算法，就是理解算法或许都有难度。但从现代战争实践来看，这是一个毋庸置疑的客观事实。懂算法才能打好“算法战”。算法先进可靠，才能实现智能装备精准掌控、指控响应实时准确、武器装备无人自主。

　　对抗AI识别系统的隐身衣问世，再次提醒我们，务必正视算法在未来战争中的作用，向算法要未来战争博弈主动权，积极主动地迎接挑战。随着军队智能化装备越来越多，基层官兵要全面掌握这些装备技能，积极探索其战术运用，必须了解其算法原理，否则就难以发挥其战斗力。同时，对潜在对手的各种智能化武器装备也要尽可能详尽地掌握其性能、原理、战法、算法等，如此方能防范对手的技术突袭，应对自如。