宇航计测技术 ›› 2024, Vol. 44 ›› Issue (6): 20-27.doi: 10.12060/j.issn.1000-7202.2024.06.03
余涛1,王思野1,*,赵中原2
YU Tao1,WANG Siye1,*,ZHAO Zhongyuan2#br#
摘要: 人工智能的迅猛发展已经深入到各行各业,深度神经网络(DNN)广泛应用于多个领域。然而,随着应用的普及,暴露出对抗攻击对智能模型脆弱性的严重威胁。对抗攻击可能导致模型失效,特别是在商业和军事安全等关键领域,造成潜在的严重后果。这类攻击通过精心设计的输入,干扰模型的正常运行,进而危及系统的安全性和可靠性。为全面、科学地评估不同模型算法的鲁棒性,首次提出了一种基于主成分分析(PCA)的量化评估框架,涵盖了误分类率、不可感知性、攻击效率等多个关键评估指标。通过对20余种模型算法进行测试,并利用PCA对高维数据降维,提取主要评估因素,简化数据结构,最终得出各算法的综合评分。试验结果表明,所提出的评估方法有效且可靠,为模型鲁棒性研究提供了科学指导。
中图分类号: