终检评审通过 创新训练 520计算机科学技术 理论研究-科学技术市级

任何机器学习系统都可能被对抗攻击欺骗，得到不正确的预测结果。在输入上添加肉眼不可察觉的非随机扰动，可以随机的改变网络的分类。为了防止机器学习系统受到对抗攻击的破坏，如何有效识别异常的输入是至关重要的。不确定性估计通过分析模型对于不同输入的表现，可以用于确定对抗攻击输入。本项目关注不确定性估计方法在对抗攻击检测中的应用，利用不确定性估计方法判断输入样本是否受到了对抗攻击，以实现有效识别异常的输入，提高机器学习系统的稳定性。