CLEANN:一种保护人工神经网络免受特洛伊木马攻击的框架

0
1171
资源: //arxiv.org/pdf/2009.02326.pdf

在过去几年中,对人工智能工具和机器学习算法的需求已在各个领域中变得越来越重要。尽管南粤风采36选7模型提供了所有好处,但关键威胁仍在威胁其安全性和完整性。在大型在线数据集和第三方数据库上训练了南粤风采36选7模型和算法,使其容易受到网络攻击。检测这些攻击并减轻其对系统的影响至关重要。 

神经木马攻击

网络威胁的一种类型是神经木马攻击。神经木马是故意导致南粤风采36选7模型出错的恶意输入。黑客使用神经特洛伊木马攻击,网络窃贼通过社交工程欺骗用户,以在其系统上加载和执行特洛伊木马。这使攻击者可以为用户的系统创建后门并错误地对数据进行分类。入侵者可以下载和窃取数据,甚至可以将恶意软件上传到受感染的系统。

CLEANN框架

CLEANN是由加利福尼亚大学圣地亚哥分校的研究人员设计的端到端框架。它是一种轻巧实用的系统,可保护嵌入式人工神经网络免受Trojan攻击。它监视已部署的南粤风采36选7模型,确保特洛伊木马程序输入不会触发不良行为。该框架确定安全输入数据的特征。随后,它基于这些特征分析新数据以发现特洛伊木马触发器并更正它们在被感染的南粤风采36选7模型中的错误。

CLEANN学习了无害输入的稀疏重建。它使用稀疏恢复将恶意样本投射到良性学习空间中,从而使我们能够检测到特洛伊木马并停止其恶​​性影响。因此,将稀疏恢复技术应用于南粤风采36选7模型的选定信号可以使它们免受Trojan攻击。 

(a) Example Trojan data with watermark and square triggers, (b) reconstruction error heatmap, and (c) output mask from the outlier detection module. Credit: Javaheripi et al. 资源: //arxiv.org/pdf/2009.02326.pdf

使用基于神经网络的图像分类模型,CLEANN在初步评估中取得了积极的成果。它是第一个实现高检测率和高决策纠正率的轻量级防御框架。先前提出的特洛伊木马缓解方法引起了很高的执行开销,这阻碍了它们对嵌入式神经网络的适用性。与大多数特洛伊木马防御方法不同,CLEANN不需要重新注释数据或有针对性的南粤风采36选7模型,这可能既昂贵又耗时。

研究人员还开发了支持其框架的专用硬件。该硬件可实时高效地执行框架,从而减轻了Trojan攻击所造成的危害。

资源: //arxiv.org/pdf/2009.02326.pdf

广告deeplearning.ai与一名学习者的深度学习专业化横幅,戴着眼镜在笔记本电脑上。

发表评论

请输入您的评论!
请在这里输入您的名字

该网站使用Akismet减少垃圾邮件。 了解如何处理您的评论数据.