成果推介 | F-LAB神经网络攻防平台

院士团队：方滨兴院士团队

所属学部：信息与电子工程学部

成果详情：

当前，新一代人工智能技术正处于快速发展和深化应用时期，人工智能伴生而来的安全问题随之凸显，已成为事关国家安全和人类安全的重大问题。为了验证人工智能算法和模型的安全性，F-LAB神经网络攻防平台实现针对图像、文本、音频等多种人工智能算法的攻防场景展示。

F-LAB神经网络攻防平台包括图像攻防、文本攻防、语音攻防等。在图像攻防方面，平台展示了目标检测、人脸识别、车牌识别、物体识别等多个场景下人工智能算法和模型的安全性，通过生成图像域、物理域等多种形式的对抗样本，验证人工智能算法和模型的脆弱性，并提供多种对算法模型进行防御加固的方法。在文本攻防方面，平台展示了文本情感分析、机器翻译、文本推荐、垃圾邮件过滤等多种场景下人工智能算法和模型的安全性。在语音攻防方面，平台展示了音色分类、语音识别等多种场景下人工智能算法和模型的安全性，通过生成相似的对抗音频造成算法和模型出错。

F-LAB神经网络攻防平台可以从数据、算法、模型等层面对人工智能技术进行安全性评测，并提供多种方法进行防御和加固。

成果图片及简要说明：