彩神ii彩票

人工智能安全解决方案

背景介绍

据Gartner预测,到2020年将有20%的公司使用人工智能技术提升企业内部应用和流程,到2030年人工智能将促使全球生产总值增长14%,人工智能技术将会在众多领域中得到应用。

然而,训练一个深度学习模型通常意味着大量训练数据、庞大的计算资源和拥有人性化专业知识的专家学者,这使得模型的知识产权保护成为非常关键的问题。另一方面,研究发现深度神经网络对于输入中带有的轻微扰动较脆弱,会导致错误的输出。这些都限制了人工智能深度模型的广泛应用。

解决方案

  • (1)借鉴传统数字水印技术思想,研发出能够确认深度学习模型所有权的框架,该框架会为模型所有者生成定制水印和预定义标签;生成水印后,通过训练,它会将生成的水印嵌入到目标模型中;完成嵌入后,新生成的模型能够进行所有权验证,一旦发现模型被盗用,所有者可以把水印作为输入,检查它的输出。
  • (2)在对抗样本攻防上,攻击方法上从经典的快速梯度攻击、雅克比映射攻击、深度欺骗攻击和边界攻击等上发展演化出新的攻击算法;防御方法上在完全防御和检测防御方向均有所突破。

方案特色

  • (1)鲁棒性高,加入水印的深度学习模型,不影响训练过程和模型性能,有效确认所有权;
  • (2)建立对深度学习系统安全评估方法和评估指标,对抗攻击具有很强的迁移性;
  • (3)算法成熟,具体内容可定制。