【论文笔记】Chaotic Weights: A Novel Approach to Protect Intellectual Property of Deep Neural Networks

Sunday, April 21, 2024
本文共1296字
3分钟阅读时长

⚠️本文是作者P3troL1er原创,首发于https://peterliuzhi.top/posts/%E8%AE%BA%E6%96%87%E7%AC%94%E8%AE%B0/chaoticsystems/%E8%AE%BA%E6%96%87%E7%AC%94%E8%AE%B0chaotic-weights-a-novel-approach-to-protect-intellectual-property-of-deep-neural-networks/。商业转载请联系作者获得授权,非商业转载请注明出处!

概述

本文描述了一种新颖的深度学习模型知识产权(intellectual property, IP)保护方法,使用混沌映射理论(Chaotic Map theory)来使得未经授权的用户无法使用发布的模型

混沌映射理论

混沌映射理论是研究动力系统在迭代过程中表现出混沌行为的理论。这种映射通常涉及一个简单的数学规则,这个规则重复应用于系统的状态,可能导致复杂且难以预测的行为。

混沌映射的核心特征包括:

  1. 敏感依赖于初始条件:在混沌映射中,初始条件的微小差异可以导致长期行为的巨大差异。这是所谓的“蝴蝶效应”,表明系统的未来轨迹对初始状态极其敏感。
  2. 拓扑混合:混沌映射使系统的状态在状态空间中广泛混合,从而任何一个状态都可能在未来逼近任何其他状态,系统的演化能够将初始状态的任何一个局部区域的影响传播到整个空间。
  3. 确定性但不可预测:虽然混沌系统遵循完全确定的规则,但它们的行为因其对初始条件的敏感性而难以预测。
  4. 周期性轨道的密集性:在混沌系统中,存在着无数周期性轨道,这些轨道在理论上是密集的,表明在足够长的时间里,系统可以任意接近其状态空间内的任何点。

三个常见的混沌映射方法:

  1. Logistic Map:可能是最著名的一维非线性混沌映射,表达式为$x_{n+1} = r x_n (1 - x_n)$,其中 $r$ 是系统参数。随着 $r$ 的不同值,系统可以展示从稳定到周期倍增再到混沌的行为。
  2. Arnold’s Cat Map:这是一个二维的仿射映射,通过矩阵操作和模运算产生复杂的、混沌的行为。
  3. Tent Map:这是另一个一维映射,通常形式为$x_{n+1} = 1 - 2 |x_n - 0.5|$,这也展示了参数变化带来的行为变化。

Arnold’s Cat Map

Arnold’s Cat Map 可以表示为以下矩阵操作: $$ T \begin{pmatrix} x \ y \end{pmatrix} = \begin{pmatrix} 1 & 1 \ 1 & 2 \end{pmatrix} \begin{pmatrix} x \ y \end{pmatrix} \mod 1 $$ 这里$x$和$y$是点的原始坐标(可以是任意实数值),模1操作确保映射结果仍然位于单位正方形内。

Arnold’s Cat Map 中使用的矩阵$T$必须满足特定的要求以保证映射的特性,特别是保持面积不变和确保系统的混沌行为。这些要求包括:

  1. 行列式为 1:矩阵$T$必须是整数矩阵(也就是说,矩阵的元素为整数),并且它的行列式$\det(T)$必须为1。这是面积保持变换的一个关键条件,因为行列式为1的线性变换会保持平面区域的面积不变。

    对于 Arnold’s Cat Map,具体的矩阵是: $$ T = \begin{pmatrix} 1 & 1 \ 1 & 2 \end{pmatrix} $$ 这个矩阵的行列式为$\det(T) = (1)(2) - (1)(1) = 1$。

  2. 模$n$算术:变换经常在模$n$下进行,尤其是在数字图像加密应用中,这里$n$通常是图像的尺寸(例如,像素的宽度或高度)。这意味着每个坐标在进行矩阵变换后都要对$n$取模,以确保变换结果仍然落在原始的定义域内。

  3. 可逆性:矩阵$T$必须是可逆的,这意味着存在一个逆矩阵$T^{-1}$,且$T^{-1}$也应为整数矩阵。这是保证映射可以复原的重要条件,是图像处理中尤其重要的性质。

  4. 整数矩阵:如前所述,矩阵的元素需要是整数,这保证了在模$n$算术下的运算能够正确进行,尤其是在计算机图像处理应用中。

文章的方法

文内图片

文内图片

文内图片 这里相当于对卷积核进行位置的调换,而这个过程是遵循混沌映射理论的,因此是不可预测的,而不同的layer有不同的加密参数,这些加密参数合在一起就是密钥

文内图片

快速加密

文内图片

使用了斐波那契数列来生成关键的系数矩阵

实验结果

文内图片