\quad 神经网络参数化隐式定义、连续、微信号表示已经成为一个强大的例子，提供了许多比传统表示更有可能的好处。然而，目前用于这种隐式神经表示的网络结构信号不能精细建模,它们也空间和时间导数无法准确建模，空间和时间导数是微分方程隐含定义的信号所必需的。我们建议隐式神经表示周期激活函数，证明这些被称为正弦表示网络或SIREN该网络非常适合表示复杂的自然信号及其衍生信号。
\quad 我们分析了SIREN的激活统计学，提出了一个原则性的初始化方案，并演示了图像、波场、视频、声音、三维形状及其衍生表示。此外，我们还展示了如何使用它SIREN解决具有挑战性的边值问题，如特定的边值问题Eikonal泊松方程(产生符号距离函数)Helmholtz方程和波动方程。SIREN结合超网络学习警报函数空间的先验。所有应用程序的建议方法和视频概述请参考项目网站。

\quad 隐式函数表示的起源。泛函C的输入是空间坐标或时空坐标x，Φ由神经网络参数化，x映射成其他量，同时满足(1)的约束。
\quad 因此，Φ由C建立的关系隐式定义，我们指的是神经网络-可以参数化的隐式定义函数，称为隐式神经表示。

个人理解，函数$\Phi \left(x\right)$和$x$不能用显式表示成$y=kx$但可以通过函数函数(泛函)的形式写成显式关系，如公式(1)。

\quad 这种方法可以用于大量的科学问题。正如我们在本文中所示，跨科学领域的各种问题都属于这种形式，如使用连续可微表示法许多不同类型的离散信号建模在图像、视频和音频处理中，通过符号距离函数[1-4]学习三维形状表示，并更一般地解决边值问题，如泊松方程、海姆霍兹方程或波动方程。

\quad 与其他方法相比，连续参数化提供了一些好处，如基于离散网格的表示，例如，因为Φ定义为x的连续域的，因此它可以比离散表示更有效地提高内存效率，使其能够建模不受网格分辨率限制但细节受底层网络架构容量限制。作为一个例子，我们展示了它SIRE架构如何通过仅使用几百KB的网络来表示复杂的3D形状，而相同数据集的原始网格表示需要数百MB。
\quad 可微意味着可以通过分析计算梯度和高阶导数，例如使用自动微分，这再次使这些模型独立于传统的网格分辨率。最后，通过表现良好的导数，隐式神经表示可以为求解微分方程等逆问题提供新的工具箱
\quad 由于这些原因，隐式神经表征在过去一年中引起了极大的研究兴趣（第2节）。这些最新的表示大多建立在基于ReLU的多层感知器（MLP）上。虽然这些架构很有前途，但它们缺乏在底层信号中表示精细细节的能力，并且通常不能很好地表示目标信号的导数。这在一定程度上是由于ReLU网络是分段线性的，其二阶导数处处为零，因此无法对自然信号的高阶导数中包含的信息进行建模。虽然替代激活，如tanh或softplus，能够表示高阶导数，但我们证明，它们的导数通常表现不好，也无法表示精细细节。
\quad 为了解决这些局限性，我们利用具有周期激活函数的MLP进行隐式神经表示。我们证明，这种方法不仅能够比ReLU MLP或并行工作[5]中提出的位置编码策略更好地表示信号中的细节，而且这些属性也唯一适用于导数，这对于我们在本文中探索的许多应用至关重要。
\quad 总之，我们的工作贡献包括：
\quad •使用周期激活函数的连续隐式神经表示法，该函数稳健地拟合复杂信号，如自然图像和3D形状及其导数。
\quad •用于训练这些表示的初始化方案，并验证可以使用超网络学习这些表示的分布。
\quad •演示图像、视频和音频表示中的应用；三维形状重建；求解一阶微分方程以从其梯度估计信号；求解二阶微分方程。

\quad 隐式神经表示。最近的工作已经证明了全连接网络作为形状零件[6、7]、对象[1、4、8、9]或场景[10-12]的连续、高效记忆隐式表示的潜力。这些表示通常从某种形式的3D数据中训练为有符号距离函数[1、4、8-12]或占用网络[2、13]。除了表示形状外，其中一些模型还被扩展到编码对象外观[3、5、10、14、15]，可以使用神经渲染的（多视图）2D图像数据对其进行训练[16]。还提出了时间感知扩展[17]和添加部件级语义分割的变体[18]。

\quad 为了解决式（1）定义的隐式函数问题，我们认为这是一个可行性问题，函数Φ要满足一系列的约束C，每一个约束都与Φ或其导数有关，

\quad 这个问题可以用loss来解决，惩罚每个约束在其域Ωm内的偏离。

\quad 其中，指示函数$1_{{\Omega }_m}\left(x\right)$，当$x\in {\Omega }_m$时，值为1，反之为0。实际上，损失函数是通过采样Ω来实现的。

\quad 数据集 D = { ( x i , a i ( x ) ) } i D=\left\{\left(x_i,a_i\left(x\right)\right)\right\}_i D={ (xi​,ai​(x))}i​是一系列坐标$x_i\in \Omega$的元组以及出现在约束中的$a_i\left(x\right)$中的样本。因此，式（3）是强制为从数据集D中采样的坐标$x_i$，通过

\quad 实际上，数据集D在训练过程中是动态采样的，当样本数增长时能够更好地逼近L，作为蒙特卡洛积分。这一部分暂时不懂

\quad 我们提出了SIREN，一种用于隐式神经表示的简单神经网络架构，使用正弦作为周期激活函数：

\quad 这里，${\varphi }_i:{\mathbb{R}}^{M_i}\mapsto {\mathbb{R}}^{N_i}$是第i层神经网络。包含了由权重矩阵${\mathbf{W}}_i\in {\mathbb{R}}^{N_i\times M_i}$和偏置${\mathbf{b}}_i\in {\mathbb{R}}^{N_i}$以及输入${\mathbf{x}}_i\in {\mathbb{R}}^{M_i}$定义的仿射变换，在仿射变换后，再施加正弦这种非线性操作。
\quad 有趣的是，对于一个SIREN的任何微分都是它自己的一个分量，由于sin函数的微分是cos（看做移相后的sin）。因此，SIREN的微分本质上是SIRENs的属性，使得我们可以推导SIREN的任何微分，以此来表示复杂的信号。在我们的实验中，我们证明了当使用包含$\Phi$导数的约束$C_m$监督SIREN时，神经网络${\Phi }_{\theta }$实现的函数仍然表现良好，这对于解决许多问题至关重要，包括边界值问题（BVP）。与双曲正切或ReLU等传统非线性不同，正弦是周期性的，因此是非局部的。直观地说，这为SIREN提供了一定程度的平移不变性，因为它可以学习将相同的功能应用于不同的输入坐标。
\quad 我们将展示SIRENs可以通过对激活分布的一些控制来初始化，从而允许我们创建深层架构。此外，SURENs的收敛速度明显快于基线架构，例如，在几百次迭代中拟合单个图像，在现代GPU上需要几秒钟，同时具有更高的图像保真度（图1）。

图1：适合图像隐式表示的不同神经网络架构的比较（地面实况：左上角）。该表示仅在目标图像上进行监督，但我们还分别在第2行和第3行显示了函数拟合的一阶和二阶导数。
\quad 一个例子：拟合图像。考虑这样的情况，找到一个函数$\Phi ：{\mathbb{R}}^2\mapsto {\mathbb{R}}^3$把给定的离散图像$f$参数化为连续的形式。图像定义了一个数据集 D = { ( x i , f ( x i ) ) } i D=\left\{\left(\bold{x}_i,f\left(\bold{x}_i\right)\right)\right\}_i D={ (xi​,f(xi​))}i​包含像素坐标${\mathbf{x}}_i=\left(x_i,y_i\right)$以及像素的RGB信息$f({\mathbf{x}}_i)$。约束$C$是$\Phi$必须直接在像素点输出图像颜色。$C$仅仅依赖于$\Phi$本身（不包括微分）以及$f({\mathbf{x}}_i)$，形式如下：$C\left(f({\mathbf{x}}_i),\Phi \left({\mathbf{x}}_i\right)\right)=\Phi \left({\mathbf{x}}_i\right)-f({\mathbf{x}}_i)$，转换成损失函数的形式就是$\overline{\mathcal{L}}={\sum }_i||\Phi \left({\mathbf{x}}_i\right)-f({\mathbf{x}}_i)||$。

损失函数 C=0就是约束，就是隐式关系，而Loss就是下降为0，因此两者等价。

\quad 在图1中，我们用神经网络（用不同的激活函数）拟合${\Phi }_{\theta }$。我们仅仅通过图像值来监督这个实验，并且把梯度$\nabla \Phi$和拉普拉斯算子$\Delta \Phi$可视化，只有两种方法表现得还可以，带有位置编码（P.E.）的ReLU网络和我们的SIREN，精确地表示了原图$f\left(\mathbf{x}\right)$，SIREN是唯一能够完全表示图像（信号）的微分的。此外，我们运行了一个劲简单的实验，我们拟合了一个300帧的视频，用512*512像素分辨率以及ReLU和SIREN MLPs。如图2所示，我们的方法成功表示了图像，平均峰值信噪比接近30 dB，比ReLU高了5dB。我们在补充材料中展示了音频信息的处理。

\quad 我们提出了一种有效训练SIREN所需的原则性初始化方案。在这里非正式介绍的同时，我们在补充材料中讨论了进一步的细节、证明和实证验证。我们的初始化方案的关键思想是保持激活在网络中的分布，以便初始化时的最终输出不依赖于层的数量。注意，在没有仔细选择权重的情况下构建SIREN在准确性和收敛速度方面都表现不佳。