时域卷积定理内容



时域卷积网络（Temporal Convolutional Network，TCN）由Shaojie Bai et al.在2018年提出的，可以用于时序数据处理，详细内容请看论文。

因果卷积如上图所示。对于上一层t时刻的值，只依赖于下一层t时刻及其之前的值。与传统的卷积神经网络的不同之处在于，因果卷积不能看到未来的数据，它是单向的结构，不是双向的。也就是说，先有前因，才能有后果，它是一种严格的时间约束模型，因此被称为因果卷积。

膨胀卷积（Dilated Convolution）也被称为空洞卷积

纯净的因果卷积仍然存在传统卷积神经网络的问题，即建模时间的长短受到卷积核大小的限制。 如果想获得更长的依赖关系，需要线性的堆叠许多层。 为了解决这个问题，研究人员提出了膨胀卷积，如下图所示。

与传统卷积不同，膨胀卷积允许在卷积期间对输入进行间隔采样，并且采样率由图中的控制。 底层的表示在输入的过程中对每个点进行采样，中间层的表示在输入过程中对每2个点采样一次作为输入。 一般来说，层级越高，d的数值越大。 因此，膨胀卷积使有效窗口的大小随着层数呈指数型增长。 通过这种方法，卷积网络可以使用较少的层，就能获得大的感受野。

残差连接被证明是训练深度网络的有效方法，它允许网络以跨层方式传输信息。

论文中构造了一个残差块来替换卷积层。 如上图所示，一个残差块包含两层卷积和非线性映射，并将WeightNorm和Dropout添加到每一层用来正则化网络。

（1）并行性。当给定一个句子，TCN可以将并行处理句子，而不需要像RNN那样顺序的处理。

（2）灵活的感受野。TCN的感受野的大小由层数、卷积核大小、扩张系数确定。可以根据不同的任务不同的特点点进行灵活定制。

（3）梯度稳定。RNN经常存在梯度消失和梯度爆炸的问题，这主要是由于在不同时间段共享参数导致的。像传统的卷积神经网络一样，TCN也不存在梯度消失和梯度爆炸的问题。

（4）内存更低。RNN在使用时需要保存每一步的信息，这会占用大量的内存，TCN的卷积内核在一个层中共享，内存使用更低。

（1）TCN 在迁移学习方面可能没有那么强的适应性。这是因为在不同的领域，模型预测所需的历史信息量可能会有所不同。因此，在将一个模型从一个需要较少内存信息的问题迁移到一个需要较长内存的问题上时，TCN 的性能可能会很差，因为其感受野不够大。

（2）论文中描述的TCN仍然是单向结构。在诸如语音识别和语音合成等任务上，纯单向结构仍然非常有用。然而，大多数文本使用双向结构。TCN可以很容易扩展为双向结构，只需使用传统的卷积结构代替因果卷积即可。

（3）TCN毕竟是卷积神经网络的一种变体。虽然使用扩展卷积可以扩大感受野，但仍然受到限制。与Transformer相比，任意长度的相关信息都可以获取的特性仍然很差。TCN在文本中的应用还有待检验。

单标签，即（x_i1,x_i2,x_i3,...x_in）-y_i

本地环境：

库版本：

1.下载数据集

MINST数据集

2.创建TCN.py，输入如下代码

代码参考:Keras-based TCN

3.结果

test_loss: 0.025409 - test_acc: 0.9609

（x_i1,x_i2,x_i3,...x_in）- （y_i1，y_i2）

只需根据上述代码进行修改，重新构建训练、测试数据，设置对应的输入输出维度、参数等信息即可。

本地环境：

库版本：

具体代码:

未完待续...

An Empirical Evaluation of Generic Convolutional and Recurrent Networks for Sequence Modeling

TCN-Time Convolutional Network

Keras-based time domain convolutional network (TCN)

Keras-TCN

[Tensorflow] Implementing Temporal Convolutional Networks

版权声明：

本文来源网络，所有图片文章版权属于原作者，如有侵权，联系删除。

本文网址：https://www.mushiming.com/mjsbk/12945.html