CNN多维时序分类 pytorch cnn 时间序列_cnn

论文标题:
OMNI-SCALE CNNS: A SIMPLE AND EFFECTIVE KERNEL SIZE CONFIGURATION FOR TIME SERIES CLASSIFICATION
论文链接:
https://openreview.net/forum?id=PDYs7Z2XFGv 代码链接:
https://github.com/Wensi-Tang/OS-CNN

摘要

感受野(RF)大小一直是影响一维卷积神经网络(1D-CNN)时间序列分类任务的重要因素之一。为了选择合适的大小,人们付出了很大的努力,因为它对性能有很大的影响,并且对于每个数据集都有很大的不同。本文提出了一种适用于1D-CNN 的全尺寸块(OS-block) ,其中核的大小由一个简单而通用的规则决定。特别地,它是一组内核大小,可以有效覆盖不同数据集的最佳感受野大小,根据时间序列的长度由多个素数组成。实验结果表明,具有 OS-block的模型可以达到与搜索到的最佳感受野大小模型相似的性能,并且由于具有强大的最佳感受野大小捕获能力,简单的具有 OS-block的1D-CNN 模型在四个时间序列基准(包括来自多个领域的单变量和多变量数据)上达到了最佳性能。全面的分析和讨论阐明了为什么OS-block可以捕获不同数据集的最佳感受野大小。

哥德巴赫猜想:任何正偶数都可以写成两个素数的和。

方法

CNN多维时序分类 pytorch cnn 时间序列_CNN多维时序分类 pytorch_02


pk是素数

CNN多维时序分类 pytorch cnn 时间序列_分类_03


CNN多维时序分类 pytorch cnn 时间序列_cnn_04

实验

CNN多维时序分类 pytorch cnn 时间序列_分类_05


CNN多维时序分类 pytorch cnn 时间序列_论文阅读_06

总结

本文给出了一个简单的1D-CNN块,即OS-block。它不需要任何特征提取尺度调优,可以实现与具有最佳特征提取尺度的模型相似的性能。关键思想是使用质数设计,以一种有效的方式覆盖所有感受野尺寸。我们进行的实验证明,OS-block可以稳健地捕获来自多个域的数据集上的最佳时间尺度。由于其强大的规模捕获能力,它在多个TSC基准测试上实现了一系列的SOTA性能。此外,OS-CNN的结果揭示了1D-CNN模型的两个特征,这将有利于该领域的发展。在未来,我们可以在以下几方面扩展我们的工作。首先,除了首要的核尺寸设计之外,可能有一个更有效的设计来覆盖所有感受野尺寸。其次,OS-block可以与现有的深度神经结构一起工作,以获得更好的性能,但可能有独特的结构或现有结构的变体更适合OS-block。此外,对OS-block的特征进行了实证分析,并对其特征进行了必要的理论解释。