傅里叶提出的理论
https://wenku.baidu.com/view/fa44908602d276a200292e7b.html
神经网络的实际原理
https://dongfangyou.blog.csdn.net/article/details/111655622
如果将激活函数换成sin和cos 那么就和傅里叶说的一抹一样
激活函数是要写sin或者是cos即可因为神经网络权重会控制这个转换
代码如下
代码运行结果就是网络会迅速收敛为sin所以说上一篇总结的理论是正确的激活函数对于一个网络有核心的作用,同时也可以微微说明傅里叶的说法,因为我们不能证明我们要的模型是一个周期信号
import torchimport numpy as npimport matplotlib.pyplot as pltimport torch.nn as nnfrom torch.autograd import Variable x_tensor