学习目标1.学习CNN基础和原理 2.使用pytorch框架构建CNN模型，并完成训练。CNN介绍卷积神经网络（CNN）是一类特殊的人工神经网络，是深度学习中重要的一个分支，CNN在多数领域表现优异，精度和速度比传统的计算学习算法高很多。CNN进行权值共享，在计算机视觉领域，CNN是解决图像分类，图像检索，物体检测和语义分割的主流模型。 CNN每一层由众多的卷积核组成，每个卷积核对输入的像素进行卷
转载
2024-04-10 14:12:31
658阅读
最近在做细胞分割，尝试了很多CNN的分割模型，对比下来发现unet性能真的是很好。在很小的训练集上（30张）也能取得非常不错的分割效果。以前一直以为CNN结构更多的是靠瞎蒙，现在发现其实不是。CNN虽然内部的整个流程很难去揣摩，但是还是有很多比较整体的经验可以借鉴，在模型构建上还是有规可循。 按照我这些日子的测试，结合一点自己的理解和网上各位大佬的帖子，说一下我自己的看法。 U-Net和FCN非常
转载
2024-02-23 23:24:01
131阅读
经常接触LSTM，GRU,RNN这些模型，对于LSTM的印象只是知道它用来解决梯度消失梯度爆炸问题，对于长距离的句子的学习效果不好的问题，而且大概知道里面是加了一些参数，加了门单元来选择忘记和记住一些信息。但是具体公式没有推过，所以理解的不够深。但是上面这篇长博文，作者真心花了很多心血来创作，写的详细，易懂，对于学习lstm有很大的帮助。读完后我觉得要理解几个门的作用，文中作者提到的三个例子恰到
Fully Convolutional NetworksFCN与CNN的区别：简单的来说，FCN把于CNN最后的全连接层换成卷积层，使用反卷积上采样恢复原图大小，最后逐个像素计算softmax分类的损失，输出的是一张已经Label好的图片。CNN：通常CNN网络在卷积层之后会接上若干个全连接层, 将卷积层产生的特征图(feature map)映射成一个固定长度的特征向量。以AlexNet为代表的经
转载
2024-04-27 19:29:45
116阅读
深度学习与神经网络此前没有深度学习神经网络的基础，理解CNN比较困难，于是先观看了B站上吴恩达深度学习课程，从logistics回归学起，到单层神经网络，多层神经网络，基本弄懂了损失函数，成本函数，梯度下降法，激活函数，正向传播和反向传播，超参数，收敛，迭代等概念。CNN配合该博文理解CNN->通俗理解卷积神经网络卷积神经网络（简称CNN）是一类特殊的人工神经网络，是深度学习中重要的一个分支
为什么选择时间卷积网络？与具有相同容量的循环体系结构相比，TCN具有更长的内存。 在大量任务（序列MNIST，添加问题，复制内存，字级PTB …）上，其性能始终优于LSTM / GRU体系结构。 平行度，灵活的接收域大小，稳定的梯度，训练所需的低内存，可变长度的输入… 放大的因果卷积层堆栈的可视化（Wavenet，2016）参数：TCN(nb_filters=64, kernel_size=2,
知识补充：空洞卷积（膨胀卷积）——Dilated Conv 在标准卷积的基础上注入空洞，以此来增加感受野（reception field）。因此增加一个超参：膨胀率，指kernel的间隔数量。因果卷积传统的CNN无法直接处理sequence模型这种序列问题，所以使用因果卷积，其作用就是解决序列问题。膨胀因果卷积膨胀非因果卷积Wavenatwavenet是一种全卷积的模型，
转载
2024-02-02 20:15:05
2171阅读
基于tensorflow的CNN和LSTM文本情感分析对比1. 背景介绍2. 数据集介绍2.0 wordsList.npy2.1 wordVectors.npy2.2 idsMatrix.npy2.2.0 文本预处理2.2.0 为什么把词转化为词向量2.3 Helper Functions3. RNN网络训练4. CNN网络训练5. CNN与RNN训练结果对比6. 循环神经网络系列参考文献 1.
转载
2024-04-26 13:31:59
190阅读
今天下午我继续学习有关TCPIP的相关知识。为了减少网络设计的复杂性，大多数网络都采用分层结构。对于不同的网络，层的数量、名字、内容和功能都不尽相同。在相同的网络中，一台机器上的第N层与另一台机器上的第N层可利用第N层协议进行通信，协议基本上是双方关于如何进行通信所达成的一致。 不同机器中包含的对应层的实体叫做对等进程。在对等进程利用协议进行通信时，实际上并不是直接将数据从一台机器的第N层传送到另
转载
2024-05-06 10:05:20
55阅读
本文主要利用LSTM和CNN来处理移动传感器产生的数据识别人类活动。传感器数据集数据组成这个项目使用了 WISDM (Wireless Sensor Data Mining) Lab 实验室公开的 Actitracker 的数据集其中数据：测试记录：1,098,207 条行为类型：6 种走路慢跑上楼梯下楼梯坐站立传感器类型：加速度
测试场景：手机放在衣兜里面WISDM 公开了两个数据集，一个是在实
LSTM 中实现attention：https://distill.pub/2016/augmented-rnns/， 文章链接中给出的第三方attention实现非常清晰！ 理解LSTM/RNN中的Attention机制Posted on 2017-07-03 Deep Learning | 1 Comment&nbs
高产似母猪今日变弯小技巧：RNN和CNN的区别结论：RNN(循环神经网络)，当前节点的输入包含之前所有节点信息。CNN(卷积神经网络)，当前节点的输入以树结构形式仅包含上一层节点信息CNN神经网络：人类的视觉总是会关注视线内特征最明显的点。 RNN神经网络：事物的发展是按照时间序列展开的，即前一刻发生的事物会对未来的事情的发展产生影响。绫波丽镇楼RNN(循环神经网络)，和CNN(卷积神经网络)是深
转载
2024-04-24 12:23:25
128阅读
GMT即：格林尼治时间（另有格林威治时间一说）以本初子午线为基础，精确度相对低。注意事项：因为地球每天的自转是不规则的（正在缓慢减速）所以，格林尼治时间的精确度会越来越低。UTC即：世界协调时（Universal Time Coordinated），以原子时钟长为基础，比GMT格林威治时更加科学更加精确。UTC是国际无线电咨询委员会制定和推荐的，若与GMT时差大于0.9秒，则由位于巴黎的国际地球自
转载
2024-08-12 09:31:36
64阅读
由于比赛的原因，接触了图像文字识别，即是对输入的图片，识别其中的文字。然而对于现实世界中随机的一张图片，首先需要文字检测，即检测出图片中文字的所在文字，然后再进行文字识别，由于比赛给出的数据不用考虑文字检测部分，所以此篇文章主要介绍文字识别算法CRNN。CRNN算法思想很简单，架构模型为CNN+RNN，CNN用于提取图片的特征，然后转换成特征序列，作为RNN的序列输入，RNN网络用于预测序列，RN
转载
2024-04-08 10:35:17
69阅读
1. 理解卷积【解释了图像处理中卷积计算的过程】2. 理解CNN2.1 一点思考：由【参考链接第一条】这个知乎答案中获得启发：要十分深刻而准确的把握每一个trick背后的物理直觉。这些物理直觉作为一种先验知识加入到网络设计中，构成一些组件。这些组件能够work，正是因为这些组件满足了【图像目标检测】背后的某些物理直觉【我们面对一张图片，如何检测一个obj，所具有的先验知识】例如：图像中obj的【空
目录前言课题背景和意义实现技术思路一、系统设计二、算法模块实现功能三、结果分析四、总结实现效果图样例最后前言 ?大四是整个大学期间最忙碌的时光,一边要忙着备考或实习为毕业后面临的就业升学做准备,一边要为毕业设计耗费大量精力。近几年各个学校要求的毕设项目越来越难,有不少课题是研究生级别难度的,对本科同学来说是充满挑战。为帮助大家顺利通过和节省时间与精力投入到更重要的就业和
转载
2024-08-08 12:02:27
198阅读
今日学习内容概览： 今天主要阅读了一篇论文Temporal Segment Networks：Towards Good Practices for Deep Action Recognition（时间片段网络面向深度动作识别的良好实践），这篇ECCV2016的文章主要提出了TSN（temporal segment network）结构，被用来做视频的动
1. CNN+RNN
相同点都是传统神经网络的扩展；前向计算产生结果，反向计算进行模型的更新；每层神经网络横向可以多个神经元共存，纵向可以有多层神经网络连接。不同点CNN进行空间扩展，神经元与特征卷积；RNN进行时间扩展，神经元与多个时间输出计算；RNN可以用于描述时间上连续状态的输出，有记忆功能；CNN则用于静态输出；CNN高级结构可以达到100+深度；RNN的深度有限。组合的意
转载
2024-04-08 10:16:17
43阅读
开始总结语音相关知识点1、语音分离和增强的本质是什么？a) 一个是分类，一个是回归。 b) 分类和回归的区别在于输出变量的类型。定量输出称为回归，或者说连续变量预测；定性输出称为分类，或者说是离散变量预测。 c) 本质一样，都要建立映射关系。在实际操作中，可以相互转化。2、TCN和LSTM的区别是什么？a) TCN是时序卷积网络（Temporal convolutional network），主要
转载
2024-08-28 16:02:55
212阅读
也就是从 2014、15 年起，我们基于深度神经网络的应用就已经在文本和语音识别领域达到 95% 的准确率，可以用来开发新一代的聊天机器人、个人助理和即时翻译系统等。卷积神经网络（Convolutional Neural Nets, CNNs）是图像和视频识别领域公认的主力军，而循环神经网络（Recurrent Neural Nets, RNNs）在自然语言处理领域的地位与其是相似的。但二者的一个
转载
2024-03-15 14:42:48
64阅读
