我的GitHub地址：https://github.com/taw19960426/DeepLearning存放与之对应的python代码1.Regression1.1 IntroductionMachine Learning: define a set of function, goodness of function, pick the best function选不同的function 其实
前言（看此文章请先了解一下什么是矩阵）矩阵加速是个很神奇的算法，它可以在极端数据下、级短时间内解决复杂问题，而且还很简单。我们从例题入手：例题一：Fibonacci第n项Fibonacci数列满足，求。（n<=1e9）这个数据很大，不能常规地用递推求解。那我们不拐弯路，直接开始公式推导吧：因为（关键递推式），所以可以把放入一个矩阵乘法（n*m和m*q的矩阵）中。因为是2项乘2项，所以m=2，
转载
2024-07-29 17:03:37
26阅读
ResNet中的Residual是怎么来的flyfishResNet（Residual Neural Network）由微软研究院的Kaiming He、 Xiangyu Zhang、 Shaoqing Ren、 Jian Sun等四人提出的，并在ILSVRC2015比赛中取得冠军。 ILSVRC（ImageNet Large Scale Visual Recognition Competitio
转载
2024-03-25 16:04:35
92阅读
是谁在呼唤雅可比今天小天整理留言的时候，看到有模友留下了这么一条留言：恭喜你！你被翻牌……哦不，你的愿望实现了不过在此之前，小天需要先介绍一下他的粑粑——多产堪比欧拉，被广泛认为是历史上三大最具运算能力的数学家之一的雅可比先生。卡尔·雅可比1804年12月10日，卡尔·雅可比（Carl Gustav Jacob Jacobi）出生于普鲁士的一个殷实犹太人家庭，成为家中的老二，父亲（Simon Ja
转载
2024-07-08 11:54:37
59阅读
参见简介流程模型假设关于回归模型ybeta_0beta_1xbeta_2xbeta_pepsilon的误差项epsilon的假设检验方法残差分析异常值判断标准正太性判断标准回归方程总体显著性检验系数显著性检验预测示例及分析matlab进行回归分析及预测线性回归残差分析预测值置信区间计算SPSS进行回归分析及预测 参见利用spss进行线性回归分析MATLAB预测之回归分析线性回归基本假设简介线性回
转载
2024-04-04 09:57:51
133阅读
之前提到，深度神经网络在训练中容易遇到梯度消失/爆炸的问题，这个问题产生的根源详见之前的读书笔记。在 Batch Normalization 中，我们将输入数据由激活函数的收敛区调整到梯度较大的区域，在一定程度上缓解了这种问题。不过，当网络的层数急剧增加时，BP 算法中导数的累乘效应还是很容易让梯度慢慢减小直至消失。这篇文章中介绍的深度残差 (Deep Residual) 学习网络可以说根治了这种
转载
2024-05-09 13:04:41
99阅读
最近在看论文的时候，总是时不时会看到residual block、bottleneck、skip connection等术语，于是花了点时间找了几篇高质量的问答贴看了一下（链接附在本文末尾），并将一些比较重要的点在此记录一下。它们其实都和一篇卷积神经网络经典论文有关：Deep Residual Learning for Image Recognition，也就是大名鼎鼎的ResNet。 r
最近看了一篇论文Human Pose Regression with Residual Log-likelihood Estimation(RLE)很有意思，而且效果贼棒，与大家分享一下。前言做过关键点的同学都知道，一般Heatmap-based方法在性能上会优于Regression-based的方法。因为Heatmap-based方法通过显式地渲染高斯热图，让模型学习输出的目标分布，将输入图片滤
转载
2024-08-14 19:51:56
64阅读
原理：原理：我们一般把图像分为目标和背景，传统的显著性模型是提取目标的特定特征，这样的方法就决定了目标种类的特定性，也就导致了这种方法的局限性。一般认为视觉注意机制分为两个阶段：一个是并行快速简单的预注意阶段，然后是单行缓慢但是复杂的注意阶段。人类倾向于关注那些有显著变化的区域，而对大部分的相似的区域不予关注。因此，在图像中将平淡的背景剔除掉，剩下的就是显著区域。 Spectral R
PCB画好后，还有以下几点要做：1.出钻孔表在manufacture-> NC->Drill legend生成钻孔表，放置到板中（PCB有变动，则重新生成）2.出光绘本文以Allegro 17.2为例：2.1 manufacture-> Artwork 在红框内右键，我已添加好。如何添加：（预警预警，请先阅读完再操作，以下包含错误演示） 右键Add就可以添加一个新的输出底片文件
2019 arXiv preprint Residual or Gate? Towards Deeper Graph Neural Networks for Inductive Graph Representation Learning 一、主要工作二、研究动机三、创新点四、具体思路训练方法A．有监督学习Ｂ．无监督学习五、理论分析六、实验效果 Networks for Inductive Gr
转载
2024-08-15 08:51:59
65阅读
多目标优化：Pareto理论定义 文章目录多目标优化：Pareto理论定义1.Introduction2.相关定义2.1 帕累托支配2.2 Pareto解2.2.1 弱支配解2.2.2 强支配解2.3 Pareto等级2.4 Pareto改进（Pareto Improvement）2.5 最优解与Pareto 最优解2.6 Pareto最优集（Pareto Optimal Set）2.7 Pare
1. 简介 随着神经网络的进一步加深，可能会出现如下问题： （1）梯度消失、梯度爆炸 （2）退化问题--训练集上准确率下降（不等于过拟合--表现为在训练集上表现更好）是2015年ILSVRC 比赛2015第一名的算法。主要是针对更深的神经网络难以训练的问题，提出了一种残差学习的结构，不仅增加了网络的深度，而且减少了参数的数量，易于训练，取得了很好的效果。2. 残差学习
转载
2024-03-15 11:31:11
113阅读
1. 测量标准误的意义举例：分数不能代表一切，也就是说分数不能完全反映一个学生对知识的掌握情况。没休息好，身体不舒服都可能影响书面成绩，而我们也不可能重复考试，那么考试的分数和学生真实分数存在偏差。如何量化考试（测量手段）在反映学生水平时的误差就用到了测量标准误。心理领域定义：对特定的一组考生来说，与考试分数有关的测量误差的标准差。2. 测量标准误的计算方法测量标准误是衡量测量中误差大小的客观指
转载
2024-05-24 18:23:03
230阅读
偶尔有朋友咨询我EXCEL公式问题，其实平日用得不多，就熟悉几个简单的函数。只是多数问题通过分解，是可以通过简单的函数实现的。实际问题以有效投标人平均价为基准价，每超出基准价1%扣0.5分，低于基准价10%以后，每1%扣0.5分。总分25分，扣至零分为止，不计负分。超过最高投标限价的为无效投标。举例来说就是比如基准价100万，然后我报了110万就每1%扣0.5 就是扣5分；如果报了80万，就是超过
转载
2024-10-28 10:08:08
21阅读
协方差 协方差（Covariance）在概率论和统计学中用于衡量两个变量的总体误差。而方差是协方差的一种特殊情况，即当两个变量是相同的情况。期望值分别为与的两个实数随机变量X 与Y 之间的协方差定义为： ， 其中E是期望值。它也可以表示为： ， 直观上来看，协方差表示的是两个变量的总体的误差，这与只表示一个变量误差的方差不同
【ceres】【ceres实践】【ceres的使用学习记录】0 前言1 下载安装ceres2 ceres使用2.1 头文件的使用2.2 CMakeLists.txt的使用2.3 代码的使用2.3.1 简单例子2.3.1.1 代价函数的计算模型2.3.1.2 构建最小二乘问题2.3.1.2.1 自动求导2.3.1.3 配置求解器2.3.1.4 配置优化信息2.3.1.5 开始优化2.5.1.6 允
转载
2024-05-18 15:08:04
128阅读
Ceres solver 是谷歌开发的一款用于非线性优化的库，在谷歌的开源激光雷达slam项目cartographer中被大量使用。Ceres官网上的文档非常详细地介绍了其具体使用方法，相比于另外一个在slam中被广泛使用的图优化库G2O，ceres的文档可谓相当丰富详细（没有对比就没有伤害，主要是G2O资料太少了，对比起来就显得ceres的很多），下面我就介绍下如何使用ceres库进行简单的非线
转载
2024-05-14 12:40:21
130阅读
Ceres 学习 安装、编译、求解Options参数1. 基础1.1 下载1.2 Linux 安装1.2.1 依赖安装1.2. 2 安装1.2.3 测试1.3 简易使用1.3.1 cmake中1.3.2 ros package1.4 指定版本+本地安装1.5 使用步骤2. Ceres的Options详解2.1 常用参数2.2 优化方法无关参数2.3 信任区域2.4 线搜索 1. 基础Ceres
转载
2024-05-11 16:22:03
171阅读
Ceres是什么？学SLAM的同学可能都听说过Ceres，但是大多数可能都和现在的我一样，对其仅仅停留在一知半解的程度。现在一起从0开始去搞定Ceres吧！没有安装的同学先安装CeresCeres可以解决如下形式的“带边界约束的鲁棒的非线性最小二乘问题”（bounds constrained robustified non-linear least squares problems） 其中是需要最
转载
2024-04-27 22:28:10
104阅读
