概述构建一个toy net，测试不参与运算的变量是否会更新&如何更新，加深对pytorch框架参数更新逻辑的理解。起因实现随机深度策略时，在block内部进行requires_grad=True/False操作会报错 （后面测试知道其实是DataParallel的锅）ref: 1, 2测试代码结论见后# 以下代码中，需要设置或取消对应的代码屏蔽，完成不同的测试内容
class ConvBl
转载
2023-08-18 13:35:59
94阅读
/** * 格式化微博来源小尾巴 * * @param sourceString * @return */ public static String formatWeiboSource(String sourceString) { ByteArrayInputStream bais = null; try { if (sourceString != null && !sourceString.trim().equals("")) { bais = new ByteAr...
转载
2013-03-06 10:50:00
122阅读
2评论
1 BP算法总结 BP算法：bp算法实际上是在神经网络中寻找在合适条件下的最佳权重和bais。实际上是利用输出后的误差来估计输出层前一层的误差，再用这层误差来估计更前一层误差，如此获取所有各层误差估计。然后再来来调整各层的连接权值+bais，再用调整后的连接权值+bais重新计算输出误差。直到输出的误差达到符合的要求或者迭代次数溢出设定值。(注：更新权值的过程实际上最重要的是对误差应用
转载
2023-12-12 13:26:37
123阅读
用示例： python sqlmap.py -u "http://xx.com/member.php?id=XX" -p id --dbms "Mysql" --dbs --level 3 --delay 0.5 --proxy http://127.0.0.1:8888 Windows提权命令： net user baisontest bais
String content=“你好啊”；
byte b[] = content.getBytes();
ByteArrayInputStream bais = new ByteArrayInputStream(b);//将字节数组包装到流中
/* * 关键地方• 生成word格式*/
POIFSFileSystem poifs = new POIFSFileSystem();
Direc
转载
2023-07-08 15:57:22
204阅读
为什么要使用backpropagation? 梯度下降不用多说，如果不清楚的可以参考。 神经网络的参数集合theta，包括超级多组weight和bais。 要使用梯度下降，就需要计算每一个参数的梯度，但是神经网络常常有数以万计，甚至百万的参数，所以需要使用backpropagation来高效地计算梯度。 backpropagation的推导 backpropagation背后的原理其实很简单，
转载
2023-11-11 18:15:18
239阅读
为什么要使用backpropagation?梯度下降不用多说，如果不清楚的可以参考梯度下降算法。神经网络的参数集合theta，包括超级多组weight和bais。要使用梯度下降，就需要计算每一个参数的梯度，但是神经网络常常有数以万计，甚至百万的参数，所以需要使用backpropagation来高效地计算梯度。backpropagation的推导backpropagation背后的原理其实很简单，就
转载
2024-01-10 11:31:02
209阅读
主要将模型的搭建移植到keras，参照上一篇博客。新的差异主要如下：1. 之前我们可以初始化一个tensor,可以通过tf.nn,或者tf.layers模块，有些模块中出现了重复的片段，因此新的版本保留的前提下， 引入了一个新的tensorflow.keras.layers全新的模块。tf.keras.layers.Dense（units,activate,use_bais,input
转载
2024-03-05 23:53:44
51阅读
Lasso回归（L1）、 岭回归（L2）、弹性网回归储备知识偏差（bais）与方差（variance）的区别机器学习方法无法捕捉真实关系的现象被称为偏差一般来说，训练集中偏差较小的测试集中方差可能很大交叉验证（cross-validation）最小二乘法（least square）逻辑回归knn是一个有监督方法这里的k是指选择k个临近样本来进行投票，获得哪个族群的投票最多，就把这个点分类到该族群中
问题引入集成学习方法算是一个很牛的学习模块了，乱七八糟的分类或者回归通过某种方法做aggregation得到新的很牛的模型，通俗的来说就是集思广益，群众的力量就是大。既然大家都知道集成学习的算法好，但是你知道为啥这么好吗？有啥理论上的依据吗？问题解答在参考的两篇论文中，相关学者也有稍微解释了一下做了一下实验得到一些结果说集成学习既可以降低bais又可以降低variance。当然集成的方式很多有像a
原创
2021-01-29 20:47:21
598阅读
1. 概述一个集成模型(f)在未知数据集(D)上的泛化误差E(f;D)，由方差(var)，偏差(bais)和噪声(ε)共同决定。接下来，我们一个简单的线性回归来理解偏差和方差概念。在下面图像中，每个红色点是基于我们的集成算法（或机器学习模型）产生的预测值；红色虚线代表着这些预测值的均值；蓝色的线代表着数据本来的面貌。那么：
偏差：模型的预测值与真实值之间的差异，即每一个红点到蓝线的距离。在集成算法
转载
2024-09-14 11:48:56
57阅读
