进入了向量空间才算开始了线性代数的大门。几个重要的概念：列空间包含所有列向量的线性组合，记作；当且仅当在的列空间时，才有解；对于一个 的系数矩阵 ，如果矩阵给的信息充足（也就是全都是对应列向量线性无关），那么列空间的维度应该等于行数；当然如果存在线性相关的列向量，列空间就会变成小于行数维度的子空间。一、置换（Permutation）矩阵和对称（Symmetrix）矩阵1.1 置换矩阵及其性质置换
0 引言 11月1日上午，机器学习班第7次课，邹博讲聚类（PPT），其中的谱聚类引起了自己的兴趣，他从最基本的概念：单位向量、两个向量的正交、方阵的特征值和特征向量，讲到相似度图、拉普拉斯矩阵，最后讲谱聚类的目标函数和其算法流程。 课后自己又琢磨了番谱聚类跟拉普拉斯矩阵，打算写篇博客记录学习心得， 若有不足或建议，欢迎随时不吝指出，than
转载
2024-10-08 23:00:54
117阅读
LoRA: Low-Rank Adaptation of Large Language Models目录0. 摘要2. 问题陈述3. 现有的解决方案不够好吗？4. 我们的方法4.1 低秩参数化的更新矩阵4.2 将 LoRA 应用于 Transformer5. 实验7. 理解低秩更新7.1 在 Transformer 中应该应用 LoRA 的权重矩阵是哪些？7.2 LORA 的最佳秩 r 是多少？7
说到这个博客的题目，可能觉得有点大，在测绘学领域中三维空间坐标的相似变换用得非常多。那么什么是三维坐标的相似变换呢？就是在两个三维直角坐标系中，坐标进行变换，两个坐标系之间变换需要七个参数，即三个平移分量，以及三个旋转参数和一个尺度因子。这里用到的模型采用摄影测量学中的变换模型，具体推导见摄影测量学书籍。数学模型如下：R是旋转矩阵，X0，Y0，Z0是平移量，是尺度因子，在此只考虑小角度的情况，最
转载
2024-04-15 14:46:23
272阅读
主要内容矩阵空间子空间的基来自微分方程的向量空间秩为1的矩阵正文矩阵空间，回顾向量空间的定义，其中最重要的就是线性组合的特点。矩阵也可以进行加法和数乘操作，因此它们也可以进行线性组合，所以满足向量空间的运算要求，只要线性组合是封闭的，那么矩阵就可以使用矩阵空间的概念。如：所有的的矩阵组成的空间称为矩阵空间。其中该矩阵空间的子空间有上三角矩阵，对称矩阵，对角矩阵等等。研究矩阵空间的基类似于研究向量空
转载
2024-09-10 10:26:34
69阅读
第八章 深度学习中的优化官网python实现代码2020-2-15 深度学习笔记8 - 深度学习中的优化1（与纯优化区别-基于梯度下降，神经网络优化-下降到足够小即可）基本算法1.随机梯度下降（SGD）–应用最多随机梯度下降（SGD）及其变种很可能是一般机器学习中应用最多的优化算法，特别是在深度学习中。按照数据生成分布抽取m个小批量（独立同分布的）样本，通过计算它们梯度均值，我们可以得到梯度的无偏
转载
2024-08-09 10:58:03
108阅读
这几天开始学习神经网络，本帖为我在读完《Python神经网络编程》后的一个总结，因为我是神经网络的初学者，当出现一些错误或者说法不当时，请多多指正。本文的目的是使用二层神经网络（输入层、隐藏层和输出层，输入层一般只是负责输入）来实现对手写体数字的识别，这里分别采用《Python神经网络编程》中的代码和Pytorch来实现。训练数据集：http://www.pjreddie.com/media/fi
向量可以用一维度数组表示，矩阵可以用二维数组表示PageRank算法PageRank算法的公式为：其中pi为第i张网页，Mi为第i张网页入链的集合，Pj为Mi中的第i张网页，L(pj) 为Pj出链的数量，α为不随机冲浪的概率，1/L(pj)为从网页j到网页i的概率。PageRank是采用迭代法来实现的，初始的时候，每个网页的PageRank分数都一样（比如为1），利用上述公式不断地迭代
转载
2024-06-12 05:54:40
82阅读
Shortest Path AlgorithmsWeighted Graphs最短路径Dijkstra’s AlgorithmBellman-FordA*算法References Weighted Graphs通常，我们发现沿着图中的一条边移动会有一些相关的成本(或利润),例如边的距离，汽油的价格，花费的时间等等。我们称这之为加权图，称边值为权值。我们将之前的图定义扩展如下:加权图G由有序序列(
今天看论文的时候又看到了协方差矩阵这个破东西，以前看模式分类的时候就特困扰，没想到现在还是搞不清楚，索性开始查协方差矩阵的资料，恶补之后决定马上记录下来，嘿嘿~本文我将用自认为循序渐进的方式谈谈协方差矩阵。统计学的基本概念学过概率统计的孩子都知道，统计里最基本的概念就是样本的均值，方差，或者再加个标准差。首先我们给你一个含有n个样本的集合X={X1,…,Xn}X={X1,…,Xn}，依次给出这些概
转载
2023-09-09 18:46:29
148阅读
开源复杂网络分析软件中社团发现算法总结 复杂网络研究中的一个重要部分就是社团发现（Community Detection）算法的研究，密歇根大学物理学系教授Mark Newman就主要在社团发现方面做出了很多贡献。今天简单总结一下几个开源复杂网络分析软件中的社团发现算法： 首先是NetworkX，这个软件非常好用，功能强大，文档清晰。我也写过多篇日志介绍。遗憾的是NetworkX的社团发现算法
1.如何计算卷积后矩阵向量大小？feature_map尺寸的计算公式为：[（原图片尺寸-卷积核尺寸）/步长]+1，假如原图上尺寸大小是：，卷积核大小是，步长为1，则卷积后图片大小为，； 如下图卷积过程所示：2.为什么卷积核有效？我们知道，有些卷积核计算后的feature_map是一个3*3的矩阵数据，在第三列的绝对值最大，说明原始图片上对应的地方有一条垂直方向的特征，即像素数值变化较大；而通过第二
软考权重计算公式及其在软件行业中的重要性
在软件行业，软考（计算机软件技术与软件专业技术资格（水平）考试）是衡量从业人员专业能力和技术水平的重要途径。软考不仅涵盖了广泛的计算机专业知识，还通过一系列严谨的考试流程来评估考生的实际技能。其中，权重计算公式作为软考评分体系的核心组成部分，对于确保考试的公平性和准确性具有至关重要的作用。
一、软考权重计算公式的概念
软考权重计算公式是指根据考试科目
原创
2024-04-01 16:51:19
94阅读
导航金融风险定义及种类单个证券风险与收益的度量收益率计算风险度量预期收益率和方差估计证券相关性协方差和相关系数估计资产组合收益与风险多证券组合的风险和收益度量案例代码组合与风险分散 金融风险定义及种类金融风险一般可以分为市场风险(market risk)，流动性风险(liquid risk)，信用风险(credit risk)，运营风险(operational risk)和法律风险(legal
Abadie and Gardeazabal (2003)提出“合成控制法”(Synthetic Control Method)，用来研究西班牙巴斯克地区(Basque country)恐怖活动的经济成本(AER，2003)。Abadie, Diamond, and Hainmueller (2010)首次证明了合成控制法的基本性质，并将其应用于研究美国加州1988年第99号控烟法(Prop
转载
2024-09-26 10:38:42
65阅读
# 使用Python计算协方差矩阵的完整指南
协方差矩阵是统计学和机器学习中一个重要的概念，它用于表示多个变量之间的关系。在本教程中，我们将分步学习如何使用Python编写代码来计算协方差矩阵。我们将会使用`NumPy`库来处理数据，并将演示如何实现这个过程。
## 处理流程
在开始之前，我们先来概述一下计算协方差矩阵的基本流程。如下表所示：
| 步骤 | 描述
原创
2024-09-18 05:59:25
132阅读
变异系数法是直接利用各项指标所包含的信息，通过计算得到指标的权重。是一种客观赋权的方法。此方法的基本做法是：在评价指标体系中，指标取值差异越大的指标，也就是越难以实现的指标，这样的指标更难反映被评价单位的差距。 由于评价指标体系中的各项指标的量纲不同，不宜直接比较其差别程度。为了消除各项评价指标的量纲不同的影响，需要用各项指标的变异系数来衡量各项指标取值的差异程度。各项指标的变异系数公式如下：算
转载
2024-03-15 10:20:29
175阅读
作者：卜超、王兴伟、黄敏摘要： 面对频繁产生和变化的通信需求，可以考虑路由功能重用，通过选择合适的路由功能，在通信路径上为应用合成定制化的路由服务，满足用户差异化的需求。基于网络功能虚拟化和SDN提出了一种自适应路由服务合成机制。 机器学习起的作用：运用多层前馈神经网构建路由服务离线模式和在线模式两阶段学习模型，对路由功能选择及组合进行持续学习和优化，实现路由服务的定制化目标。 关键词：路由服务
转载
2024-07-10 15:40:53
76阅读
粒子群算法是在1995年由Eberhart博士和Kennedy博士一起提出的，它源于对鸟群捕食行为的研究。设想这样一个场景：一群鸟在随机搜寻食物，在这个区域里只有一块食物，所有的鸟都不知道食物在哪里，但是它们知道自己当前的位置离食物还有多远。那么找到食物的最佳策略就是搜寻目前距离食物地区最近的鸟群的周围区域。在这个场景中，每一个粒子就相当于一只鸟，鸟的飞行过程相当于搜索过程， 粒子仅具有两个属性：
墨菲定理：凡是能出问题的都会出问题。在项目开发过程中，经常会遇到需求变更，开发人员在修改程序时，往往出去侥幸心理，修改的程序仅仅能满足当前的需求，而不考虑功能扩展，往往时，需求不断的变化，程序不断的修改，程序员疲惫不堪。风险：一个项目中可能出现的问题，且会对项目目标产生影响的任何事情。原则：我们都倾向于过高估自己的能力，而过低估计困难。风险原则：避免风险总比管理风险好。风险发生的概率：风险对项目影
转载
2024-10-10 07:31:03
121阅读
