因为目前再做基于深度学习的波达角估计，传统波达角估计的仿真大都基于MATLAB的编程，而深度学习的仿真又大都基于python，觉得两个软件来回数据交换太复杂了，所以想着把一些简单的MATLAB程序改为python程序。 但修改的过程中，发现python对于矩阵的运算和信号处理并不如MATL
转载
2023-07-03 16:17:25
88阅读
一.概述 通过概率统计模拟来进行数值计算的方法统称为蒙特卡罗(Monte Carlo)方法，而MCMC方法称为马尔科夫链蒙特卡洛(Markov Chain Monte Carlo)方法。显然，MCMC法为MC法的一种特例。MCMC法是利用马尔可夫链的细致平衡条件进行采样，再通过所采样的样本进行数值计算的一
转载
2023-08-15 16:22:35
198阅读
# MCMC算法简介及Python实现
## 一、什么是MCMC算法？
马尔科夫链蒙特卡洛（Markov Chain Monte Carlo, MCMC）是一种通过构造马尔科夫链来进行随机抽样的方法。它主要用于从复杂概率分布中抽取样本，尤其是在高维空间中十分有效。MCMC算法广泛应用于统计学、物理学、生物信息学以及机器学习等领域。它能够有效地解决样本量小、模型复杂、计算量大的问题。
###
FCM算法全名为Fuzzy C-Means，是一种聚类算法。Fuzzy c-means (FCM) is a method of clustering which allows one piece of data to belong to two or more clusters. This method (developed by Dunn in 1973 and improved by Bez
FM算法全称叫因子分解机( Factorization Machines )，而FFM( Field-aware Factorization Machines )算法是FM算法的特例，这两个算法通常解决稀疏数据下的特征组合问题。1. FM算法FM算法的模型是多项式模型，模型的表达式如下：\[y(\boldsymbol{x})
转载
2024-05-27 17:41:01
92阅读
主要内容：动机FM算法模型FM算法VS 其他算法 一、动机在传统的线性模型如LR中，每个特征都是独立的，如果需要考虑特征与特征直接的交互作用，可能需要人工对特征进行交叉组合；非线性SVM可以对特征进行kernel映射，但是在特征高度稀疏的情况下，并不能很好地进行学习；现在也有很多分解模型Factorization model如矩阵分解MF、SVD++等，这些模型可以学习到特征之间的交互隐
转载
2023-07-21 23:50:20
104阅读
目标2022/4/17-2022/5/10实现自适应的MCMC方法（Adaptive Metropolis Algorithm）本地目录：E:\Research\OptA\MCMC如有问题，欢迎交流探讨！ 邮箱：lujiabo@hhu.edu.cn 卢家波 来信请说明博客标题及链接，谢谢。MCMC简介MCMC方法是基于贝叶斯理论框架，通过建立平衡分布为的马尔可夫链，并对其平衡分布进行采样，通过不断
转载
2023-12-21 11:12:31
496阅读
一、直接采样直接采样的思想是，通过对均匀分布采样，实现对任意分布的采样。因为均匀分布采样好猜，我们想要的分布采样不好采，那就采取一定的策略通过简单采取求复杂采样。 假设y服从某项分布p(y)，其累积分布函数CDF为h(y)，有样本z~Uniform(0,1)，我们令 z = h(y)，即 y = h(z)^(-1)，结果y即为对分布p(y)的采样。直接采样的核心思想在与CDF以及逆变换的应用。在原
在这篇文章我们将介绍因式分解机模型（FM），为行文方便后文均以FM表示。FM模型结合了支持向量机与因子分解模型的优点，并且能够用了回归、二分类以及排序任务，速度快，是推荐算法中召回与排序的利器。
在这篇文章我们将介绍因式分解机模型（FM），为行文方便后文均以FM表示。FM模型结合了支持向量机与因子分解模型的优点，并且能够用了回归、二分类以及排序任务，速度
转载
2023-07-21 23:49:40
195阅读
一，FM算法：1，逻辑回归上面进行了交叉特征。算法复杂度优化从O(n^3)->O(k*n^2)->O(k*n)。2，本质：每个特征都有一个k维的向量，代表的是每个特征都有k个不可告人的信息。（FFM：面对不同的字段field都有k个不可告人的信息。）所以，得到了n*k的矩阵，每一行就是每一个特征的向量。3，原理推导：https://zhuanlan.zhihu.com/p/379632
转载
2023-07-21 23:50:37
259阅读
1、MCMC概述 从名字我们可以看出，MCMC由两个MC组成，即蒙特卡罗方法（Monte Carlo Simulation，简称MC）和马尔科夫链（Markov Chain ，也简称MC）。之前已经介绍过蒙特卡洛方法，接下来介绍马尔科夫链，以及结合两者的采样算法。 2、马尔科夫链 马尔科夫链的概念在很多地方都被提及过，它的核心思想是某一时刻状态转移的概率只依赖于它的前一个状
转载
2023-12-01 20:41:22
78阅读
python数据结构及算法一. 数据结构与算法1. 算法的概念：算法是独立存在的一种解决问题的方法和思想2. 算法的特征：输入，输出，有穷性，确定性，可行性3. 时间复杂度是实现算法程序所需要的时间，即算法的优劣4. 数据结构是指数据对象中数据元素之间的关系5. 程序 = 数据结构 + 算法6. 算法是为了解决实际问题而设计的，数据结构是算法需要处理的问题载体二. 顺序表1. 顺序表：将元素顺序地
转载
2023-06-21 00:46:07
181阅读
python简单算法总体介绍**算法：**指解题方案的准确而完整的描述，是一系列解决问题的清晰指令，算法代表着用系统的方法描述解决问题的策略机制。也就是说，能够对一定规范的输入，在有限时间内获得所要求的输出。如果一个算法有缺陷，或不适合于某个问题，执行这个算法将不会解决这个问题。不同的算法可能用不同的时间、空间或效率来完成同样的任务。一个算法的优劣可以用空间复杂度与时间复杂度来衡量。算法具有以下特
转载
2023-07-11 19:03:56
194阅读
MCMC(Markov Chain Monte Carlo)，即马尔科夫链蒙特卡洛方法，是以马尔科夫平稳状态作为理论基础，蒙特卡洛方法作为手段的概率序列生成技术。 MCMC理论基础如果转移矩阵为P的马尔科夫链平稳状态和我们研究的概率质量函数（概率密度函数）分布一致，那么我么从任意初始值开始，经过一定次数的概率转以后，后续的转移值组成的序列必然服从马尔科夫平稳状态分布，也就是服从我们研究的
转载
2024-05-28 22:05:43
53阅读
# 如何在Python中实现FM算法
随着数据科学和机器学习的发展，FM（Factorization Machine）算法逐渐成为了推荐系统和预测分析中的一种重要方法。对于刚入行的小白来说，实现FM算法可能会有些陌生。在这篇文章中，我们将逐步介绍如何在Python中实现FM算法，包括所需的步骤和代码解读。
## 实现流程概览
在实现FM算法之前，我们可以先了解一下整体流程。以下是实现FM算法
1.FM背景 在计算广告中，CTR预估(click-through rate)是非常重要的一个环节，因为DSP后面的出价要依赖于CTR预估的结果。在前面的相关博文中，我们已经提到了CTR中相关特征工程的做法。对于特征组合来说，业界现在通用的做法主要有两大类：FM系列与Tree系列。今天，我们就来讲讲
转载
2016-12-20 10:01:00
119阅读
2评论
1.利用MCMC进行线性回归本文的特点是不利用任何市面上的贝叶斯推断的包，将全过程自己实现，利用的是M-H采样算法，从而让读者对整个过程有深刻理解。本文呢不介绍任何数学原理。关于线性回归数学原理的解释请看：一般的线性回归，最小二乘和最大似然估计、最大后验估计视角: https://www.bilibili.com/video/BV1hW41167iL?spm_id_from=333.999.0.0
转载
2023-12-08 13:50:10
86阅读
1、MCMC概述 从名字我们可以看出，MCMC由两个MC组成，即蒙特卡罗方法（Monte Carlo Simulation，简称MC）和马尔科夫链（Markov Chain ，也简称MC）。之前已经介绍过蒙特卡洛方法，接下来介绍马尔科夫链，以及结合两者的采样算法。 2、马尔科夫链 马尔科夫链的概念在很多地方都被提及过，它的核心思想是某一时刻状态转移的概率只依赖于它的前一个状
文章目录EM算法的原理推导及解释前置知识：极大似然估计(Maximum Likelihood）核心部分：期望最大化算法(Expectation Maximum)实例：EM求解“三硬币”模型的完整推导及解释 EM算法的原理推导及解释本质上，EM算法针对于存在明显可疑的隐藏变量z，该变量影响着直观的样本数据的分布情况（即：方差、均值等），但是我们又无法得知和计算出准确的隐藏变量z。于是，我们采用迭代
核心内容： 1、IDEA的下载即安装 2、IEDA环境下开发Spark程序今天又迈出了一步，基本上都已经掌握了，将学习的内容进行以下整理，希望早点学会Spark，早定和婷婷讨论完Spark，早点出山……，好了，不说没用的了，已经11月24号。 今天主要是在IDEA环境下去开发Spark，首先当然是下载IDEA，好吧，直接去官网： 这里写图片描述 这里写图片描述 这里写图片描述 到此我
