个人对寻优算法的理解，就是存在一个系统F，我们想找一个最好的参数X，使F（X）运行起来处于最佳状态。首先这个X可以有很多种可能，我们可以一个一个拿到系统里面去试，但是没有必要。这就像男人找老婆，男人都想找一个最合适自己的老婆X，目的是让家庭F运行得更好，这是一个寻优过程，全世界女人的集合就是寻优的域。但是你不可能把全世界的女人都娶回家试试，虽然试出来的结果绝对是全局最优但是没必要。所以男人们心里有
【蚁群优化算法、粒子群优化算法、细菌觅食算法、萤火虫算法、人工鱼群算法】计算机技术不断发展，算法技术也在不断更新。群体智能 (Swarm Intelligent，SI) 算法始于 20 世纪 90 年代初，主要是受自然界生物群体智能现象的启发，通过模仿社会性动物的行为，而提出的一种随机优化算法。群体智能是基于种群行为对给定的目标进行寻优的启发式搜索算法，其的核心是由众多简单个体组成的群体能够通过相
# 峰谷寻优算法及其在Python中的应用
## 引言
峰谷寻优算法（Peak Valley Optimization, PVO）是一种用于寻找数组中的峰值和谷值的优化算法。在很多实际问题中，需要寻找数组中的峰值和谷值，例如在股票交易中找出买入和卖出的时机，或者在信号处理中找到波峰和波谷等。峰谷寻优算法通过迭代的方式逐渐逼近数组中的峰值和谷值，从而找到最优解。
本文将介绍峰谷寻优算法的原理和
# SVC（支持向量分类器）参数寻优教程
参数寻优是机器学习中一个非常重要的环节，尤其是在使用支持向量机（SVM）进行分类时，选择合适的超参数可以显著提高模型的性能。本文将带领你了解如何在 Python 中进行 SVC 参数寻优，具体步骤如下：
## 流程概述
下面是进行 SVC 参数寻优的基本流程：
| 步骤 | 描述 |
|-----
# 如何实现Python多变量寻优
## 1. 流程概述
在Python中实现多变量寻优通常可以使用优化算法，例如遗传算法、粒子群算法等。下面是实现多变量寻优的一般流程：
```mermaid
gantt
title Python多变量寻优流程
section 数据准备
准备数据集 :done, 2022-01-01, 1d
section 参数设定
首先下载Libsvm、Python和Gnuplot：
l libsvm的主页http://www.csie.ntu.edu.tw/~cjlin/libsvm/上下载libsvm （我自己用2.86版本）
l python的主页http://www.python.org下载 python （我自己用2.5版本）
l gnuplot的主页http://
深度优先算法(DFS 算法)是什么？寻找起始节点与目标节点之间路径的算法，常用于搜索逃出迷宫的路径。主要思想是，从入口开始，依次搜寻周围可能的节点坐标，但不会重复经过同一个节点，且不能通过障碍节点。如果走到某个节点发现无路可走，那么就会回退到上一个节点，重新选择其他路径。直到找到出口，或者退到起点再也无路可走，游戏结束。当然，深度优先算法，只要查找到一条行得通的路径，就会停止搜索；也就是说只要有路
上接 "凸优化基础" 扩展： "机器学习中的几个概念的关系" 2.1 逐次逼近法 使用主元消去法求解线性方程组 $Ax = b$ 相信大家都不陌生，但是对于 $A$ 的阶数很大且零元素很多的大型稀疏矩阵方程组，使用主元消去法求解将会是一个很大的挑战。鉴于此，逐次逼近法 (或称为 "迭代法" [^1]
原创
2021-08-27 09:45:49
206阅读
前言群智能算法（全局最优）：模拟退火算法（Simulated annealing，SA），遗传算法（Genetic Algorithm, GA），粒子群算法（Particle Swarm Optimization，PSO）局部搜索算法（local search algorithm）：爬山算法 (Hill Climbing），禁忌算法(Tabu Search，TS)路径搜索算法：A Sea
转载
2023-08-04 17:13:52
211阅读
目录前言方法一：for循环观察超参数变化方法二：超参数的可视化前言机器学习模型要想能够很好的应用，必须要能够学会调整超参数，在训练中找到最适合的超参数，本文以前文曾讲过的线性回归为例，来进行学习超参数的调整与作图的实现，即可视化。方法一：for循环观察超参数变化首先训练一个线性回归模型，是一个很简单的关于员工工龄与对应薪水之间关系的预测，注意for循环中的两行代码，即输出w0，w1和loss的变化
如图，从起点cab开始，查找 终点 bat ，广度优先查找的方法是先从最近的节点查找，当最近的节点都不是要找的内容时，再从次一级的节点查找。# 广度优先查找:先在最近的里面查找，最近的里面查不到，再在次一级的里面查找。
import queue
q = queue.Queue()
# 图结构
graph = {}
graph['cab'] = ['cat','car']
graph['car'
转载
2023-06-04 21:25:41
96阅读
模拟退火是一个算法框架（framework），而不是一个具体的算法，原因在于，比如从当前状态，x(n) ⇒ x(n+1)，下一个状态该如何选择，可以是梯度下降，也可以是蒙特卡洛，爬山等等；
1. 模拟退火模拟退火算法（simulated annealing，SA），1983年由 Kirkpatrick 等人提出，并将其成功应用于组合优化问题。“退火”是物理学术语，指对物体加温后再冷却的过程。模拟
转载
2016-11-09 15:39:00
120阅读
2评论
常用的调优方法有：网格搜索、随机搜索、贝叶斯优化方法。参数搜索包含3个要素目标函数搜索范围搜索步长等其他参数1 网格搜索网格搜索通过查找搜索范围内所有的点来确定最优值。如果采用较大的范围和较小的步长，有很大的概率找到全局最优。但是这个方法消耗资源和时间严重，特别是超参数比较多的时候实际应用中，网格搜索一般会使用较大的搜索范围和步长确定最优值可能出现的位置，然后逐渐缩小范围和步长来寻找精确的最优值，
上接 "梯度寻优 (二)" "Notebook" 在 "梯度寻优" 中我们提到了「凸集与分离定理」，由此我们知道: 使用最优化方法分类数据集就是寻找支撑超平面的过程. 如果此超平面是一个 $n$ 维的线性方程组, 我们就称之为 线性分类器 (神经网络, 支持向量机, 深度学习等非线性分类器以其为理论
原创
2021-08-27 09:51:29
91阅读
模拟退火是一个算法框架（framework），而不是一个具体的算法，原因在于，比如从当前状态，x(n) ⇒ x(n+1)，下一个状态该如何选择，可以是梯度下降，也可以是蒙特卡洛，爬山等等；
1. 模拟退火
模拟退火算法（simulated annealing，SA），1983年由 Kirkpatrick 等人提出，并将其成功应用于组合优化问题。“退火”是物理学术语，指对物体加温后再冷却的过程。
转载
2016-11-09 15:39:00
196阅读
# PyTorch超参数寻优
在机器学习中，超参数是指在训练模型之前需要手动设定的参数。它们对于模型的性能和收敛速度起着重要的影响。调整超参数需要经验和反复尝试，而寻找最佳超参数组合的过程被称为超参数寻优。在本文中，我们将介绍PyTorch中的超参数寻优方法，并提供代码示例。
## 常见的超参数
在深度学习中，常见的超参数包括学习率、批量大小、迭代次数、正则化参数等。学习率决定了模型参数更新
原创
2023-08-16 07:59:26
128阅读
1.理论基础粒子群算法（particle swarm optimization，PSO）是计算智能领域中的一种生物启发式方法，属于群体智能优化算法的一种，常见的群体智能优化算法主要有如下几类： （1）蚁群算法（Ant Colony Optimization，简称ACO）[1992年提出]； （2）粒子群优化算法（Particle Swarm Optimization，简称PSO）[1995年提
python+selenium+docker+飞书机器人部署自动预约程序项目介绍python+selenium滑块验证selenium提示元素无法操作无法定位到元素接口+服务器部署本地测试开放端口内网穿透服务器部署与飞书机器人连结飞书机器人部署飞书开放平台事件订阅请求网址URL配置使用飞书机器人发消息给用户（open_id版）飞书机器人收到消息后会多次重复请求docker部署安装打包为Image
参考文章：一．传统方式下物流最短路径Dijkstra是一种贪心算法，所谓贪心算法即始终保持当前的迭代解为当前最优解。它也是用来做路径规划问题，是单源最短路径问题的求解方法。 单源最短路径是指给定一个网络，指定一个起点a，终点e，求两点之间的最短路径。Dijkstra算法原理及实现步骤算法的思路 起点为A点，终点为G点，B、C、D、E、F均为节点，每条线具备不同的代价值。每个节点除节点名之外，具备两
转载
2023-08-08 13:52:06
243阅读
【超参数寻优】量子粒子群
转载
2022-06-17 23:18:44
443阅读
