导读：随着科技的发展，其深度学习框架也越来越成熟,facebook旗下的pytorch便是在众多框架中脱颖而出的一个优秀的深度学习框架。什么是PytorchPytorch是基于python的科学计算包，为两类受众提供服务作为Numpy的替换，让你可以使用GPU的算力作为一个深度学习计算平台提供最大的计算灵活性与速度PyTorch 是最受欢迎的深度学习库之一，与 Keras 和 Tens
转载
2023-08-21 21:09:51
151阅读
# 实现PyTorch DDP EMA
## 简介
在分布式训练中，使用PyTorch的DDP（DistributedDataParallel）和EMA（Exponential Moving Average）可以提高模型的稳定性和泛化能力。本文将向你介绍如何实现PyTorch DDP EMA。
## 整个过程
下面是实现PyTorch DDP EMA的整个过程的步骤：
| 步骤 | 操作 |
原创
2024-05-01 04:14:14
421阅读
PyTorch-10 自定义数据集实战（Load data自定义数据集、Build model创建一个模型、Train and Test、Transfer Learning迁移学习）我们以Pokemon Dataset作为自定义数据集：数据集下载地址 主要以下面5类小精灵。 查看一下分别有多少张图片，以及splitting划分train和test的比例: 我们并不是每一类的60%做training
转载
2024-06-17 16:21:58
451阅读
# EMA（指数移动平均）在 PyTorch 中的实现
## 引言
EMA（Exponential Moving Average）是一种在时间序列分析和信号处理等领域广泛使用的平滑技术。与简单移动平均（SMA）相比，EMA 更加重视近期的数据，而淡化旧的数据。这种特性使得 EMA 在捕捉趋势变化时具有更高的反应速度。在机器学习特别是深度学习的训练过程中，EMA 也被用来平滑模型参数，以提高最终
EMA的定义在深度学习中，经常会使用EMA（指数移动平均）这个方法对模型的参数做平均，以求提高
原创
2022-06-27 17:05:54
2374阅读
点赞
最近从经典技术指标开始学习量化策略，有些在talib中有打包好的函数，但我还是希望自己在编的过程中学习策略的思想、进一步改进基础策略。今天学习了移动平滑异同平均线(Moving Average Convergence Divergence，简称MACD指标)策略。MACD是查拉尔·阿佩尔(Geral Appel)于1979年提出的，由一快及一慢指数移动平均（EMA）(可以参考指数平滑均线文档)之间
转载
2023-10-23 12:58:32
0阅读
随着研发的深入，自动驾驶行业越来越显现出合纵连横的趋势。本周，英伟达阵营再次迎来新的合作伙伴——沃尔沃和瑞典汽车零部件供应商Autoliv。其实此前沃尔沃的自动驾驶项目“DriveMe”所用的测试车辆就搭载了英伟达DrivePX平台，该公司的自动驾驶汽车将于2021年正式上市。除此之外，英伟达还与德国汽车零部件供应商采埃孚和海拉建立了非排他性的合作关系，三家公司将共同推进自动驾驶行业人工智能技术的
转载
2023-11-21 22:04:41
134阅读
1）EDMA概要EDMA数据传输有两种发起方式：ü CPU发起的EMDA数据传输（非同步方式）：需要传输时，CPU设置ESR寄存器的相应位为1，从而触发一个EDMA事件的产生，事件对应的通道参数被送往地址硬件并且完成相应的处理，这种非同步方式的实时数据传输无需设定EER寄存器；ü &
转载
2024-04-11 15:21:35
261阅读
概念介绍移动平均值（EMA）EMA（12）=前一日EMA（12）×11/13+今日收盘价×2/13
EMA（26）=前一日EMA（26）×25/27+今日收盘价×2/27计算移动均值是一个不断累加并调整系数的过程。与传统均值的区别在于：移动均值参考到该股票自上市以来每一天的收盘价，并在每次累计上新的收盘价时，弱化之前收盘价的比重，以实现动态累计的效果。离差值（DIF）DIF=今日EMA（12）－
转载
2024-04-03 07:15:50
93阅读
总结使用递归和循环两种方法来完成 python环境下循环相比于递归更快，更适应极端样本情况递归def _ema(arr,i=None):
N = len(arr)
α = 2/(N+1) #平滑指数
i = N-1 if i is None else i
if i==0:
return arr[i]
else:
data =
转载
2023-06-15 18:56:12
195阅读
这是「EMA系列」文章之第二部分（Part 2），第一部分见
Desperate：「EMA系列之I」如何理解EMA指数移动平均值以及Python实现zhuanlan.zhihu.com
今天这篇文章在讨论两个EMA的进阶问题：如何确定EMA的warm-up时间？ 如何更加合理地设置EMA的初始值？让我们从一个简单的例子开始。假设我们将观察到一个时间序列，每个观察值都是从标准
转载
2024-08-02 15:06:40
69阅读
【炼丹技巧】 在深度学习中，经常会使用EMA（指数移动平均）这个方法对模型的参数做平均，以求提高测试指标并增加模型鲁棒。 今天瓦砾准备介绍一下EMA以及它的Pytorch实现代码。 EMA的定义 指数移动平均（Exponential Moving Average）也叫权重移动平均（Weighted
原创
2021-07-09 14:36:32
1597阅读
列表的常用函数介绍 delete,remove,add-to-list,cons,nreverse函数。0、简单定义一个列表：(setq list1 '(alpha beta gamma))列表的保存图示： +-------+---+ +------+---+ +-------+-----+
list1--->| alpha | *----->| beta
转载
2024-05-21 08:16:36
52阅读
开始学习期货的量化交易，从米筐API上拷贝的一个关于股指期货主力合约日级别MACD日回测的入门代码： 首先，先看一下关于MACD的介绍以及计算方式：MACD称为指数平滑移动平均线，是从双指数移动平均线发展而来，由快的指数移动平均线（EMA12）减去慢的指数移动平均线（EMA26）得到快线DIF，再用2×（快线DIF-DIF的9日加权移动均线DEA）得到MACD柱。 关于以上的几种指标： EM
转载
2024-04-12 05:29:53
125阅读
Jensen 不等式f 是定义域为实数的函数，如果对于所有的实数x，f′′(x)≥0，那么 f 是凸函数。 显然我们的样本x,是有很多属性的，也就是说函数f的输入是一个向量。这时f是凸函数就等价为为f的 hessian 矩阵 H 是半正定的（ H ≥ 0）。begin-补充-hessian矩阵f(x1,x2,...,xn) ，如果函数f 
转载
2024-07-30 12:58:44
146阅读
在进行深度学习训练时，同一模型往往可以训练出不同的效果，这就是炼丹这件事的玄学所在。使用一些trick能够让你更容易追上目前SOTA的效果，一些流行的开源代码中已经集成了不少trick，值得学习一番。本节介绍EMA这一方法。1.原理：EMA也就是指数移动平均(Exponential moving average)。其公式非常简单，如下所示：\(\theta_{\text{EMA}, t+1} =
转载
2023-07-25 22:53:10
97阅读
MNE-python读取.edf文件EDF，全称是 European Data Format，是一种标准文件格式，用于交换和存储医疗时间序列。该格式文件能够存储多通道的数据，允许每个信号拥有不同的采样频率。在内部，它包括标题和一个或多个数据记录。标题包含一些一般信息(患者标识，开始时间......等等)以及每个信号的技术规格(校准，采样率，过滤，......等等)，编码为 ASCII 字符。数据记
转载
2023-11-13 21:58:49
70阅读
TA-Lib主要用来计算一些股市中常见的指标。 比如MACD，BOLL，均线等参数。 #-*-coding=utf-8-*-
import Tkinter as tk
from Tkinter import *
import ttk
import matplotlib.pyplot as plt
import numpy as np
import talib as t
Motivation2015年的论文《Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift》阐述了BN算法，这个算法目前已经被大量应用，很多论文都会引用这个算法，进行网络训练，可见其强大之处非同一般。论文作者认为：网络训练过程中参数不断改变导致后续每一层输入的分布也发
长文本能力似乎成为象征着大模型厂商出手的又一新“标配”。国外，OpenAI经过三次升级，GPT-3.5上下文输入长度从4千增长至1.6万token，GPT-4从8千增长至3.2万token（token：模型输入和输出的基本单位）；OpenAI最强竞争对手Anthropic一次性将上下文长度打到了10万token；LongLLaMA将上下文的长度扩展到25.6万token，甚至更多。国内，光锥智能获
