1.理论背景故事要追溯到1952年，那是一个春天，有一位老人，在中国的南海边，咳咳咳咳，抱歉，不小心串词了，事实是这样的：没错，正是由于这几位大神的杰出贡献，我们得到了量化因子的前身，APT模型，但是，这个模型并没有告诉我们应该如何确定因素。因此，后面就衍生出了可以确定因素的多因子定价模型。 2.多因子定价模型多因子定价模型认为每一只股票的预期超额收益是由股票的因子头寸决定的，预期超额收
转载
2023-10-18 10:37:35
49阅读
通常我们训练出的模型都比较大，将这些模型部署到例如手机、机器人等移动设备上时比较困难。模型压缩（model compression）可以将大模型压缩成小模型，压缩后的小模型也能得到和大模型接近甚至更好的性能。这篇文章总结了几种常用的模型压缩方法：网络裁剪（network pruning）、知识蒸馏（knowledge distillation）、参数量化（parameter quantizatio
转载
2023-10-29 20:59:30
233阅读
深度模型量化是指将高精度、高位宽的模型参数和激活值压缩成低精度、低位宽的形式，从而达到减小模型存储空间和加速模型计算的目的。 具体操作流程一般包括：1. 选择量化精度：根据应用场景和硬件实际性能，选择合适的量化精度。常见的量化精度包括8位量化、4位量化、2位量化等。2. 量化模型参数：将模型中的参数进行量化，常见的量化方法有线性量化、对数量化等。3. 量化模型激活值：将模型输入和中间层的输出进行量
1, 如何进行模型量化？ 按照量化阶段的不同，一般将量化分为 quantization aware training(QAT) 和 post-training quantization(PTQ)。QAT 需要在训练阶段就对量化误差进行建模，这种方法一般能够获得较低的精度损失。PTQ 直接对普通训练后的模型进行量化，过程简单，不需要在训练阶段考虑量化问题，因此，在实际的生产环境
转载
2023-09-04 10:17:15
354阅读
投研机构对商品期货价格变化的研究，无不是以商品基本面分析作为出发点，但通常没有给出明确的交易建议，所以效果难以被观测。本文以经济学基本原理为基础，赋予基本面数据的合理算法，结合对期货交易过程中的量化控制，设计成集基本面分析和交易于一体的量化交易模型，以模拟交易效果证明基本面分析的有效性。 [量化交易的基本概念]投资者参与期货交易的目的并不相同，有投机、套保、套利或者其他，虽然投资者也可以
转载
2023-08-04 10:15:16
0阅读
1. 目标最开始，先不追求复杂性，搭建一个比较简单的系统，能跑起来是第一步。这篇文章更偏向与方法论，实际例子后面单独写文章分享。2. 架构图 简单做了一个架构图，是将我最近收集的一些工具，按框架逻辑进行了一个整理，都是免费的，唯一的门槛就是技术，会就能用。下边分模块说一下。3. 数据获取数据是一切的来源，做量化，我理解，就是通过对数据的分析，做出一些投资决策的一系列过程。如果可以方便的获取到数据，
目录什么是模型量化？为什么要进行模型量化？压缩参数提升速度降低内存 模型量化的分类二值化线性量化对数量化1.什么是模型量化？ 量化就是把高位宽（Float32）表示的权值或
DYNAMIC QUANTIZATIONTutorials >PyTorch Recipes > Dynamic Quantizationdoc : Dynamic Quantization — PyTorch Tutorials 1.11.0+cu102 documentation2022年5月24日tag : 翻译学习topic ： Pytorch 量化0 Dynamic Quan
# PyTorch模型量化实现指南
## 引言
PyTorch模型量化是一种优化模型的方法，通过减少模型的存储空间和计算量，提高模型的推理速度。对于刚入行的开发者来说，了解和掌握PyTorch模型量化的方法非常重要。本文将介绍PyTorch模型量化的流程和每个步骤需要做的事情，并提供相应的代码示例和注释。
## 整体流程
下面是PyTorch模型量化的整体流程，通过表格形式展示：
| 步骤
原创
2023-08-31 11:05:36
295阅读
参考中文官方,详情参考：PyTorch 如何自定义 Module1.自定义Module Module 是 pytorch 组织神经网络的基本方式。Module 包含了模型的参数以及计算逻辑。Function 承载了实际的功能，定义了前向和后向的计算逻辑。 下面以最简单的 MLP 网络结构为例，介绍下如何实现自定义网络结构。完整代码可以参见repo。1.1 FunctionFunction 是 py
"""#coding:utf-8__project_ = 'TF2learning'__file_name__ = 'quantization'__author__ = 'qilibin'__time__ = '2021/3/17 9:18'__product_name =
原创
2023-01-20 10:38:59
143阅读
pytorch框架下参数渐进量化的实现将pytorch框架下的参数量化为特定形式，会产生一定的误差，这篇博客以MINIST数据集，LSTM量化为例，主要写了量化的详细流程，并附上完整程序。 文章目录pytorch框架下参数渐进量化的实现一、量化原理二、自定义RNN框架三、MNIST数据集和建模，初始化四、量化函数介绍五、量化权重矩阵总结示例工程代码： 一、量化原理本博客介绍的量化方式，可以将参数量
转载
2023-09-21 06:43:27
170阅读
Pytorch1.8 发布后，官方推出一个 torch.fx 的工具包，可以动态地对 forward 流程进行跟踪，并构建出模型的图结构。这个新特性能带来什么功能呢？别的不说，就模型量化这一块，炼丹师们有福了。其实早在三年前 pytorch1.3 发布的时候，官方就推出了量化功能。但我觉得当时官方重点是在后端的量化推理引擎（FBGEMM 和 QNNPACK）上，对于 pytorch 前端的接口设计
本系列文章 主要是 分享思维模型，涉及各个领域，重在提升认知1 模型故事量化 与减肥故事小A是一名IT技术男，体重最大值是105.7kg，自从变胖后，找对象找不见，甚至很多好的工作都要求不能太胖，各方压力之下A决定减肥，于是从2014年下半年开始 坚持每天记录体重，没人知道这个方法是否正确，但A相信这是对的，如果错了，就把那份错误坚持到正确，因为骨子里坚信 对错不是选择出来的，而是创造出来的（人生没有选择题，都是简答题）。于是每半年生成一张记录的数据图，下图是第一张：2014年7月到2014..
原创
2021-08-11 19:15:15
215阅读
pytorch模型量化
原创
2023-05-18 17:18:53
193阅读
在RL里面重要且比较容易被忽视的一环是ENv，为什么重要，因为env是对实际情况的理解，尤其是输入特征和reward的定义直接影响最终的结果。而网上的很多关于RL的知识点，都主要在涉及agent上，所以对这个基础的东西是忽略掉了的。迷宫游戏游戏规则：探索者从红色的初始位置以最少的step到达天堂 Env提供的数据Initial：在红色位置为初始化位置States: 当前位置【observ
模型量化是深度学习中的一种技术，用于降低模型的存储和计算要求，同时仍然保持近似的性能。均匀量化是其中的一种方法。下面我将提供一个简化的均匀量化示例：
原创
2023-09-08 11:47:05
539阅读
伴随着互联网的发展，越来越多的BIM用户希望在Web端直接浏览三维模型。传统的BIM应用程序都基于桌面客户端，且需要较高的计算机配置：高频CPU、大内存、独立显卡。在从桌面端走向Web端、移动端的过程中，由于受浏览器计算能力和内存限制等方面的影响，基于桌面的对模型的数据组织和消费方式必须做出相应调整，即需要更多的使用三维模型轻量化技术对模型进行深度处理。三维模型轻量化主要包括两个方面：模型轻量化显
参考：https://developer.aliyun.com/article/836827?utm_content=m_1000314509#slide-0https://mp.weixin.qq.com/s/aEBfdSIuGOJfOXgRizvJNQhttps://www.zhihu.com/column/c_1258047709686231040模型量化是指将浮点激活值或权重（通常以32比
1，概述 模型量化应该是现在最容易实现的模型压缩技术，而且也基本上是在移动端部署的模型的毕竟之路。模型量化基本可以分为两种：post training quantizated和quantization aware training。在pyrotch和tensroflow中都提供了相应的实现接口。 对于量化用现在常见的min-max方式可以用公式概括为： $r = S (q - Z)$
