1.苏步青 复旦：微积分 做了一万道数学题
转载
2020-02-29 20:45:00
145阅读
2评论
在DSP世界中，由于DSP芯片的限制,经常使用定点小数运算。所谓定点小数，实际上就是用整数来进行小数运算。下面先介绍定点小数的一些理论知识，然后以C语言为例，介 绍一下定点小数运算的方法。在TI C5000 DSP系列中使用16比特为最小的储存单位，所以我们就用16比特的整数来进行定点小数运算。 &nb
定点运算定点加法、减法在上篇文章中 计算机组成原理：数据与文字的表示方法，我们已经介绍了数的补码表示法，负数用补码表示后，就可以和正数一样来处理。这样，运算器里只需要一个加法器就可以了，不必为了负数的加法运算，再配一个减法器。 定点数的加法、减法，实际上就是补码加法、减法。 补码加法补码加法运算基本公式： 定点整数：[x+y]补[x+y]补 = [x]补[x]补 +
坐标值是一款游戏里必须的数据，通常来说，这类数据都是浮点数的，他的数据范围包括角色的3D坐标，角色的3D朝向等等。而64位和32位坐标的分析方式其实都是类似的，只是里面有部分指令有些差别。下面我们来分析下某款64位游戏的坐标数据。 首先，还是要通过ce去对坐标的初始值进行扫描，这个扫描的过程与32位是相同的，所以就不做详解了，直接得到过滤后的结果（如图） 这里只得到了两
摘要：本文主要对tf的一些常用概念与方法进行描述。1、tensorflow的基本运作为了快速的熟悉TensorFlow编程，下面从一段简单的代码开始：import tensorflow as tf
#定义‘符号’变量，也称为占位符
a = tf.placeholder("float")
b = tf.placeholder("float")
y = tf.mul(a, b) #构造一个o
本文希望能将FPU以及ARM中的FPU介绍清楚。1. FPU（Floating-Point Unit）浮点运算单元是处理器内部用于执行浮点数计算的逻辑部件，或者说硬件电路。不是所有的处理器都有该功能。浮点运算满足IEEE 754的标准，所谓IEEE 754标准，定义了浮点数字的存储和计算方式、计算异常等，比如IEEE 754标准准确地定义了单精度（32位）和双精度（64位）浮点格式。 对于含有FP
首先，我们先看一下ARM处理器是如何处理浮点运算的。 交叉编译器在编译的时候，对于浮点运行会预 设硬浮点运算FPA(Float Point Architecture)，而没有FPA的CPU，比如SAMSUNG S3C2410/S3C2440，会使用FPE(Float Point Emulation 即软浮点)，这样在速度上就会遇到极大的限制。也就是说如果有浮点协处理器则交给它去做，
CPU简介CPU是电脑内部最核心的硬件设备，经常被比喻为“大脑”，这样的表述一点都不为过，甚至非常准确。它有频率、核心、线程、缓存大小、架构、制程、功耗，接口这些主要参数，支持的指令集、虚拟技术之类的新手也暂时没必要关注。本文具体阐述下 CPU 各个参数的功能特性。架构架构、核心、线程、频率是3个是很大程度上决定了CPU性能的参数，架构就是常看到的sandy bridge/ivy bridge/h
转载
2024-10-23 10:52:00
90阅读
浮点数的运算由于计算机存储空间位数的限制，使得计算机算术具有有限精度，而自然算术具有无限精度，因此在两者的转换之间必然存在转换精度。一、 浮点数加减运算 例子：和的和。 解：首先，将十进制数转化为IEEE 754标准二进制，假设有效位数为4：接下来，进行浮点数运算 [1] 对阶：选取指数较小的数进行对阶，； [2] 有效数相加： ；（原码的加减法） [3] 规格化：，阶码,故未溢出； [4] 舍入
转载
2024-09-12 09:30:57
106阅读
本文主要是从HBase应用程序设计与开发的角度，总结几种常用的性能优化方法。有关HBase系统配置级别的优化，可参考：淘宝Ken Wu同学的博客。下面是本文总结的第四部分内容：数据计算相关的优化方法。
4. 数据计算
4.1 服务端计算Coprocessor运行于HBase RegionServer服务端，各个Regions保持对与其相关的coprocessor实现类的引用，c
转载
2023-09-04 15:46:55
41阅读
在定点DSP芯片中，采用定点数进行数值运算，其操作数一般采用整型数来表示。一个整型数的最大表示范围取决于DSP芯片所给定的字长，一般为16位或24位。显然，字长越长，所能表示的数的范围越大，精度也越高。如无特别说明，本书均以16位字长为例。DSP芯片的数以2的补码形式表示。每个16位数用一个符号位来表示数的正负，0表示数值为正，1则表示数值为负。其余15位表示数值的大小。因此，对DSP芯片而言，参
浮点运算就是实数运算，包含小数运算。是相对于整数运算而言的。大多数MCU并没有专门的浮点数运算硬件支持单元，这使得浮点数运算效率极为低下，和整数运算比是几十、几百倍的速度差异，还极为耗费其他资源（包括内存等）。即使有浮点数运算单元支持，有时与整数运算比也是几倍速度差异。另外大多数MCU处理中，浮点数需求其实并不是那么强烈，很多可以采用工程计算手段处理为整数运算，由此要尽可能少用浮点运算。没有FPU
转载
2024-04-03 09:50:44
327阅读
如果要为手机行业的未来寻找一个技术锚点，AI绝对当之无愧。不仅厂商们纷纷孵化出了众多或真或假的手机AI软硬件解决方案，消费者决策也开始越来越多地向手机的AI应用倾斜。与此同时，AI也让手机性能的理解和认知门槛变得越来越高高了。比如在众多AI手机硬件评测中，普遍堆砌着一大堆玄幻的技术名词和数值。具体强在哪里，能够优化哪些功能，别说普通消费者，很多程序员都未必能说出个所以然。 举个例子，移动AI
# 测试电脑的运算能力：用Java来实现
在如今的数字时代，计算机的运算能力变得越来越重要。无论是在数据分析、人工智能，还是在游戏开发等领域，计算能力的强弱直接影响着系统的性能。本文将介绍如何用Java编程语言来测试电脑的运算能力，具体将实现一个简单的程序，对计算机的处理速度进行评估。
## 1. 什么是运算能力？
运算能力是指计算机在单位时间内能完成的计算任务的数量和速度。这一能力通常与计
原创
2024-08-26 06:42:44
72阅读
文章目录1 前言2 什么是原码、反码和补码2.1 原码表示法2.2 反码表示法2.3 补码表示法2.4 小结2.4 在计算机中为什么采用补码来进行存储3 十进制的数和二进制数之间的转换3.1 十进制的数转换为二进制数3.2 二进制的数转换为十进制数4 定点数和浮点数的概念4.1 定点数4.1.1 定点数存储格式（Q格式）4.1.2 定点数与浮点数之间的转换4.1.2.1 浮点数到定点数4.1.2
实验室最近出了一款芯片，想进行指标的对比，现在ai芯片加速器我记得峰值运算能力effiency已经达到了Tops(一般也就
原创
2023-05-16 21:21:42
919阅读
如果你定义成 idata，不仅仅可以访问 data 区域，还可以访问 0x80H~0xFF 的范围，但加了 idata 关键字后，访问的时候 51 单
原创
2024-07-24 12:14:43
194阅读
FP16是半精度浮点格式，相比常用的FP32单精度浮点，数据宽度降低了一半。2016年Arm更新了Armv8.2-A Extension扩展指令集，其中包含FP16半精度浮点运算。Arm NEON向量指令长度为128位，一条FP32向量可完成4个单精度浮点数运算，一条FP16向量可完成8个半精度浮点数运算，使理论峰值性能翻倍。如果该指令用于加速网络推理，相比于FP32预期能达到2倍加速。1.2 为
转载
2024-09-05 16:22:48
353阅读
最近一直在被某hxxxx 和小伙伴催着用 ~~ 5tops 我的另一个小伙伴老是说 hxxxx 5t算力呢 nvidia才多少 呵呵 ? 所以来说一下这个 纯属给自己看 就搬来了 勿怪~~其实吧 TOPS 跟 FLOPS 没有可比性。TOPS 是NPU（neuro processing unit）Tensor Ops per Second；而 FLOPS 是GPU
转载
2024-04-23 13:41:04
917阅读
浮点运算的基本概念
浮点运算，作为计算机运算的重要组成部分，主要涉及小数的计算。与整数运算相比，浮点运算更加复杂，需要考虑小数点的位置、精度控制以及舍入方式等多个因素。在计算机科学中，浮点运算能力直接影响到图形处理、科学计算、金融分析等多个领域的应用效果。因此，深入理解和分析计算机的浮点运算能力，对于优化程序性能、提高计算精度具有重要意义。
浮点运算的硬件支持
现代计算机通常配备了专门的浮
原创
2024-07-09 10:23:18
108阅读
