threejs优化之3D模型压缩 项目采用vue+threejs开发，在开发过程中需要从外部加载3D模型。一般当模型大小比较大的时候，加载过程会很长，浏览器处于阻塞状态，同时渲染时间也会变长，严重影响用户体验，阻塞严重的情况下还会使浏览器卡死，因此对3D模型大小进行压缩是必然趋势。 通过模型网格压缩，通过glTF配合Draco压缩的方式，可以在视觉效果近乎一致的情况下，让3D模型文件成倍缩小。全局
转载
2024-09-26 06:53:29
75阅读
机器学习模型训练之GPU使用1.电脑自带GPU2.kaggle之免费GPU3.amazon SageMaker Studio Lab 免费GPU使用推荐 深度学习框架由大量神经元组成，它们的计算大多是矩阵运算，这类运算在计算时涉及的数据量较大，但运算形式往往只有加法和乘法，比较简单。我们计算机中的CPU可以支持复杂的逻辑运算，但是CPU的核心数往往较少，运行矩阵运算需要较长的时间，不适合进行深
转载
2024-02-28 14:51:34
710阅读
问题当从磁盘载入模型时，往往会太大或太小，你想将模型缩放到定义的大小。解决方案首先你需要定义一个模型的全局包围球，前面一个教程已经解释了。知道了这个包围球，你就可以知道模型的当前尺寸了。从这个尺寸，你可以知道需要将模型放大或所小多少。你也可以将这个缩放操作储存在root Bone矩阵中，这样缩放会施加到模型中所有Bone的所有矩阵上(可见教程4-9)。工作原理通常，你使用的模型是由不同的工具制作的
转载
2024-03-24 19:24:04
128阅读
9. CUDA shared memory使用------GPU的革命序言：明年就毕业了，下半年就要为以后的生活做打算。这半年，或许就是一个抉择的时候，又是到了一个要做选择的时候。或许是自己的危机意识比较强，一直都觉得自己做得不够好，还需要积累和学习。或许是知足常乐吧，从小山沟，能到香港，一步一步，自己都比较满足，只是心中一直抱着一个理想，坚持做一件事情，坚持想做点事情，踏踏实实，曾经失败过，曾经
转载
2024-05-26 20:16:26
0阅读
说明大数据和实时性高的数据通信的最佳选择。下面我就介绍下内存共享常用的函数，以及使用注意事项。
函数说明
1.获取共享内存唯一标识（创建或寻找目标内存块）int shmget(key_t key, size_t size, int shmflg); 示例 ：shmid = shmget(IPC_PRIVATE, 4096, IPC_
转载
2024-07-04 10:17:06
98阅读
一、前言 本文介绍CUDA编程的共享内存和同步。共享内存中的变量（核函数中用__shared__声明），在GPU上启动的每个线程块，编译器都创建该变量的副本，若启动N个线程块，则有N个该变量副本，为每个线程块私有；同步则是使线程块中所有的线程能够在执行完某些语句后，才执行后续语句。二、线程块、线程索引以下为线程块与线程的层次结构图 &
转载
2024-04-26 14:51:10
1357阅读
近几个月，几乎每个行业的小伙伴都了解到了ChatGPT的可怕能力。你知道么，ChatGPT之所以如此厉害，是因为它用到了几万张NVIDA Tesla A100显卡做AI推理和图形计算。本文就简单分享下GPU的相关内容，欢迎阅读。GPU是什么？GPU的英文全称Graphics Processing Unit，图形处理单元。说直白一点：GPU是一款专门的图形处理芯片，做图形渲染、数值分析、金融分析、密
转载
2024-08-02 08:34:07
12阅读
在【Tensor基本数据结构】一文中，Tensor类会将数据分为在CPU端计算还是在GPU端计算。对应的就是numpy或Quark子数据结构。Tensor实现了GPU内存数据到CPU数据、CPU到GPU的迁移，通过调用cpu()和gpu()完成。数据的 Host to Device 以及 Device to Host 行为由CUDA提供，因此可以通过封装CUDA API供Python调用。本文主要
转载
2024-04-09 13:02:50
90阅读
1.HotSpot内存模型简图详细图1.1 类加载子系统类加载子系统负责从文件系统或者网络中加载Class文件,class文件在文件开头有也定的文件标识ClassLoader(类加载器)只负责class文件的加载,是否运行看Execution Engine(执行引擎决定)加载的类信息存放在一块为Method Area (方法区)的内存空间,除了类的信息以外,方法去还会存放运行是的常量池的信息。（包
第一步安装相关依赖项第二步安装驱动第三步安装CUDA80第四步cuDNN第五步 安装OpenCV30第六步 安装caffe 上周安装环境，遇到各种问题，重装系统共计四次！记录一下安装过程，方便以后配置新机器 显卡：GTX1080 系统 ubuntu 16.04 LTS 驱动：Nvidia-384.xx opencv3.0这里只配置opencv，没有配置python和matlab，后期会补
模型训练中，不调用gpu比调用gpu更快的情况背景原因个人实验测试小规模神经网络模型（GPU比CPU慢）加深加宽隐藏层（GPU优势逐渐体现）补充 背景近来，跑语音情感识别和遗传算法的结合，需要大量的计算，一开始想着用gpu跑能快很多，结果发现调用gpu居然没有只用cpu更快。6代每代5个个体，合着总共30次训练，调用gpu居然比不调用gpu慢了接近一分钟。不使用gpu： 使用gpu：原因数据传输
转载
2024-03-20 19:40:10
353阅读
AI模型训练主要使用GPU的算力，GPU,显卡这些知识大家都懂的，还是简单说一下GPU吧：GPU是显卡的核心部分，GPU承担着与 CPU 不同的定位和功能，芯片设计思路也完全不同，GPU Core 小而且多，它不承担系统管理、调度的功能，完全专注于使用(大量的)小核心并行化地执行运算。GPU的几个主要用途：1、处理图形渲染，包括游戏、视频和动画。2、加速通用计算，如深度学习、科学模拟等。3、高度并
1 全局内存 GPU的全局内存之所以是全局的，主要是因为GPU与CPU都可以对它进行写操作。任何设备都可以通过PCI-E总线对其进行访问。GPU之间不通过CPU，直接将数据从一块GPU卡上的数据传输到另一个GPU卡上。 CPU主机端处理器可以通过以下三种方式对GPU上的内存进行访问：【1】显式地阻塞传输【2】显式地非阻塞传输 【
转载
2023-09-11 16:03:50
423阅读
问题提出 在做前端页面的时候，经常会遇到几个问题 1、布局问题，左右两列布局，左侧固定宽度，右侧自适应；左中右三列布局，左右固定宽度，中间自适应； 2、一个div，上下左右居中； 在前端工作中，这两个问题可以说是层出不穷。在布局上有经典的双飞翼布局、圣杯布局等。这些布局就是利用float、pos
Colaboratory 是一个研究项目，可免费使用。Colaboratory 支持 Python 2.7 和 Python 3.6。与 Google 云端硬盘集成，可以轻松共享项目或将其他共享项目复制到自己的帐户中。谷歌中文说明：https://colab.research.google.com/notebook准备工作： 这个软件的使用需要注册一个google的邮箱/账号，并且能用google
转载
2024-05-11 13:54:45
745阅读
一、TensorFlow常规模型加载方法 保存模型tf.train.Saver()类，.save(sess, ckpt文件目录)方法参数名称功能说明默认值var_listSaver中存储变量集合全局变量集合reshape加载时是否恢复变量形状Truesharded是否将变量轮循放在所有设备上Truemax_to_keep保留最近检查点个数5restore_sequentially是否按顺序恢复变
转载
2024-03-27 13:34:25
105阅读
Google Colab简介Google Colaboratory是谷歌开放的一款研究工具，主要用于机器学习的开发和研究。这款工具现在可以免费使用。Google Colab最大的好处是给广大的AI开发者提供了免费的GPU使用！GPU型号是Tesla K80！你可以在上面轻松地跑例如：Keras、Tensorflow、Pytorch等框架。目录1. Google云端硬盘（Google drive）2
转载
2023-11-13 21:50:28
612阅读
一、物理概念： streaming processor(sp): 最基本的处理单元。GPU进行并行计算，也就是很多个sp同时做处理。现在SP的术语已经有点弱化了，而是直接使用thread来代替。一个SP对应一个threadWarp：warp是SM调度和执行的基础概念，通常一个SM中的SP(thread)会分成几个warp(也就是SP在SM中是进行分组的，物理上进行的分组)，一般每一个WARP中有3
转载
2024-08-06 20:23:29
50阅读
在深度学习和大型语言模型的训练与推理过程中，利用GPU进行加速是必不可少的。然而，如何让使用的模型常驻在GPU内存中以提升性能、减少加载时间仍然是许多开发者关注的一个焦点。本文将围绕“ollama如何让模型常驻在gpu内存中”这一问题展开，分享问题背景、错误现象、根因分析、解决方案以及验证测试的全过程。
在人工智能领域，特别是自然语言处理任务中，用户通常希望在短时间内快速调用模型进行推理，避免频
手把手教你从模型训练到部署（一）环境准备1. Anaconda2. docker数据获取与处理1. 通过kaggle下载数据2. 通过keras下载数据3. 数据处理模型训练1. CNN-v12. CNN-v2 本项目使用fashion-MNIST数据集，模型采用keras方式进行训练并最终部署在Android上。完整请参考Github：fashionMNIST-on-device 环境准备
1
转载
2024-07-25 13:31:25
22阅读
