最近一段时间，认真研究了一下caffe。但是，里面内容过多，集合了CPU版本和GPU版本的代码，导致阅读起来有些复杂。因此，特意对caffe代码进行了重构，搭建一个基于CPU版本的Caffe推理框架。此简化的Caffe推理框架具有以下特点：只有CPU推理功能，无需GPU；只有前向计算能力，无后向求导功能；接口保持与原版的Caffe一致；精简了大部分代码，并进行了详尽注释。通过对Caffe的重构，理
win10小课堂：玩游戏优化设置教程一、开启“游戏模式”二、禁用Nagle算法三、关闭不相干服务四、禁用全屏优化五、GeForce Experience设置六、关闭 Windows Defender七、关闭Xbox后台录制八、调整显卡控制面板 一、开启“游戏模式”游戏模式在Win10中是默认开启的，但有些系统可能会被关闭，建议自行检查一下。Win10的游戏模式有两个作用，一是游戏时阻止Windo
转载
2024-05-13 19:23:38
507阅读
9 月 26 日，NVIDIA英伟达在北京举行GTC大会，NVIDIA 创始人兼首席执行官黄仁勋在演讲中展示了能够加快人工智能大规模采用速度的全新技术，并介绍了为云服务商、电商和智慧城市提供的各项计算平台服务。 发布AI 推理软件TensorRT 3：可每秒识别 5,200 张图片为满足市场需求，NVIDIA发布了 TensorRT 3 AI 推理软件，该软件能够在生
转载
2024-06-16 09:30:45
169阅读
前言声明，此 NeHe OpenGL教程系列文章由51博客yarin翻译（2010-08-19），本博客为转载并稍加整理与修改。对NeHe的OpenGL管线教程的编写，以及yarn的翻译整理表示感谢。 NeHe OpenGL第四十七课：CG顶点脚本CG 顶点脚本nVidio的面向GPU的C语言，如果你相信它就好好学学吧，同样这里也只是个入门。记住，类似的语言还有
# 如何在 PyTorch 中强制不使用 GPU
PyTorch 是一个广泛使用的深度学习框架，默认情况下，它能够自动识别并使用计算机上的 GPU（图形处理器）以加速计算。然而，有时我们可能需要在 CPU（中央处理器）上运行模型，例如在没有 GPU 的机器上，或者为了调试和测试。在本篇文章中，我将指导你如何在 PyTorch 中不使用 GPU，并确保你了解每一步的细节。
## 流程概述
我们
处理在这个特定的过程中，我决定使用cmake的适当版本配置cmake的最新版本(抱歉，如果这令人困惑)。cmake-gui使用与cmake命令行工具相同的存储库进行编译，但是未设置cmake的默认构建配置来构建cmake-gui(curses界面或Qt界面均未设置)。要使用cmake-gui构建cmake，必须在cmake构建脚本中设置一些变量。您通常可以通过UI来执行此操作，但是也可以通过在构建
进入Anaconda Promt，在这里面创建虚拟环境找到Anaconda目录中的envs，记住这个的路径 一路转到这个envs目录下，在这里面建虚拟环境。每个人的envs文件在的位置不一样，这只是我自己的位置。为什么要在这里面建虚拟环境，因为我的C盘容量不够了，在e盘建的虚拟环境，下载的pytorch也在e盘。 创建虚拟环境，名字是pytorch-GPU，python版本是3.8#创建环境
co
继caffe-fasterrcnn后，又一个yolo-darknet的配置教程，希望可以帮助大家。注意：1、请严格按照我提供的安装顺序安装，即ubuntu-opencv2.4.10-darknet-cuda7.5-darknet-test2、有些您复制的终端命令如果不能在终端运行，请注意英文全角半角问题，您可以将命令输入终端，无须复制粘贴命令 第一部分：Ubuntu14.04桌面版下载及
前言上一篇《PaddleOCR C++动态库编译及调用识别（一）》中把PaddleOCR的动态库编译完也调用成功，也考虑了几个可以优化的方法，本来也是想按自己的想法做的优化，过程中也踩到了不少的坑，慢慢填吧。这篇文章算是做了一个踩坑的记录。上篇提的优化方向上图中可以看到，上一篇说过的两个优化方向：替换通用的OCR识别模型分割华容道图片，单张识别替换通用的OCR模型01下载通用OCR模型这个比较简单
转载
2024-08-12 10:23:54
497阅读
ONNXRuntime是微软推出的一款推理框架，用户可以非常便利的用其运行一个onnx模型。ONNXRuntime支持多种运行后端包括CPU，GPU，TensorRT，DML等。可以说ONNXRuntime是对ONNX模型最原生的支持。虽然大家用ONNX时更多的是作为一个中间表示，从pytorch转到onnx后直接喂到TensorRT或MNN等各种后端框架，但这并不能否认ONNXRuntime是一
前言：参考TensorRT官方文档学习的笔记记录 Tensor是一个有助于在NVIDIA图形处理单元（GPU）上高性能推理c++库。它旨在与TesnsorFlow、Caffe、Pytorch以及MXNet等训练框架以互补的方式进行工作，专门致力于在GPU上快速有效地进行网络推理。 如今现有的一些训练框架（例如TensorFlow）已经集成了TensorRT，因此可以将其用于加速框架中的推理。另外
转载
2024-03-27 09:17:03
138阅读
计算机的安全问题越来越受重视，是因为我们越来越不安全了，下面和小编一起来看如何知道自己的计算机是否网络共享了，和怎么关闭它查看并关闭网络共享方法一：通过DOS命令来显示本机所有共享文件、删除本机共享文件。通过net share命令可以非常简单地显示本机共享文件并可以实时删除本机共享文件，从而可以极大地保护了共享文件的安全。如下图所示：图：net share命令显示本机共享文件图：通过DOS命令删除
大家好，我是张大刀。上文中提到了yolov7的正负样本匹配策略，这里主要从0开始训练自己的数据集。首先大刀是在windows电脑端完成数据集的标注，linux ubuntu系统中完成模型的训练。对windows系统电脑无要求，训练的电脑最好有gpu（没有gpu在cpu下也能训练，就是速度感人）默认大家已经有conda的环境，如果没有的话，请参考(windows 下：linux下：)1.数据标注在w
# 机器学习 不使用GPU
在机器学习领域，GPU已经成为处理大规模数据和复杂计算任务的重要工具。然而，并非所有人都有条件或需求使用GPU来加速机器学习工作。本文将介绍一些不使用GPU的机器学习方法，并展示如何利用CPU完成一些基本的机器学习任务。
## CPU vs GPU
GPU（Graphics Processing Unit）是一种专门用于图形处理的处理器，其并行计算能力远远超过CP
原创
2024-07-09 04:57:07
133阅读
在本文中，我们将探讨“window ollama不使用gpu”的问题，并详细记录解决该问题的过程。从协议背景到性能优化，我们将全面覆盖整个过程。
## 协议背景
Ollama是一款用于处理机器学习模型的工具，它在Windows系统上的运行理应支持GPU加速。但多用户报告称，Ollama在Windows上并没有利用GPU进行加速。这可能是由于软件设置、驱动程序不兼容或环境配置问题等原因。
首先
引言随着大规模数据集的出现，即使使用诸如随机梯度下降（SGD）等有效的优化方法来训练深层的神经网络也变得特别难。例如，在16张TPUv3芯片上训练BERT和ResNet-50等深度学习模型需要3天，而在8张Tesla P100 gpu上则需要29小时。因此，研究者们对开发用于解决此问题的优化方法有浓厚的兴趣。本文的目的是研究和开发优化技术，以加快训练大型深度神经网络的速度，主要是基于S
出品 | AI科技大本营（ID:rgznai100）近日，OpenAI宣布，允许用户创建自定义版的 GPT-3。OpenAI 表示，开发人员可以使用微调来创建针对其应用程序和服务中的特定内容量身定制的 GPT-3 模型，从而在任务和工作负载中实现表面上更高质量的输出。OpenAI 发言人在一封电子邮件中写道：“据 Gartner 称，到 2024 年，80% 的技术产品和服务将由非技术专
在进行 ollama 推理时，了解是否使用 GPU 是许多用户关心的一个问题。使用 GPU 进行推理可以显著提高性能，尤其是在处理大量数据和复杂模型时。本文将通过实例说明如何判断 ollama 推理是否使用 GPU，涵盖背景、错误现象、根因分析、解决方案、验证测试、预防优化等方面。
### 问题背景
在机器学习领域，利用 GPU 进行推理是提高计算效率的常见做法。用户在使用 ollama 进行
目录一、keras代码GPU配置二、tensorflow代码GPU配置三、给算子指定GPU或CPU 当设置的GPU号大于实际的GPU个数时（比如实际只有一个GPU，配置中设置成使用1号GPU），创建会话会失败，提示tensorflow.python.framework.errors_impl.InternalError: Failed to create session.一、keras代
转载
2024-03-21 14:56:31
164阅读
目录1、常用设定2、模型训练2.1、单GPU训练2.2、使用多个GPU进行训练3、模型推理1、常用设定1）默认使用4个GPU的分布式训练。2）ImageNet上所有pytorch样式的预训练主干都是由open-lab团队自己训练的，参考文章https://arxiv.org/pdf/1812.01187.pdf。其中ResNet样式主干基于ResNetV1c变体，其中输入主干中的7x7转换被三个3
转载
2024-08-23 07:56:00
276阅读
