总的来说，英伟达显卡在AI时代能够成为宠儿，主要得益于其强大的计算能力、CUDA技术、Tensor Core技术以及丰富的软件生态。这些优
英伟达TRTTorch PyTorch JIT的提前（AOT）编译Ahead of Time (AOT) compiling for PyTorch JIT TRTorch是PyTorch / TorchScript的编译器，通过NVIDIA针对NVIDIA GPU的TensorRT深度学习优化器和
转载
2021-01-03 17:18:00
337阅读
2评论
【全球财经观察 ｜ 新闻速递】7月23日消息，据国外媒体报道，知情人士称日本软银
原创
2023-04-13 10:07:15
102阅读
英伟达DGX Spark个人AI超级计算机将于10月15日上市，搭载GB10 Grace Blackwell超级芯片，具备每秒千万亿次计算能力，支持高达2000亿参数AI模型，为研究人员提供桌面级AI训练解决方案。 ...
AI不等于GPU芯片，AI是一个生态，一个从最底层基础设施到最上层各种应用的生态；正如GPU芯片需要多家参与的开放格局，AI生态也需要多家参与的开放共建。作为国内为数不多深耕于开放网络软硬件产品的科技公司——星融元就是这个开放AI生态的坚定推进者与参与者之一。
原创
2024-07-09 10:34:46
83阅读
英伟达投的Sora竞品，服务器又双叒被挤爆了！来自Luma AI的“下一代”文生视频模型，新功能一上线，网友们再次玩疯。
原创
2024-07-10 13:46:31
57阅读
比如，用 AMR 小车（自主移动机器人）眼中的数字孪生，同时还制作了大量“场站”数字孪生，以及工作人员视角下的数字孪生
原创
2024-06-07 11:14:45
0阅读
本文深入评测英伟达DGX Spark迷你AI超算，详细分析其GB10芯片架构、128GB统一内存设计，以及在大语言模型推理、微调和图像生成等AI工作负载中的实际性能表现。 ...
1 问题学习深度学习技术需要使用到PyTorch，在安装PyTorch 过程中，有很多的细节需要知道，在下载PyTorch的时候，我们需要根据英伟达显卡
原创
2022-09-17 00:31:08
213阅读
随着科技的飞速发展，人工智能公司Groq挑战了英伟达的王者地位，其AI芯片不仅展现出卓越的实力，还拥有巨大的潜力。Groq设计了一种独特的推理代币经济学模式，该模式背后牵动着众多因素，却也引发了深度思考：新的技术突破来自何处？中国该如何应对并抓住变革中的机遇？Groq成本如何评估？这些都是值得研究和思考的问题。
原创
2024-03-08 09:47:15
83阅读
神秘的“达芬奇计划”年初的“中兴事件”引发了国人对芯片技术的关注，为了不被“扼住咽喉”，科技企业纷纷入局，加大力度投入 AI 芯片的研发。5 月，寒武纪发布首款云端智能芯片 Cambricon MLU100；2018 百度 AI 开发者大会上，百度 CEO 兼董事长李彦宏发布了百度自主研发的 AI 芯片“昆仑”；前不久，阿里巴巴云栖大会上，阿里达摩院也宣布成立“平头哥”半导体公司，专注芯片研发。作
原创
2021-04-02 21:56:10
501阅读
又好久没更新了，一方面是最近事情有点多，另一方面最近也确实有点懒。 之前我说要把硬件部分补完，要写Nvidia的GPU，我估计一篇写不完，所以先写点。 早先的硬件文章可以参考：上一篇：解读神秘的华为昇腾910 (qq.com)上上一篇Microsoft Maia (qq.com)上上上篇Goo
原创
2024-05-15 22:39:53
114阅读
上一章地址 英伟达的GPU(4) (qq.com)我们之前讲过了GPU的kernel,线程划分,内存管理这节我们讲一下多个GPU的通信从这张 NVLink 性能发展的图表可以看出，NVLink 技术自 2014 年以来经历了多次升级，性能不断提高。以下是各代 NVLink 的发展和性能提升情况：NVLink 性能发展历程P100 (1st Generation NVLink):发布年份：2014性
原创
2024-08-10 22:14:25
200阅读
一、引言最近，英伟达的发布会带来了许多令人振奋的消息，尤其是在AI和图形处理领域。作为一名程序技术网站的博主，我深刻感受到这些新技术对我们日常编程工作的影响。本文将结合实际代码示例，探讨如何利用英伟达的新技术改进我们的开发流程。二、GPU加速计算
英伟达在发布会上强调了GPU在加速计算方面的重要性。对于需要大量并行计算的任务，如深度学习训练或大规模数据处理，使用GPU可以显著提高效率。
（一）CU
上节内容：英伟达的GPU(2) (qq.com) 书接上文，上文我们讲到CUDA编程体系和硬件的关系，也留了一个小问题CUDA core以外的矩阵计算能力是咋提供的 本节介绍一下Tensor Core 执行矩阵运算的逻辑，基本就是矩阵的一条横向量*另一个矩阵的列向量（逻辑上可以这么认为）&nbs
原创
2024-05-25 12:38:53
133阅读
更第四篇，上周有点私事，恢复更新上次的文章 英伟达的GPU(3) (qq.com)书接前文，我们上章说要更新GPU的内存机制，本次就讲点这个 先做个定义，我们说内存（显存），也分物理内存（SRAM,DRAM.HBM）和逻辑内存(逻辑可访问地址，这个倒和物理不一定1:1对应)，这个和处理CPU的项目的时候没啥区别。 我们之前讲
原创
2024-06-08 11:23:59
123阅读
先安装基础库sudo apt-get install qtbase5-dev然后安装QTcreatersudo apt-get install qt5-default qtcreator -y
原创
2022-04-22 15:32:07
1112阅读
