我们在做大模型应用部署时（如训练、微调、RAG），往往需要在前期就分析好硬件选型指标，或者我们给客户报方案之前，可能你已经有了一个方案，但是由于实践经验缺乏，不知道在硬件上该如何评估并上报。本文将在这些方面给予一些参照。? 这节课会带给你什么是 GPU 以及 CUDA 核心和 Tensor 核心的介绍大模型应用中如何选择GPU和云服务厂商，追求最高性价比AI 领域的 GPU 对比如何部署自己 fi
一. 前言这篇就是总结一下Anaconda里也就是jupyter notebook中如何安装使用tensorflow的GPU版本，踩了好多好多坑，各种各样的错误，写这篇文章也是为了记录一下步骤和各种错误，以防自己忘了还要在踩坑。(这里我就默认已经装好了Anaconda和jupyter notebook了)二. 所有步骤1）通过Anaconda建造一个虚拟环境，保证不会影响到全局，一切都在虚拟环境中
转载
2024-06-05 04:10:11
3150阅读
点赞
1评论
北京时间 2019 年 9 月 21 日，PyCon China 2019 在上海举行。在下午的演讲中，来自微软开发工具事业部的资深研发工程师韩骏做了主题为《Python 与 Visual Studio Code 在人工智能应用中的最佳 Azure 实践》的演讲。在演讲中，我们看到了 Azure Notebook 与 VS Code 对 Python 的强大的支持。然而，鱼和熊掌似乎不可兼得。Ju
记录一些自己用的（可能会忘的），（并不全面）只是给自己看的。1. 如何打开点击lunch即可或者通过命令行，输入jupyter notebook或者是jupyter-notebook都可以2. 更换环境（1）打开命令行，切换到需要的环境，输入conda install jupyter notebook 之后再输入jupyter notebook即可之后再选择环境即可 也可以在（
转载
2024-05-29 15:02:55
558阅读
文章目录Jupyter 简单介绍Jupyter 在 Ubuntu 下的使用启动 Jupyter新建一个 Jupyter 文档更改 Jupyter 的默认启动目录 Jupyter 简单介绍Jupyter Notebook 是一个 Web 应用程序，可以让我们创建和共享包含实时代码，方程，可视化和说明文本的文档。 用途包括：数据清理和转换，数值模拟，统计建模，机器学习等等。简单来说 Jupyter
转载
2024-04-17 17:17:36
131阅读
Jupyter非常好用。之前使用都是单机使用，有时回家了就先远程上学校的电脑（主要是因为要用的数据只有学校的电脑里有）来使用Jupyter，但是网络时好时不好，有时远程的效果并不好。因为Jupyter本身就都可以支持跨网络访问，所以学习了下让Jupyter支持跨网络访问的方法。学习时发现网上的资料说得并不是非常清楚，因此重新归纳总结写下此文。此文的目标是简洁地说明在Windows上己能用Jupyt
转载
2024-03-16 01:31:21
49阅读
划重点：免费GPU，免费GPU，免费GPU官方说明：1.Colab是Google提供的一个研究型项目。可以免费使用CPU,GPU,TPU环境。具体可免费使用多久还不知道。2.Colab支持NoteBook的，支持各种深度学习框架。3.官方说明：https://colab.research.google.com/notebook与其花钱买服务器资源，用colab的免费资源真的是太香了。用于研究和测试
转载
2023-11-29 19:35:09
99阅读
前言：相信看到这篇文章的小伙伴都或多或少有一些编程基础，懂得一些linux的基本命令了吧，本篇文章将带领大家服务器如何部署一个使用django框架开发的一个网站进行云服务器端的部署。文章使用到的的工具Python：一种编程语言，只能进行后端数据的处理和管理前端HTML文件，不能用来处理HTTP请求Nginx：web服务器，用于处理HTTP请求uWsgi：Python的第三方库，建立Ng
转载
2024-04-24 10:30:29
29阅读
相信学深度学习的童鞋们，都遇到了非常棘手的问题！就是训练模型用的cpu而不是gpu！而gpu是专门用来计算的，不拿来用，岂不是浪费？而网上的教程要装cudo 又要下 cudnn ，折磨了我一两天还没弄好，终于在机缘巧合之下，成功了！！！现在教大家如何简单地让模型在gpu上跑起来： 安装前骤：大家先更新一下自己显卡驱动https://www.nvi
转载
2024-01-23 20:34:20
971阅读
在学习的过程中，很多同学会因为没有带GPU的电脑影响了模型训练从而影响学习；此文详细介绍如何通过云服务器租用GPU进行模型训练，得到模型权重参数。大家在身边没有GPU服务器，或者算力不够的情况下，也可以采用这些云端算力平台进行使用。本次课程采用的算力平台主要是AutoDL AI算力云，官网链接是：AutoDL-品质GPU租用平台-租GPU就上AutoDL。1.点击右上角的“注册”选项先进
转载
2024-01-21 02:06:13
947阅读
GPU云服务器使用一、阿里云平台GPU服务器： 1.打开阿里云首页https://www.aliyun.com/ 在产品分类处选择CPU服务器，当然你也需要其他服务器也可以，本次主要讲述GPU云服务器 2.点击之后在界面根据个人需求以及服务器满足的功能选取服务器，本文以GN5为例，点击购买之后将会跳转到自定义购买页面： 3.付费模式根据自己选择选取合适的付费模式：按量付费是按照小时收费， 4.地域
转载
2023-09-08 16:53:35
344阅读
要在服务器上跑 PyTorch，首先需要确保环境配置正确。以下是关于这个过程的详细记录，包括问题背景、错误现象、根因分析、解决方案、验证测试和预防优化。
## 问题背景
最近，我在尝试使用一台新的服务器来进行深度学习模型训练时，遇到了 PyTorch 的安装和运行问题。尽管我已经在本地环境中成功运行了 PyTorch，但在服务器上却遭遇了各种困难。
**现象描述：**
- 服务器操作系统:
jupyter notebook 切换编译环境——使用pytorch环境gpu加速，CUDA、pytorch解释 文章目录jupyter notebook 切换编译环境——使用pytorch环境gpu加速，CUDA、pytorch解释前言1.查看你所创建的python运行环境2.激活环境3.下载ipykernel包4.把本地环境导入jupyter notebook5.切换运行环境6.CUDA GP
转载
2023-11-02 09:06:54
2129阅读
Jupyter Notebook 简介与安装Jupyter Notebook 是一款开放源代码的 Web 应用程序，可让我们创建并共享代码和文档。 它提供了一个环境，你可以在其中记录代码，运行代码，查看结果，可视化数据并在查看输出结果。 安装方法参考官网jupyter notebook常用快捷键两种键盘输入模式介绍Jupyter Notebook 有两种键盘输入模式： 编辑模式，允许你往单元中键入
在之前的文章中已经介绍过Python3环境的搭建，如果你学习Python是做科学计算，那么你会有更好的开发环境的选择，那就是Anaconda，本篇中将向你介绍环境的安装，以及一个快速开发Python代码的利器Jupyter Notebook的安装。Anaconda简介 Anaconda是一个基于Python的数据处理和科学计算平台集成环境，它内置了许多非常有用的第三方库，装上Anaconda，就相
转载
2024-07-29 21:42:30
51阅读
# 使用共享GPU在Jupyter中运行深度学习
随着深度学习的快速发展，训练模型所需的计算资源也越来越高。对于个人研究者或数据科学学生而言，使用共享GPU资源来进行深度学习实验变得愈发重要。本篇文章将介绍如何在Jupyter Notebook环境中使用共享GPU来运行深度学习模型，并提供相关的代码示例。
## 环境准备
在开始之前，确保你已安装了以下必需的软件和库：
1. Python（
利用云服务器计算fluent 内容精选换一换创建一台按需弹性云服务器。弹性云服务器创建完成后，如需开启自动恢复功能，可以调用配置云服务器自动恢复的接口，具体使用请参见管理云服务器自动恢复动作。该接口在云服务器创建失败后不支持自动回滚。若需要自动回滚能力，可以调用POST /v1/{project_id}/cloudservers接口，具体使用请参见创建云服务器(按需)。您可以在AP华为云云服务器备
转载
2023-09-18 16:24:45
91阅读
一、前言现在自己的电脑真的不够用了，有的时候跑确实慢，一种是计算量大，另一种就是要不断请求别的web端，所以个人电脑，比如我是笔记本就更难受了，再来做AI用服务器再正常不过了，但是怎么非常简单的移植到服务器并完全托管使用是个操作，近来我做了一些金融量化的东西，用到了服务器跑，在这里稍微做个小笔记把，方便大家也用。二、首先我需要买个服务器我用的是阿里云的服务器，因为还是学生，就没买太贵的，没买ECS
转载
2024-01-16 15:30:20
65阅读
超级感谢up主7_xun的B站教学视频：适合深度学习小白的CV实战——在AutoDL上租用云服务器跑YOLOv5的全过程链接：https://www.bilibili.com/video/BV1jA4y1o7Ph/?spm_id_from=333.1007.top_right_bar_window_history.content.click&vd_source=e482aea0f5ebf4
转载
2024-01-16 16:13:12
156阅读
## 如何在服务器上运行 Python 代码
借助现代云计算平台，开发者能够极其方便地在服务器上运行 Python 代码。无论是为了提供 web 服务，还是进行数据分析，通过服务器执行 Python 代码的方式提供了灵活性和可扩展性。下文将详细介绍如何在服务器上运行 Python 代码，并附带完整的代码示例。
### 1. 环境准备
在开始之前，你需要准备以下内容：
- 一台可以运行 Py
原创
2024-09-10 05:40:22
622阅读
