小怪兽会微笑的博客_学习笔记(2)

API服务的快速搭建和测试

【代码】API服务的快速搭建和测试。

人工智能

自然语言处理

语言模型

python

json

原创 9月前 167 阅读

大模型：常见的文字表情包(可以直接加到微调数据里)

语言模型

python

人工智能

原创 10月前 161 阅读

分享一波chatgpt的常用prompt

【代码】分享一波chatgpt的常用prompt。

prompt

ide

ci

sed

原创 10月前 91 阅读

大模型加载的参数介绍及推荐表，temperature、top_k、top_p、num_beams、num_beam_groups、do_sample等

如果需要非常清晰读懂每个参数，需要了解一下与大模型配套的。

人工智能

算法

神经网络

自然语言处理

文心一言

原创 10月前 1437 阅读

1B（10亿）的token大概需要多少磁盘空间存储

【代码】1B（10亿）的token大概需要多少磁盘空间存储。

python

自然语言处理

语言模型

字节数

深度学习

原创 10月前 660 阅读

怎么用python代码查看可用的gpu，然后指定可用的gpu运行

【代码】怎么用python代码查看可用的gpu，然后指定可用的gpu运行。

python

深度学习

pytorch

CUDA

命令行

原创 10月前 1630 阅读 1收藏

Python中OS库的常用命令及示例

Python的**os**库是一个强大的库，用于与操作系统进行交互。它提供了许多功能，包括文件和目录管理、环境变量访问以及执行系统命令。在本篇

python

开发语言

文件名

绝对路径

环境变量

原创 10月前 88 阅读

怎么推算max_step和epoch之间关系，例如多少step一个epoch

（轮次）之间的关系取决于您的训练流程和超参数设置。通常情况下，一个step通常表示对一个batch的训练

人工智能

算法

数据集

数据

参数设置

原创 11月前 288 阅读

集群外访问计算节点gpu上的web链接

无法直接访问计算节点。管理节点可以访问计算节点，计算节点无法访问自身外的网络。上运行，运行后给了一个web的地址,如下图所示。现在有一个程序，通过提交作业的方式在集群的。

服务器

运维

IP

直接访问

无法访问

原创 11月前 75 阅读

source activate my_env 和conda activate my_env 有什么区别

是两个不同的命令，用于在Conda环境中激活特定的虚拟环境。它们的区别在于它们分别适用于不同版本的Conda。如果您使用较旧的Conda版本，那么source activate 仍然可用，但已被逐渐淘汰。它也用于激活特定的Conda虚拟环境，但它是更简单、更直观的方式，取代了source activate。它用于激活（进入）一个特定的Co

conda

python

linux

虚拟环境

新版本

原创 11月前 244 阅读

python输出当前的IP地址

【代码】python输出当前的IP地址。

tcp/ip

网络

服务器

python

IP

原创 11月前 99 阅读

windows的powershell中apt命令的替换命令

所以，如果你在 Windows 上需要安装、更新或卸载软件包，建议使用 Chocolatey 或 winget，而不是 apt 命令，因为 apt 是专门为 Linux 系统设计的包管理工具。：winget 是微软推出的包管理工具，可以在 Windows 10 及更高版本上使用。你可以使用 winget 来搜索、安装、更新和卸载应用程序。

1024程序员节

人工智能

windows

powershell

Windows

原创 2023-10-29 14:40:16 98 阅读

Windows怎么在终端使用本地代理服务器

在本地已经有代理服务器的情况下，输入。

1024程序员节

windows

代理服务器

原创 2023-10-29 14:40:12 93 阅读

WinGet 换国内源使用帮助

若出现 0x80073d1b : smartscreen reputation check failed. 错误，请检查网络连接或暂时关闭 SmartScreen。

1024程序员节

windows

管理员权限

3d

重置

原创 2023-10-29 14:40:06 974 阅读

为什么大模型计算的时候只会利用KVcache来存放KV矩阵，Q矩阵每次不一样？

总之，KV Cache是一种用于提高Transformer架构的推理效率的技术，通过缓存K和V矩阵，从而避免不必要的计算，但由于Q矩阵通常不稳

1024程序员节

缓存

神经网络

计算复杂性

原创 2023-10-29 14:40:01 706 阅读

docker命令实例（举例子学习）

【代码】docker命令实例（举例子学习）

docker

学习

容器

3c

bash

原创 2023-10-22 21:36:55 66 阅读

没有root权限如何通过apt安装deb软件

一般来说使用apt安装软件，必须要有root权限，因为apt安装时需要写 /usr/bin，/usr/lib，/usr/share等目录，而这些目录只有root用户(或有sudo权限)才有写入权限的。之后一般会在指定目录下产生usr/bin/目录。所以要另辟蹊径，换种安装方式。

linux

服务器

ubuntu

bash

root用户

原创 2023-10-22 21:36:12 700 阅读

Slurm集群常用命令

3. 显示运行的或已完成作业或作业步的记账信息。4. slurm文件编写常见参数。

人工智能

gpu算力

服务器

运维

作业步

原创 2023-10-22 21:36:11 244 阅读

逐行代码学习ChatGLM2-6B大模型SFT微调（通过prompt ptune实现），项目中的ptune/main.py文件

【代码】逐行代码学习ChatGLM2-6B大模型SFT微调，项目中的ptune/main.py文件。

学习

人工智能

agi

transformer

语言模型

原创 2023-10-19 11:39:50 577 阅读

docker stop了一个docker exec容器，要怎么再启动呢

【代码】docker stop了一个docker exec容器，要怎么再启动呢。

docker

容器

原创 2023-10-17 01:06:47 60 阅读

如何免费试用阿里云上资源搭建ChatGLM2+langchain

免费搭建大模型

langchain

搜索

工作空间

原创 2023-07-22 11:26:58 263 阅读

科研中论文常见数学符号及其含义（科研必备，建议收藏）

论文常见数学符号及其含义（科研必备）返回论文和资料目录数学符号在数学领域是非常重要的。在论文中，使用数学符号可以使得论文更加简洁明了，同时也能够准确地描述各种概念和理论。在本篇博客中，我将介绍一些常见的数学符号及其含义（省去特别简单的符号），希望能够帮助读者更好地理解数学论文。高等数学（求和符号）：表示将中的所有数相加，例如表示将（乘积符号）：表示将中的所有数相乘，

算法

人工智能

机器学习

原创 2023-05-14 13:31:45 7209 阅读

500个常见的计算机英文文献词汇，按字母顺序排列，并附上音标和中文解释：

Communication [kəˌmjuːnɪˈkeɪʃən] - 通信。Concatenation [kɑːnˌkætəˈneɪʃən] - 连接。Confi

经验分享

ci

JSON

Java

原创 2023-05-01 17:06:24 690 阅读

python画图显示坐标轴的刻度线

和前面的例子一样，该方法的 axis 参数指定要修改的轴（‘x’ 代表 x 轴，‘y’ 代表 y

python

开发语言

坐标轴

数据

Python

原创 2023-04-08 08:54:26 1289 阅读

python使用matplotlib画图时在指定位置加上文字

该方法的第一个和第二个参数分别表示注释的位置，这里是 (3, 7)。我们还使用

matplotlib

python

开发语言

字符串

数据

原创 2023-04-08 08:45:29 1222 阅读

GPT-4原论文详细解读（GPT-4 Technical Report）

GPT-4是一个多模态的大模型。它的基础结构仍然是Transformer+预测下一个词的目标函数。GPT-4在摘要中的说法是给出了一个预测模型性能的方法，使得只需要0.1%的训练计算资源，就可以预测模型的性能了。不需要训练到GPT-4这篇工作目的是增强理解生成文本的能力，尤其在复杂且存在细微差异的场景。GPT-4使用了很多人类的考试（例如，律师资格考试）和传统的NLP任务作为测试案例。

深度学习

人工智能

预测模型

模态

github

原创 2023-04-01 21:41:41 4013 阅读

矩阵运算时⊗和·的区别？

矩阵运算中，符号⊗表示的是张量积（tensor product），而符号⋅表示的是矩阵乘法（matrix multiplication），两者是有区别的。

矩阵

机器学习

线性代数

矩阵乘法

矩阵运算

原创 2023-03-20 09:44:39 433 阅读

InstructGPT论文详解（学习ChatGPT必看论文）

InstructGPT论文详解（Training language models to follow instructions with human feedback，学习ChatGPT必看论文）返回论文和资料目录1.导读继ChatGPT大火后，越来越多人想了解ChatGPT相关技术。OpenAI官网虽然没有给出ChatGPT足够详细的信息，但给出了一篇推荐阅读论文Instr

学习

chatgpt

人工智能

数据集

API

原创 2023-03-19 08:09:31 1526 阅读

论文中φ一般怎么用，什么场景用？

符号或在数学和物理学中有着广泛的应用，而在不同的领域中具体的含义和用法也会有所不同。在一些工程和计算机科学领域的论文中，或以下是一些常见的场景和用法：特征工程：在机器学习和数据分析中，通常表示特征函数或特征变换函数，用于将原始数据转换为更高维度的特征空间，从而更好地描述数据的属性和关系。例如，在支持向量机（SVM）中，常常使用核函数深度学习：在神经网络和深度学习中，通常表示激活函

机器学习

人工智能

深度学习

似然函数

激活函数

原创 2023-03-19 08:09:26 166 阅读

论文中δ一般怎么用，什么场景用

在数学和统计学中，符号通常用来表示一个函数或变量的增量或差异，即表示变量的一个微小变化。具体而言，在机器学习和统计学中，符号在一些特定的论文中，符号也可能有不同的含义，需要具体根据文献背景来解释。在某些上下文中，它通常被用来描述矩阵中的元素是否相等。此外，

机器学习

算法

人工智能

损失函数

原创 2023-03-19 08:09:18 253 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客

小怪兽喜欢小天使的博客

API服务的快速搭建和测试

大模型：常见的文字表情包(可以直接加到微调数据里)

分享一波chatgpt的常用prompt

大模型加载的参数介绍及推荐表，temperature、top_k、top_p、num_beams、num_beam_groups、do_sample等

1B（10亿）的token大概需要多少磁盘空间存储

怎么用python代码查看可用的gpu，然后指定可用的gpu运行

Python中OS库的常用命令及示例

怎么推算max_step和epoch之间关系，例如多少step一个epoch

集群外访问计算节点gpu上的web链接

source activate my_env 和conda activate my_env 有什么区别

python输出当前的IP地址

windows的powershell中apt命令的替换命令

Windows怎么在终端使用本地代理服务器

WinGet 换国内源使用帮助

为什么大模型计算的时候只会利用KVcache来存放KV矩阵，Q矩阵每次不一样？

docker命令实例（举例子学习）

没有root权限如何通过apt安装deb软件

Slurm集群常用命令

逐行代码学习ChatGLM2-6B大模型SFT微调（通过prompt ptune实现），项目中的ptune/main.py文件

docker stop了一个docker exec容器，要怎么再启动呢

如何免费试用阿里云上资源搭建ChatGLM2+langchain

科研中论文常见数学符号及其含义（科研必备，建议收藏）

500个常见的计算机英文文献词汇，按字母顺序排列，并附上音标和中文解释：

python画图显示坐标轴的刻度线

python使用matplotlib画图时在指定位置加上文字

GPT-4原论文详细解读（GPT-4 Technical Report）

矩阵运算时⊗和·的区别？

InstructGPT论文详解（学习ChatGPT必看论文）

论文中φ一般怎么用，什么场景用？

论文中δ一般怎么用，什么场景用