51CTO首页
AI.x社区
博客
学堂
精品班
软考社区
免费课
企业培训
鸿蒙开发者社区
信创认证
公众号矩阵
移动端
视频课 免费课 排行榜 短视频 直播课 软考学堂
全部课程 软考 信创认证 华为认证 厂商认证 IT技术 PMP项目管理 免费题库
在线学习
文章 资源 问答 课堂 专栏 直播
51CTO
鸿蒙开发者社区
51CTO技术栈
51CTO官微
51CTO学堂
51CTO博客
CTO训练营
鸿蒙开发者社区订阅号
51CTO软考
51CTO学堂APP
51CTO学堂企业版APP
鸿蒙开发者社区视频号
51CTO软考题库
使用PEFT库进行ChatGLM3-6B模型的LORA高效微调

使用PEFT库进行ChatGLM3-6B模型的LORA高效微调

LORA(Low-Rank Adaptation)是一种高效的模型微调技术,它可以通过在预训练模型上添加额外的低秩权重矩阵来微调模型,从而仅需更新很少的参数即可获得良好的微调性能。这相比于全量微调大幅减少了训练时间和计算资源的消耗。

python
LORA
微调
ChatGLM3-6B
训练
原创 2024-06-27 08:58:50 1308 阅读 1点赞 1评论
一款更加轻量级的虚拟机：Multipass

一款更加轻量级的虚拟机：Multipass

一款超级轻量级的虚拟机：Multipass。它专为想要通过单个命令获得全新 Ubuntu 环境的开发人员而设计，下载一个全新的镜像需要几秒钟的时间，并且在几分钟内就可以启动并运行VM。

bash
Ubuntu
ubuntu
Multipass
虚拟机
原创 2024-06-26 14:41:09 1094 阅读 1点赞

LangChain之链的应用（下）

LangChain根据功能、用途的不同，提供了大量的Chain链，以下是一些Chain链的使用示例。

python
API
LangChain
Chain
原创 2024-06-26 14:38:03 182 阅读 1点赞

LangChain之链的认识（上）

Chain是LangChain中非常重要的一个组件,可以帮助我们更好地组织和管理应用程序的各个功能模块,提高开发效率和应用程序的复杂性。

python
自然语言
LangChain
llm
原创 2024-06-24 21:41:28 136 阅读 1点赞

LangChain之各个输出解析器的使用

输出解析器负责获取 LLM 的输出并将其转换为更合适的格式。借助LangChain的输出解析器重构程序，使模型能够生成结构化回应，并可以直接解析这些回应。

解析器
python
LLM
LangChain
原创 2024-06-24 16:40:05 337 阅读

LangChain之各类提示模板的使用

语言模型的提示是用户提供的一组指令或输入，用于指导模型的响应，帮助模型理解上下文并生成相关且连贯的基于语言的输出，例如回答问题、完成句子或参与某项活动、对话。

python
LLM
LangChain
OpenAI
原创 2024-06-18 22:00:27 213 阅读 2点赞 1收藏

使用llama.cpp实现LLM大模型的格式转换、量化、推理、部署

llama.cpp的主要目标是能够在各种硬件上实现LLM推理，只需最少的设置，并提供最先进的性能。提供1.5位、2位、3位、4位、5位、6位和8位整数量化，以加快推理速度并减少内存使用。

CUDA
llama.cpp
lllm
推理
量化
原创 精选 2024-06-06 09:41:08 3053 阅读 1点赞

LangChain之模型调用

LangChain的模型是框架中的核心，基于语言模型构建，用于开发LangChain应用。通过API调用大模型来解决问题是LangChain应用开发的关键过程。

python
API
语言模型
LangChain
OpenAI
原创 2024-06-04 21:47:01 238 阅读 1点赞

使用Unsloth微调Llama3-Chinese-8B-Instruct中文开源大模型

Unsloth是一个开源的大模型训练加速项目，可以显著提升大模型的训练速度，减少显存占用。本文将使用Unsloth微调Llama3-Chinese-8B-Instruct中文开源大模型。

github
python
Unsloth
Llama3-Chinese
Llama
原创 精选 2024-06-03 10:40:22 1979 阅读 1点赞 1收藏
初识LangChain的快速入门指南

初识LangChain的快速入门指南

LangChain是一个基于大语言模型用于构建端到端语言模型应用的框架，它提供了一系列工具、套件和接口，让开发者使用语言模型来实现各种复杂的任务，如文本到图像的生成、文档问答、聊天机器人等。

python
应用程序
LangChain
AIGC
原创 2024-06-03 09:15:13 684 阅读 2点赞 1收藏

Copyright © 2005-2025 51CTO.COM 版权所有 京ICP证060544号

关于我们
官方博客 全部文章 热门标签 班级博客
了解我们 网站地图 意见反馈
友情链接
鸿蒙开发者社区 51CTO学堂
51CTO 软考资讯