大模型摘要微调
原创
2023-12-14 10:11:17
1273阅读
点赞
2评论
在最近的项目中，我遇到了“chatGlm3 ollama”这一技术难题。经过一系列的调研和实践，我决定将解决这一问题的过程记录下来，以下是我的整理。
## 版本对比
在评估“chatGlm3”与“ollama”版本的兼容性时，我首先对这两个版本的特性进行了详细比较。
| 功能 | chatGlm3 | olla
在本文中，我将深入探讨如何在本地使用 LangChain 搭配 ChatGLM3，并提供一系列详细的实操指导与技术分析。在推动 AI 应用的发展过程中，LangChain 构建了一个优雅的结构以支持大规模语言模型的研究与实践。随着 ChatGLM3 的引入，开发者们面临着诸多显著的变更和挑战，这篇文章将系统地揭示这些变化，并提供迁移指南、兼容性处理、实战案例、排错技巧及性能优化策略。
## 版本
AutoDL搭建 ChatGLM3
原创
2024-06-13 09:24:03
221阅读
一，firewalld中ipset的用途:1,用途ipset是ip地址的集合，firewalld使用ipset可以在一条规则中处理多个ip地址，执行效果更高对ip地址集合的管理也更方便 2,注意与iptables所用的ipset命令的不同， 不要混合使用firewall-cmd的ipset参数与linux平台上的ipset命令， 避免引起
Cortex-M3 的存储系统架构与传统的 ARM 处理器有很大的区别。 Cortex-M3 处理器采用哈佛（ Harvard）结构，拥有独立的指令总线（ I-Code）与数据总线（ D-Code）。具有以下新特性：1. 存储器映射是预定义的，它规定了存储器访问所使用的总线。访问不同的存储设备时，处理器可对访问速度进行优化。2. Cortex-M3 的存储系统支持位带操作，可对存储器和外设的位数据
转载
2024-09-05 17:36:11
53阅读
Kubernetes (K8S) 是一种开源的容器编排平台，用于自动化容器的部署、扩展和管理。在实际的开发中，使用K8S可以让我们更方便地构建、部署和管理容器化的应用程序。在这篇文章中，我将向你介绍如何使用K8S实现一个简单的聊天应用。
整个过程可以分为以下几个步骤：
| 步骤 | 操作 |
| ---- | --------------------- |
|
原创
2024-03-29 09:48:56
238阅读
在Linux系统中，缓存（Cache）是用于提高文件系统性能的一种存储机制。系统会将经常访问的数据保存在缓存中，以便快速访问。手动清理Linux的缓存通常指的是清空页面缓存（page cache）和/或目录项缓存（dentries and inodes）。手动清理缓存可以通过以下命令完成：sync; echo 3 > /proc/sys/vm/drop_caches # 清空页面缓存
sy
转载
2024-09-08 07:25:25
22阅读
同样适用于linux虚拟机配置Mac传文件到Linux初始化系统和安装基本工具安装nginx安装python3安装Docker安装node.js安装Java安装MySqlgit配置Mac传文件到Linuxscp -P 22 /Java/program.war root@123.456.789.987:/usr/server/tomcat7/webapps/初始化系统和安装基本工具更新系统$ sud
Django强大的ORM帮助我们实现了通过类和对象去操作数据库，从而大大简化了我们在后台操作数据库的难度，那么Django是如何实现和数据库之间的映射的呢？django中ORM有三个类：Manager、Queryset、Model，其中Manager类实现了和数据库之间的操作，Manager类中从QuerySet类中拷贝了许多表级方法，通过这些方法实现数据库的查询，并且将查询到的结果封装成一个Qu
Fast-RTPS是eprosima对于RTPS的C++实现，是一个免费开源软件，遵循Apache License 2.0Fast-RTPS现在被称为Fast-DDS，作为ROS2的默认中间件具有以下优点：对于实时应用程序来说，可以在best-effort和reliable两种策略上进行配置即插即用的连接性，使网络的所有成员自动发现其他新成员模块化和可扩展性允许网络中设备不断增长可配置的网络行为和
raceroute 类似于 ping 命令，但是提供了更详细的信息输出，它跟踪从原点到目标系统的路由。 当你连接到某个远程系统时，数据会经过几个中间节点（比如你的路由器，ISP路由等等）的传输。traceroute 一般为系统管理员或者网络管理员用于对网络进行故障排除。**在 Linux 中安装 traceroute **在大多数 Linux 发行版中，tr
转载
2024-06-08 15:54:16
128阅读
接续前节（https://blog.51cto.com/u_15957839/12635079）内容，基于已经抽取完成的知识图谱作为输入，辅助LLM终端更加精确聚焦到问题本质，并给我们提供更细粒度的智能答复，提升答案的准确性和实用性。以下为示例代码：konwledge_graph = [('工商银行','1984.1.1','成立'),('工商银行','2005.10.28','改制'),('工商
背景ZStack所聚焦的IaaS，作为云计算里的底座基石，能够更好的实现物理资源隔离，以及服务器等硬件资源的统一管理，为上层大数据、深度学习Tensorflow等业务提供了稳定可靠的基础环境。近年来，云计算发展探索出了有别于传统虚拟化、更贴近于业务的PaaS型服务，该类型依赖于docker实现，如K8S等典型的容器云，可以直接从镜像商店下载封装好业务软件的镜像，更加快捷地实现业务部署。此外，GPU
转载
2024-08-15 14:57:28
112阅读
前 言本指导文档适用开发环境：Windows开发环境：Windows 7 64bit、Windows 10 64bitLinux开发环境：Ubuntu18.04.4 64bit虚拟机：VMware15.5.5进行本文档操作前，请先按照调试工具安装、Linux开发环境搭建相关文档，安装SecureCRT串口调试终端、VMware虚拟机等相关软件。本文档主要提供评估板的硬件资源测试方法。无特殊说明情况
转载
2024-07-29 16:59:23
121阅读
ChatGLM3模型的处理长度可以达到8000字符，对于一般文本处理的需求基本可以满足。但是面对更加大部头的冗长文本时，这个长度显然不够。面对此需求，ChatGLM3推出了ChatGLM3-6B-32K，在文本处理长度上有了质的飞跃，可以搞定32KB字符。本节完成的获取与使用示例：from modelscope import AutoTokenizer,AutoModel,snapshot_dow
至此 ChatGLM3就演示完了，效果还是不错的说。比之前版本好太多了，我还会继续关注它的。它也可以通过Web api，清华ChatGLM3-6B大模型对中文支持度还是蛮高的。
原创
2024-04-11 15:03:11
0阅读
一、和chatglm3通信，基于chromadbimport jsonimport requestsimport osfrom pdfminer.high_level import extract_pagesfro
原创
2024-01-27 22:46:12
305阅读
准备一份包含对比关系的财务报表，或其他领域的数据集。利用ChatGLM3，从数据集中抽取关键实体、属性及它们之间的关系，进而构建财务报表的知识图谱。通过构建知识图谱，可以更加直观地表示和理解财务报表中复杂知识和关系，为后续智能问答等应用奠定基础。首先获取查询问题的最近似段落：import json
file_name = "./dataset/2021年度报告.txt"
with open(fil
SequentialChain是更为复杂、更加灵活的链式结构，允许在每个步骤中处理多个输入，并产生多个输出。在复杂的多输入+多输出场景中，需要更加谨慎的选取每个变量的命名——根据它们的来源或作用进行命名，确保名称可以准确反映变量的含义。需要注意的是，SequentialChain的每个步骤都需要明确正确的输出参数，便于系统判断将哪些结果传递给下一个步骤。【SequentialChain测试代码】f
