由于工作过程中硬件资源未能达到要求,现将使用 Elasticsearch 取代原 Redis + MySQL + Milvus 技术栈,在重新搭建的同时记录一下搭建过程(由于之前也分享过 Docker 版本 Elasticsearch 5.x 和 Elasticsearch 7.x 的部署方法,因此本文对分享过的内容将不再重复说明)。
书接上文,我在 ollama 中部署 qwen1_5-14b-chat-q4_k_m.gguf 预量化模型,在非 Stream 模式下需要 89 秒才完成一轮问答,响应速度实在是太慢,后续需要想办法进行优化...
本文将记录部署过程中遇到的问题以及解决方式,希望对你有所帮助(open-webui 采用 docker 进行部署)。
本文将采用 GGUF 预量化大模型结合 Ollama 对代码进行修改,给小伙伴们演示如何逐步实现非 GPU 资源的本地整合方案。
本文主要通过一次公司“加解密工具”代码优化后,通过JMH进行了性能测试的案例,为大家结合代码讲解以下 JMH 的使用。
记录一次吃瘪经历...
记录一次客户网站被劫持事件
距离上次做 Kali Linux 分享已经相隔半年之久了,刚好需要主导公司每半年一次的本地安全加固工作,这次将简单分享自己是如何做单一服务器的扫描。
今天想分享如何从零开始在不使用第三方工具的前提下,以纯代码的方式本地部署一套大模型,相信这对于技术人员来说还是非常有用的。
之前的文章有写如何获取数据、如何补充数据,也有说如何对数据进行清洗、如何使用结构化数据进行训练。但好像没有说如何将训练数据“入库”。这里说的入库不是指 MySQL 数据库,而是指向量检索库 Milvus。
好久没有更新跟实际应用相关的内容了(主要是因为公司知识产权问题未能立即公开,目前只能挑选一些脱敏内容与各位分享),如标题所示本期将跟大家讲一下如何通过通义千问生成问答数据集的。
今天这篇文章主要是记录 HF-Mirror 的使用过程,官网上提供了 Linux 和 Windows 的使用方式。本人作为 MacOS 用户也将自己的使用办法记录一下,希望能够帮助到其他人。
本文将结合代码讲述如何使用高质量问答数据通过 AutoKeras 的 RNN 神经网络训练问答人工智能的,希望各位喜欢。
忙里偷闲在本地部署了一套 stable-diffusion 来玩玩,虽然 Mac 还是使用 CPU 来生图,但是整体效果(生成时间、生成效果)还是能够接受的,真的感觉到 AI 的实施门槛在降低,走入平常百姓家了
虽然问得简单,但是涉及的知识点可不是一般的多(这里面涉及到开发、管理等方面的内容)。下面我将浅谈一下自己的看法,谢谢。
现在各种各样的企业标准实在太多了,今天将谈谈我所认知的 TOGAF 标准以及如何在中小型企业中使用 TOGAF 标准。
这次主要讲一下我这边关于训练数据的一些数据清洗和提纯的思路,有不够全面的地方请各位指正。
2024年的第一篇博文先填一下坑,这么长时间没有更新其实最近都在学习人工智能方面的内容,这次重新更新会将自己的一些学习笔记和感悟写一下给各位分享,希望各位能够喜欢
书接 openEuler 系列文章(可以翻看测试系列),本次跟大家说说如何保证 openEuler 镜像全补丁状态下进行镜像体积压缩。
说到链路追踪就不得不说自动化运维和基础架构了,这里面还有很多好玩有趣的内容,今天先铺垫一下,有机会再给各位铺开来讲讲
最近在做一些数据整理的工作,外部机构提供的是 jsonl 格式的文件,为了方便开发人员操作需要将其导入到 mysql 中进行进一步清洗和整理,这个时候就用到 LOAD DATA INFILE 这种方式,权当记录一下。
面试遇到的一个关于网络基础的问题,顺着思路来回答问题不大。主要是解决方案如果没有接触过真的有点难以回答,这里除了华为还可以选择其他的厂商的解决方案。
今天开始又挖新坑了,后面也会断断续续更新 AutoML 方面相关的内容,就由 AutoKeras 先打响头炮
近来听到参加高项考试的同事提到过霍桑效应,其实严格来说霍桑效应应该算是一种心理现象,不单单是项目管理,小孩子的学习也同样适用
有段时间没有更新了,今天将给各位分享一个 Vert.x 框架日期类型数据在 Jackson 序列化下的展示问题。
某天项目组来了个需求说需要提取 PDF 文件中数据作为数据沉淀使用,这是因为第三方系统不提供数据接口所以只能够出此下策。
面试的时候聊了一些心理学方面的话题,居然聊到了赫兹伯格的双因素激励理论,我只会理论没有实践ε=(´ο`*))),且看我怎样将这个天聊下去。
之前面试技术主管的时候遇到的这个题目,当时其实是将问题想得太复杂了,今天重新将这个问题回答一下,也算加深一下这方面的印象。
这该来的还是要来的,“百万级”问题一直都是面试的热门,之前我也遇到过一个类似的。我这样回答应该没有问题吧(怂)
又是一个非典型的面试问题(当时面试架构的时候问到),估计是因为自己提到过做过项目管理工作,所以想试试我的理论知识吧。
Copyright © 2005-2024 51CTO.COM 版权所有 京ICP证060544号