本文描述了底层的大语言模型（LLM）API。高级的LLM API参见AI服务。 1 LLM API的类型 1.1 LanguageModel 非常简单—，接受一个String作为输入，并返回一个String作为输出。 该API现正逐渐被聊天API（第二种API类型）取代。 1.2 ChatLanguageModel 这种API接受一或多个ChatMessage作为输入，并返回一个AiMessage
LangChain4j 的目标是简化将大语言模型（LLM）集成到 Java 应用程序中的过程。 1 实现方式 1.1 标准化 API LLM 提供商（如 OpenAI 或 Google Vertex AI）和向量嵌入存储（如 Pinecone 或 Milvus）使用专有 API。LangChain4j 提供了标准化 API，避免了每次都需要学习和实现特定 API 的麻烦。要试验不同的 LLM 或嵌
0 前言 官宣发布： IDEA已支持下载： 1 JEPs JEP 455 Primitive Types in Patterns, instanceof, and switch (Preview) 通过允许在所有模式上下文中使用原始类型模式，增强了模式匹配，并扩展了 instanceof 和 switch 以适用于所有原始类型。这是一项预览语言特性。 JEP 466 Class-File
本文总结自 MySQL 8.4 以来，在 MySQL 9.0 中新增、废弃、更改和删除的内容。MySQL 9.0 中新增或更改的功能。 1 MySQL 9.0新特性 1 VECTOR 类型支持 MySQL 9.0 支持 VECTOR 列类型。向量是一个数据结构，它由条目列表（4 字节浮点值）组成，可以表示为二进制字符串值或列表格式字符串。VECTOR 列在声明时需指定最大长度或条目数量（括号内），
如何微调：关注有效的数据集 本文关于适应开源大型语言模型（LLMs）系列博客的第三篇文章。在这篇文章中，我们将探讨一些用于策划高质量训练数据集的经验法则。 第一部分探讨了将LLM适应于领域数据的普遍方法 第二部分讨论了咋确定微调是否适用于你的实际情况 1 介绍 微调LLMs是一门艺术与科学的结合，该领域的实践仍在不断发展中。在本篇博文中，我们将突出微调的设计变量，并给出我们迄今为止所见的最
这是一篇关于适应开源大语言模型（LLMs）的三部系列博客的第一篇。本文探讨将LLM适应领域数据的各种方法。 第二部分讨论如何确定微调（fine-tuning）是否适合您的用例。 第三部分探讨策划良好训练数据集的一些经验法则。 0 引言 大语言模型（LLMs）在多种语言任务和自然语言处理（NLP）基准测试中展示了出色的能力。基于这些“通用”模型的产品应用正在增加。本文为小型AI产品团队提供指导，
0 前言 官网描述六类工作队列模式： 简单队列模式：最简单的工作队列，一个消息生产者，一个消息消费者，一个队列。另称点对点模式 工作模式：一个消息生产者，一个交换器，一个消息队列，多个消费者。也称点对点模式 发布/订阅模式：无选择接收消息，一个消息生产者，一个交换器，多个消息队列，多个消费者 路由模式：基于发布/订阅模式，有选择的接收消息，即通过 routing 路由进行匹配条件是否满足接收消息
前文学习了如何使用工作队列在多个工作者之间分配耗时的任务。若需要在远程计算机上运行一个函数并等待结果呢？这种模式通常被称为远程过程调用 (RPC)。 本节使用 RabbitMQ 构建一个 RPC 系统：一个客户端和一个可扩展的 RPC 服务器。由于我们没有耗时的任务可以分配，因此我们将创建一个返回斐波那契数的虚拟 RPC 服务。 客户端接口 创建一个简单的客户端类，暴露 call 方法，该方法发送
0 前言 开放式系统互连（OSI，Open Systems Interconnection）模型，由国际标准化组织（ISO）在1984年提出，目的是为了促进不同厂商生产的网络设备之间的互操作性。 定义了一种在层之间进行协议实现的网络框架，控制从一层传递到下一层。在概念上将计算机网络架构分7层，按照逻辑顺序进行。 用户角度： 较低层处理电、二进制数据块及这些数据在网络中的路由 较高层涵盖网络
1 编辑配置 2 修改显示的的可选项 3 选择添加VM参数 面板就会多出一个可输入VM参数的框： 关注我，紧跟本系列专栏文章，咱们下篇再续！ 作者简介：魔都架构师，多家大厂后端一线研发经验，在分布式系统设计、数据平台架构和AI应用开发等领域都有丰富实践经验。 各大技术社区头部专家博主。具有丰富的引领团队经验，深厚业务架构和解决方案的积累。 负责： 中央/分销预订系统性能优化 活动&am
1 Kafka的事务 V.S RocketMQ RocketMQ事务主要解决问题：确保执行本地事务和发消息这俩操作都成功/失败。RocketMQ还有事务反查机制兜底，更提高事务执行的成功率和数据一致性。 而Kafka事务，是为确保在一个事务中发送的多条消息，要么都成功，要么都失败。 这里的多条消息不一定在同一个topic和partition，可以是发往多个topic和partition的消息。当然
LLM 的知识仅限于其训练数据。如希望使 LLM 了解特定领域的知识或专有数据，可：使用本节介绍的 RAG使用你的数据对 LLM 进行微调结合使用 RAG 和微调1 啥是 RAG？RAG 是一种在将提示词发送给 LLM 之前，从你的数据中找到并注入相关信息的方式。这样，LLM 希望能获得相关的信息并利用这些信息作出回应，从而减少幻觉概率。可通过各种信息检索方法找到相关信息。这些方法包括但不限于：全
一些LLM除了生成文本，还可触发操作。所有支持tools的LLMs可在此处找到（参见“Tools”栏）。有一个被称为“工具（tools）”或“函数调用（function calling）”的概念。它允许LLM在必要时调用一或多个由开发者定义的工具。工具可以是任何东西：网页搜索、外部API调用、或执行一段特定代码等。LLM本身无法实际调用这些工具；它们会在响应中表达出调用某个工具的意图（而不是直接生
0 前言LangChain4j 提供了用于以下功能的 Spring Boot 启动器：常用集成声明式 AI 服务1 常用集成的 Spring Boot startersSpring Boot 启动器帮助通过属性创建和配置 语言模型、嵌入模型、嵌入存储 和其他核心 LangChain4j 组件。要使用 Spring Boot 启动器，请导入相应依赖包。Spring Boot 启动器依赖包的命名规范：
垃圾回收器使用一组称为 GC 线程的线程来执行回收工作。有时 JVM 可能会分配过多或过少的 GC 线程。本文将讨论 JVM 为什么会出现这种情况、其影响以及可能的解决方案。1 咋查找应用程序的 GC 线程数量进行线程转储分析来确定应用程序的 GC 线程数量：从生产服务器捕获thread dump使用thread dump分析工具进行分析立即显示 GC 线程数量，如图还可通过 JMX（Java M
0 前言官网描述六类工作队列模式：简单队列模式：最简单的工作队列，一个消息生产者，一个消息消费者，一个队列。另称点对点模式工作模式：一个消息生产者，一个交换器，一个消息队列，多个消费者。也称点对点模式发布/订阅模式：无选择接收消息，一个消息生产者，一个交换器，多个消息队列，多个消费者路由模式：基于发布/订阅模式，有选择的接收消息，即通过 routing 路由进行匹配条件是否满足接收消息主题模式：同
1 支付的坑1.1 不能用前端传递过来的金额订单的商品金额要从数据库获取，前端只传商品 id。1.2 交易类型trade type字段不要传错v2版API，不同交易类型，要调用的支付方式也不同。1.3 二次签名下单时，在拿到预支付交易会话标识时，要进行二次签名操作。二次签名后的值，才能返回给前端使用。1.4 小程序可绑定到其它公司的商户下可同时关联到多个商户号：1.5 支付的单位是分，最小
Copyright © 2005-2024 51CTO.COM 版权所有 京ICP证060544号
