【引】感谢大家对联想AIPC的关注！大模型在智能终端上应用使AI更方便地服务于我们的工作和生活，《从苹果智能看端上大模型应用》为我们提供了参考。一般地，语言模型越大越好，改进LLM的方式非常简单: 更多的数据 + 更多的参数 + 更多的计算 = 更好的性能。但是，使用100B + 参数模型存在着明显的挑战。例如，使用 FP16的100B 参数模
向量嵌入是从图像、文本和音频等数据源转换而来的数字表示，旨在通过为每个项目创建一个数学向量来捕捉其语义或特征。这种表示方式使得计算系统更容易理解这些数据，并且与机器学习模型兼容，从而能够识别不同项之间的关系和相似性。通常，用于存储这些向量嵌入的专门数据库被称为向量数据库。这些数据库利用了嵌入
在 Java 中，创建线程会产生显著的成本。创建线程消耗时间，增加请求处理的延迟，并且涉及 JVM 和操作系统的大量工作
【引】在AI领域， 知识系统过时了么？在《大模型应用的10种架构模式》中， 知识图谱与大模型的结合是一种重要
【引子】近来在探索并优化AIPC的软件架构，AI产品经理关于语义搜索的讨论给了自己较多的触动，于是重新梳理嵌入与语义的关
大模型应用性能的提升不仅在于其预训练，而微调的作用也非常显著。对于多数从事大模型应用领域的团队而言，微调
在《大模型应用的10种架构模式》一文 中，知识图谱是RAG系统中的一种重要的技术， 基于知识图谱的大模型应用也成为一个典型
将生成式人工智能集成到边缘设备本身就是一个重大挑战，我们需要在智能手机和计算机有限的计算能力和内存范围内高效地运行高级模型
【引子】在老码农带产研团队的时候，一直想致力于打造学习型组织。通俗而言，就是希望PM成为有调性的产品经理，
【引】“枯萎，无法回避，如人之生老病死；荒芜，无法接受，如碌碌无为一生。” 这是周六回乡下除草的感受。有所得，有所感，对工程技术也是如此。将大文档分割成较小的
【引子】大模型的兴起， 使得读论文成为了学习中的一种常态。如果一篇论文没有读懂，不用担心，可以再读一篇该领域内容相近的论
开发基于大型模型的应用时，选择合适的应用框架不仅能显著提高开发效率，还能增强应用的质量属性。这类似于在Wi
【引子】近来，老码农又一次有机会实施IaC 了， 但是环境有了新的变化，涵盖了云环境、虚拟机、K8S 以及Docker，而网络自动化则定加入到一个或多个...
【引子】本文源自与一个产品经理的对话。为什么“一图胜千言”呢？如果语言是一维的，那么图像就是二维或多维的， 降
【引子】本文源自和一个产品经理的对话。由于老码农经历过产研一体的磨砺， 鉴于个人对数据型产品感知，觉得一些数据科学的基础技能
大模型也是有大有小的，它们的大小靠参数数量来度量。GPT-3就有1750亿个参数，而Grok-1更是不得了，有3140亿个参数。脑细胞”，模型在处理任务...
似乎在一夜之间，每个IT企业的待办事项清单以及招聘启事都包含了生成式AI，基于大模型的应用已经在改变人们的工作、学习
【引】伴随着微服务架构以及云技术的广泛使用，DevOps相应地引起了人们的关注，尤其在互联网企业展开了大量的探索和实践。去年赋闲在家的时候， 有幸精读了三本书，分别是《持续架构实践——敏捷和DevOps时代下的软件架构》，《精益DevOps——快速安全的IT交付宝典》和《基础设施即代码——模型驱动的DevOps》， 于有了不同的体会。DevOps的出现是“左移...
【引】 多年前，我跟亚孟相识于百度，当时他在百度云，
我们可以将提示词定义为向大型语言模型(Large Language Model，LLM)提供的一个查询或一组指令，这些指令随后使模型能够维持一定程度的自定义或增强，以改进其功
随着信息技术的飞速发展，我们对基础设施的理解也在不断深化。传统的基础设施往往被看作是硬件和软件的堆砌，而现在，基
Mixtral 8x7B 的推出， 使我们开始更多地关注 基于MoE 的大模型架构， 那么，什么是MoE呢？1. MoE溯源MoE的概念起源于 199
大模型来了，论文都读不过来了。在大型模型的研究与工程应用领域，变化之迅猛令人瞠目，用“日新月异”来形容似乎都显得有些保守。即便是针对G vs Fine-tuning:...
数据工程师自诩自己是“比任何软件工程师更擅长统计，比任何统计学者更擅长软件工程的人”。这里枚举了数据工程师常见的10个
在塑造新领域的过程中，我们往往依赖于一些经过实践验证的策略、方法和模式。这种观念对于软件工程领域的专业人士来说
如果忘掉其他的数据结构， 只留下一种，或许会是哈希表；如果忘掉其他的安全技术，只留下一种，或许会是访问控制；如果扔掉手中其他
【引子】感谢图灵出版社英子老师赠书——《大模型应用开发极简入门》，读过之后，正好和自己的大模型系
计算机网络的发展导致了IT领域中的两个重要发展——虚拟化和分布式计算，云服务是虚拟化的一个直接体现，而何让DevOps 真正融入我们的软件工程中往往...
【引子】 关于大模型及其应用方面的文章层出不穷，聚焦于自己面对的问题，有针对性的阅读会有很多的启发，本文
在这个数字时代，我们的日常生活中充斥着各种应用程序和系统之间的交互。无论是社交媒体、在线购物还是智能家居设备，它们都需要通过API（应用程序接口）来实现数据的传输和通信。然而，这些看似简单的操作背后隐藏着复杂的协议。API协议包含了一组规则和标准，用于定义不同系统之间如何进行通信和共享数据。它们充当了不同应用程序
Copyright © 2005-2024 51CTO.COM 版权所有 京ICP证060544号
