1 语音生成系统 发声器官：声带，声道 声带：声音的激励，开启闭合一次形成浊音的激励脉冲，其频率为60-450hz，也称为基音频率 声道：从声带到嘴唇的呼吸通道，声音的信道，决定一个人的声纹 人声按照声带振动与否，分为浊
熵 如果X是一个离散型随机变量, 取值空间为R, 那么X的熵H(X)定义为式 联合熵和条件熵 如果X,Y是一对离散型随机变量X,Y~p(x, y), X, Y的联合熵H(X,Y)定义为 联合熵就是描述一对随机变量平均所需要的信息量 给定随机变量X, 随机变量Y的条件熵 将联合熵中的log函数展开 将上式称为熵的联合规则, 那么在一般情况下就有
本文通过分类问题讲解判别式和生成式模型，会用到Logistics Regression 和 几率模型首先介绍一下，判别式模型是完全根据数据得出结果，而生成式模型会有人为设定的条件建立模型，再通过利用假设建立的模型得出结果。Generative (生成式模型)例： 利用iris数据进行分类 本文仅仅才用了target0和target1，且仅仅利用了前两种属性（便于可视化）数据可视化 利用生成式建立模
转载
2024-08-15 15:08:46
115阅读
目录Intro改进思路1 Seq2Seq + Context 模型2 Seq2Seq + Attention模型3 Seq2Seq + 动态记忆网络DMN(dynamic memory network)模型4 改进目标函数：最大化互信息 maximum mutual information5 Seq2Seq + Speaker Embedding(用户画像)模型Ref
转载
2024-03-21 23:13:40
159阅读
1. 缘由–数据稀疏问题假设k泛指某一事件，N(k)表示事件k观察到的频数，极大似然法使用相对频数作为对事件k的概率估计为p(k)=N(k)N,在语言模型中，训练语料中大量的事件N(k)=0，这显然没有反映真实情况,这种零值的概率估计会导致语言模型算法的失败。2. 解决方法–平滑给“零概率和低概率的N元语法”指派非零概率。平滑分为打折和回退，打折是指将某个非零n元语法的计数降下来，把这部分概率量指
转载
2024-02-23 09:22:43
101阅读
深度生成模型13.1 概率生成模型13.2 变分自编码器13.3 生成对抗网络 概率生成模型（ Probabilistic Generative Model ），简称生成模型，是概率统计和机器学习领域的一类重要模型，指一系列用于随机生成可观测数据的模型．生成模型通常包含两个基本功能：概率密度估计和生成样本（即采样）. 深度生成模型就是利用深度神经网络可以近似任意函数的能力来建模一个复杂分布
转载
2024-04-16 08:59:31
261阅读
1 引用Min Wang1,2, Yanzhen Zou1,2(B), Yingkui Cao1,2, and Bing Xie1,2,Searching Software Knowledge Graph with Question,1 Key Laboratory of High Confidence Software Technologies, Peking University, M
随着人工智能技术的不断发展，生成式语言大模型成为了自然语言处理领域的研究热点。本文将重点探讨生成式语言大模型的一些工程思考，并结合 paddlenlp、chatglm 和 llama 这三个案例进行详细阐述。一、概述生成式语言大模型是指能够生成自然语言文本的深度学习模型。与传统的基于规则或模板的方法不同，生成式语言大模型通过对大量语料库的学习，自动地生成符合语法和语义规则的自然语言文本。这种模型的
原创
2023-11-27 10:56:40
177阅读
无论是分析哲学还是欧洲大陆哲学，都重视研究语言，这是当代西方哲学的一个重要特征，语言不能脱离世界，语言只有表现世界才有它正真的存在。当代美国语言大师乔姆斯基首创了转换生成语法理论，正是这种转换生成语法在语言中挑起了一场革命。它标志着西方语言学的研究，尤其是美国的语言学界研究进入了一个崭新的时代，即乔姆斯基时期。一、乔姆斯基“革命”乔姆斯基的转换生成语法所研究的不是语言现象，也不是人们的语言运用，而
转载
2024-05-15 20:41:14
72阅读
生成式模型和辨别式模型都是机器学习中重要的模型类型，它们各自具有优点和适用场景。在实际应用中，需要根据具体任务的需求
原创
2024-05-13 11:38:36
87阅读
面板VAR步骤：（1）对各变量做平稳性检验（IPS、PP、ADF、LLC等方法检验）是逐个变量检验？？还是一起检验？？（2）面板数据的最优滞后阶数确定（AIC和SIC方法）（3）在PVAR系统中进行Wald-Granger检验（4）面板VAR估计（5）脉冲效应（6）面板方差分解R语言例子：文件pvar.csv数据结构如下：数据包括4个内生变量（"income","tax","inds","inve
转载
2023-06-25 13:15:16
400阅读
图解举例理解判别式模型举例：要确定一个羊是山羊还是绵羊，用判别模型的方法是从历史数据中学习到模型，然后通过提取这只羊的特征来预测出这只羊是山羊的概率，是绵羊的概率。生成式模型举例：利用生成模型是根据山羊的特征首先学习出一个山羊的模型，然后根据绵羊的特征学习出一个绵羊的模型，然后从这只羊中提取特征，放到山羊模型中看概率是多少，在放到绵羊模型中看概率是多少，哪个大就是哪个。细细品味上面的例子，判别式模
转载
2024-10-16 22:13:50
91阅读
监督学习的方法可以分为2类，生成方法（generative approach）和判别方法（discriminative approach），所学到的模型分别为生成模型（generative model）和判别模型（discriminative model）。 生成方法：由数据首先学习联合概率分布P(X,Y)，然后求出条件概率分布P(Y|X)。即通过学习先验分布来推导后验分布而进行分类生成
转载
2024-03-19 13:13:54
66阅读
机器学习以及自然语言处理技术的进步，开启了人与人工智能进行语音交互的可能，人们透过对话的方式获取信息、与机器进行交互，将不再只是存在科幻情结当中。语音交互是未来的方向，而智能音箱则是语音交互落地的第一代产品。一、语音交互流程简介AI 对话所需要的技术模块有 4 个部分，分别为：自动语音识别（Automatic Speech Recognition, ASR）自然语言理解（Natural Lan
转载
2023-11-18 14:23:18
117阅读
生成模型与判别模型区别，以及各自的优缺点
作者：szx_spark监督学习可以分为生成方法与判别方法，所学到的模型可以分为生成模型与判别模型。生成模型生成模型由数据学习联合概率分布\(P(X,Y)\)，然后求出条件概率分布\(P(Y|X)\)作为预测的模型，即生成模型：\[P(Y|X)=\frac{P(X,Y)}{P(X)}
\]这样的方法之所以称为生成
转载
2024-01-18 16:02:47
110阅读
Google的DeepMind研究实验室公布了其在语音合成领域的最新成果——WaveNet，一种原始音频波 形深度生成模型，能够模仿人类的声音，生成的原始音频质量优于目前Google采用的两种最优文本-语音模型Parameric TTS与Concatenative TTS。WaveNets是一种卷积神经网络，能够模拟任意一种人类声音，生成的语音听起来比现存的最优文本-语音系统更为自然，将模拟生成的
转载
2024-07-12 15:42:38
130阅读
生成式模型和判别式模型的概念是机器学习领域非常重要的基础知识，但能准确区分开二者并不是一件非常容易的事情，笔者经常是看一遍忘一遍，为了巩固下知识点，我将从以下几个方面对两种模型进行介绍和对比。概念首先我们需要明确，两种不同的模型都用于监督学习任务中。监督学习的任务就是从数据中学习一个模型，并用基于这个模型对给定的输入预测相应的输出。这种模型的一般形式为决策函数 或者条件概率分布 。我们先用一张图
原创
2021-02-05 19:17:42
727阅读
产生式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念，它们的区别在于： 对于输入x，类别标签y： 产生式模型估计它们的联合概率分布P(x,y) 判别式模型估计条件概率分布P(y|x) 产生式模型可以根据贝叶斯公式得到判别式模型，但反过
转载
2020-12-13 14:01:00
253阅读
2评论
1 定义1.1 生成式模型 生成式模型（Generative Model）会对x和y的联合分布p(x,y)建模，然后通过贝叶斯公式来求得 p(yi|x)，然后选取使得p(yi|x) 最大的 yi，即： 简单说生成式模型就是生成数据分布的模型。将求联合分布的问题转为了求类别先验概率和类别条件概率的问题。1.2 判别式模型 对条件概率 p(y|x;)
转载
2018-07-05 17:38:00
596阅读
2评论
有监督学习回归模型中，我们利用训练集直接对条件概率p(y|x;θ)建模，例如logistic回归就利用hθ(x) = g(θTx)对p(y|x;θ)建模（其中g(z)是sigmoid函数）。假设现在有一个分类问题，要根据一些动物的特征来区分大象(y = 1)和狗(y = 0)。给定这样的一种数据集，
转载
2017-04-20 00:23:00
213阅读
点赞
2评论
