机器学习 LR中的参数迭代公式推导——极大似然和梯度下降 机器学习 LR中的参数迭代公式推导——极大似然和梯度下降 Logistic本质上是一个基于条件概率的判别模型(DiscriminativeModel)。 函数图像为: 通过sigma函数计算出最终结果,以0.5为分界线,最终结果大于0.5则属 ...
分类:
其他好文 时间:
2018-07-01 19:28:38
阅读次数:
207
贝叶斯公式 条件概率的展开、转化 关联规则分析 支持度、置信度、提升度 KULC IR 聚类 聚类之间类的度量是分距离和相似系数来度量的 距离 距离用来度量样品之间的相似性(k means聚类,系统聚类中的Q型聚类) 相似系数 相似系数用来度量变量之间的相似性(系统聚类的R型聚类) 最常用的是k m ...
分类:
其他好文 时间:
2018-06-30 11:00:31
阅读次数:
218
贝叶斯公式 p(A|D)=p(A)*p(D|A)/p(D); 可以应用于垃圾邮件的过滤和拼写检查 例如:对于拼写检查,写出一个单词D,判断该单词为正确单词A的概率。为上述条件概率的描述。 其中p(A)为先验概率,可以根据现有的数据库中的单词,来获得A单词的概率p(A)。由于正确的单词不仅仅有A,还有 ...
分类:
其他好文 时间:
2018-06-29 21:44:55
阅读次数:
194
贝叶斯网络模型 贝叶斯定理:贝叶斯定理是概率论中的一个结论,它跟随机变量的条件概率以及边缘概率分布有关。在有些关于概率的解说中,贝叶斯定理能够告知我们如何利用新证据修改已有的看法。通常,事件A在事件B(发生)的条件下的概率,与事件B在事件A的条件下的概率是不一样的;然而,这两者是有确定的关系,贝叶斯定理就是这种关系的陈述。贝叶斯公式: 贝叶斯公式为利用搜集到的信息对原有判断进行
分类:
其他好文 时间:
2018-06-27 15:00:24
阅读次数:
155
隐马尔可夫模型 马尔可夫链:马尔可夫链是满足马尔可夫性质的随机过程。 马尔可夫链(Markov Chain),描述了一种状态序列,其每个状态值取决于前面有限个状态。马尔可夫链是具有马尔可夫性质的随机变量的一个数列。这些变量的范围,即它们所有可能取值的集合,被称为“状态空间”,而Xn的值则是在时间n的状态。如果Xn+1对于过去状态的条件概率分布仅是Xn的一个函数,则 这
分类:
其他好文 时间:
2018-06-27 14:59:49
阅读次数:
173
对于条件随机场的学习,我觉得应该结合HMM模型一起进行对比学习。首先浏览HMM模型:https://www.cnblogs.com/pinking/p/8531405.html 一、定义 条件随机场(crf):是给定一组输入随机变量条件下,另一组输出随机变量的条件概率的分布模型,其特点是假设输出随机 ...
分类:
其他好文 时间:
2018-06-18 13:26:01
阅读次数:
189
树模型 应用场景:1.分类 2.回归 分类应用中的树模型等价于if-then规则的集合or定义在特征空间与类空间的条件概率分布,可解释性强 概念: 1. 熵:表示随机变量的不确定程度,其数值越大,则随机变量的不确定性也越大 2.条件熵:表示在已知随机变量X的条件下随机变量Y的不确定性,定义为X已知时 ...
分类:
其他好文 时间:
2018-06-15 12:58:10
阅读次数:
159
2个事件同时发生的概率: P(a, b) = P(a | b) * P(b) 其中:P(a, b)表示 a和b事件同时发生的概率, P(a | b)是一个条件概率,表示在b事件发生的条件下,a发生的概率 3个事件的概率链式调用: P(a, b, c) = P(a | b, c) * P(b, c) ...
分类:
其他好文 时间:
2018-06-12 19:36:11
阅读次数:
7576
计划最近好好按步骤按阶段系统性的学习下机器学习和深度学习,希望能坚持下去。 基础数学篇 [高等数学:求导、梯度] [高等数学:泰勒展开] [概率论:基本概念、条件概率、全概率、朴素贝叶斯] [概率论:期望、方差、协方差] [概率论:常见分布] [线性代数:矩阵] 机器学习中的基本概念 [机器学习的分 ...
分类:
其他好文 时间:
2018-06-07 22:54:49
阅读次数:
234
朴素贝叶斯算法。 朴素贝叶斯是一种简单但功能强大的预测建模算法。 该模型由两种类型的概率组成,可以直接从训练数据中计算: 每个类的概率。 每个类给定每个x值的条件概率。 一旦计算出概率模型,就可以利用贝叶斯定理对新数据进行预测。 当你的数据是实值时,通常假设高斯分布(钟形曲线),这样你就可以很容易地 ...
分类:
其他好文 时间:
2018-05-18 00:30:36
阅读次数:
121