sigmoid(x) 函数定义:\[\begin{align*}\sigma(x) &= \frac{1}{1+e^{-x}} \\\frac{d(\sigma(x))}{dx} &= \sigma(x)(1-\sigma(x))\end{align*}\]逻辑斯谛回归分类模型定义如下:\[\beg... ...
分类：
其他好文 时间：
2018-04-22 18:07:00
阅读次数：
131
信息熵信息熵是系统有序化程度的一个度量。比如说，我们要搞清楚一件非常非常不确定的事，或是我们一无所知的事情，就需要了解大量的信息。相反，如果我们对某件事已经有了较多的了解，我们不需要太多的信息就能把它搞清楚。所以，从这个角度，我们可以认为，信息量的度量就等于不确定性的多少。一个系统越是有序，信息熵就越低；反之，一个系统越是混乱，信息熵就越高。1948 年，香农提出了“信息熵”(shāng) 的概念
分类：
其他好文 时间：
2018-04-20 00:23:10
阅读次数：
253
今天冒雨去了泰富酒店参加京东暑期实习的面试，简单说说感悟 先是简单自我介绍，然后面试官详细问了我的相关项目，整体框架和业务方面的东西我都回答了，但是很明显的一个问题是缺乏技术细节，这方面还是需要加强。另外就是我发现BAT这些大公司更看重基础，比如LR、k-means、最大熵等经典机器学习模型，要求你 ...
分类：
编程语言 时间：
2018-04-13 14:27:22
阅读次数：
219
这是化学热力学的内容，简单介绍一下。焓的符号是H，数学定义为H=U+pV，其中U是体系的内能，p是压强，V是体积，反应前后焓的差值称为焓变，△H。体系在恒压条件下发生化学反应，只做体积功，那么，焓变就等于这个反应的反应热。焓是一个状态函数，只与体系反应的始态和终态有关，与反应过程无关。熵的符号是S， ...
分类：
其他好文 时间：
2018-04-11 11:40:50
阅读次数：
131
特征选择 特征选择是从数据集的诸多特征里面选择和目标变量相关的特征，去掉那些不相关的特征。 特征选择分为两个问题：一个是子集搜索问题，另外一个是子集评价问题。比如将前向搜索和信息熵评价这两种策略进行结合就是决策树算法，事实上决策树算法可以进行特征选择。sklearn当中的“树形”算法的feature ...
分类：
其他好文 时间：
2018-04-09 17:20:52
阅读次数：
1002
采用ID3算法 （信息熵：H(X)=?∑i=0np(xi)log2p(xi)） 下载一个决策树可视化软件：Graphviz （注意环境变量Path加：C:\Program Files (x86)\Graphviz2.38\bin） 代码： 导入需要用到的库： 读取表格： 这里一些数据（属性），决定一 ...
分类：
编程语言 时间：
2018-04-09 00:25:07
阅读次数：
226
学习人工智能有段时间了，总结了一下人工智能的学习历程和课程表，希望对想学习的朋友有所帮助。期间也买了很多资料。可以分享给大家。 阶段一：数学基础 1.数据分析 常数e 导数 梯度 Taylor gini系数 信息熵与组合数 2.概率论 概率论基础 古典模型 常见概率分布 大数定理和中心极限定理 协方 ...
分类：
其他好文 时间：
2018-04-08 18:02:33
阅读次数：
212
课程名称 内容 阶段一、人工智能基础 — 高等数学必知必会 1.数据分析 "a. 常数eb. 导数c. 梯度d. Taylore. gini系数f. 信息熵与组合数g. 梯度下降h. 牛顿法" 2.概率论 "a. 微积分与逼近论b. 极限、微分、积分基本概念c. 利用逼近的思想理解微分，利用积分的方 ...
分类：
其他好文 时间：
2018-04-01 10:43:33
阅读次数：
306
JRE默认使用 /dev/random作为随机数来源，当熵池大小不够的时候，random会很慢，造成随机数生成调用阻塞。 解决方案： 改用 /dev/urandom (1) tomcat的启动选项增加 -Djava.security.egd=file:/dev/urandom (2) 或者修改JRE ...
分类：
其他好文 时间：
2018-03-29 21:14:05
阅读次数：
362
最大熵模型与GIS ，IIS算法 CSDN博客 http://blog.csdn.net/u014688145/article/details/55003910 Adaboost 算法的原理与推导 CSDN博客 http://blog.csdn.net/v_july_v/article/detail ...
分类：
其他好文 时间：
2018-03-21 11:45:49
阅读次数：
223
