机器学习漫谈
数据挖掘/机器学习项目一般包括四个关键部分,分别是,数据分析,特征工程,建立模型,验证。
1 数据分析
从广义上讲,数据分析包括数据收集,数据处理,数据清洗,探究性数据分析,建模和算法设计,数据可视化等等[1]。从狭义上讲,数据分析指的是探究性数据分析(EDA)。
所谓探索性数据分析(ExploratoryD...
分类:
其他好文 时间:
2015-08-12 21:53:11
阅读次数:
263
本文针对统计学之离散概率分布的运用的学习总结。知道如何通过概率得知发生某事件的可能性的大小。可惜概率不是万能的,他无法指出所发生的这些事情的影响,也无法指出这种整体影响对具体的影响。这里我们利用概率分布预期长期结果,以及如何度量这些预期结果的确定性。仍然采用核心定义和案例分析,结合具体代码实现的方式...
分类:
其他好文 时间:
2015-08-12 18:37:00
阅读次数:
214
任何一个大数据分析的软件,都需要一个强大的数据拉取组件、数据仓储系统、数据处理引擎、任务调度引擎和流程设计界面。Hadoop和Spark的重点是在数据的存储和任务调度,R的重点是数据分析引擎。数据拉取组件和流程...
分类:
其他好文 时间:
2015-08-12 15:06:37
阅读次数:
559
大数据的发展前提
关于大数据的概念其实在1998年已经就有人提出了,但是到了现在才开始有所发展,这些其实都是和当下移动互联网的快速发展分不开的,移动互联网的高速发展,为大数据的产生提供了更多的产生大数据的硬件前提,比如说智能手机,智能硬件,车联网,pda等数据的产生终端。这些智能通过移动通信技术和人们的生活紧密的结合在一起,在人流、车流的背后产生了信息流,也就产生了大量的数据。
...
分类:
其他好文 时间:
2015-08-12 11:42:31
阅读次数:
109
IDC评述网(idcps.com)08月11日报道:根据RegistrarStats公布的实时数据显示,截止至2015年8月8日,全球域名注册市场发展情况基本稳定,域名保有量前十五强名单与上期一致。中国入围的域名商依然是中国万网与新网,分列9、14名。接下来,请看IDC评述网整理的数据分析。(图1)..
分类:
其他好文 时间:
2015-08-11 19:25:57
阅读次数:
151
一、知识补充:BI(BusinessIntelligence)意为商业智能。商业智能的概念最早在1996年提出。当时将商业智能定义为一类由数据仓库(或数据集市)、查询报表、数据分析、数据挖掘、数据备份和恢复等部分组成的、以帮助企业决策为目的技术及其应用。目前,商业智能通常被理解为将企..
分类:
其他好文 时间:
2015-08-11 19:15:21
阅读次数:
172
简介 awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大。简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处...
分类:
系统相关 时间:
2015-08-10 20:29:11
阅读次数:
129
那些年,曾经被我们误读的大数据 - Agenda - 世界经济论坛 如今,业界和学术界一直在热议大数据,不管是学术圈还是IT圈,只要能谈论点儿大数据就显得很高大上。然而,大数据挖掘、大数据分析、大数据营销等等事情仅仅只是个开始当然,也有很多人直接批判大数据或大数据营销给我们造成的隐私威胁,大数据到底...
分类:
其他好文 时间:
2015-08-10 01:47:40
阅读次数:
146
本文针对统计学之卡方分布的学习总结。本文首先介绍什么是卡方分布,以及卡方分布到底有何用处。然后根据其主要作用和特点进行剖析。采用题引方式进入卡方介绍,为了对概念深刻理解,则采用问题解决方式,遇到问题,首先介绍其概念以及实际使用的场景。主线采用卡方的两个主要用途检验拟合优度与检验两个变量的独立性,如果...
分类:
其他好文 时间:
2015-08-09 23:54:42
阅读次数:
1163