Hadoop介绍 Hadoop是一个能对大量数据进行分布式处理的软件框架。其基本的组成包括hdfs分布式文件系统和可以运行在hdfs文件系统上的MapReduce编程模型,以及基于hdfs和MapReduce而开发的一系列上层应用软件。 hdfs是在一个网络中以流式数据访问模式来存储超大文件的跨.....
分类:
其他好文 时间:
2014-09-02 15:22:34
阅读次数:
365
需求: 现有一个1G左右的日志文件,大约有500多万行, 用php返回最后几行的内容。在php中,对于文件的读取时,最快捷的方式莫过于使用一些诸如file、file_get_contents之类的函数,简简单单的几行代码就能 很漂亮的完成我们所需要的功能。但当所操作的文件是一个比较大的文件时,这些函...
分类:
Web程序 时间:
2014-08-31 14:25:11
阅读次数:
202
iOS开发网络篇—多线程断点下载说明:本文介绍多线程断点下载。项目中使用了苹果自带的类,实现了同时开启多条线程下载一个较大的文件。因为实现过程较为复杂,所以下面贴出完整的代码。实现思路:下载开始,创建一个和要下载的文件大小相同的文件(如果要下载的文件为100M,那么就在沙盒中创建一个100M的文件,...
分类:
移动开发 时间:
2014-08-31 13:09:01
阅读次数:
293
在平常的生活中,我们会遇到下面这样的情况:你下载了一个比较大型的游戏(假设有10G),现在想跟你的同学一起玩,你需要把这个游戏拷贝给他。然后现在有一个问题是文件太大(我们不考虑你有移动硬盘什么的情况),假设现在只有一个2G或4G的优盘,该怎么办呢?有很多方法,例如winrar压缩的时候分成很多小卷,...
分类:
编程语言 时间:
2014-08-31 00:16:50
阅读次数:
302
packageconn;importjava.io.*;importjava.sql.Blob;importjava.sql.Clob;importjava.sql.Connection;importjava.sql.DriverManager;importjava.sql.PreparedStatement;importjava.sql.ResultSet;importjava.sql.SQLException;importjava.sql.Statement;importcom.mysql.jdbc.Dr..
分类:
数据库 时间:
2014-08-29 18:34:49
阅读次数:
341
引自:百度 http://hi.baidu.com/yanzuoguang/blog/item/fe11974edf52873aaec3ab42.html讲下什么是ActiveX控件,到底有什么作用?在网页中又如何使用OCX控件,如QQ邮箱的大文件上传应该就是使用OCX控件的,下面开始吧。0. 前言...
分类:
Web程序 时间:
2014-08-29 10:53:57
阅读次数:
225
如果数据量过大,超过最大的内存容量,那么一次性将所有数据读入内存进行排序是不可行的。例如,一个文件每一行存了一个整数,该文件大小为10GB,而内存大小只有512M,如何对这10GB的数据进行排序呢?外部排序就是为了解决这种问题的。思路: 外部排序的思路是,将超大文件分成若干部分,每一部分是可以读入....
分类:
其他好文 时间:
2014-08-29 00:00:16
阅读次数:
353
续上两篇《上传进度支持(Uploadprogressinsessions)》和《PHP文件上传进度条基于Session与Javascript实现》后,自己动手调试了一下,遇到几点问题,特记录如下:1.上传大文件时失败,最后发现PHP.INI中的设置有问题.upload_max_filesize=64Mpost_max_size=64M2.上传页面须打开SE..
分类:
Web程序 时间:
2014-08-28 18:16:06
阅读次数:
221
文件过大占服务器内存太大的时候系统会变的很慢,然后打不开,适当的删除些tomcat下的log系统就正常了。内存够了。所以可以适当的删除catalina.out的文件,这个文件在每次重启tomcat的时候会进行更新备份当天的数...
分类:
其他好文 时间:
2014-08-28 11:42:49
阅读次数:
229
1. 文件上传 php对post提交&最大文件上传限制&脚本执行时间限制2.nginx 限制,或者站点配置文件限制3. 反向代理:只负责数据和文件数据的转发对文件上传大小也是有限制 报错信息是: 413 Request Entity Too Large
分类:
其他好文 时间:
2014-08-27 20:28:48
阅读次数:
253