Spark应用程序处理的大数据多是运行于JVM上的,经常要面对GC优化问题。下面给出由于Linux系统原因导致的GC耗时异常的处理方式:打开Spark的GC日志,在spark-env.sh文件中的SPARK_JAVA_OPTS参数上添加-verbose:gc-XX:+PrintGCDetails-X...
分类:
其他好文 时间:
2015-02-11 00:30:58
阅读次数:
304
eclipse调优一般在不对eclipse进行相关设置的时候,使用eclipse总是会觉得启动好慢,用起来好卡,其实只要对eclipse的相关参数进行一些配置,就会有很大的改善。加快启动速度1.在eclipse启动的时候,它总是会搜索让其运行的jre,往往就是这个搜索过程让eclipse启动变慢了。...
分类:
系统相关 时间:
2015-02-06 10:52:04
阅读次数:
185
传统解决方案 添加服务器,采用LVS负载均衡,提高响应的速度。缺点:硬件成本提高 采用异步编程,及时响应前端,不影响其他的操作。缺点:由于响应变快,导致大量的数据向服务端提交,最终会导致数据延时写入。有脏数据的产生。 添加连接数量。缺点:资源浪费 将短连接改为长连接。现在解决方案 提高吞吐量...
分类:
其他好文 时间:
2015-01-15 21:45:07
阅读次数:
125
今天发现之前迭代过程的终止条件写错了,应该是梯度值小于某值时终止,而不是梯度值+Hessian*增量小于某值终止。因为增量本身就是求解 梯度值 + Hessian * x = 0 得来的啊。。。改掉了之后迭代次数明显增多,模拟速度变慢。应该允许用户设定迭代终止阈值,控制模拟精确度。但是,最重要的问题...
分类:
其他好文 时间:
2015-01-13 23:09:23
阅读次数:
259
当表中的数据量不断增大,查询数据的速度就会变慢,应用程序的性能就会下降,这时就应该考虑对表进行分区。表进行分区后,逻辑上表仍然是一张完整的表,只是将表中的数据在物理上存放到多个表空间(物理文件上),这样查询数据时,有可能不需要每次都扫描整张表。
Oracle的表分区功能通过改善可管理性、性能和可用性,从而为各式应用程序带来了极大的好处。通常,分区可以使某些查询以及维护操作的性能大大提高。此...
分类:
数据库 时间:
2015-01-07 18:52:19
阅读次数:
219
一图胜千言相对我们运动的物体时间变慢,运动方向上长度变短。已知宇宙的一切物体在时空(四维:空间+时间)中的运动速度都等于光速(一个常量)。“时间”和“空间”一样,物体都可以在里面运动,我们平时所说的“速度”只不过是光速在空间维度的一个分解。相对我们运动物体时间变慢的原因是它在时间的部分运动转移为空间...
分类:
其他好文 时间:
2015-01-04 22:51:23
阅读次数:
216
最近做了一个项目, 要在客户端动态的显示菜单,也就是这些菜单是保存在数据库中的, 在客户端动态加载菜单,这样做的好处很明显,就是菜单很容易修改,直接在后台进行维护,再也不会直接在前面的 视图页面中进行修改,但是,缺点也很明显,实现起来有一定的难度,如果菜单多的话,在前台首次加载时,页面就会变慢,我想...
分类:
Web程序 时间:
2014-12-31 19:46:57
阅读次数:
218
事例: 今天要向一台服务器上传文件,原版是curl的get模式,现在改用了post模式,按照原本的思想,代码如下 1 但是耗时总是在2s左右,而用get模式则是很快,刚开始怀疑是服务器的问题,但是抱着试试看的态度,查了下curl post有什么特殊的地方,这还真发现了。在php curl post....
分类:
Web程序 时间:
2014-12-30 09:58:08
阅读次数:
160
前段时间参与了一个WPF编写的项目,在该项目中有这样一个场景:在程序运行过程中需要动态地产生大量文本信息,并追加WPF界面上的一个TextBox的Text中进行显示。编写完之后,运行该项目的程序,发现在产生大量信息之后,发现系统变慢了,打开任务管理器才发现,该项目的程序占用了将近1.5G的内存(天啊...