起因:工作需要,我需要每5分钟从hbase中,导出一部分数据,然后导入到ES中,但是在开始阶段编写的python脚本,我发现从hbase读取数据的速度较慢,耗费大量的时间,影响整个导数过程,恐怕无法在5分钟内完成导数工作
在咨询了老人后,采取部门优化策略,并记录了实验结果。...
分类:
其他好文 时间:
2014-10-24 14:42:18
阅读次数:
205
实例恢复阶段:
1.数据文件不同步
2.前滚(重做redo)
3.文件中的提交和未提交数据
4.打开数据库
5.回退(还原undo)
6.文件中的提交数据
优化实例恢复:(加快脏数据的写)
使用 MTTR
fast_start_mttr_target (建议不要设置/增加系统负担)
db_writer_pricesses(DBWn的进程)
flashback;
...
分类:
数据库 时间:
2014-09-17 16:53:13
阅读次数:
255
减少应用和数据库的交互次数、同一个sql语句的执行次数减少表之间的关联,特别对于批量数据处理,尽量单表查询数据,统一在内存中进行逻辑处理,减少数据库压力(java处理批量数据不可取,尽量用c或者c++ 进行处理,效率大大提升)数据量比较大的,在设计过程中,为了减少其他表的关联,增加一些冗余字段,提高...
分类:
其他好文 时间:
2014-09-15 21:00:39
阅读次数:
229
1最近刚开始接触apache大数据下数据优化,讲一下apache 下ab压力测试工具。程序“ab”尚未安装。 您可以使用以下命令安装:apt-get install apache2-utils 以下是ab --help sage: ab [options] [http[s]://]hostnam.....
分类:
其他好文 时间:
2014-09-02 15:42:54
阅读次数:
264
1, 对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引
2,应尽量避免在 where 子句中对字段进行 null 值判断,创建表时NULL是默认值,但大多数时候应该使用NOT NULL,或者使用一个特殊的值,如0,-1作为默 认值。
3,应尽量避免在 where 子句中使用!=或,>=,BETWEEN,IN,以及某些时候的LIKE。
...
分类:
数据库 时间:
2014-08-29 07:17:47
阅读次数:
308
最近公司的网站访问特别慢,最后我从两个地方优化一下,访问特别快了,第一,数据优化。第二,tomcat自身优化找到conf/server.xml增加以下参数<Connectorport="8092"protocol="HTTP/1.1"maxHttpHeaderSize="8192"maxThreads="1000"minSpareThreads="100"maxSpareThreads="10..
分类:
其他好文 时间:
2014-08-14 17:12:21
阅读次数:
166
周末重新整理了一下,把有些不合理的地方改了下,自我感觉好多了ZabbixReport.py#!/usr/bin/python
#coding:utf-8
importMySQLdb
importtime,datetime
#zabbix数据库信息:
zdbhost=‘192.168.1.100‘
zdbuser=‘zabbix‘
zdbpass=‘zabbixreport‘
zdbport=3306
zdbname=‘zabbix‘..
分类:
数据库 时间:
2014-08-04 18:20:08
阅读次数:
609
为了更好地支持大数据应用,富士通推出了针对大数据进行优化的全闪存阵列和大数据一体机,在保证整个系统高性能和高可靠的前提下,进一步提升了数据处理和分析的效率。大数据是继云计算之后又一项将改变传统商业模式和IT应用方式的重要变革。从存储的角度看,富士通正逐渐将产..
分类:
其他好文 时间:
2014-08-04 18:12:48
阅读次数:
236
1 2 $("#pwd").live("click",function(){//① 3 $(this).parents("tr").find("#a_cannel").text("取消"); 4 user=$(this).parents("tr").fin...
分类:
其他好文 时间:
2014-07-05 18:35:49
阅读次数:
397