原文: http://blog.gqylpy.com/gqy/364 "__实现发送POST请求__ 在爬虫文件中,我们一般不需要手动的对start_urls列表中的起始url发送请求,因为爬虫文件中的爬虫类继承了父类Spider,Spider类中的start_requests方法会自动向起始url ...
分类:
其他好文 时间:
2019-08-18 22:18:54
阅读次数:
130
oracle11g查看自动收集统计信息是否开启select client_name,status from dba_autotask_client; SYSDBA登录exec dbms_scheduler.disable('SYS.GATHER_STATS_JOB');exec dbms_sched ...
分类:
数据库 时间:
2019-08-15 15:51:49
阅读次数:
120
JobManager 处理 SubmitJob <! more https://t.zsxq.com/3JQJMzZ 博客 1、 "Flink 从0到1学习 —— Apache Flink 介绍" 2、 "Flink 从0到1学习 —— Mac 上搭建 Flink 1.6.0 环境并构建运行简单程序 ...
分类:
其他好文 时间:
2019-08-13 22:54:52
阅读次数:
245
调度算法 写入优化 优化方式 1、调整算法 2、调整队列 调整算法: vim /usr/lib/tuned/《已经选择的优化策略》/tuned.conf 查看算法: cat /sys/nlock/sda/queue/scheduler 配置文件位于/sys/block/sda(需要优化的磁盘)/qu ...
分类:
其他好文 时间:
2019-08-11 10:28:13
阅读次数:
74
JDK安装 设置hostname 设置机器hosts 创建jdk目录 上传jdk包 打开winSCP工具,通过winscp工具上传java jdk到linux 的/opt/soft文件夹下 解压jdk 将jdk文件解压到module文件夹下,命令如下: 设置jdk的环境变量 在文件末尾添加jdk的环 ...
分类:
其他好文 时间:
2019-08-10 19:18:29
阅读次数:
131
k8s的部署架构 kubernetes中有两类资源,分别是master和nodes,master和nodes上跑的服务如下图, kube-apiserver | kubelet kube-controller-manager | kube-scheduler | kube-proxy k8s mas ...
分类:
Web程序 时间:
2019-08-08 14:57:56
阅读次数:
134
scheduler定时调度系统是大多行业项目都需要的,传统的spring-job模式,个人感觉已经out了,因为存在很多的问题,特别是定时调度的追加、修改、删除等,需要修改xml,xml的配置生效无非是热部署灰度发布方案或者直接停止、重启服务器,完全不能做到自动启动、修复方式。 ...
分类:
编程语言 时间:
2019-08-05 09:54:57
阅读次数:
152
一、简单任务 定义一个函数,然后定义一个scheduler类型,添加一个job,然后执行,就可以了 5秒整倍数,就执行这个函数 带参数的 二、日志 三、删除任务 要求执行一定阶段任务以后,删除某一个循环任务,其他任务照常进行。有如下代码: 四、停止任务,恢复任务 五、捕获错误 ...
分类:
编程语言 时间:
2019-08-04 10:42:53
阅读次数:
136
Kubernetes: 它至少需要3个Master节点 Master节点的主要组件: API Server: 主要用来接收其它组件发来的请求,并作出相应的处理. Scheduler: 主要负责挑选出一个最佳node节点来运行pod,它挑选合适的node,通常分两个阶段, 第一个阶段:是先通过初步筛选 ...
分类:
Web程序 时间:
2019-08-01 21:27:35
阅读次数:
154