1. 将爬虫的类从scrapy.Spider变成scrapy_redis.spiders.RedisSpider;或者是从scrapy.CrawlSpider变成scrapy_redis.spider.RedisCrawlSpider。 2. 将爬虫中的start_urls删掉,增加一个redis_ ...
分类:
其他好文 时间:
2021-01-05 11:15:34
阅读次数:
0
Http协议 HTTP协议简介 超文本传输协议(英文:HyperText Transfer Protocol,缩写:HTTP)是一种用于分布式、协作式和超媒体信息系统的应用层协议。HTTP是万维网的数据通信的基础。 HTTP的发展是由蒂姆·伯纳斯-李于1989年在欧洲核子研究组织(CERN)所发起。 ...
分类:
Web程序 时间:
2021-01-05 11:11:11
阅读次数:
0
import redis.clients.jedis.Jedis;public class A { public static void main(String[] args) throws Exception { Jedis jedis = new Jedis("localhost", 6379) ...
分类:
其他好文 时间:
2021-01-05 10:52:53
阅读次数:
0
JAVA基础 JAVA中的几种基本数据类型是什么,各自占用多少字节。String类能被继承吗,为什么。String,Stringbuffer,StringBuilder的区别。ArrayList和LinkedList有什么区别。讲讲类的实例化顺序,比如父类静态数据,构造函数,字段,子类静态数据,构造 ...
分类:
数据库 时间:
2021-01-05 10:37:50
阅读次数:
0
摘要:本文主要介绍在 GaussDB(DWS) 中,如何通过 SQL 语句,对分布式死锁进行检测和恢复。 分布式数仓应用场景中,我们经常遇到数据库系统 hang 住的问题,所谓 hang 是指虽然数据库系统还在运行,但部分或全部业务无法正常执行。hang 问题的原因有很多,其中以分布式死锁最为常见, ...
分类:
数据库 时间:
2021-01-04 11:10:55
阅读次数:
0
分布式分为分布式缓存(Redis)、分布式锁(Redis 或 Zookeeper)、分布式服务(Dubbo 或 SpringCloud)、分布式服务协调(Zookeeper)、分布式消息队列(Kafka 、RabbitMq)、分布式 Session 、分布式事务、分布式搜索(Elasticsearc ...
分类:
其他好文 时间:
2021-01-04 11:02:16
阅读次数:
0
一、常用的监控方案 开源监控软件:cacti、nagios、zabbix、smokeping、open-falcon等 1、Cacti 官方网站:https://www.cacti.net/ https://github.com/Cacti/cacti Cacti是基于LAMP平台展现的网络流量监测 ...
分类:
其他好文 时间:
2021-01-02 11:32:07
阅读次数:
0
ZooKeeper Curator分布式锁 使用样例:模拟12306售票 导入坐标 插件 线程任务(买票服务) Ticket12306 LockTest ...
分类:
其他好文 时间:
2021-01-02 11:28:30
阅读次数:
0
1 为什么要使用锁 运行以下代码 # 模拟多线程 import threading def change_it(n): global num for i in range(1000000): num = num + n num = num - n print(num,'555') threass=[ ...
分类:
其他好文 时间:
2021-01-02 11:13:38
阅读次数:
0
Kafka概述 定义 Kafka是一个分布式的基于发布/订阅模式的消息队列(Message Queue),主要应用于大数据实时处理领域。 传统消息队列的应用场景 使用消息队列的好处 1:解耦 允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束。 2:可恢复性 系统的一部分组件失效时 ...
分类:
其他好文 时间:
2021-01-02 10:52:13
阅读次数:
0