如果采用redis数据库集群操作方式爬取数据源,那么爬虫客户端最好设置redis数据库的密码,否则对方将无法进行数据库链接操作,并且会报未知错误。 redis-cli -h 192.168.1.53 -p 6379 -a 12345 (依次是 目标主机地址,端口号,对方数据库密码) 如此能确保集群的 ...
分类:
数据库 时间:
2019-03-23 22:38:56
阅读次数:
220
Redis数据库查看连接的客户端[root@VM_8_24_centos~]#redis-cli-h10.0.4.6-ayourpassword10.0.4.6:6379>clientlistaddr=100.120.205.19:1024fd=9cmd=clientage=3idle=0proxy=33c6e51a9cc4771fb5836880f86a860f10.0.4.6:6379&
分类:
数据库 时间:
2019-03-21 11:51:43
阅读次数:
220
1.Redis数据库介绍 Redis是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。 2.Redis数据库特性 Redis支持数据的持久化,可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。 Redis不仅 ...
分类:
数据库 时间:
2019-03-17 23:07:17
阅读次数:
228
1.mysql数据库 2.mongoDB数据库 3.redis数据库 1.创建项目 scrapy startproject myproject cd myproject 2.创建爬虫 scrapy genspider myspider www.baidu.com scrapy genspider -... ...
分类:
其他好文 时间:
2019-03-08 15:09:25
阅读次数:
170
错误信息:redis.exceptions.DataError: Invalid input of type: 'dict'. Convert to a byte, string or number first. 解决办法:python中redis包更新导致的问题,变更了srem方法的输入。使用旧版 ...
分类:
数据库 时间:
2019-03-04 12:54:17
阅读次数:
838
MySQL、MongoDB、Redis 数据库之间的区别与使用 MySQL、MongoDB、Redis 数据库之间的区别与使用(本章迭代更新) update:2019年2月20日 15:21:19(本章迭代更新) 一.数据库之间的区别 MySQL MySQL概述 关系型数据库。无论数据还是索引都存放 ...
分类:
数据库 时间:
2019-02-20 15:56:18
阅读次数:
195
Reference: https://blog.csdn.net/u011692780/article/details/81213010 一、事务的四大特性 关系型数据库的事务具有四个特性: 1. 原子性 2. 一致性 3. 隔离性 4. 持久性 二、而在我们redis数据库中,事务回事什么样子的呢 ...
分类:
其他好文 时间:
2019-02-19 00:39:50
阅读次数:
241
安装redis 下载fedora的epel仓库 安装redis数据库 启动redis 显示redis运行状态 至此已经安装完毕。 # 停止redis # 查看redis进程 #设置redis为开机自动启动 #进入redis服务 # 列出所有key keys * #防火墙开放相应端口 #防火墙开放相应 ...
分类:
系统相关 时间:
2019-02-12 18:53:15
阅读次数:
247
今天重启爬虫服务器在连接redis数据库时突然报错:MISCONF Redis is configured to save RDB snapshots, but it is currently not able to persist on disk. Commands that may modify ...
分类:
其他好文 时间:
2019-02-12 10:29:39
阅读次数:
199
scrapy-redis 简介 scrapy-redis是scrapy框架基于redis数据库的组件,用于scrapy项目的分布式开发和部署。 特征 分布式爬取 可以启动多个spider工程,相互之间共享单个redis的requests队列。最适合广泛的多个域名网站的内容爬取。 分布式数据处理 爬取 ...
分类:
其他好文 时间:
2019-02-11 10:51:42
阅读次数:
220