分布式爬虫 - 概念:我们需要搭建一个分布式的机群,让其对一组资源进行分布联合爬取。 - 作用:提升爬取数据的效率 - 如何实现分布式? - 安装一个scrapy-redis的组件 爬取到的数据自动存放在redis中 - 原生的scarapy是不可以实现分布式爬虫,必须要让scrapy结合着scra ...
分类:
其他好文 时间:
2020-06-30 22:22:17
阅读次数:
58
###自定义函数 Hive 自带了一些函数,比如:max/min等,但是数量有限,自己可以通过自定义UDF来方便的扩展。当Hive提供的内置函数无法满足你的业务处理需要时,此时就可以考虑使用用户自定义函数(UDF:user-defined function)。 用户自定义函数类别分为以下三种 UDF ...
分类:
其他好文 时间:
2020-06-30 20:22:42
阅读次数:
57
Spring Boot (九): 微服务应用监控 Spring Boot Actuator 详解 1. 引言 在当前的微服务架构方式下,我们会有很多的服务部署在不同的机器上,相互是通过服务调用的方式进行交互,一个完整的业务流程中间会经过很多个微服务的处理和传递,那么,如何能知道每个服务的健康状况就显 ...
分类:
编程语言 时间:
2020-06-30 14:40:10
阅读次数:
61
昨晚邮箱收到一封邮件,自动跑到了垃圾箱了 今早上班我隐隐觉得有些不妥,从垃圾箱翻出来了 是个看起来很严肃很官方的通报文件,大概长这样(反正关键信息我得马起来) 看到邮件内容,十有八九是真的。因为这批网站用的是很久很久之前一个同事写的asp+access的老后台(历史悠久) 之前也碰到过说有sql注入 ...
分类:
数据库 时间:
2020-06-30 14:29:56
阅读次数:
74
python并发编程之多线程 阅读目录 一 threading模块介绍 二 开启线程的两种方式 三 在一个进程下开启多个线程与在一个进程下开启多个子进程的区别 四 练习 五 线程相关的其他方法 六 守护线程 七 Python GIL(Global Interpreter Lock) 八 同步锁 九 ...
分类:
编程语言 时间:
2020-06-29 15:42:20
阅读次数:
59
最近写项目,由于设备原因,需要将一台电脑的项目拷贝到另一台电脑上,在另一个电脑上继续编写。由于配置属性原因,最终还是在另一台电脑上创建了新项目,只是把这些cpp文件都复制过去了,然后重新部署属性。 背景:这个项目运行时有加入外部参数,完整项目(包含环境部署)拷贝到新电脑上,发现每次运行也是自带事先设 ...
分类:
编程语言 时间:
2020-06-29 15:38:26
阅读次数:
73
python并发编程之多进程理论部分 阅读目录 一 什么是进程 二 进程与程序的区别 三 并发与并行 四 同步\异步and阻塞\非阻塞(重点) 五 进程的创建(了解) 六 进程的终止(了解) 七 进程的层次结构 八 进程的状态 九 进程并发的实现(了解) 一 什么是进程 进程:正在进行的一个过程或者 ...
分类:
编程语言 时间:
2020-06-29 15:01:09
阅读次数:
59
难度命中算法制excel表格 package com.miracle9.game.algorithm; import com.miracle9.game.algorithm.FishServerSuanfa.FISH_TYPE; import java.util.Objects; import ja ...
分类:
编程语言 时间:
2020-06-28 22:07:51
阅读次数:
80
学习时间 新增代码行 博客发表量 知识总结 第八周 4h 80 1 认识栈 利用栈判断回文 第九周 2h 40 1 认识树 学会建树 先序输出 第十周 2h 40 1 复习树的知识 查找树的元素 第十一周 3h 70 1 认识图 学会建图 有无赋权 无向图有向图 第十二周 1h 30 1 复习图的知 ...
分类:
其他好文 时间:
2020-06-28 13:20:06
阅读次数:
71
C语言指针说难不难但是说容易又是最容易出错的地方,因此不管是你要做什么只要用到C指针你就跳不过,今天咱们就以 十九个例子来给大家简单的分析一下指针的应用,最后会有C语言视频资料提供给大家更加深入的参考。 进入今天的主题,要了解指针,多多少少会出现一些比较复杂的类型,所以我先介绍一下如何完全理解一个复 ...
分类:
编程语言 时间:
2020-06-28 09:32:49
阅读次数:
114