Apache Flink: 应用场景 https://flink.apache.org/zh/usecases.html 事件驱动型应用无须查询远程数据库,本地数据访问使得它具有更高的吞吐和更低的延迟。而由于定期向远程持久化存储的 checkpoint 工作可以异步、增量式完成,因此对于正常事件处理 ...
分类:
其他好文 时间:
2019-05-25 09:15:36
阅读次数:
91
一、集合框架的概述 1.集合、数组都是对多个数据进行存储操作的结构,简称java容器。此时的存储,主要是指内存层面的存储,不涉及到持久化存储(如.txt,.jpg) 2.数组在存储多个数据方面的缺点: 一旦初始化,其长度就不可改变。 数组中提供的方法非常有限,对于增加、删除、插入数据等操作,非常不便 ...
分类:
编程语言 时间:
2019-05-18 15:56:30
阅读次数:
129
在POD中使用PersistentVolume(持久卷,简称PV)要比使用常规的pod复杂一些。 当集群用户需要在其pod中使用持久化存储时,他们首先创建持久卷声明(PersistentVolumeClaim,简称PVC)清单,指定所需要的最低容量要求和访问模式,用户将持久卷声明清单提交给k8s A ...
分类:
其他好文 时间:
2019-05-12 15:46:34
阅读次数:
123
爬虫四步曲# -指定url# -发起请求# -获取响应数据# -持久化存储#植入requests模块import requests#指定urlurl='https://www.sogou.com/'#发起请求response=requests.get(url=url)#获取响应数据page_text ...
分类:
其他好文 时间:
2019-05-08 00:28:13
阅读次数:
122
在之前的两篇教程中我们分别介绍了如何将Sentinel的限流规则存储到Nacos和Apollo中。同时,在文末的思考中,我都指出了这两套整合方案都存在一个不足之处:不论采用什么配置中心,限流规则都只能通过Nacos界面或Apollo界面来完成修改才能得到持久化存储,而在Sentinel Dashbo ...
分类:
编程语言 时间:
2019-05-07 10:21:35
阅读次数:
154
[TOC] scrapy框架之递归解析和post请求 递归爬取解析多页页面数据 需求:将糗事百科所有页码的作者和段子内容数据进行爬取切持久化存储 需求分析:每一个页面对应一个url,则scrapy工程需要对每一个页码对应的url依次发起请求,然后通过对应的解析方法进行作者和段子内容的解析。 实现方案 ...
分类:
其他好文 时间:
2019-05-04 18:39:21
阅读次数:
97
每次都有学员问加米谷大数据请添加链接描述有没有简单的速成方法学习,我想了一下要是真的有所谓速成方法那大数据这门学科的技术也就没什么门槛什么人都能学,那对于想拿高工资的你来说还有什么意义,如果你是小白还是老老实实的看完下面的内容。下面的是我整理的一张思维导图,内容分成几大块,包括了分布式计算与查询,分布式调度与管理,持久化存储,大数据常用的编程语言等等内容,每个大类下有很多的开源工具,这些就是作为大
分类:
其他好文 时间:
2019-04-30 15:37:48
阅读次数:
123
一、爬虫基本步骤 指定URL信息 发起请求 获取响应数据 对响应数据进行数据解析 持久化存储 二、数据解析 1. 正则表达式 (1) 基本语法 (2) 相关案例 2. Beautifulsoup (1) 环境安装 (2) 基础使用 3. xpath (1) 选取节点 | 表达式 | 描述 | | | ...
分类:
其他好文 时间:
2019-04-29 21:21:00
阅读次数:
184
2个Kubernetes使用同一个Ceph存储达到Kubernetes间持久化数据迁移[TOC]当前最新Kubernetes稳定版为1.14。现在为止,还没有不同Kubernetes间持久化存储迁移的方案。但根据Kubernetespv/pvc绑定流程和原理,只要"存储"-->"PV"-->&quo
分类:
Web程序 时间:
2019-04-29 12:58:45
阅读次数:
170
urllib python 中自带的一个基于爬虫的模块 作用: 可以使用代码 模拟浏览器发起请求。 request parse 使用流程: 指定url 针对指定的url 发起请求 获取服务器响应的数据 持久化存储 urllib python 中自带的一个基于爬虫的模块 作用: 可以使用代码 模拟浏览 ...
分类:
其他好文 时间:
2019-04-26 13:09:24
阅读次数:
131