一、Scrapy的简介 Scrapy 是基于twisted框架开发而来,twisted是一个流行的事件驱动的python网络框架。因此Scrapy使用了一种非阻塞(又名异步)的代码来实现并发。整体架构大致如下 它主要由五大组件和两中间件组成: 五大组件: 1、引擎(ENGINE):用来处理整个系统的 ...
分类:
其他好文 时间:
2020-12-29 11:11:00
阅读次数:
0
JavaWeb (了解底层原理,面试用) Web页面可以动态更新;所有用户看到都不是同一个页面;与数据库交互(持久化) PHP PHP开发速度快、功能强大、跨平台、代码简单(中小企业很多用这个) 无法承载三高(高并发、高可用、高性能) Web服务器 ——Tomcat Tomcat服务器(属于Apac ...
分类:
编程语言 时间:
2020-12-28 11:16:02
阅读次数:
0
我们开的的各式各样系统中,系统运行需要CPU、内存、I/O、磁盘等等资源。但除了硬资源外,还有最为重要的软资源:数据。 当人们访问操作我们的系统时,其实归根是对数据的查看与生产。那么对于同一份数据,如果多个用户同时对它查看、修改时会出现什么问题呢?这必然会带来竞争,而为了控制并发的读取、修改数据会对 ...
分类:
其他好文 时间:
2020-12-28 11:04:00
阅读次数:
0
InnoDB 行锁 行锁介绍 行锁特点 :偏向InnoDB 存储引擎,开销大,加锁慢;会出现死锁;锁定粒度最小,发生锁冲突的概率最低,并发度也最高。 InnoDB 与 MyISAM 的最大不同有两点:一是支持事务;二是 采用了行级锁。 InnoDB 的行锁模式 InnoDB 实现了以下两种类型的行锁 ...
分类:
数据库 时间:
2020-12-25 12:29:38
阅读次数:
0
1.并发与并行 ·并发:指两个或多个时间在同一个时间段内发生。 ·并行:指两个或多个事件在同一时刻发生(同时发生)。 在操作系统中,安装了多个程序,并发指的是在一段时间内宏观上有多个程序同时运行,这在单 CPU 系统中,每 一时刻只能有一道程序执行,即微观上这些程序是分时的交替运行,只不过是给人的感 ...
分类:
编程语言 时间:
2020-12-24 12:29:49
阅读次数:
0
一、复习 Random类以及ThreadLocalRandom类源码解析 二、Java并发包中一些原子操作类的源码解析 1.常见类 例如AtomicLong,AtomicInteger,AtomicCharacter.....等这些操作类其内部实现都是通过CAS非阻塞算法来实现, 因此我们只要弄懂一 ...
分类:
编程语言 时间:
2020-12-24 12:25:59
阅读次数:
0
machine 是借鉴了errgroup的一个golang 并发处理包,errgroup 的使用很简单,但是对于异常的处理只能 包含一次结果,不能知道每次 gorroutine 的执行结果,同时machine也扩展了好多特性 比较适合的场景 grpc streaming 服务 websocket 服 ...
分类:
系统相关 时间:
2020-12-24 12:00:19
阅读次数:
0
import org.slf4j.Logger; import org.slf4j.LoggerFactory; import java.util.ArrayList; import java.util.Arrays; import java.util.List; import java.util. ...
分类:
其他好文 时间:
2020-12-24 11:40:20
阅读次数:
0
福哥答案2020-12-18: java:锁(Synchronized, ReentrantLock)、信号量(Semaphore)以及其他同步工具、原子类(atomicInteger)、加法器(adder)、累加器(accumulator)、不稳定(volatile)、线程安全的容器(Vector ...
分类:
编程语言 时间:
2020-12-23 12:34:15
阅读次数:
0
1.dubbo 协议 (默认) 1、采用单一长连接和NIO异步通讯,适合于小数据量大并发的服务调用,以及服务消费者机器数远大于服务提供者机器数的情况 2、不适合传送大数据量的服务,比如传文件,传视频等,除非请求量很低。 用场景:常规远程服务方法调用 特性 连接个数:单连接 连接方式:长连接 传输协议 ...
分类:
其他好文 时间:
2020-12-23 12:18:52
阅读次数:
0