阶段大纲: 一.爬虫 1.基本操作 —登录任意网站(伪造浏览器的任何行为) 2.性能相关 —并发方案: —异步IO:gevent/Twisted/asyncio/aiohttp —自定义异步IO 模块 —IO多路复用:select 3.Scrapy框架 介绍:异步IO:Twisted —基于scra ...
分类:
其他好文 时间:
2018-06-07 22:54:22
阅读次数:
202
select模块: selectors: 模拟多个客户端和服务器交互数据: ...
分类:
其他好文 时间:
2018-06-03 23:42:04
阅读次数:
187
阻塞、非阻塞、同步、异步IO http://www.cnblogs.com/yunxitalk/p/9031306.html 介绍 在谈及网络IO的时候总避不开阻塞、非阻塞、同步、异步、IO多路复用、select、poll、epoll等这几个词语。在面试的时候也会被经常问到这几个的区别。本文就来讲一 ...
分类:
其他好文 时间:
2018-05-19 00:15:28
阅读次数:
121
常见的网络IO模型5种 阻塞IO(blocking IO), 无阻塞IO(noblocking IO), IO多路复用(IO multiplexing),信号驱动 (signal driven IO),异步IO (asynchronous IO) 阻塞IO(blocking IO) 在linux中, ...
分类:
其他好文 时间:
2018-05-17 01:01:22
阅读次数:
234
Unix网络编程一书中作者给出了五种IO模型:1、BlockingIO - 阻塞IO2、NoneBlockingIO - 非阻塞IO3、IO multiplexing - IO多路复用4、signal driven IO - 信号驱动IO5、asynchronous IO - 异步IO IN/PHC ...
分类:
其他好文 时间:
2018-05-13 13:55:45
阅读次数:
152
介绍 在谈及网络IO的时候总避不开阻塞、非阻塞、同步、异步、IO多路复用、select、poll、epoll等这几个词语。在面试的时候也会被经常问到这几个的区别。本文就来讲一下这几个词语的含义、区别以及使用方式。Unix网络编程一书中作者给出了五种IO模型:1、BlockingIO - 阻塞IO2、 ...
分类:
其他好文 时间:
2018-05-13 11:50:59
阅读次数:
179
恢复内容开始 事件驱动编程思想: 一种编程范式 阻塞IO:只发了一次系统调用 触发方式: 1 水平触发 select属于水平触发 2 边缘触发 3 IO多路复用 同时可以监听多个。单线程下实现并发 select poll epoll 异步 IO 最大的特点,全程无阻塞 恢复内容结束 ...
分类:
其他好文 时间:
2018-05-09 17:59:48
阅读次数:
164
select,poll,epoll都是IO多路复用的机制。I/O多路复用就是通过一种机制,一个进程可以监视多个描述符,一旦某个描述符就绪(一般是读就绪或者写就绪),能够通知程序进行相应的读写操作。但select,poll,epoll本质上都是同步I/O,因为他们都需要在读写事件就绪后自己负责进行读写 ...
分类:
其他好文 时间:
2018-05-06 16:24:26
阅读次数:
160
IO模型 1、阻塞IO 2、非阻塞IO 3、多路复用IO 4、异步IO 一、阻塞IO blocking IO的特点就是在IO执行的两个阶段(等待数据和拷贝数据两个阶段)都被block了。 实际上,除非特别指定,几乎所有的IO接口 ( 包括socket接口 ) 都是阻塞型的。 所谓阻塞型接口是指系统调 ...
分类:
编程语言 时间:
2018-05-06 15:00:36
阅读次数:
184