一、爬虫在使用场景中的分类 1.通用爬虫 抓取系统重要组成部分。抓取的是一整张页面数据 2.聚焦爬虫 是建立建立在通用爬虫的基础之上。抓取的是页面中特定的局部内容 3.增量式爬虫 检测网站中数据更新的情况。只会抓取最新更新出来的数据 二、http协议 1.常用请求头信息 User Agent :请求 ...
分类:
其他好文 时间:
2020-05-18 09:16:09
阅读次数:
65
1业务说明 此文档使用函数:ME_DIRECT_INPUT_SOURCE_LIST创建货源清单 2前台实现 事务代码:ME01 输入抬头信息 保存即可 3代码实现 3.1调用函数 定义参数 字段 调用函数 3.2问题解决 3.3源代码 DATA:LT_EORD TYPE TABLE OF EORDU ...
分类:
其他好文 时间:
2020-05-09 16:47:55
阅读次数:
116
1.概念 1.1、前言 web开发: web,网页的意思 静态web html,css 提供给所有人看的,数据始终不会发生变化 动态web 几乎所有网站都是动态的 提供给所有人看的,数据始终会发生变化,每个人在不同时间,不同地点,看到的信息不同 技术栈:Servlet/JSP,ASP,PHP 在ja ...
分类:
编程语言 时间:
2020-05-03 21:40:14
阅读次数:
81
Github下载源码地址https://github.com/square/okhttp 我们今天来看看拦截器里的CallServerInterceptor 来看CallServerInterceptor类的intercept方法 1)源码: Exchange exchange = realChai ...
分类:
Web程序 时间:
2020-04-30 18:57:40
阅读次数:
82
Response响应对象主要将JSP容器处理后的结果传回到客户端。可以通过response变量设置HTTP的状态和向客户端发送数据,如Cookie、HTTP文件头信息等。 一个典型的响应看起来就像下面这样: HTTP/1.1 200 OK Content-Type: text/html Header ...
分类:
Web程序 时间:
2020-04-28 16:44:24
阅读次数:
65
目录 介绍 深入CGI协议 CGI的运行原理 CGI协议的缺陷 深入FastCGI协议 FastCGI协议运行原理 为什么是 FastCGI 而非 CGI 协议 CGI 与 FastCGI 架构 再看 FastCGI 协议 消息头信息 消息类型定义 Web 服务器和 FastCGI 交互过程 为什么 ...
分类:
其他好文 时间:
2020-04-28 13:07:52
阅读次数:
59
[TOC] 搭建flask项目在阿里云上 准备工作 python 一个全新的阿里云服务器 一个最简单的flask项目 1. 利用命令行进行远程服务器登录 ssh 用户名@ip地址 2. 安装相关环境和软件 以下操作都在远程服务器上进行操作 (ubuntu 16.04) 先更新 apt 相关源 安装虚 ...
分类:
其他好文 时间:
2020-04-27 19:49:50
阅读次数:
76
原文:HTTP响应头和请求头信息对照表 HTTP请求头提供了关于请求,响应或者其他的发送实体的信息。HTTP的头信息包括通用头、请求头、响应头和实体头四个部分。每个头域由一个域名,冒号(:)和域值三部分组成。 通用头标:即可用于请求,也可用于响应,是作为一个整体而不是特定资源与事务相关联。 请求头标... ...
分类:
Web程序 时间:
2020-04-24 13:12:30
阅读次数:
85
1 粘包问题 粘包问题是针对TCP协议的,UDP协议不会遇到这个问题。TCP是流式协议遇到的粘包问题主要还是因为接收方不知道消息之间的界限,不知道一次性提取多少字节的数据所造成的。 2 解决粘包问题的代码模板 # 服务端 import subprocess import struct import ...
分类:
编程语言 时间:
2020-04-22 00:19:05
阅读次数:
69