python网络爬虫与信息提取——5.信息组织与提取方法

1.信息标记的三种形式

（1）XML（eXtensible Markup Language）可扩展标记语音

<name> … </name>有内容的标签
<name />无内容的标签
<!‐‐ ‐‐>注释

（2）JSON（JavsScript Object Notation）有类型的键值对 key:value

“key” : “value”
“key” : [“value1”, “value2”]多值用[,]组织
“key” : {“subkey” : “subvalue”}键值对嵌套用{,}

（3）YAML（YAML Ain’t Markup Language）无类型键值对 key:value

缩进表达所属关系

‐ 表达并列关系

| 表达整块数据 # 表示注释

key : value
key : #Comment
‐value1
‐value2
key :
    subkey : subvalue

2.比较

XML

最早的通用信息标记语言，可扩展性好，但繁琐

Internet上的信息交互与传递

JSON

信息有类型，适合程序处理(js)，较XML简洁

移动应用云端和节点的信息通信，无注释

YAML

信息无类型，文本信息比例最高，可读性好

各类系统的配置文件，有注释易读

3.信息提取的一般方法

方法一：完整解析信息的标记形式，再提取关键信息

优点：信息解析准确
缺点：提取过程繁琐，速度慢

方法二：无视标记形式，直接搜索关键信息

优点：提取过程简洁，速度较快
缺点：提取结果准确性与信息内容相关

融合方法：结合形式解析与搜索方法，提取关键信息

需要标记解析器及文本查找函数

4.基于bs4库的html内容查找方法

<>.find_all(name, attrs, recursive, string, **kwargs)
返回一个列表类型，存储查找的结果

 ? name : 对标签名称的检索字符串

? attrs: 对标签属性值的检索字符串，可标注属性检索
? recursive: 是否对子孙全部检索，默认True
? string: <>…</>中字符串区域的检索字符串

<tag>(..) 等价于 <tag>.find_all(..)
soup(..)  等价于 soup.find_all(..)

扩展方法：

<>.find() 搜索且只返回一个结果，同.find_all()参数
<>.find_parents() 在先辈节点中搜索，返回列表类型，同.find_all()参数
<>.find_parent() 在先辈节点中返回一个结果，同.find()参数
<>.find_next_siblings() 在后续平行节点中搜索，返回列表类型，同.find_all()参数
<>.find_next_sibling() 在后续平行节点中返回一个结果，同.find()参数
<>.find_previous_siblings() 在前序平行节点中搜索，返回列表类型，同.find_all()参数
<>.find_previous_sibling() 在前序平行节点中返回一个结果，同.find()参数

4.中国大学排名爬虫实例