码迷,mamicode.com
首页 > 其他好文 > 详细

13.3.3 获取指标

时间:2015-02-16 22:12:05      阅读:198      评论:0      收藏:0      [点我收藏+]

标签:异步工作流   并行   

13.3.3 获取指标

获取有关国家或地区的数据,需要使用世界银行服务的不同函数,函数的路径是 /countries/indicators,可以在 Data Calls 选项卡的 Query Generator(查询生成器)中找到,它能够请求指定国家特定时间段内的有关指标数据。我们不必单独下载每个感兴趣的地区数据,可以一次性地获得所有国家的信息,在内存中进行处理。以这种方式可以下载更多的数据,而请求的数量较少,因为我们不必为每个地区创建请求。
我们按照与以前相同的模式,首先下载部分示例数据,然后,使用我们自己的 XML 查询函数进行验证。清单 13.11 显示了如何下载国家的森林覆盖率指标,这项指标的键值为 AG.LND.FRST.ZS,要得到这个值,最好的办法是在查询生成器中模拟查询。我们将下载 1990 年的数据,并请求数据集的第一页。

清单 13.11 获得地区的森林覆盖率 (F# Interactive)

> let ind = "AG.LND.FRST.ZS"  | 指定 1990 年地区
   let date = "1990:1990"     | 森林数据的第一页
   let page = 1              |
   let props =
     [ "countries", "indicators"; ind ]
     [ "date", date; "page", string(page) ];;
(...)

> let doc = Async.RunSynchronously(worldBankRequest(props))  | [1] 获得数据,
printfn "%s..." (doc.ToString().Substring(0, 301));;              | 输出
val doc : XDocument
<wb:data xmlns:wb="http://www.worldbank.org"
page="1" pages="3" per_page="100" total="231">
<wb:data>
<wb:indicator id="AG.LND.FRST.ZS">Forest area (% ...</wb:indicator>
<wb:country id="AW">Aruba</wb:country>
<wb:value></wb:value>
<wb:date>1990</wb:date>
</wb:data>...

> doc |> xnested [ "data" ]    | 读页数
     |> xattr "pages" |> int;;    |
val it : int = 3

> doc |> xnested [ "data"; "data"; "country" ]  | 读第一个国家的 ID
     |> xvalue;;                           |
val it : string = "Aruba"

清单 13.11 首先定义了一组属性,这是为了创建请求而需要的;然后,创建一个属性的列表,这是 worldBankRequest 函数所需要的。下载文档之后,我们要浏览一下结构,因此,要把它转回字符串,输出前面几行[1]。输出的结果表明,整个数据集有三页;每个国家的信息嵌套在 data 元素中,包含国家的名字和 ID,以及日期(感觉应该是 date)信息和实际值。第一个国家没有这个值,所以,在解析数据时,我们必须要小心处理这种情况。
接下来是两个简单的表达式,我们很快就会需要。首先,需要读页数[2],这样,我们就能下载所有数据;第二个表达式读出第一个国家名[3],在后面会需要,因为希望用它匹配我们在上一节收集的地区名字。
现在,对数据的结构,我们有了很好的概念,那么,就可以写函数,下载所需的内容了。清单 13.12 是一个循环运行异步的工作流,直至获得所有页面。我们没有并行下载页面,因为这会稍微有点难;但是,对于不同指标和不同年份,我们并行运行相同的函数,因此,最终也会有足够的并行度。

清单13.12 异步下载所有指标 (F#)

let rec getIndicatorData(date, indicator, page) = async {
  let args = [ "countries"; "indicators"; ind ],
                 [ "date", date; "page", string(page)]
  let! doc = worldBankRequest args

  let pages =
    doc |> xnested [ "data" ]    | [1] 得到页数
          |> xattr "pages" |> int   |
  if (pages = page) then
    return [doc]    <-- [2] 返回最后的页面
  else
    let page = page + 1
    let! rest = getIndicatorData(date, indicator, page)  <-- [3] 下载其余的页面
    return doc::rest }

函数有三个参数,日期、指标以及所需的页数,用它们来生成 worldBankRequest 函数参数值列表。当收到 XML 时,我们读出数据集总页数的属性[1]。如果当前处理的是最后一页,我们就会返回当前页,包含在只有一个元素的列表中[2];否则,就下载其余的页面。注意,函数是用 let rec 声明的,所以,可以递归地调用,以获得剩余页面[3]。还使用了 let!,是因为在异步工作流的内部。得到了其余页面的列表以后,我们就把刚刚下载的页面返回进去,结果就返回所有的页面。
在继续之前,我们可以使用 F# Interactive 来验证函数是否正确运行。生成一个要求,指标为 AG.LND.FRST.ZS,年度范围 1990:1990,页数为 1。使用 Async.RunSynchronously 运行工作流,应该得到三个页面,包含有关所有国家和地区的数据。
现在,我们要介绍一下并行度(parallelism),下载我们感兴趣的所有年度的所有指标。我们使用 Async.Parallel 基本操作,因此,需要创建异步工作流的序列。清单 13.13 中的代码通过使用简单的序列表达式,调用 getIndicatorData 函数,组合所有参数来实现。别忘了,调用 getIndicatorData 并不执行读取,它只返回能名执行读取的工作流。

清单13.13 并行下载多年的多指标 (F#)

let downloadAll = seq {
  for ind in [ "AG.SRF.TOTL.K2"; "AG.LND.FRST.ZS" ] do       | [1]
    for year in [ "1990:1990"; "2000:2000"; "2005:2005" ] do  |
      yield getIndicatorData(year, ind, 1) }

let data = Async.RunSynchronously(Async.Parallel(downloadAll))    [2]

我们感兴趣的指标和年度的每个组合,脚本首先生成工作流[1],然后,再把所有的工作流组合成并行运行的一个工作流,同步运行,下载所有数据。
序列表达式首先迭代两个指标。第一个指标表示国家或地区总面积,以平方公里计,第二个指标是森林覆盖的百分比,我们已经看到过。如果在世界银行的网站上浏览数据的话,可以看到,森林覆盖指标只提供了三个不同年份,因此,嵌套循环只遍历这些年份。对于这些参数的每个组合,我们都创建(产生)一个工作流,第一页开始运行下载。
这就是说,我们会得到总共六个任务,其中每一个都可能下载多个页面;我们将这些任务组合成一个工作流,返回一个包含这六个结果的数组,使用 Async.RunSynchronously 运行组合的工作流。下载要会花一些时间,某些请求可能会失败,然后重新启动,正如我们前面讨论的。我们得到的结果 data 值,类型是 array

13.3.3 获取指标

标签:异步工作流   并行   

原文地址:http://blog.csdn.net/hadstj/article/details/43854853

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!