JSON格式数据的处理

时间：2017-07-23 21:14:29 阅读：243 评论：0 收藏：0 [点我收藏+]

源文件存储格式 {"coi_id":"dhfjhjhfjdhfjdhjs", "city_name":"深圳市", "coi_name":"海岸城", "img":"http://......jpg", "list":[{.......}], "hot":3.5}，源文件JSON形式按行存储。

目标：删除“list”属性及相关值，将相同城市名的的购物中心划在一起，最后存储为 {"city_name":"深圳市", "list":[{"coi_is":"dfgffgf", "coi_name":"海岸城", "img":"http://...jpg", "hot":3.5}, {...}, ...] }形式，并对每个城市下的购物中心的热度hot按值大小排序。

实现：

 1 import json
 2 import codecs
 3 
 4 fileread=open("test.data")
 5 filenew=open("aois.txt",‘w+‘)
 6 
 7 city_aois={}
 8 city_put={}
 9 
10 for line in fileread:
11     #print line
12     json_obj=json.loads(line)
13     del json_obj["list"]
14     #print json_obj
15     if json_obj[‘city_name‘] not in city_aois:
16         city_aois[json_obj[‘city_name‘]]=[]
17         city_aois[json_obj[‘city_name‘]].append(json_obj)
18     else:
19         city_aois[json_obj[‘city_name‘]].append(json_obj)
20 
21 
22 for poi in city_aois:
23     city_aois[poi].sort(key=lambda x: x["hot"],reverse=True)
24     #item=json.dumps(city_aois[poi],ensure_ascii=False)
25     #strs = ‘{"city_name":"‘+poi.encode("UTF-8")+‘","list":‘+item.encode("UTF-8")+‘}‘
26     #print strs
27     tmp={}
28     tmp[‘city_name‘]=poi
29     tmp[‘list‘]=city_aois[poi]
30     strs=json.dumps(tmp,ensure_ascii=False).encode("UTF-8")
31     filenew.write(strs+‘\r\n‘)
32 
33 fileread.close()
34 filenew.close()

踩过的坑：

1. 对python不熟，其实“JSON”并不是java中使用的是一个对象，仅仅是JSON格式的字符串，通过json.loads()是将读取文件的字符串转换为“字典”形式，类型为 “dict”，然后就可以对字典进行相应的操作了，譬如根据key获得value这样的形式。

2. python将JSON格式的字符串转为字典时，此时是unicode编码，一系列操作完毕后，需要通过json.dumps()将字典转换为字符串，这时候会出现各种编码问题，譬如简单dumps后中文显示的是unicode形式，如果字典里有中文，则需要加上

json.dumps(tmp,ensure_ascii=False)

打印显示时，还需调用encode将编码转换为UTF-8形式。

3. 会出现错误“UnicodeDecodeError: ‘ascii‘ codec can‘t decode byte 0xe6 in position 1: ordinal not in range(128)”

是因为“key和value不能以混合普通字符串和unicode字符串的形式存在”.

此外，

item=json.dumps(city_aois[poi],ensure_ascii=False)
tmp[‘list‘]=item.encode("UTF-8")
strs=json.dumps(tmp,ensure_ascii=False).encode("UTF-8")
print strs

如上做法就是先将 dict转换为字符串复制给了tmp的“list”, 然后dumps时就不会以字典的规矩馆list中的内容，一律以字符串对待，则会出现：

技术分享