[关闭]
@bergus 2015-12-02T16:30:23.000000Z 字数 5300 阅读 2056

Python处理JSON

python json


  1. 什么是json
  2. JSON(JavaScript Object Notation)
  3. 是一种轻量级的数据交换格式。易于人阅读和编写。同时也易于机器解析和生成。它基于JavaScript Programming Language,
  4. Standard ECMA-262 3rd Edition - December
  5. 1999的一个子集。JSON采用完全独立于语言的文本格式,但是也使用了类似于C语言家族的习惯(包括C, C++, C#, Java,
  6. JavaScript, Perl, Python等)。这些特性使JSON成为理想的数据交换语言。
  7. JSON建构于两种结构:
  8. “名称/值”对的集合(A collection of name/value pairs)。不同的语言中,它被理解为对象(object),纪录(record),结构(struct),字典(dictionary),哈希表(hash table),有键列表(keyed list),或者关联数组 associative array)。
  9. 值的有序列表(An ordered list of values)。在大部分语言中,它被理解为数组(array)。
  10. 这些都是常见的数据结构。事实上大部分现代计算机语言都以某种形式支持它们。这使得一种数据格式在同样基于这些结构的编程语言之间交换成为可能。
  11. jso官方说明参见:http://json.org/
  12. Python操作json的标准api库参考:http://docs.python.org/library/json.html
  13. 对简单数据类型的encoding decoding
  14. 使用简单的json.dumps方法对简单数据类型进行编码,例如:
  15. import json
  16. obj=[[1,2,3],123,123.123,'abc',{'key1':(1,2,3),'key2':(4,5,6)}]
  17. encodedjson=json.dumps(obj)
  18. printrepr(obj)
  19. printencodedjson
  20. 输出:
  21. [[1, 2, 3], 123, 123.123, 'abc', {'key2': (4, 5, 6), 'key1': (1, 2, 3)}]
  22. [[1, 2, 3], 123, 123.123, "abc", {"key2": [4, 5, 6], "key1": [1, 2, 3]}]
  23. 通过输出的结果可以看出,简单类型通过encode之后跟其原始的repr()输出结果非常相似,但是有些数据类型进行了改变,例如上例中的元组则转换为了列表。在json的编码过程中,会存在从python原始类型向json类型的转化过程,具体的转化对照如下:
  24. json.dumps()方法返回了一个str对象encodedjson,我们接下来在对encodedjson进行decode,得到原始数据,需要使用的json.loads()函数:
  25. decodejson=json.loads(encodedjson)
  26. printtype(decodejson)
  27. printdecodejson[4]['key1']
  28. printdecodejson
  29. 输出:
  30. [1, 2, 3]
  31. [[1, 2, 3], 123, 123.123, u'abc', {u'key2': [4, 5, 6], u'key1': [1, 2, 3]}]
  32. loads方法返回了原始的对象,但是仍然发生了一些数据类型的转化。比如,上例中‘abc’转化为了unicode类型。从jsonpython的类型转化对照如下:
  33. json.dumps方法提供了很多好用的参数可供选择,比较常用的有sort_keys(对dict对象进行排序,我们知道默认dict是无序存放的),separatorsindent等参数。
  34. 排序功能使得存储的数据更加有利于观察,也使得对json输出的对象进行比较,例如:
  35. data1={'b':789,'c':456,'a':123}
  36. data2={'a':123,'b':789,'c':456}
  37. d1=json.dumps(data1,sort_keys=True)
  38. d2=json.dumps(data2)
  39. d3=json.dumps(data2,sort_keys=True)
  40. printd1
  41. printd2
  42. printd3
  43. printd1==d2
  44. printd1==d3
  45. 输出:
  46. {"a": 123, "b": 789, "c": 456}
  47. {"a": 123, "c": 456, "b": 789}
  48. {"a": 123, "b": 789, "c": 456}
  49. False
  50. True
  51. 上例中,本来data1data2数据应该是一样的,但是由于dict存储的无序特性,造成两者无法比较。因此两者可以通过排序后的结果进行存储
  52. 就避免了数据比较不一致的情况发生,但是排序后再进行存储,系统必定要多做一些事情,也一定会因此造成一定的性能消耗,所以适当排序是很重要的。
  53. indent参数是缩进的意思,它可以使得数据存储的格式变得更加优雅。
  54. data1={'b':789,'c':456,'a':123}
  55. d1=json.dumps(data1,sort_keys=True,indent=4)
  56. printd1
  57. 输出:
  58. {
  59. "a": 123,
  60. "b": 789,
  61. "c": 456
  62. }
  63. 输出的数据被格式化之后,变得可读性更强,但是却是通过增加一些冗余的空白格来进行填充的。json主要是作为一种数据通信的格式存在的,而网络通
  64. 信是很在乎数据的大小的,无用的空格会占据很多通信带宽,所以适当时候也要对数据进行压缩。separator参数可以起到这样的作用,该参数传递是一个
  65. 元组,包含分割对象的字符串。
  66. print'DATA:',repr(data)
  67. print'repr(data) :',len(repr(data))
  68. print'dumps(data) :',len(json.dumps(data))
  69. print'dumps(data, indent=2) :',len(json.dumps(data, indent=4))
  70. print'dumps(data, separators):',len(json.dumps(data, separators=(',',':')))
  71. 输出:
  72. DATA: {'a': 123, 'c': 456, 'b': 789}
  73. repr(data) : 30
  74. dumps(data) : 30
  75. dumps(data, indent=2) : 46
  76. dumps(data, separators): 25
  77. 通过移除多余的空白符,达到了压缩数据的目的,而且效果还是比较明显的。
  78. 另一个比较有用的dumps参数是skipkeys,默认为False dumps方法存储dict对象时,key必须是str类型,如果出现了其他类型的话,那么会产生TypeError异常,如果开启该参数,设为True的话,则会比较优雅的过度。
  79. data={'b':789,'c':456,(1,2):123}
  80. printjson.dumps(data,skipkeys=True)
  81. 输出:
  82. {"c": 456, "b": 789}
  83. 处理自己的数据类型
  84. json模块不仅可以处理普通的python内置类型,也可以处理我们自定义的数据类型,而往往处理自定义的对象是很常用的。
  85. 首先,我们定义一个类Person
  86. classPerson(object):
  87. def__init__(self,name,age):
  88. self.name=name
  89. self.age=age
  90. def__repr__(self):
  91. return'Person Object name : %s , age : %d'%(self.name,self.age)
  92. if__name__=='__main__':
  93. p=Person('Peter',22)
  94. printp
  95. 如果直接通过json.dumps方法对Person的实例进行处理的话,会报错,因为json无法支持这样的自动转化。通过上面所提到的json
  96. python的类型转化对照表,可以发现,object类型是和dict相关联的,所以我们需要把我们自定义的类型转化为dict,然后再进行处理。这
  97. 里,有两种方法可以使用。
  98. 方法一:自己写转化函数
  99. '''
  100. Created on 2011-12-14
  101. @author: Peter
  102. '''
  103. importPerson
  104. importjson
  105. p=Person.Person('Peter',22)
  106. defobject2dict(obj):
  107. #convert object to a dict
  108. d={}
  109. d['__class__']=obj.__class__.__name__
  110. d['__module__']=obj.__module__
  111. d.update(obj.__dict__)
  112. returnd
  113. defdict2object(d):
  114. #convert dict to object
  115. if'__class__'ind:
  116. class_name=d.pop('__class__')
  117. module_name=d.pop('__module__')
  118. module=__import__(module_name)
  119. class_=getattr(module,class_name)
  120. args=dict((key.encode('ascii'), value)forkey, valueind.items())#get args
  121. inst=class_(**args)#create new instance
  122. else:
  123. inst=d
  124. returninst
  125. d=object2dict(p)
  126. printd
  127. #{'age': 22, '__module__': 'Person', '__class__': 'Person', 'name': 'Peter'}
  128. o=dict2object(d)
  129. printtype(o),o
  130. # Person Object name : Peter , age : 22
  131. dump=json.dumps(p,default=object2dict)
  132. printdump
  133. #{"age": 22, "__module__": "Person", "__class__": "Person", "name": "Peter"}
  134. load=json.loads(dump,object_hook=dict2object)
  135. printload
  136. #Person Object name : Peter , age : 22
  137. 上面代码已经写的很清楚了,实质就是自定义object类型和dict类型进行转化。object2dict函数将对象模块名、类名以及
  138. __dict__存储在dict对象里,并返回。dict2object函数则是反解出模块名、类名、参数,创建新的对象并返回。在json.dumps
  139. 方法中增加default参数,该参数表示在转化过程中调用指定的函数,同样在decode过程中json.loads方法增加object_hook,
  140. 指定转化函数。
  141. 方法二:继承JSONEncoderJSONDecoder类,覆写相关方法
  142. JSONEncoder类负责编码,主要是通过其default函数进行转化,我们可以override该方法。同理对于JSONDecoder
  143. '''
  144. Created on 2011-12-14
  145. @author: Peter
  146. '''
  147. importPerson
  148. importjson
  149. p=Person.Person('Peter',22)
  150. classMyEncoder(json.JSONEncoder):
  151. defdefault(self,obj):
  152. #convert object to a dict
  153. d={}
  154. d['__class__']=obj.__class__.__name__
  155. d['__module__']=obj.__module__
  156. d.update(obj.__dict__)
  157. returnd
  158. classMyDecoder(json.JSONDecoder):
  159. def__init__(self):
  160. json.JSONDecoder.__init__(self,object_hook=self.dict2object)
  161. defdict2object(self,d):
  162. #convert dict to object
  163. if'__class__'ind:
  164. class_name=d.pop('__class__')
  165. module_name=d.pop('__module__')
  166. module=__import__(module_name)
  167. class_=getattr(module,class_name)
  168. args=dict((key.encode('ascii'), value)forkey, valueind.items())#get args
  169. inst=class_(**args)#create new instance
  170. else:
  171. inst=d
  172. returninst
  173. d=MyEncoder().encode(p)
  174. o=MyDecoder().decode(d)
  175. printd
  176. printtype(o), o
  177. 对于JSONDecoder类方法,稍微有点不同,但是改写起来也不是很麻烦。看代码应该就比较清楚了。
添加新批注
在作者公开此批注前,只有你和作者可见。
回复批注