Python:使用Counter进行计数统计及collections模块

2022-07-11 11:55:19

    计数统计就是统计某一项出现的次数。实际应用中很多需求需要用到这个模型。比如测试样本中某一指出现的次数、日志分析中某一消息出现的频率等等‘这种类似的需求有很多实现方法。下面就列举几条。

(1)使用dict

看下面代码

#coding=utf-8
data = ['a','2',2,4,5,'2','b',4,7,'a',5,'d','a','z']
count_frq = dict()
for one in data:
     if one in count_frq:
          count_frq[one] += 1
     else:
          count_frq[one] = 1

print count_frq

输出结果如下:

{'a': 3, 2: 1, 'b': 1, 4: 2, 5: 2, 7: 1, '2': 2, 'z': 1, 'd': 1}

这种方法最简单,也是最容易想到的,鄙人这写这篇博文之前用的最多,不过以后应该不会用来,我们应该使代码更加Pythonic

(2)使用set和list

代码如下:

#coding=utf-8
data = ['a','2',2,4,5,'2','b',4,7,'a',5,'d','a','z']
data_set = set(data)
count_list = []
for one in data_set:
     count_list.append((one,data.count(one)))

print count_list

输出结果如下:

[('a', 3), (2, 1), ('b', 1), (4, 2), (5, 2), (7, 1), ('2', 2), ('z', 1), ('d', 1)]

    这里面利用了list的通用方法和集合(set)的特性,集合是一个无序不重复的元素集,而工厂函数set()可以将列表转换为一个无序不重复的元素集合。

以上方法都很简单,但不够Pythonic。下面来介绍collections中的Counter类。

(一)Counter类

    Counter类的目的是用来跟踪值出现的次数。它是一个无序的容器类型,以字典的键值对形式存储,其中元素作为key,其计数作为value。计数值可以是任意的Interger(包括0和负数)支持集合操作+、-、&、|,其中&、|操作分别返回两个Counter对象各元素的最大值和最小值。

(1)Counter的初始化

跟平时自定义类的初始化方法差不多,如下:

c = Counter("hello world")#可迭代对象创建

c = Counter(h=1,l=3,o=2)#关键字创建

c = Counter({'h':1,'l':3,'o':2})#字典创建

c = Counter()#空Counter类

(2)Counter类常见方法

elements():返回一个迭代器。元素被重复了多少次,在该迭代器中就包含多少个该元素。所有元素按照字母序排序,个数小于1的元素不被包含。

update():用于统计对象元素的更新,原有的Counter计数器对象与新增元素的统计计数值相加而不是直接替换。

subtract():该方法用于计数器对象中元素统计值减少,输入输出的统计值书可以为0或者负数的。

most_common([n]):可以查找出前n个出现频率最高的元素以及它们对于的次数,也就是说频率搞的排在最前面。

copy():浅拷贝。关于浅拷贝,深拷贝可以参考上篇博文。http://11026142.blog.51cto.com/11016142/1851472

所以上面的例子用Counter类的话,也很简单,代码如下:

#coding=utf-8
from collections import Counter
data = ['a','2',2,4,5,'2','b',4,7,'a',5,'d','a','z']
c = Counter(data)
print c

输出结果如下:

Counter({'a': 3, 4: 2, 5: 2, '2': 2, 2: 1, 'b': 1, 7: 1, 'z': 1, 'd': 1})

咱们接着看代码

print c.elements()
print list(c.elements())

输出结果如下:

<itertools.chain object at 0x7f94b81683d0>

['a', 'a', 'a', 2, 'b', 4, 4, 5, 5, 7, '2', '2', 'z', 'd']

c['z'] -= 1
print c
print c.elements()
print list(c.elements())

输出结果如下:

Counter({'a': 3, 4: 2, 5: 2, '2': 2, 2: 1, 'b': 1, 7: 1, 'd': 1, 'z': 0})

<itertools.chain object at 0x7f0e928723d0>

['a', 'a', 'a', 2, 'b', 4, 4, 5, 5, 7, '2', '2', 'd']

元素’z'的统计值变为了0,然后进行elements()运算后,‘z'就被排除掉了。

c.update("aaaa")
print c

输出结果:

Counter({'a': 7, 4: 2, 5: 2, '2': 2, 2: 1, 'b': 1, 7: 1, 'd': 1, 'z': 0})

update()在原基础上增加了计数值

c.subtract("aaaaa")
print c

输出结果如下:

Counter({'a': 2, 4: 2, 5: 2, '2': 2, 2: 1, 'b': 1, 7: 1, 'd': 1, 'z': 0})

subtract()在原基础上减少计数值

print c.most_common()

输出结果如下:

[('a', 2), (4, 2), (5, 2), ('2', 2), (2, 1), ('b', 1), (7, 1), ('d', 1), ('z', 0)]

以上代码都是连接在一起的。

(3)算术和集合操作

#coding=utf-8
from collections import Counter
data = ['a','2','2','b','a','d','a',]
c = Counter(data)
b = Counter(a=1,b=2)
print c
print b
print b+c  # c[x] + d[x]
print c-b   # subtract(只保留正数计数的元素)
print c&b   # 交集:  min(c[x], d[x])
print c|b    # 并集:  max(c[x], d[x])

输出结果如下:


Counter({'a': 3, '2': 2, 'b': 1, 'd': 1})

Counter({'b': 2, 'a': 1})

Counter({'a': 4, 'b': 3, '2': 2, 'd': 1})

Counter({'a': 2, '2': 2, 'd': 1})

Counter({'a': 1, 'b': 1})

Counter({'a': 3, '2': 2, 'b': 2, 'd': 1})


(4)其它

Counter类返回值跟字典很类似,所以字典类的方法对Counter对象也适用。如下:

#coding=utf-8
from collections import Counter
data = ['a','2',2,4,5,'2','b',4,7,'a',5,'d','a','z']
c = Counter(data)
print c.keys()
print c.has_key('a')
print c.get('a')
print c.items()
print c.values()
print c.viewitems()
print c.viewkeys()

输出如下:

['a', 2, 'b', 4, 5, 7, '2', 'z', 'd']

True

3

[('a', 3), (2, 1), ('b', 1), (4, 2), (5, 2), (7, 1), ('2', 2), ('z', 1), ('d', 1)]

[3, 1, 1, 2, 2, 1, 2, 1, 1]

dict_items([('a', 3), (2, 1), ('b', 1), (4, 2), (5, 2), (7, 1), ('2', 2), ('z', 1), ('d', 1)])

dict_keys(['a', 2, 'b', 4, 5, 7, '2', 'z', 'd'])

这只是其中一部分,其它的方法可以参考字典类的方法。

另外,Counter对象还支持工厂函数操作set()、list()、dict().


(二)collections模块中其它类/方法

常见的内置数据类型有列表、字典、集合、元组等等,collections模块,在此基础上定义了一些其它的数据类型,如果用的好的话,对提升代码运行效率还是有很大的帮助的,下面一一介绍。

1.deque

 deque其实是 double-ended queue 的缩写,翻译过来就是双端队列。与list相比, 使用list存储数据时,按索引访问元素很快,但是插入和删除元素就很慢了,因为list是线性存储,数据量大的时候,插入和删除效率很低;deque是为了高效实现插入和删除操作的双向列表,适合用于队列和栈,它最大的好处就是实现了从队列 头部快速增加和取出对象。

双端队列的创建很简单,如下:

from collections import deque
q = deque(['a', 'b', 'c'])

双端队列的主要方法如下:

append():在右边加入一个元素

appendleft():在左边加入一个元素

clear():情况双端队列,使其长度为0

count():统计某个元素出现的次数

extend():扩展队列,接受一个可迭代对象参数

extendleft():也是扩展队列,也是接受一个可迭代对象参数,与extend()不同的是,先把可迭代对象翻转后在添加到列表前端

pop():从deque的右端删除一个元素

popleft():从deque的左端删除一个元素。

remove():删除一个元素

reverse():对deque对象反序

rotate():将左端元素右移n个位置,如果是负数表示向左移。

前面几个方法都比较简单,也比较好理解,主要是最后一个方法可能有点难理解,通过几个例子来说明。

#coding=utf-8
from collections import deque
q = deque(['a', 'b', 'c'])
print q
q.rotate(2)
print q

结果如下:

deque(['a', 'b', 'c'])

deque(['b', 'c', 'a'])

它就相当于这三个元素组成了一个“闭环”,在“闭环”里移动。另外,通信和电子信息等专业,如果学过单片机,应该知道×××灯,其实利用rotate()函数,我们也可以写个类似的“×××灯"。代码如下:

#coding=utf-8
import sys
import time
from collections import deque
fancy_loading = deque('>--------------------')
while True:
    print '\r%s' % ''.join(fancy_loading),
    fancy_loading.rotate(1)
    sys.stdout.flush()
    time.sleep(0.1)

有兴趣的可以运行一下该代码看看效果,对理解这个函数会有一定的帮助。


2. namedtuple

 namedtuple正如其名字,给元组命名,术语就是命名元组。namedtuple主要用来产生可以使用名称来访问元素的数据对象,通常用来增强代码的可读性, 在访问一些tuple类型的数据时尤其好用。看下面例子

#coding=utf-8
Bob=('bob',30,'male')  
print 'Representation:',Bob  
Jane=('Jane',29,'female')  
print 'Field by index:',Jane[0]  
for people in [Bob,Jane]:  
    print "%s is %d years old %s" % people

Bob与Jane是元组,如果想获取就用索引,比如上面的Jane[0],如果元素很多的时候操作起来就很麻烦。

#coding=utf-8
import collections  
Person = collections.namedtuple('Person','name age gender')  
print 'Type of Person:', type(Person)  
Bob = Person(name='Bob', age=30, gender='male')  
print 'Representation:', Bob  
Jane = Person(name='Jane', age=29, gender='female')  
print 'Field by Name:', Jane.name  
for people in [Bob,Jane]:  
     print "%s is %d years old %s" % people

 解释一下nametuple的几个参数:

     以Person = collections.namedtuple(‘Person’, 'name age gender’)为例,其中 ’Person’是这个namedtuple的名称,后面的’name age gender’这个字符串中三个用空格隔开的字符告诉我们,我们的这个namedtuple有三个元素,分别名为name, age和gender。也可以这样表示,用中括号或者小括号,Person = collections.namedtuple(‘Person’, ['name','age','gender’])或者Person =collections.namedtuple(‘Person’, ('name','age','gender’)),也就是说这个表达式是在定义一个nametuple型的Person类,它有三个属性,然后在创建它的时候可以通过Bob = Person(name=’Bob’, age=30, gender=’male’)这种方式,这类似于Python中类对象的使用。而且,我们也可以像访问类对象的属性那样使用Jane.name这种方式访问namedtuple的元素。

 其输出结果如下:

 Type of Person: <type 'type'>

Representation: Person(name='Bob', age=30, gender='male')

Field by Name: Jane

Bob is 30 years old male

Jane is 29 years old female


但是在使用namedtyuple的时候要注意其中的名称不能使用Python的关键字,如:class def等;而且也不能有重复的元素名称,比如:不能有两个’age age’。如果出现这些情况,程序会报错。但是,在实际使用的时候可能无法避免这种情况,比如:可能我们的元素名称是从数据库里读出来的记录,这样很难保 证一定不会出现Python关键字。这种情况下的解决办法是将namedtuple的重命名模式打开,这样如果遇到Python关键字或者有重复元素名时,自动进行重命名。

如下代码:

#coding=utf-8
import collections
with_class=collections.namedtuple('Person','name age class gender',rename=True)
print with_class._fields
two_ages=collections.namedtuple('Person','name age gender age',rename=True)
print two_ages._fields

输出结果如下:

('name', 'age', '_2', 'gender')

('name', 'age', 'gender', '_3')

使用rename=True的方式打开重命名选项。可以看到第一个集合中的class被重命名为 ‘_2′ ; 第二个集合中重复的age被重命名为 ‘_3′,这是因为namedtuple在重命名的时候使用了下划线 _ 加元素所在索引数的方式进行重命名。

3.OrderedDict

    直译的话就是有序字典。dict这个数据结构由于hash的特性,是无序的,这在有的时候会带来一些麻烦,还好collections模块为我们提供了OrderedDict,当你要获得一个有序的字典对象时,可以用OrderedDict,它是dict的子类,它记住了内容添加的顺序。看下面代码:

#coding=utf-8
from collections import OrderedDict
items = (
    ('A', 1),
    ('B', 2),
    ('C', 3)
)
regular_dict = dict(items)
ordered_dict = OrderedDict(items)
print 'Regular Dict:'
for k, v in regular_dict.items():
    print k, v
print 'Ordered Dict:'
for k, v in ordered_dict.items():
    print k, v

输出结果如下:

Regular Dict:

A 1

C 3

B 2

Ordered Dict:

A 1

B 2

C 3

注意,OrderedDict的Key会按照插入的顺序排列,不是Key本身排序。

OrderedDict可以实现一个FIFO(先进先出)的dict,当容量超出限制时,先删除最早添加的Key:

from collections import OrderedDict

class LastUpdatedOrderedDict(OrderedDict):

    def __init__(self, capacity):
        super(LastUpdatedOrderedDict, self).__init__()
        self._capacity = capacity

    def __setitem__(self, key, value):
        containsKey = 1 if key in self else 0
        if len(self) - containsKey >= self._capacity:
            last = self.popitem(last=False)
            print 'remove:', last
        if containsKey:
            del self[key]
            print 'set:', (key, value)
        else:
            print 'add:', (key, value)
        OrderedDict.__setitem__(self, key, value)

上面的代码不难理解,可以仔细理解下。


转载于:https://blog.51cto.com/11026142/1851791

  • 作者:weixin_34290000
  • 原文链接:https://blog.csdn.net/weixin_34290000/article/details/91660106
    更新时间:2022-07-11 11:55:19
Copyright © 2022 忙忙碌碌网 

把实用的技术和经验,分享给最需要的读者,希望每一位来访的朋友都能有所收获!