本文目录一览:
- 1、Python中dict为什么比list浪费内存?求大神,感激不尽!!
- 2、python dict字典类型内存占用问题
- 3、python dict 实现原理 2019-04-17
- 4、python的内存问题该这么解决?
Python中dict为什么比list浪费内存?求大神,感激不尽!!
不知道你对c有没有了解,python解释器就是基于c写的,这个两个数据结构应该对应c的哈希表和数组。
因为哈希表需要额外内存记录映射关系,而数组只需要通过索引就能计算出下一个节点的位置,所以哈希表占用的内存比数组大,也就是dict比list占用的内存大些。
不过使用python说明对性能没有极端的要求,具体使用哪个主要还是要看项目的需要。
如果解决了您的问题请采纳!
如果未解决请继续追问
python dict字典类型内存占用问题
应该吧文件切开来读,一次读一部分,read()括号里写读取大小。否则一次性开到内存去,开销灰常大,灰常不合算
python dict 实现原理 2019-04-17
dict对象是Python中一个原始的数据类型,按照键值对的方式存储,中文名为字典,其通过键名查找对应的值有很高的效率,时间复杂度在常数级别O(1)。Python dict的底层是依靠哈希表(Hash Table)进行实现的,使用开放地址法解决冲突。所以其查找的时间复杂度会是O(1),why?
哈希表是key-value类型的数据结构,通过关键码值直接进行访问。通过散列函数进行键和数组的下标映射从而决定该键值应该放在哪个位置,哈希表可以理解为一个键值需要按一定规则存放的数组,而哈希函数就是这个规则。
算法中时间和空间是不能兼得的,哈希表就是一种用合理的时间消耗去减少大量空间消耗的操作,这取决于具体的功能要求。
创建一个数组,数组下标是索引号,数组中的值是要获得的数据,这样只需要O(1)的时间复杂度就可以完成操作,但是扩展性不强,有以下两个方面的考虑:
-1- 新添加的元素超出数组索引范围,这就需要重新申请数组进行迁移操作。
-2- 假设一种极端的情况:只存在两个元素,索引号分别是1和100000000001,按照先前的设计思路,会浪费很大的存储空间。
会不会存在一个方法,为已有的索引创建新的索引,通过压缩位数,让新索引可以和原有的大范围的稀疏索引进行一一对应,新索引所需要的存储空间要大大减小,这就是哈希思想。
上面的例子中哈希函数的设计很随意,但是从这个例子中我们也可以得到信息:
哈希函数就是一个映射,因此哈希函数的设定很灵活,只要使得任何关键字由此所得的哈希函数值都落在表长允许的范围之内即可;
因为新的索引对旧的索引进行了空间上的压缩,所以不可能所有的输入都只对应唯一一个输出,也就是哈希函数式有可能发生冲突的,哈希函数不可能做成一对一的映射关系,其本质是一个多对一的映射。
直接定址法:很容易理解,key=Value+C; 这个“C”是常量。Value+C其实就是一个简单的哈希函数。
除法取余法: 很容易理解, key=value%C;解释同上。
数字分析法:这种蛮有意思,比如有一组value1=112233,value2=112633,value3=119033,针对这样的数我们分析数中间两个数比较波动,其他数不变。那么我们取key的值就可以是key1=22,key2=26,key3=90。
平方取中法。此处忽略,见名识意。
折叠法:这种蛮有意思,比如value=135790,要求key是2位数的散列值。那么我们将value变为13+57+90=160,然后去掉高位“1”,此时key=60,哈哈,这就是他们的哈希关系,这样做的目的就是key与每一位value都相关,来做到“散列地址”尽可能分散的目地。
当两个不同的数据元素的哈希值相同时,就会发生冲突。解决冲突常用的手法有2种:
开放地址法:
如果两个数据元素的哈希值相同,则在哈希表中为后插入的数据元素另外选择一个表项。当程序查找哈希表时,如果没有在第一个对应的哈希表项中找到符合查找要求的数据元素,程序就会继续往后查找,直到找到一个符合查找要求的数据元素,或者遇到一个空的表项。
链接法:
将哈希值相同的数据元素存放在一个链表中,在查找哈希表的过程中,当查找到这个链表时,必须采用线性查找方法。
python的dict采用了哈希表,最低能在 O(1)时间内完成搜索,在发生哈希冲突的时候采用的是开放寻址法。java的HashMap也是采用了哈希表实现,但是在发生哈希冲突的时候采用的是链接法。
python的内存问题该这么解决?
1.没有开gc,或者gc设为debug状态,导致交叉引用没有被回收调
2.如果一个数据在逻辑上不应该存在,但是因为代码上没有做相关清除操作,导致他还存在,也是一种泄漏
举个栗子,例如我要记录最近50天的某个基金的日化收益率,定义一个全局的字典global_dict,运行了一个脚本进行计算,没10分钟算一次,但是我没有进行clear操作,每次的计算只是单纯的赋值dict[date] = rate,按理来说dict["五十天前"]的收益率都是不需要的,就是一种泄漏。
3.这种情况出现在python3.4之前,因为3.4已经修复了,是这样的,如果一个类定义了__del__,并且该类存在循环引用的情况,这时候gc就会把这个类放在gc.garbage当中,不会去做回收,可以说是跳出了分代回收的机制,但是3.4之后的版本就没有这种情况,会把他回收调。