澳门新萄京官方网站-www.8455.com-澳门新萄京赌场网址

澳门新萄京官方网站SortedList的比较应用,高性能

2019-05-19 作者:www.8455.com   |   浏览(104)

Dictionary和hashtable用法有点相似,他们都是基于键值对的数据集合,但实际上他们内部的实现原理有很大的差异,

学习下解析Hashtable、Dictionary、SortedDictionary、SortedList的比较应用。

HashMap概述

Hash,又称散列。哈希表是一种以键-值(key-value) 存储数据的,和数组、链表、二叉树等同样典型的一种数据结构。Java中用HashMap来实现了哈希表这种数据结构。

原文出处:前利

最近写代码,遇到一个问题,微软基于List<T>自带的方法是public bool Remove(T item);,可是有时候我们可能会用到诸如RemoveAll<IEnumerable<T>>的方法,坦白的说,就是传入的参数是一个IEnumerable<T>,而不是一个T,这种情景是随时可能用到的。当然我们会轻易的发现List<T>里本身就封装了一个方法public int RemoveAll(Predicate<T> match),但是后面我们的测试性能上来说,真不敢恭维。被逼无耐,只能想办法封装一个IEnumerable<T>扩展方法。可是此时不要忘了写这篇文章的宗旨,封装的目的,就是‘性能’必须要好!

先简要概述一下他们主要的区别,稍后在分析Dictionary内部实现的大概原理。

下面深入地分析如题的4个字典的原理。

内部实现

前言 - hashCode()和equals(obj)方法
java.lang.Object中的方法定义

/** JNI,调用底层其它语言实现 */  
public native int hashCode();  

/** 默认同==,直接比较对象 */  
public boolean equals(Object obj) {  
    return (this == obj);  
}  

hashCode是Object类中的方法,因此所有Java对象都有hashCode方法。当类的对象用作HashMap这类哈希结构的key值时,它的返回值用来支撑Hash算法的计算。其它时候,hashCode并没有什么作用。所以很多情况下我们都不需要重写hashCode方法,而Object类中将它定义为native方法。

equals也是Object类中的方法,默认情况下equals比较的是两个对象的引用是否相同,如果要将类的对象用作HashMap的key值,我们一般会重写equals方法。Integer, String等基本类型都已经重写了equals方法,所以我们可以很方便的将它们用作hash的key。

  • 底层结构
transient Entry<K,V>[] table;
static class Entry<K,V> implements Map.Entry<K,V> {
        final K key;
        V value;
        Entry<K,V> next;
        int hash;

HashMap底层是以数组 链表 红黑树(jdk1.8增加了红黑树,这里暂时讨论1.7以前版本)来存储K/V数据的。Entry[] 就是一个K/V键值对数组,通常也叫bucket(散列桶)数组,数组中的每一个Entry又是一个链表,next用于存储链表中的下一个条目。

澳门新萄京官方网站 1

HashMap底层结构.png

  • 存储k/v操作 put(key,value)

1、判断key是否是null,如果是,hash值直接置为0,散列位置为bucket数组中第一个位置,index=0。直接到步骤3。
2、如果key不为null,根据key的hashcode值计算hash值(h = hash(k.hashcode)),根据哈希值h找到key被散列到bucket数组中的位置index( index = h&(length-1) )。
3、找到bucket数组对应位置 table[index] 的链表。如果链表为空,那么新建一个entry,k/v/hash值存储于entry中,next指向null,table[index]=entry。 如果链表非空,遍历,判断当前key是否和链表中某个entry的key值equals,如果equals,用value替换掉之前旧的value,然后方法立即返回。如果遍历完没有找到,那么创建一个新的entry,将新的entry置于链头,next指向之前的链头entry。 添加entry之前判断是否需要扩容,如果需要,以2的倍数扩容

澳门新萄京官方网站 2

HashMap put图解.png

观察元素put的过程,我们发现在根据key寻找存储地址时,先比较了key的hashCode,如果hashCode相同,再比较了equals,那么两个key equals的前提是hashCode相等。所以就可以理解我们在初学java时,都熟记的一条原则:重写equals方法,必须重写hashCode方法。equals相等,hashCode一定相同。hashCode相同,不一定equals。

  • 根据k值获取v操作 get(key)

1、判断key是否是null,如果是,hash值直接置为0,散列地址为bucket数组中第一个位置,index=0。找到bucket数组对应位置 table[0] 的链表。如果链表为空,那么返回null;如果不为空,遍历找到key=null的entry,返回entry的value值。
2、如果key不为null,根据key的hashcode值计算hash值(h = hash(k.hashcode)),根据哈希值h找到key被散列到bucket数组中的位置index( index = h&(length-1) )。
3、找到bucket数组对应位置 table[index] 的链表。如果链表为空,那么返回null;如果不为空,遍历entry,判断当前k的hash值等于entry的hash值,且key值和entry的key值equals的entry条目,返回entry的value值。

摘要

下面我们一步一步讲讲我遇到的经历分享给大家。

区别:

我们先看Hashtable

进阶分析

  1. hash碰撞
    [什么是hash碰撞?]
    对不同的key可能得到同一散列地址,即key1≠key2,而hash(key1)=hash(key2),这种现象称碰撞。比如上面的例子中“张三”和“张三的弟弟”两个key在进行hash的时候,得到的hash值都为8,index计算都为0,那么就产生了hash碰撞。

[为什么会有hash碰撞?]
产生上述hash碰撞的原因是由于我们的hashCode方法实现不合理,两个同姓不同名的person,我们在定义Person类的时候不能简单地用“姓氏”一个属性来计算hashCode,应该综合姓氏、姓名、年龄等所有属性计算hashCode。通常我们在Eclipse等IDE自动生成hashCode方法时,编译器会默认帮我们生成合理的hashCode算法就是这个道理。

[hash碰撞会带来什么问题?]
我们知道,数组的优势是随机存取速度快,链表的优势是插入删除速度快。假设所有存入HashMap的entry的key都不会产生hash碰撞,那么所有bucketIndex位置就只会存储一个entry,整个hash表就类似是一个entry数组,存取速度会非常快。反之,如果key的hash碰撞概率非常高的话,那么有可能产生某个bucketIndex位置存储的entry非常之多,链表非常长。极端情况下就是整个entry数组,只有某个index位置有数据存储,整个hash表几乎就变成了一个链表,那么这个hash表的存取速度会非常慢。

[如何避免hash碰撞?]
hash值是根据对象的hashCode计算而来的,如果我们的hashCode算法比较优秀,可以保证重复率低,那么hash碰撞的概率就会降低。但是想做到完全避免,是非常困难的。而且,就算hashCode计算结果不一样,在计算bucketIndex的时候,也可能得到相同的结果。比如,“张三”的hashCode=8,“张三的弟弟”的hashCode=16,bucket数组长度为8,那么 index = h & (length-1),二者得到的结果都是0,仍然会发生碰撞。
那么可能大家会有这样的想法,我们把bucket数组长度调大,翻倍变成16,二者index计算的结果就不会相同了,就没有碰撞了。但是,我们很难合理设计数组的长度,如果设计很长固然可以一定程度上减少hash碰撞,提高存取效率,但是同时也牺牲了内存空间,所以在考虑平衡空间和时间的情况下,我们只能在初始情况下定义一个较小的数组长度,当发现哈希表中存储的数据较多,达到一定阈值时,再对数组长度进行扩容。

  1. resize扩容
    [什么是扩容?如何扩容?]
    hashmap的初始容量为16,即table数组的长度为16。默认加载因子为0.75,即阈值为16*0.75=12。当hash表中存储的entry数量达到12时,hashmap会进行扩容。扩容就是table数组长度翻倍变成32,当达到下一次阈值时,继续扩容长度达到64,依此类推,hashmap每次扩容后容量大小都是2的指数。

[为什么要扩容?]
前面提到,如果数组长度比较小,就会很容易产生hash碰撞,导致entry以链表的形式集中存储在某一个或多个bucketIndex上,降低存取效率。所以为了尽量保证hashmap的存取效率,需要在适当的时候进行扩容。

[扩容会带来什么问题?]
扩容后,会创建一个新的entry数组,将旧的entry数组数据拷贝到新的数组中。并且,这个拷贝不是简单的范围拷贝。扩容后,因为hash的算法和数组length相关联,最后一步是 h & (length - 1),当length发生变化时,entry的bucketIndex可能发生改变。即以前同时存储在index=0位置上的“张三”和“张三的弟弟”可能需要分散到index=0,index=8的2个不同位置上。所以,扩容会带来rehash,整个hash表中的entry的存储位置需要重新计算,这个操作是很影响效率的。

[如何避免rehash?]
为了减少初始时内存空间的占用,我们只能定义容量较小的hash表。所以rehash肯定会产生,除非我们在创建hashmap之前,提前预知存储entry所需要的容量,然后根据可传入capacity的构造方法构造一个hashmap。

HashMap是Java程序员使用频率最高的用于映射(键值对)处理的数据类型。随着JDK(Java Developmet Kit)版本的更新,JDK1.8对HashMap底层的实现进行了优化,例如引入红黑树的数据结构和扩容的优化等。本文结合JDK1.7和JDK1.8的区别,深入探讨HashMap的结构实现和功能原理。

假设如下的数据:

  1. Dictionary支持泛型,而Hashtable不支持。
  2. Dictionary没有装填因子(Load Facto)概念,当容量不够时才扩容(扩容跟Hashtable一样,也是两倍于当前容量最小素数,比如当前数组长度是3,那么新数组长度为7(2x3=6,比6大的最小素数是7),Hashtable是“已装载元素”与”bucket数组长度“大于装载因子时扩容。
  3. Dictionary内部的存储value的数组按先后插入的顺序排序,Hashtable不是。
  4. 当不发生碰撞时,查找Dictionary需要进行两次索引定位,Hashtable需一次,。

    Dictionary采用除法散列法来计算存储地址,想详细了解的可以百度一下,简单来说就是其内部有两个数组:buckets数组和entries数组(entries是一个Entry结构数组),entries有一个next用来模拟链表,该字段存储一个int值,指向下一个存储地址(实际就是bukets数组的索引),当没有发生碰撞时,该字段为-1,发生了碰撞则存储一个int值,该值指向bukets数组.

MSDN的解释:表示键/值对的集合,这些键/值对根据键的哈希代码进行组织。

多线程下的使用

HashMap是非线程安全的,在多线程环境下,我们可以使用concurrent包下的ConcurrentHashMap。(Hashtable虽然可以替代HashMap,并且是线程安全的,但是是通过在方法上加synchrionize实现,效率没有ConcurrentHashMap的分段锁高)

简介

1.Source IEnumerable Items:A  B  C  D  A  E  F  G  H

内部实现

下面跟上次一样,按正常使用Dictionary时,看内部是如何实现的。

  1. 实例化一个Dictionary
Dictionary<string,string> dic=new Dictionary<string,string>();
  • 调用Dictionary默认无参构造函数。
  • 初始化Dictionary内部数组容器:buckets int[]和entries<T,V>[],分别分配长度3。(内部有一个素数数组:3,7,11,17....如图:);
  1. 向dic添加一个值,dic.add("a","abc");
  • a, 将bucket数组和entries数组扩容3个长度。
  • b, 计算"a"的哈希值,
  • c, 然后与bucket数组长度(3)进行取模计算,假如结果为:2
  • d, 因为a是第一次写入,则自动将a的值赋值到entriys[0]的key,同理将"abc"赋值给entriys[0].value,将上面b步骤的哈希值赋值给entriys[0].hashCode,
    entriys[0].next赋值为-1,hashCode赋值b步骤计算出来的哈希值。
  • e, 在bucket[2]存储0。
  1. 通过key获取对应的value, var v=dic["a"];
  • a, 先计算"a"的哈希值,假如结果为2,
  • b,根据上一步骤结果,找到buckets数组索引为2上的值,假如该值为0.
  • c, 找到到entriys数组上索引为0的key,
    • 如果该key值和输入的的“a”字符相同,则对应的value值就是需要查找的值。
    • 如果该key值和输入的"a"字符不相同,说明发生了碰撞,这时获取对应的next值,根据next值定位buckets数组(buckets[next]),然后获取对应buckets上存储的值在定位到entriys数组上,......,一直到找到为止。
    • 如果该key值和输入的"a"字符不相同并且对应的next值为-1,则说明Dictionary不包含字符“a”。

Dictionary里的其他方法就不说了,各位可以自己去看源码,下面来通过实验来对比Hashtable和Dictionary的添加和查找性能,

Hash算法是把任意长度的输入(又叫做预映射, pre-image),通过散列算法,变换成固定长度的输出,该输出就是散列值。这种转换是一种压缩映射,也就是,散列值的空间通常远小于输入的空间,不 同的输入可能会散列成相同的输出,而不可能从散列值来唯一的确定输入值。

总结

  1. HashMap底层是以数组 链表的结构存储键值对。
  2. 当某一个类的对象想用作HashMap的key值时,需要重写hashCode和equals方法。hashCode的实现要降低重复概率,推荐使用IDE默认的hashCode实现。
  3. HashMap在给key寻找存储位置时,先比较hashCode,再比较equals。
  4. HashMap扩容导致rehash会造成性能问题,大批量数据存储应尽量在构造hashmap之前设置好容量,避免递增式的rehash。
  5. HashMap非线程安全,多线程下推荐使用ConcurrentHashMap。

Java为数据结构中的映射定义了一个接口java.util.Map,此接口主要有四个常用的实现类,分别是HashMap、Hashtable、LinkedHashMap和TreeMap,类继承关系如下图所示:

2.Remove IEnumerable Items:A  B  C  D  A  E

Hashtable 对象由包含集合元素的存储桶组成。存储桶是 Hashtable 中各元素的虚拟子组,与大多数集合中进行的搜索和检索相比,存储桶 可令搜索和检索更为便捷。每一存储桶都与一个哈希代码关联,该哈希代码是使用哈希函数生成的并基于该元素的键。

下面针对各个实现类的特点做一些说明:

3.Result IEnumerable Items:F  G  H

Hashtable 类默认的装填因子是 1.0,但实际上它默认的装填因子是 0.72。所有从构造函数输入的装填因子,Hashtable 类内部都会将其乘以0.72。这是一个要求苛刻的数字, 某些时刻将装填因子增减 0.01, 可能你的 Hashtable 存取效率就提高或降低了 50%,其原因是装填因子决定散列表容量,而散列表容量又影响 Key 的冲突几率,进而影响性能。0.72 是 Microsoft经过大量实验得出的一个比较平衡的值。

(1) HashMap:它根据键的hashCode值存储数据,大多数情况下可以直接定位到它的值,因而具有很快的访问速度,但遍历顺序却是不确定的。 HashMap最多只允许一条记录的键为null,允许多条记录的值为null。HashMap非线程安全,即任一时刻可以有多个线程同时写HashMap,可能会导致数据的不一致。如果需要满足线程安全,可以用 Collections的synchronizedMap方法使HashMap具有线程安全的能力,或者使用ConcurrentHashMap。

第1行是原有的IEnumerable数据

我们看Hashtable的一些源码:

(2) Hashtable:Hashtable是遗留类,很多映射的常用功能与HashMap类似,不同的是它承自Dictionary类,并且是线程安全的,任一时间只有一个线程能写Hashtable,并发性不如ConcurrentHashMap,因为ConcurrentHashMap引入了分段锁。Hashtable不建议在新代码中使用,不需要线程安全的场合可以用HashMap替换,需要线程安全的场合可以用ConcurrentHashMap替换。

第2行是要删除(remove)的数据

澳门新萄京官方网站 3 Hashtable .ctor []

(3) LinkedHashMap:LinkedHashMap是HashMap的一个子类,保存了记录的插入顺序,在用Iterator遍历LinkedHashMap时,先得到的记录肯定是先插入的,也可以在构造时带参数,按照访问次序排序。

第3行是最终删除结果的数据

public Hashtable() : this(0, (float) 1f)
{
}
public Hashtable(int capacity, float loadFactor)
{
if (capacity <0)
{
thrownew ArgumentOutOfRangeException("capacity", Environment.GetResourceString("ArgumentOutOfRange_NeedNonNegNum"));
}
if ((loadFactor <0.1f) || (loadFactor > 1f))
{
thrownew ArgumentOutOfRangeException("loadFactor", Environment.GetResourceString("ArgumentOutOfRange_HashtableLoadFactor", newobject[] { 0.1, 1.0 }));
}
this.loadFactor =0.72f* loadFactor;
double num = ((float) capacity) /this.loadFactor;
if (num >2147483647.0)
{
thrownew ArgumentException(Environment.GetResourceString("Arg_HTCapacityOverflow"));
}
int num2 = (num >11.0) ? HashHelpers.GetPrime((int) num) : 11;
this.buckets =new bucket[num2];
this.loadsize = (int) (this.loadFactor * num2);
this.isWriterInProgress =false;
}

(4) TreeMap:TreeMap实现SortedMap接口,能够把它保存的记录根据键排序,默认是按键值的升序排序,也可以指定排序的比较器,当用Iterator遍历TreeMap时,得到的记录是排过序的。如果使用排序的映射,建议使用TreeMap。在使用TreeMap时,key必须实现Comparable接口或者在构造TreeMap传入自定义的Comparator,否则会在运行时抛出java.lang.ClassCastException类型的异常。

从上面数据,我们分析下如何高效的得到第3行数据呢?记得,一定要‘高效’,失去高效的方法,我认为不是本节讨论的内容,因为没有任何意义,当然,高效是相对的,不是说,今天讲的方法是最高效的,起码很高效,恩~ 请不要骂我,确实是费话!

Hashtable 扩容是个耗时非常惊人的内部操作,它之所以写入效率仅为读取效率的 1/10 数量级,频繁的扩容是一个因素。当进行扩容时,散列表内部要重新 new 一个更大的数组,然后把原来数组的内容拷贝到新数组,并进行重新散列。如何 new这个更大的数组也有讲究。散列表的初始容量一般来讲是个素数。当扩容时,新数组的大小会设置成原数组双倍大小的相近的一个素数。

对于上述四种Map类型的类,要求映射中的key是不可变对象。不可变对象是该对象在创建后它的哈希值不会被改变。如果对象的哈希值发生变化,Map对象很可能就定位不到映射的位置了。

 

 

通过上面的比较,我们知道了HashMap是Java的Map家族中一个普通成员,鉴于它可以满足大多数场景的使用条件,所以是使用频度最高的一个。下文我们主要结合源码,从存储结构、常用方法分析、扩容以及安全性等方面深入讲解HashMap的工作原理。

没错,很多程序员想必和我一样,大多数会这样做

澳门新萄京官方网站 4 Hashtable expand []

内部实现

澳门新萄京官方网站 5澳门新萄京官方网站 6

privatevoid expand()
{
int prime = HashHelpers.GetPrime(this.buckets.Length *2);
this.rehash(prime);
}
privatevoid rehash(int newsize)
{
this.occupancy =0;
Hashtable.bucket[] newBuckets =new Hashtable.bucket[newsize];
for (int i =0; i <this.buckets.Length; i )
{
Hashtable.bucket bucket =this.buckets[i];
if ((bucket.key !=null) && (bucket.key !=this.buckets))
{
this.putEntry(newBuckets, bucket.key, bucket.val, bucket.hash_coll &0x7fffffff);
}
}
Thread.BeginCriticalRegion();
this.isWriterInProgress =true;
this.buckets = newBuckets;
this.loadsize = (int) (this.loadFactor * newsize);
this.UpdateVersion();
this.isWriterInProgress =false;
Thread.EndCriticalRegion();
}

搞清楚HashMap,首先需要知道HashMap是什么,即它的存储结构-字段;其次弄明白它能干什么,即它的功能实现-方法。下面我们针对这两个方面详细展开讲解。

 for (int index = 0; index < source.Count; index  )
            {
                var item = source.ElementAt(i);
                if (remove.Contains(item))
                {
                    source.Remove(item);
                }
            }

HashTable数据结构存在问题:空间利用率偏低、受填充因子影响大、扩容时所有的数据需要重新进行散列计算。虽然Hash具有O(1)的数据检索效率,但它空间开销却通常很大,是以空间换取时间。所以Hashtable适用于读取操作频繁,写入操作很少的操作类型。

存储结构-字段

View Code

Dictionary<K, V> 也是用的Hash算法,通过数组实现多条链式结构。不过它是采用分离链接散列法。采用分离链接散列法不受到装填因子的影响,扩容时原有数据不需要重新进行散列计算。

从结构实现来讲,HashMap是数组 链表 红黑树(JDK1.8增加了红黑树部分)实现的,如下如所示。

好吧,这样做,目的是达到了,但是,接下来的测试,让人纠心。

采用分离链接法的 Dictionary<TKey, TValue> 会在内部维护一个链表数组。对于这个链表数组 L0,L1,...,LM-1, 散列函数将告诉我们应当把元素 X 插入到链表的什么位置。然后在 find 操作时告诉我们哪一个表中包含了 X。 这种方法的思想在于:尽管搜索一个链表是线性操作,但如果表足够小,搜索非常快(事实也的确如此,同时这也是查找,插入,删除等操作并非总是 O(1) 的原因)。特别是,它不受装填因子的限制。
这种情况下,常见的装填因子是 1.0。更低的装填因子并不能明显的提高性能,但却需要更多的额外空间。

这里需要讲明白两个问题:数据底层具体存储的是什么?�这样的存储方式有什么�优点呢?

我们来摸拟下数据

澳门新萄京官方网站 7 Dictionary .ctor []

(1) 从源码可知,HashMap类中有一个非常重要的字段,就是 Node[] table,即哈希桶数组,明显它是一个Node的数组。我们来看Node[JDK1.8]是何物。

新建一个Source IEnumerable 随机产生10万条数据 和Remove IEnumerable 随机产生1万条数据

public Dictionary() : this(0, null)
{
}
public Dictionary(int capacity, IEqualityComparer<TKey> comparer)
{
if (capacity <0)
{
ThrowHelper.ThrowArgumentOutOfRangeException(ExceptionArgument.capacity);
}
if (capacity >0)
{
this.Initialize(capacity);
}
if (comparer ==null)
{
comparer = EqualityComparer<TKey>.Default;
}
this.comparer = comparer;
}
privatevoid Resize()
{
int prime = HashHelpers.GetPrime(this.count *2);
int[] numArray =newint[prime];
for (int i =0; i < numArray.Length; i )
{
numArray[i] =-1;
}
Entry<TKey, TValue>[] destinationArray =new Entry<TKey, TValue>[prime];
Array.Copy(this.entries, 0, destinationArray, 0, this.count);
for (int j =0; j <this.count; j )
{
int index = destinationArray[j].hashCode % prime;
destinationArray[j].next = numArray[index];
numArray[index] = j;
}
this.buckets = numArray;
this.entries = destinationArray;
}

static class Node implements Map.Entry {

澳门新萄京官方网站 8澳门新萄京官方网站 9

Dictionary的插入算法:1、计算key的hash值,并且找到buckets中目标桶的链首索引,2、从链上依次查找是否key已经保存,3、如果没有的话,判断是否存在freeList,4、如果存在freeList,从freeList上摘下结点保存数据,否则追加在count位置上。

final int hash;    //用来定位数组索引位置

  List<string> source = new List<string>();
            List<string> remove = new List<string>();

            int i = 0;
            Random rad = new Random();

            while (i < 100000)
            {
                source.Add(rad.Next(Int32.MaxValue).ToString());
                i  ;
            }

            i = 0;

            while (i < 10000)
            {
                remove.Add(rad.Next(Int32.MaxValue).ToString());
                i  ;
            }

            DateTime now = DateTime.Now;
            for (int index = 0; index < source.Count; index  )
            {
                var item = source.ElementAt(i);
                if (remove.Contains(item))
                {
                    source.Remove(item);
                }
            }

            Console.WriteLine("Remove Running time:"   (DateTime.Now - now).TotalSeconds);
            Console.ReadKey();

 

final K key;

View Code

澳门新萄京官方网站 10 Dictionary Add []

V value;

上述代码消耗的时间是 Remove Running time:16.6678431s

privatevoid Insert(TKey key, TValue value, bool add)
{
int freeList;
if (key ==null)
{
ThrowHelper.ThrowArgumentNullException(ExceptionArgument.key);
}
if (this.buckets ==null)
{
this.Initialize(0);
}
int num =this.comparer.GetHashCode(key) &0x7fffffff;
int index = num %this.buckets.Length;
for (int i =this.buckets[index]; i >=0; i =this.entries[i].next)
{
if ((this.entries[i].hashCode == num) &&this.comparer.Equals(this.entries[i].key, key))
{
if (add)
{
ThrowHelper.ThrowArgumentException(ExceptionResource.Argument_AddingDuplicate);
}
this.entries[i].value = value;
this.version ;
return;
}
}
if (this.freeCount >0)
{
freeList =this.freeList;
this.freeList =this.entries[freeList].next;
this.freeCount--;
}
else
{
if (this.count ==this.entries.Length)
{
this.Resize();
index = num %this.buckets.Length;
}
freeList =this.count;
this.count ;
}
this.entries[freeList].hashCode = num;
this.entries[freeList].next =this.buckets[index];
this.entries[freeList].key = key;
this.entries[freeList].value = value;
this.buckets[index] = freeList;
this.version ;
}

Node next;  //链表的下一个node

所以遇到这种情况,测试结果表明,消耗的时候太长,我们根本等不起,何况放在程序里就是一个炸弹。

buckets数组保存所有数据链的链首,Buckets[i]表示在桶i中数据链的链首元素。entries结构体数组用于保存实际的数据,通过next值作为链式结构的向后索引。删除的数据空间会被串入到freeList链表的首部,当再次插入数据时,会首先查找freeList链表,以提高查找entries中空闲数据项位置的效率。在枚举器中,枚举顺序为entries数组的下标递增顺序。

Node(int hash, K key, V value, Node next) { ... }

当然,我们摸拟的数据可能太过于庞大,但不得不承一个从客观事实,这个方法效率不是太好!

澳门新萄京官方网站 11 Dictionary Remove []

public final K getKey(){ ... }

 

publicbool Remove(TKey key)
{
if (key ==null)
{
ThrowHelper.ThrowArgumentNullException(ExceptionArgument.key);
}
if (this.buckets !=null)
{
int num =this.comparer.GetHashCode(key) &0x7fffffff;
int index = num %this.buckets.Length;
int num3 =-1;
for (int i =this.buckets[index]; i >=0; i =this.entries[i].next)
{
if ((this.entries[i].hashCode == num) &&this.comparer.Equals(this.entries[i].key, key))
{
if (num3 <0)
{
this.buckets[index] =this.entries[i].next;
}
else
{
this.entries[num3].next =this.entries[i].next;
}
this.entries[i].hashCode =-1;
this.entries[i].next =this.freeList;
this.entries[澳门新萄京官方网站SortedList的比较应用,高性能篇。i].key =default(TKey);
this.entries[i].value =default(TValue);
this.freeList = i;
this.freeCount ;
this.version ;
returntrue;
}
num3 = i;
}
}
returnfalse;
}

public final V getValue() { ... }

上面我们讨论过 IEnumerable<T>.RemoveAll<IEnumerable<T>>(IEnumerable<T> Items)方法

 

public final String toString() { ... }

费话不多说,直接上来测试下,看看如何。

 

public final int hashCode() { ... }

代码如下:很简单,仅需一行:

 而SortedDictionary,MSDN是这样描述的:

public final V setValue(V newValue) { ... }

澳门新萄京官方网站 12澳门新萄京官方网站 13

SortedDictionary<(Of <(TKey, TValue>)>) 泛型类是检索运算复杂度为 O(log n) 的二叉搜索树,其中 n 是字典中的元素数。就这一点而言,它与 SortedList<(Of <(TKey, TValue>)>)  泛型类相似。这两个类具有相似的对象模型,并且都具有 O(log n) 的检索运算复杂度。这两个类的区别在于内存的使用以及插入和移除元素的速度:

public final boolean equals(Object o) { ... }

 List<string> source = new List<string>();
            List<string> remove = new List<string>();

            int i = 0;
            Random rad = new Random();

            while (i < 100000)
            {
                source.Add(rad.Next(Int32.MaxValue).ToString());
                i  ;
            }

            i = 0;

            while (i < 10000)
            {
                remove.Add(rad.Next(Int32.MaxValue).ToString());
                i  ;
            }

            DateTime now = DateTime.Now;
            source.RemoveAll(m => remove.Contains(m));
            Console.WriteLine("RemoveAll Running time:"   (DateTime.Now - now).TotalSeconds);
  1. SortedList<(Of <(TKey, TValue>)>)  使用的内存比 SortedDictionary<(Of <(TKey, TValue>)>) 少。
  2. SortedDictionary<(Of <(TKey, TValue>)>) 可对未排序的数据执行更快的插入和移除操作:它的时间复杂度为 O(log n),而 SortedList<(Of <(TKey, TValue>)>) 为 O(n)。
  3. 如果使用排序数据一次性填充列表,则 SortedList<(Of <(TKey, TValue>)>) 比 SortedDictionary<(Of <(TKey, TValue>)>) 快。

}

View Code

SortedDictionary<K, V>是按照K有序排列的(K, V)数据结构,以红黑树作为内部数据结构对K进行排列保存– TreeSet<T>,红黑树是一棵二叉搜索树,每个结点具有黑色或者红色的属性。它比普通的二叉搜索树拥有更好的平衡性。2-3-4树是红黑树在“理论”上的数据结构。

Node是HashMap的一个内部类,实现了Map.Entry接口,本质是就是一个映射(键值对)。上图中的每个黑色圆点就是一个Node对象。

 

2-3-4树插入算法:类似于二叉搜索树的插入(插入数据插入到树的叶子结点) ,如果插入位置是2-结点或者3-结点,那么直接插入到当前结点,如果插入位置是4-结点,需要将当前的4-结点进行拆分,然后再执行后继的插入操作。

(2) HashMap就是使用哈希表来存储的。哈希表为解决冲突,可以采用开放地址法和链地址法等来解决问题,Java中HashMap采用了链地址法。链地址法,简单来说,就是数组加链表的结合。在每个数组元素上都一个链表结构,当数据被Hash后,得到数组下标,把数据放在对应下标元素的链表上。例如程序执行下面代码:

测试结果所消耗时间是 RemoveAll Running time:16.1175443s

澳门新萄京官方网站 14 SortedDictionary Add []

map.put("美团","小美");

和第一种方法对比,消耗的时间并没有太大提高,几乎一致,唉,真是让人失望。

publicvoid Add(T item)
{
if (this.root ==null)
{
this.root =new Node<T>(item, false);
this.count =1;
}
else
{
Node<T> root =this.root;
Node<T> node =null;
Node<T> grandParent =null;
Node<T> greatGrandParent =null;
int num =0;
while (root !=null)
{
num =this.comparer.Compare(item, root.Item);
if (num ==0)
{
this.root.IsRed =false;
ThrowHelper.ThrowArgumentException(ExceptionResource.Argument_AddingDuplicate);
}
if (TreeSet<T>.Is4Node(root))
{
TreeSet<T>.Split4Node(root);
if (TreeSet<T>.IsRed(node))
{
this.InsertionBalance(root, ref node, grandParent, greatGrandParent);
}
}
greatGrandParent = grandParent;
grandParent = node;
node = root;
root = (num <0) ? root.Left : root.Right;
}
Node<T> current =new Node<T>(item);
if (num >0)
{
node.Right = current;
}
else
{
node.Left = current;
}
if (node.IsRed)
{
this.InsertionBalance(current, ref node, grandParent, greatGrandParent);
}
this.root.IsRed =false;
this.count ;
this.version ;
}
}

系统将调用"美团"这个key的hashCode()方法得到其hashCode 值(该方法适用于每个Java对象),然后再通过Hash算法的后两步运算(高位运算和取模运算,下文有介绍)来定位该键值对的存储位置,有时两个key会定位到相同的位置,表示发生了Hash碰撞。当然Hash算法计算结果越分散均匀,Hash碰撞的概率就越小,map的存取效率就会越高。

这个时候,我们来看看linq to object 看看。

 

如果哈希桶数组很大,即使较差的Hash算法也会比较分散,如果哈希桶数组数组很小,即使好的Hash算法也会出现较多碰撞,所以就需要在空间成本和时间成本之间权衡,其实就是在根据实际情况确定哈希桶数组的大小,并在此基础上设计好的hash算法减少Hash碰撞。那么通过什么方式来控制map使得Hash碰撞的概率又小,哈希桶数组(Node[] table)占用空间又少呢?答案就是好的Hash算法和扩容机制。

澳门新萄京官方网站 15澳门新萄京官方网站 16

 

在理解Hash和扩容流程之前,我们得先了解下HashMap的几个字段。从HashMap的默认构造函数源码可知,构造函数就是对下面几个字段进行初始化,源码如下:

 DateTime now = DateTime.Now;

            /**注册这里ToList()主要是让查询真正的执行,不然,只是生成语句
            var r = (from item in source
                     where !remove.Contains(item)
                     select item).ToList();
            **/
            var r = source.Where(item => !remove.Contains(item)).ToList();

            Console.WriteLine("RemoveAll Running time:"   (DateTime.Now - now).TotalSeconds);
            Console.ReadKey();

我们来测试一下Hashtable、Dictionary和SortedDictionary的插入和查找性能。

int threshold;            // 所能容纳的key-value对极限

View Code

澳门新萄京官方网站 17 性能测试代码 []

final float loadFactor;    // 负载因子

测试结果所消耗时间是 RemoveAll Running time:16.1112403s

using System;
using System.Collections;
using System.Collections.Generic;
using System.Diagnostics;
using System.Linq;

int modCount;

其实我们仔细的分析下代码 m => remove.Contains(m) 本来还是一种遍历,外层又一层遍历。再回来过看看Linq To Object 实际上也是变相的双层遍历

 namespace DictionaryTest

int size;

从时间消耗来说,三种方法时间消耗几乎一致 O(M*N);

{
class Program
{
privatestaticint totalCount =10000;staticvoid Main(string[] args)

HashtableTest(); 
DictionaryTest(); 
SortedDictionaryTest(); 
Console.ReadKey();
}

首先,Node[] table的初始化长度length(默认值是16),Load factor为负载因子(默认值是0.75),threshold是HashMap所能容纳的最大数据量的Node(键值对)个数。threshold = length * Load factor。也就是说,在数组定义好长度之后,负载因子越大,所能容纳的键值对个数越多。

到此为至,我们并没有找到真正的高效的方法。‘办法’嘛,总是想靠人想的,不能说,就这样算了吧?

 

结合负载因子的定义公式可知,threshold就是在此Load factor和length(数组长度)对应下允许的最大元素数目,超过这个数目就重新resize(扩容),扩容后的HashMap容量是之前容量的两倍。默认的负载因子0.75是对空间和时间效率的一个平衡选择,建议大家不要修改,除非在时间和空间比较特殊的情况下,如果内存空间很多而又对时间效率要求很高,可以降低负载因子Load factor的值;相反,如果内存空间紧张而对时间效率要求不高,可以增加负载因子loadFactor的值,这个值可以大于1。

仔仔想想,List<T> 在遍历上,是很慢的,而采用诸如字典Dictionary<T> 查找某个键(Key)值(Value),性能是非常高效的,因为它是基于'索引'(下面会详细的说明)的,理论上讲在时间消耗是O(1)。即然这样,我们回过头来再看看我们的例子

 

size这个字段其实很好理解,就是HashMap中实际存在的键值对数量。注意和table的长度length、容纳最大键值对数量threshold的区别。而modCount字段主要用来记录HashMap内部结构发生变化的次数,主要用于迭代的快速失败。强调一点,内部结构发生变化指的是结构发生变化,例如put新键值对,但是某个key对应的value值被覆盖不属于结构变化。

 

privatestaticvoid HashtableTest()
{
Hashtable hastable =new Hashtable();
Stopwatch watch =new Stopwatch();
watch.Start();
for (int i =1; i < totalCount; i )
{
hastable.Add(i, 0);
}
watch.Stop();
Console.WriteLine(string.Format("Hashtable添加{0}个元素耗时:{1}ms",totalCount, watch.ElapsedMilliseconds));
Console.WriteLine("Hashtable不做查找测试");
hastable.Clear();
}

在HashMap中,哈希桶数组table的长度length大小必须为2的n次方(一定是合数),这是一种非常规的设计,常规的设计是把桶的大小设计为素数。相对来说素数导致冲突的概率要小于合数,具体证明可以参考http://blog.csdn.net/liuqiyao_01/article/details/14475159,Hashtable初始化桶大小为11,就是桶大小设计为素数的应用(Hashtable扩容后不能保证还是素数)。HashMap采用这种非常规设计,主要是为了在取模和扩容时做优化,同时为了减少冲突,HashMap定位哈希桶索引位置时,也加入了高位参与运算的过程。

 

 

这里存在一个问题,即使负载因子和Hash算法设计的再合理,也免不了会出现拉链过长的情况,一旦出现拉链过长,则会严重影响HashMap的性能。于是,在JDK1.8版本中,对数据结构做了进一步的优化,引入了红黑树。而当链表长度太长(默认超过8)时,链表就转换为红黑树,利用红黑树快速增删改查的特点提高HashMap的性能,其中会用到红黑树的插入、删除、查找等算法。本文不再对红黑树展开讨论,想了解更多红黑树数据结构的工作原理可以参考http://blog.csdn.net/v_july_v/article/details/6105630。

1.Source IEnumerable Items:A  B  C  D  A  E  F  G  H

 

功能实现-方法

2.Remove IEnumerable Items:A  B  C  D  A  E

privatestaticvoid DictionaryTest()
{
Dictionary<int, int> dictionary =new Dictionary<int, int>();
Stopwatch watch =new Stopwatch();
watch.Start();
for (int i =1; i < totalCount; i )
{
dictionary.Add(i, 0);
}
watch.Stop();
Console.WriteLine(string.Format("Dictionary添加{0}个元素耗时:{1}ms",totalCount, watch.ElapsedMilliseconds));
watch.Reset();
watch.Start();
dictionary.Select(o => o.Key 00==0).ToList().ForEach(o => { });
watch.Stop();
Console.WriteLine(string.Format("Dictionary查找能被1000整除的元素耗时:{0}ms", watch.ElapsedMilliseconds));
dictionary.Clear();
}

HashMap的内部功能实现很多,本文主要从根据key获取哈希桶数组索引位置、put方法的详细执行、扩容过程三个具有代表性的点深入展开讲解。

3.Result IEnumerable Items:F  G  H

 

  1. 确定哈希桶数组索引位置

众所周知,字典Key 是唯一的,如果我们把Remove IEnumverable Items 放入字典Dictionary<Remove Items>里,用一个Foreach遍历所用项,在时间上理论上应该是O(N),然后再对Source IEnumberable Items遍历对比Dictionary<Remove Items>IEnumverable Items ,如果两者是相同的项那么continue for遍历,否则,把遍历到的Source IEnumberable Items 项存入一个数组里,那么这个数组里,即是我们需要的Result IEnumberable items结果项了。这个方式有点像‘装脑袋’。哈哈~,不要高兴的太早,由于Remove IEnumverable Items 是允许有重复的项,那么放在字典里,不是有点扯了吗?不用怕,看来,我们直接玩字典得换个方式,把字典的Key放入 Remove Item,把Value存入一个计数器值作为标计,以此如果存在多项重复的重置value=1,不重复出现的项直接赋值1。仔仔想想,方法可行。

 

不管增加、删除、查找键值对,定位到哈希桶数组的位置都是很关键的第一步。前面说过HashMap的数据结构是数组和链表的结合,所以我们当然希望这个HashMap里面的元素位置尽量分布均匀些,尽量使得每个位置上的元素数量只有一个,那么当我们用hash算法求得这个位置的时候,马上就可以知道对应位置的元素就是我们要的,不用遍历链表,大大优化了查询的效率。HashMap定位数组索引位置,直接决定了hash方法的离散性能。先看看源码的实现(方法一 方法二):

澳门新萄京官方网站 18

privatestaticvoid SortedDictionaryTest()
{
SortedDictionary<int, int> dictionary =new SortedDictionary<int, int>();
Stopwatch watch =new Stopwatch();
watch.Start();
for (int i =1; i < totalCount; i )
{
dictionary.Add(i, 0);
}
watch.Stop();
Console.WriteLine(string.Format("SortedDictionary添加{0}个元素耗时:{1}ms",totalCount, watch.ElapsedMilliseconds));
watch.Reset();
watch.Start();
dictionary.Select(o => o.Key 00==0).ToList().ForEach(o => { });
watch.Stop();
Console.WriteLine(string.Format("SortedDictionary查找能被1000整除的元素耗时:{0}ms", watch.ElapsedMilliseconds));
dictionary.Clear();
}
}
}

方法一:

上面是一个示意图,A B C D E 作为Key 其中Value值匀为1。

最终结果如图:

static final int hash(Object key) {  //jdk1.8 & jdk1.7

我们看到,A重复了两次,那么在字典里value 标计匀重置为1,B出现了一次,标计为1,这样做不是多此一举吗?

 澳门新萄京官方网站 19

int h;

要知道字典是通过Key寻找键值的,速度远远超过foreach 遍历List强的多。

 

// h = key.hashCode() 为第一步 取hashCode值

好了,我们按照上面的思路写出方法:

另外一些介绍以及连接:

// h ^ (h >>> 16)  为第二步 高位参与运算

  public static IEnumerable<T> RemoveAll<T>(this IEnumerable<T> source, IEnumerable<T> items)
        {
            var removingItemsDictionary = new Dictionary<T, int>();
            var _count = source.Count();
            T[] _items = new T[_count];
            int j = 0;
            foreach (var item in items)
            {
                if (!removingItemsDictionary.ContainsKey(item))
                {
                    removingItemsDictionary[item] = 1;
                }
            }
            for (var i = 0; i < _count; i  )
            {
                var current = source.ElementAt(i);
                if (!removingItemsDictionary.ContainsKey(current))
                {
                    _items[j  ] = current;
                }
            }
            return _items;
        }

return (key == null) ? 0 : (h = key.hashCode()) ^ (h >>> 16);

方法很简单吧,其实我们主要想利用字典的Key 快速匹配,至于值就没那么重要了。

}

字典的索引时间上是O(1),遍历source时间是O(M) 总计时间理论上应该上O(M N)而不是O(M*N)。

方法二:

上面的代码,我们为了让调用方便,故去扩展IEnumerable<T>,下面我们来测试下看看时间有没有提高多少?

static int indexFor(int h, int length) {  //jdk1.7的源码,jdk1.8没有这个方法,但是实现原理一样的

     IEnumerable<string> dd = source.RemoveAll(remove);

return h & (length-1);  //第三步 取模运算

这次,哈哈,既然仅仅只用了0.016001...s,上面几个例子用了16s 相差太大了,足足提高了1000倍之多,果然采用字典方式,性能上来了,这样的代码,放在项目才具有实际意义!

}

其实仔细分析上面代码还是有问题的

这里的Hash算法本质上就是三步:取key的hashCode值、高位运算、取模运算

T[] _items = new T[_count]; //这里只是粗略的一次性定义了一个_count大小的数组,这样的数据远远超出真正使用的数组

对于任意给定的对象,只要它的hashCode()返回值相同,那么程序调用方法一所计算得到的Hash码值总是相同的。我们首先想到的就是把hash值对数组长度取模运算,这样一来,元素的分布相对来说是比较均匀的。但是,模运算的消耗还是比较大的,在HashMap中是这样做的:调用方法二来计算该对象应该保存在table数组的哪个索引处。

 

这个方法非常巧妙,它通过h & (table.length -1)来得到该对象的保存位,而HashMap底层数组的长度总是2的n次方,这是HashMap在速度上的优化。当length总是2的n次方时,h& (length-1)运算等价于对length取模,也就是h%length,但是&比%具有更高的效率。

通过上面的分析,产生了很多项NULL的多余项,如果要是能够自动扩展大小,那就更好不过了。

在JDK1.8的实现中,优化了高位运算的算法,通过hashCode()的高16位异或低16位实现的:(h = k.hashCode()) ^ (h >>> 16),主要是从速度、功效、质量来考虑的,这么做可以在�数组table的length比较小的时候,也能保证考虑到高低Bit都参与到Hash的计算中,同时不会有太大的开销。

这个时候,想起了链表形式的东西。

下面举例说明下,n为table的长度。

为了在进更一步的提高下性能,众所周知,hashcode为标志一个数据的'指标',如果我们能够判断hashcode是否相等,也许可以提高一点性能,如果看到字典的源码,很多人会很快想起,是如何构造了一个类似Set<T>的'数据组'。

  1. 分析HashMap的put方法

试想下,如果我们现在有一个‘特殊字典’,特殊在,我们添加相同的key的时候,返回的是false,而只有不重复的项才可以成功的添加进来,这样我们所得的‘数组’就是我们想要的。

HashMap的put方法执行过程可以通过下图来理解,自己有兴趣�可以去对比源码更清楚地研究学习。

可能我说的有点抽像,就像下面这样

①.判断键值对数组table[i]是否为空或为null,否则执行resize()进行扩容;

    public static IEnumerable<TSource> Iterator<TSource>(this IEnumerable<TSource> first, IEnumerable<TSource> second, IEqualityComparer<TSource> comparer)
        {
            Set<TSource> iteratorVariable = new Set<TSource>(comparer);
            foreach (TSource local in second)
            {
                iteratorVariable.Add(local);
            }
            foreach (TSource iteratorVariable1 in first)
            {
                if (!iteratorVariable.Add(iteratorVariable1))//这儿是过滤性添加,如果添加失败,说明此项已添加 return false
                {
                    continue;
                }
                yield return iteratorVariable1;//yield语句为我们有机会创造枚举数组
            }
        }

②.根据键值key计算hash值得到插入的数组索引i,如果table[i]==null,直接新建节点添加,转向⑥,如果table[i]不为空,�转向③;

其中yield iteratorVariable1 产生的即是我们想要的‘数组’,这里只所以那么强悍,归功于Set<TSource>

③.判断�table[i]的首个元素是否和key一样,如果相同直接覆盖value,否则转向④,这里的相同指的是hashCode以及equals;

 

④.判断table[i] 是否为treeNode,即table[i] 是否是红黑树,如果是红黑树,则直接在树中插入键值对,否则转向⑤;

我先把所有的代码贴出来,然后一点一点的讲解,不至于片面的头晕

⑤.遍历table[i],判断链表长度是否大于8,大于8的话把链表转换为红黑树,在红黑树中执行插入操作,否则进行链表的插入操作;�遍历过程中若发现key已经存在直接覆盖value即可;

 

⑥.插入成功后,判断实际存在的键值对数量size是否超多了最大容量threshold,如果超过,进行扩容。

Set<T>构造器:Slots

JDK1.8HashMap的put方法源码如下:

  internal class Set<TElement>
    {

        private IEqualityComparer<TElement> comparer;
        private int count;
        private int freeList;
        private Slot<TElement>[] slots;
        private int[] buckets;

        public Set()
            : this(null)
        { }

        public Set(IEqualityComparer<TElement> comparer)
        {
            if (comparer == null)
            {
                comparer = EqualityComparer<TElement>.Default;
            }
            this.comparer = comparer;
            this.slots = new Slot<TElement>[7];
            this.buckets = new int[7];
            this.freeList = -1;
        }


        private bool Find(TElement value, bool add)
        {
            int hashCode = this.InternalGetHashCode(value);
            for (int i = this.buckets[hashCode % this.buckets.Length] - 1; i >= 0; i = this.slots[i].next)
            {
                if ((this.slots[i].hashCode == hashCode) && this.comparer.Equals(this.slots[i].value, value))
                {
                    return true;
                }
            }
            if (add)
            {
                int freeList;
                if (this.freeList >= 0)
                {
                    freeList = this.freeList;
                    this.freeList = this.slots[freeList].next;
                }
                else
                {
                    if (this.count == this.slots.Length)
                    {
                        this.Resize();
                    }
                    freeList = this.count;
                    this.count  ;
                }
                int index = hashCode % this.buckets.Length;
                this.slots[freeList].hashCode = hashCode;
                this.slots[freeList].value = value;
                this.slots[freeList].next = this.buckets[index] - 1;
                this.buckets[index] = freeList   1;
            }
            return false;
        }

        private void Resize()
        {
            int num = (this.count * 2)   1;
            int[] numArray = new int[num];
            Slot<TElement>[] destinationArray = new Slot<TElement>[num];
            Array.Copy(this.slots, 0, destinationArray, 0, this.count);
            for (int i = 0; i < this.count; i  )
            {
                int index = destinationArray[i].hashCode % num;
                destinationArray[i].next = numArray[index] - 1;
                numArray[index] = i   1;
            }
            this.buckets = numArray;
            this.slots = destinationArray;
        }

        public bool Add(TElement value)
        {
            return !this.Find(value, true);
        }

        internal int InternalGetHashCode(TElement value)
        {
            if (value != null)
            {
                return (this.comparer.GetHashCode(value));
            }
            return 0;
        }
    }

    internal struct Slot<TElement>
    {
        internal int hashCode;
        internal TElement value;
        internal int next;
    }

1 public V put(K key, V value) {

 当数组不够时进行扩容(在当前的基础上*2的最小质数( 1)),然后进行重新hashcode碰撞形成链表关系:

2    // 对key的hashCode()做hash

 private void Resize()
        {
            int num = (this.count * 2)   1;
            int[] numArray = new int[num];
            Slot<TElement>[] destinationArray = new Slot<TElement>[num];
            Array.Copy(this.slots, 0, destinationArray, 0, this.count);
            for (int i = 0; i < this.count; i  )
            {
                int index = destinationArray[i].hashCode % num;
                destinationArray[i].next = numArray[index] - 1;
                numArray[index] = i   1;
            }
            this.buckets = numArray;
            this.slots = destinationArray;
        }

3    return putVal(hash(key), key, value, false, true);

 

4 }

 

5

估计看到上面的代码,能晕倒一大片,哈哈~晕倒我不负责哦。

6 final V putVal(int hash, K key, V value, boolean onlyIfAbsent,

下面我们来分析一些原理,然后再回过头看上面的代码,就很清淅了,必竟写代码是建立在一种思想基础上而来的嘛!

7                boolean evict) {

 public Set(IEqualityComparer<TElement> comparer)
        {
            if (comparer == null)
            {
                comparer = EqualityComparer<TElement>.Default;
            }
            this.comparer = comparer;
            this.slots = new Slot<TElement>[7];
            this.buckets = new int[7];
            this.freeList = -1;
        }

8    Node[] tab; Node p; int n, i;

 

9    // 步骤①:tab为空则创建

我们看到,Dictionary在构造的时候做了以下几件事:

10    if ((tab = table) == null || (n = tab.length) == 0)

  1. 初始化一个this.buckets = new int[7]
  2. 初始化一个this.slots= new slots<T>[7]
  3. count=0和freeList=-1
  4. comparer = EqualityComparer<TElement>.Default 作为比较两个T是否相等的比较器

11        n = (tab = resize()).length;

首先,我们构造一个:

12    // 步骤②:计算index,并对null做处理

Set<TSource> iteratorVariable = new Set<TSource>(NULL);

13    if ((p = tab[i = (n - 1) & hash]) == null)

澳门新萄京官方网站 20

14        tab[i] = newNode(hash, key, value, null);

 

15    else {

添加项时候的变化

16        Node e; K k;

 

17        // 步骤③:节点key存在,直接覆盖value

Add(4,”4″)后:

18        if (p.hash == hash &&

根据Hash算法: 4.GetHashCode()%7= 4,因此碰撞到buckets中下标为4的槽上,此时由于Count为0,因此元素放在slots中第0个元素上,添加后Count变为1

19            ((k = p.key) == key || (key != null && key.equals(k))))

澳门新萄京官方网站 21

20            e = p;

 

21        // 步骤④:判断该链为红黑树

Add(11,”11″)

22        else if (p instanceof TreeNode)

根据Hash算法 11.GetHashCode()%7=4,因此再次碰撞到Buckets中下标为4的槽上,由于此槽上的值已经不为-1,此时Count=1,因此把这个新加的元素放到slots中下标为1的数组中,并且让Buckets槽指向下标为1的slots中,下标为1的slots之下下标为0的slots。

23            e = ((TreeNode)p).putTreeVal(this, tab, hash, key, value);

澳门新萄京官方网站 22

24        // 步骤⑤:该链为链表

 

25        else {

Add(18,”18″)

26            for (int binCount = 0; ; binCount) {

我们添加18,让HashCode再次碰撞到Buckets中下标为4的槽上,这个时候新元素添加到count 1的位置,并且Bucket槽指向新元素,新元素的Next指向slots中下标为1的元素。此时你会发现所有hashcode相同的元素都形成了一个链表,如果元素碰撞次数越多,链表越长。所花费的时间也相对较多。

27                if ((e = p.next) == null) {

澳门新萄京官方网站 23

28                    p.next = newNode(hash, key,value,null);

 

//链表长度大于8转换为红黑树进行处理

Add(19,”19″)

29                    if (binCount >= TREEIFY_THRESHOLD - 1) // -1 for 1st

再次添加元素19,此时Hash碰撞到另外一个槽上,但是元素仍然添加到count 1的位置。

30                        treeifyBin(tab, hash);

澳门新萄京官方网站 24

31                    break;

 

32                }

删除项时的变化:

// key已经存在直接覆盖value

 

33                if (e.hash == hash &&

Remove(4)

34                    ((k = e.key) == key || (key != null && key.equals(k))))

我们删除元素时,通过一次碰撞,并且沿着链表寻找3次,找到key为4的元素所在的位置,删除当前元素。并且把FreeList的位置指向当前删除元素的位置

35                            break;

澳门新萄京官方网站 25

36                p = e;

 

37            }

Remove(18)

38        }

删除Key为18的元素,仍然通过一次碰撞,并且沿着链表寻找2次,找到当前元素,删除当前元素,并且让FreeList指向当前元素,当前元素的Next指向上一个FreeList元素。

39

此时你会发现FreeList指向了一个链表,链表里面不包含任何元素,FreeCount表示不包含元素的链表的长度。

40        if (e != null) { // existing mapping for key

 

41            V oldValue = e.value;

澳门新萄京官方网站 26

42            if (!onlyIfAbsent || oldValue == null)

 

43                e.value = value;

 

44            afterNodeAccess(e);

Add(20,”20″)

45            return oldValue;

再添加一个元素,此时由于FreeList链表不为空,因此字典会优先添加到FreeList链表所指向的位置,添加后,FreeList链表长度变为1

46        }

澳门新萄京官方网站 27

47    }

部分图片参考自互联网,哈哈,然后重画,写文章真心不容易,太耗时间,此时四个小时已过去。

48    modCount;

 

49    // 步骤⑥:超过最大容量 就扩容

通过以上,我们可以发现Set<T>在添加,删除元素按照如下方法进行:

50    if ( size > threshold)

  1. 通过Hash算法来碰撞到指定的Bucket上,碰撞到同一个Bucket槽上所有数据形成一个单链表
  2. 默认情况slots槽中的数据按照添加顺序排列
  3. 删除的数据会形成一个FreeList的链表,添加数据的时候,优先向FreeList链表中添加数据,FreeList为空则按照count依次排列
  4. 字典查询及其的效率取决于碰撞的次数,这也解释了为什么Set<T>的查找会很快。

51        resize();

简单来说就是其内部有两个数组:buckets数组和slots数组,slots有一个next用来模拟链表,该字段存储一个int值,指向下一个存储地址(实际就是bukets数组的索引),当没有发生碰撞时,该字段为-1,发生了碰撞则存储一个int值,该值指向bukets数组.

52    afterNodeInsertion(evict);

 

53    return null;

一,实例化一个Set<string> iteratorVariable = new Set<string>(null);

54 }

    a,调用Set默认无参构造函数。

  1. 扩容机制

    b,初始化Set<T>内部数组容器:buckets int[]和slots<TElement>[],分别分配长度7;

扩容(resize)就是重新计算容量,向HashMap对象里不停的添加元素,而HashMap对象内部的数组无法装载更多的元素时,对象就需要扩大数组的长度,以便能装入更多的元素。当然Java里的数组是无法自动扩容的,方法是使用一个新的数组代替已有的容量小的数组,就像我们用一个小桶装水,如果想装更多的水,就得换大水桶。

二,向Set<T>添加一个值,Set.add("a","abc");

我们分析下resize的源码,鉴于JDK1.8融入了红黑树,较复杂,为了便于理解我们仍然使用JDK1.7的代码,好理解一些,本质上区别不大,具体区别后文再说。

     a,计算"a"的哈希值,

1 void resize(int newCapacity) {  //传入新的容量

     b,然后与bucket数组长度(7)进行取模计算,假如结果为:2

2    Entry[] oldTable = table;    //引用扩容前的Entry数组

     c,因为a是第一次写入,则自动将a的值赋值到slots[0]的key,同理将"abc"赋值给slots[0].value,将上面b步骤的哈希值赋值给slots[0].hashCode,

3    int oldCapacity = oldTable.length;

       slots[0].next 赋值为-1,hashCode赋值b步骤计算出来的哈希值。

4    if (oldCapacity == MAXIMUM_CAPACITY) {  //扩容前的数组大小如果已经达到最大(2^30)了

     d,在bucket[2]存储0。

5        threshold = Integer.MAX_VALUE; //修改阈值为int的最大值(2^31-1),这样以后就不会扩容了

三,通过key获取对应的value,  var v=Set["a"];

6        return;

   a, 先计算"a"的哈希值,假如结果为2,

7    }

   b,根据上一步骤结果,找到buckets数组索引为2上的值,假如该值为0.

8

   c, 找到到slots数组上索引为0的key,

9    Entry[] newTable = new Entry[newCapacity];  //初始化一个新的Entry数组

         1),如果该key值和输入的的“a”字符相同,则对应的value值就是需要查找的值。

10    transfer(newTable);                        //!!将数据转移到新的Entry数组里

         2) ,如果该key值和输入的"a"字符不相同,说明发生了碰撞,这时获取对应的next值,根据next值定位buckets数组(buckets[next]),然后获取对应buckets上存储的值在定位到slots数组上,......,一直到找到为止。

11    table = newTable;                          //HashMap的table属性引用新的Entry数组

         3),如果该key值和输入的"a"字符不相同并且对应的next值为-1,则说明Set<T>不包含字符“a”。

12    threshold = (int)(newCapacity * loadFactor);//修改阈值

 

13 }

至此,我们再回过头来,看看代码,我想不攻自破!不明白的请多多想想,不要老问!

这里就是使用一个容量更大的数组来代替已有的容量小的数组,transfer()方法将原有Entry数组的元素拷贝到新的Entry数组里。

再次测试下看下结果(这些方法我用扩展方法,没事的朋友可以自已写下,代码在上面已经贴出,这里主要看的比较直观些)

1 void transfer(Entry[] newTable) {

    DateTime now = DateTime.Now;
            Set<string> iteratorVariable = new Set<string>(null);
            foreach (var local in remove)
            {
                iteratorVariable.Add(local);
            }
            foreach (var local in source)
            {
                if (!iteratorVariable.Add(local))
                {
                    continue;
                }
            }
            Console.WriteLine("Running time:"   (DateTime.Now - now).TotalSeconds);
            Console.ReadKey();

2    Entry[] src = table;                  //src引用了旧的Entry数组

 

3    int newCapacity = newTable.length;

想来想去,还是把它改成扩张方法吧,不然有人会问我,如何改?

4    for (int j = 0; j < src.length; j ) { //遍历旧的Entry数组

var r = source.Iterator(remove, null);

5        Entry e = src[j];            //取得旧Entry数组的每个元素

仅仅还是一句话,实现了上述等同的方法!

6        if (e != null) {

 

7            src[j] = null;//释放旧Entry数组的对象引用(for循环后,旧的Entry数组不再引用任何对象)

所消耗时间Running time:0.0112076..s 

8            do {

看到没,与上面的例子性能上相差不大。但是也远远超过了前面三个例子。而且也是自动扩容的,引入了hashcode碰撞,这是一种思想,很多.net字典也是基于这种原理实现的。没事的同学可以看看.net 相关源码。

9                Entry next = e.next;

最后我想说的一件事,在个方法其它等同于Except<IEnumerable<T>>(),在Linq .net 3.5 微软已经给我们实现。

10                int i = indexFor(e.hash, newCapacity); //!!重新计算每个元素在数组中的位置

请不要骂我,刚开始我也不知道这个方法,写着写着想起来了。微软的进步,正悄悄的把我们省了很多事。然后,依据微软的方法进行改进而来。

11                e.next = newTable[i]; //标记[1]

到这里,不知不觉的你已经学会了一种‘算法’。即使微软提供了我们现成的方法,也不足为奇!必竟思想的提练是我们最终的目标!

12                newTable[i] = e;      //将元素放在数组上

 

13                e = next;            //访问下一个Entry链上的元素

 

14            } while (e != null);

参考资料

 

  1. MSDN, IEquatable<T>, ;

  2. MSDN IEqualityComparer, ;

3.MSDN IEqualityComparer,

4.Enumerable.Except<TSource> Method(IEnumerable<TSource>, IEnumerable<TSource>),

 

作者:谷歌's(谷歌's博客园)
出处: 欢迎转载,但任何转载必须保留完整文章,在显要地方显示署名以及原文链接。如您有任何疑问或者授权方面的协商,请给我留言。

15        }

16    }

17 }

newTable[i]的引用赋给了e.next,也就是使用了单链表的头插入方式,同一位置上新元素总会被放在链表的头部位置;这样先放在一个索引上的元素终会被放到Entry链的尾部(如果发生了hash冲突的话),这一点和Jdk1.8有区别,下文详解。在旧数组中同一条Entry链上的元素,通过重新计算索引位置后,有可能被放到了新数组的不同位置上。

下面举个例子说明下扩容过程。假设了我们的hash算法就是简单的用key mod 一下表的大小(也就是数组的长度)。其中的�哈希桶数组table的size=2, 所以key = 3、7、5,put顺序依次为 5、7、3。在mod 2以后都冲突在table[1]这里了。这里假设负载因子 loadFactor=1,即当键值对的实际大小size 大于 table的实际大小时进行扩容。接下来的三个步骤是哈希桶数组 resize成4,然后所有的Node重新rehash的过程。

下面我们讲解下JDK1.8做了哪些优化。经过观测可以发现,我们使用的是2次幂的扩展(指长度扩为原来2倍),所以,元素的位置要么是在原位置,要么是在原位置再移动2次幂的位置。看下图可以明白这句话的意思,n为table的长度,图(a)表示扩容前的key1和key2两种key确定索引位置的示例,图(b)表示扩容后key1和key2两种key确定索引位置的示例,其中hash1是key1对应的哈希与高位运算结果。

元素在重新计算hash之后,因为n变为2倍,那么n-1的mask范围在高位多1bit(红色),因此新的index就会发生这样的变化:

因此,我们在扩充HashMap的时候,不需要像JDK1.7的实现那样重新计算hash,只需要看看原来的hash值新增的那个bit是1还是0就好了,是0的话索引没变,是1的话索引变成“原索引 oldCap”,可以看看下图为16扩充为32的resize示意图:

这个设计确实非常的巧妙,既省去了重新计算hash值的时间,而且同时,由于新增的1bit是0还是1可以认为是随机的,因此resize的过程,均匀的把之前的冲突的节点分散到新的bucket了。这一块就是JDK1.8新增的优化点。有一点注意区别,JDK1.7中rehash的时候,旧链表迁移新链表的时候,如果在新表的数组索引位置相同,则链表元素会倒置,但是从上图可以看出,JDK1.8不会倒置。有兴趣的同学可以研究下JDK1.8的resize源码,写的很赞,如下:

澳门新萄京官方网站,1 final Node[] resize() {

2    Node[] oldTab = table;

3    int oldCap = (oldTab == null) ? 0 : oldTab.length;

4    int oldThr = threshold;

5    int newCap, newThr = 0;

6    if (oldCap > 0) {

7        // 超过最大值就不再扩充了,就只好随你碰撞去吧

8        if (oldCap >= MAXIMUM_CAPACITY) {

9            threshold = Integer.MAX_VALUE;

10            return oldTab;

11        }

12        // 没超过最大值,就扩充为原来的2倍

13        else if ((newCap = oldCap << 1) < MAXIMUM_CAPACITY &&

14                  oldCap >= DEFAULT_INITIAL_CAPACITY)

15            newThr = oldThr << 1; // double threshold

16    }

17    else if (oldThr > 0) // initial capacity was placed in threshold

18        newCap = oldThr;

19    else {              // zero initial threshold signifies using defaults

20        newCap = DEFAULT_INITIAL_CAPACITY;

21        newThr = (int)(DEFAULT_LOAD_FACTOR * DEFAULT_INITIAL_CAPACITY);

22    }

23    // 计算新的resize上限

24    if (newThr == 0) {

25

26        float ft = (float)newCap * loadFactor;

27        newThr = (newCap < MAXIMUM_CAPACITY && ft < (float)MAXIMUM_CAPACITY ?

28                  (int)ft : Integer.MAX_VALUE);

29    }

30    threshold = newThr;

31    @SuppressWarnings({"rawtypes","unchecked"})

32        Node[] newTab = (Node[])new Node[newCap];

33    table = newTab;

34    if (oldTab != null) {

35        // 把每个bucket都移动到新的buckets中

36        for (int j = 0; j < oldCap; j) {

37            Node e;

38            if ((e = oldTab[j]) != null) {

39                oldTab[j] = null;

40                if (e.next == null)

41                    newTab[e.hash & (newCap - 1)] = e;

42                else if (e instanceof TreeNode)

43                    ((TreeNode)e).split(this, newTab, j, oldCap);

44                else { // 链表优化重hash的代码块

45                    Node loHead = null, loTail = null;

46                    Node hiHead = null, hiTail = null;

47                    Node next;

48                    do {

49                        next = e.next;

50                        // 原索引

51                        if ((e.hash & oldCap) == 0) {

52                            if (loTail == null)

53                                loHead = e;

54                            else

55                                loTail.next = e;

56                            loTail = e;

57                        }

58                        // 原索引 oldCap

59                        else {

60                            if (hiTail == null)

61                                hiHead = e;

62                            else

63                                hiTail.next = e;

64                            hiTail = e;

65                        }

66                    } while ((e = next) != null);

67                    // 原索引放到bucket里

68                    if (loTail != null) {

69                        loTail.next = null;

70                        newTab[j] = loHead;

71                    }

72                    // 原索引 oldCap放到bucket里

73                    if (hiTail != null) {

74                        hiTail.next = null;

75                        newTab[j oldCap] = hiHead;

76                    }

77                }

78            }

79        }

80    }

81    return newTab;

82 }

线程安全性

在多线程使用场景中,应该尽量避免使用线程不安全的HashMap,而使用线程安全的ConcurrentHashMap。那么为什么说HashMap是线程不安全的,下面举例子说明在并发的多线程使用场景中使用HashMap可能造成死循环。代码例子如下(便于理解,仍然使用JDK1.7的环境):

public class HashMapInfiniteLoop {

private static HashMap map = new HashMap(2,0.75f);

public static void main(String[] args) {

map.put(5, "C");

new Thread("Thread1") {

public void run() {

map.put(7, "B");

System.out.println(map);

};

}.start();

new Thread("Thread2") {

public void run() {

map.put(3, "A);

System.out.println(map);

};

}.start();

}

}

其中,map初始化为一个长度为2的数组,loadFactor=0.75,threshold=2*0.75=1,也就是说当put第二个key的时候,map就需要进行resize。

通过设置断点让线程1和线程2同时debug到transfer方法(3.3小节代码块)的首行。注意此时两个线程已经成功添加数据。放开thread1的断点至transfer方法的“Entrynext = e.next;” 这一行;然后放开线程2的的断点,让线程2进行resize。结果如下图。

注意,Thread1的 e 指向了key(3),而next指向了key(7),其在线程二rehash后,指向了线程二重组后的链表。

线程一被调度回来执行,先是执行 newTalbe[i] = e, 然后是e = next,导致了e指向了key(7),而下一次循环的next = e.next导致了next指向了key(3)。

e.next = newTable[i] 导致 key(3).next 指向了 key(7)。注意:此时的key(7).next 已经指向了key(3), 环形链表就这样出现了。

于是,当我们用线程一调用map.get(11)时,悲剧就出现了——Infinite Loop。

JDK1.8与JDK1.7的性能对比

HashMap中,如果key经过hash算法得出的数组索引位置全部不相同,即Hash算法非常好,那样的话,getKey方法的时间复杂度就是O(1),如果Hash算法技术的结果碰撞非常多,假如Hash算极其差,所有的Hash算法结果得出的索引位置一样,那样所有的键值对都集中到一个桶中,或者在一个链表中,或者在一个红黑树中,时间复杂度分别为O(n)和O(lgn)。 鉴于JDK1.8做了多方面的优化,总体性能优于JDK1.7,下面我们从两个方面用例子证明这一点。

Hash较均匀的情况

为了便于测试,我们先写一个类Key,如下:

class Key implements Comparable {

private final int value;

Key(int value) {

this.value = value;

}

@Override

public int compareTo(Key o) {

return Integer.compare(this.value, o.value);

}

@Override

public boolean equals(Object o) {

if (this == o) return true;

if (o == null || getClass() != o.getClass())

return false;

Key key = (Key) o;

return value == key.value;

}

@Override

public int hashCode() {

return value;

}

}

这个类复写了equals方法,并且提供了相当好的hashCode函数,任何一个值的hashCode都不会相同,因为直接使用value当做hashcode。为了避免频繁的GC,我将不变的Key实例缓存了起来,而不是一遍一遍的创建它们。代码如下:

public class Keys {

public static final int MAX_KEY = 10_000_000;

private static final Key[] KEYS_CACHE = new Key[MAX_KEY];

static {

for (int i = 0; i < MAX_KEY; i) {

KEYS_CACHE[i] = new Key(i);

}

}

public static Key of(int value) {

return KEYS_CACHE[value];

}

}

现在开始我们的试验,测试需要做的仅仅是,创建不同size的HashMap(1、10、100、......10000000),屏蔽了扩容的情况,代码如下:

static void test(int mapSize) {

HashMap map = new HashMap(mapSize);

for (int i = 0; i < mapSize; i) {

map.put(Keys.of(i), i);

}

long beginTime = System.nanoTime(); //获取纳秒

for (int i = 0; i < mapSize; i ) {

map.get(Keys.of(i));

}

long endTime = System.nanoTime();

System.out.println(endTime - beginTime);

}

public static void main(String[] args) {

for(int i=10;i<= 1000 0000;i*= 10){

test(i);

}

}

在测试中会查找不同的值,然后度量花费的时间,为了计算getKey的平均时间,我们遍历所有的get方法,计算总的时间,除以key的数量,计算一个平均值,主要用来比较,绝对值可能会受很多环境因素的影响。结果如下:

通过观测测试结果可知,JDK1.8的性能要高于JDK1.7 15%以上,在某些size的区域上,甚至高于100%。由于Hash算法较均匀,JDK1.8引入的红黑树效果不明显,下面我们看看Hash不均匀的的情况。

Hash极不均匀的情况

假设我们又一个非常差的Key,它们所有的实例都返回相同的hashCode值。这是使用HashMap最坏的情况。代码修改如下:

class Key implements Comparable {

//...

@Override

public int hashCode() {

return 1;

}

}

仍然执行main方法,得出的结果如下表所示:

从表中结果中可知,随着size的变大,JDK1.7的花费时间是增长的趋势,而JDK1.8是明显的降低趋势,并且呈现对数增长稳定。当一个�链表太长的时候,HashMap会动态的将它替换成一个红黑树,这话�的话会将时间复杂度从O(n)降为O(logn)。hash算法均匀和不均匀所花费的时间明显也不相同,这两种情况的相对比较,可以说明一个好的hash算法的重要性。

测试环境:处理器为2.2 GHz Intel Core i7,内存为16 GB 1600 MHz DDR3,SSD硬盘,使用默认的JVM参数,运行在64位的OS X 10.10.1上。

小结

(1) 扩容是一个特别耗性能的操作,所以当程序员在使用HashMap的时候,估算map的大小,初始化的时候给一个大致的数值,避免map进行频繁的扩容。

(2) 负载因子是可以修改的,也可以大于1,但是建议不要轻易修改,除非情况非常特殊。

(3) HashMap是线程不安全的,不要在并发的环境中同时操作HashMap,建议使用ConcurrentHashMap。

(4) JDK1.8引入红黑树大程度优化了HashMap的性能。

(5) 还没升级JDK1.8的,现在开始升级吧。HashMap的性能提升仅仅是JDK1.8的冰山一角。

参考

JDK1.7&JDK1.8 源码。

CSDN博客频道,HashMap多线程死循环问题,2014。

红黑联盟,Java类集框架之HashMap(JDK1.8)源码剖析,2015。

CSDN博客频道,教你初步了解红黑树,2010。

Java Code Geeks,HashMap performance improvements in Java 8,2014。

Importnew,危险!在HashMap中将可变对象用作Key,2014。

CSDN博客频道,为什么一般hashtable的桶数会取一个素数,2013。

欢迎Q群交流:432550774

本文由澳门新萄京官方网站发布于www.8455.com,转载请注明出处:澳门新萄京官方网站SortedList的比较应用,高性能

关键词: