一、算法概述
1.1 算法分类
十种常见排序算法可以分为两大类:
-
比较类排序:通过比较来决定元素间的相对次序,由于其时间复杂度不能突破O(nlogn),因此也称为非线性时间比较类排序。
-
非比较类排序:不通过比较来决定元素间的相对次序,它可以突破基于比较排序的时间下界,以线性时间运行,因此也称为线性时间非比较类排序。
1.2 算法复杂度
1.3 相关概念
- 稳定:如果a原本在b前面,而a=b,排序之后a仍然在b的前面。
- 不稳定:如果a原本在b的前面,而a=b,排序之后 a 可能会出现在 b 的后面。
- 时间复杂度:对排序数据的总的操作次数。反映当n变化时,操作次数呈现什么规律。
- 空间复杂度:是指算法在计算机内执行时所需存储空间的度量,它也是数据规模n的函数。
二、堆排序(Heap Sort)
堆排序(Heapsort)是指利用堆这种数据结构所设计的一种排序算法。堆积是一个近似完全二叉树的结构,并同时满足堆积的性质:即子结点的键值或索引总是小于(或者大于)它的父节点。
堆分为"最大堆"和"最小堆"。最大堆通常被用来进行"升序"排序,而最小堆通常被用来进行"降序"排序。
鉴于最大堆和最小堆是对称关系,理解其中一种即可。本文将对最大堆实现的升序排序进行详细说明。
2.1 算法描述
-
将初始待排序关键字序列(R1,R2….Rn)构建成大顶堆,此堆为初始的无序区;
-
将堆顶元素R[1]与最后一个元素R[n]交换,此时得到新的无序区(R1,R2,……Rn-1)和新的有序区(Rn),且满足R[1,2…n-1]<=R[n];
-
由于交换后新的堆顶R[1]可能违反堆的性质,因此需要对当前无序区(R1,R2,……Rn-1)调整为新堆,然后再次将R[1]与无序区最后一个元素交换,得到新的无序区(R1,R2….Rn-2)和新的有序区(Rn-1,Rn)。不断重复此过程直到有序区的元素个数为n-1,则整个排序过程完成。
最大堆进行升序排序的基本思想:
- ① 初始化堆:将数列a[1...n]构造成最大堆。
- ② 交换数据:将a[1]和a[n]交换,使a[n]是a[1...n]中的最大值;然后将a[1...n-1]重新调整为最大堆。 接着,将a[1]和a[n-1]交换,使a[n-1]是a[1...n-1]中的最大值;然后将a[1...n-2]重新调整为最大值。 依次类推,直到整个数列都是有序的。
下面,通过图文来解析堆排序的实现过程。注意实现中用到了"数组实现的二叉堆的性质"。 在第一个元素的索引为 0 的情形中: 性质一:索引为i的左孩子的索引是 (2i+1); 性质二:索引为i的左孩子的索引是 (2i+2); 性质三:索引为i的父结点的索引是 floor((i-1)/2);
例如,对于最大堆{110,100,90,40,80,20,60,10,30,50,70}而言:索引为0的左孩子的所有是1;索引为0的右孩子是2;索引为8的父节点是3。
2.2 动图演示
2.3 堆排序图文说明
堆排序代码
/** * @Author: huangyibo * @Date: 2022/2/19 0:42 * @Description: 堆排序:原地排序, * 1、先将待排序数组整理成最大堆的形状 * 2、然后将堆的最开始索引的值即最大值和最后面的索引值交换,不断循完成排序 * 3、每交换一轮后,将0索引元素和其左右孩子节点元素进行比较,如果比左右孩子小,则交换位置,不断循环 */ public class HeapSort2 { public static <E extends Comparable<E>> void heapSort(E[] arr){ //如果arr元素个数小于等于1,直接返回 if(arr.length <= 1){ return; } //从最后一个叶子节点的父节点开始进行siftDown操作,不断循环 //(arr.length - 1) / 2 最后一个叶子节点的父节点的索引 //for循环完成,则将数组整理成堆的形状 for(int i = (arr.length - 1) / 2; i >= 0; i --){ siftDown(arr, i, arr.length); } //进行排序操作,将堆的最开始索引的值即最大值和最后面的索引值交换,不断循完成排序 for (int i = arr.length - 1; i >= 0; i--) { //将堆的最开始索引的值即最大值和最后面的索引值交换 swap(arr,0, i); //将0索引元素比左右孩子节点元素小,则交换位置,不断循环 //由于数组最末尾的值已经排好序,索引排好序的元素不包含在内 siftDown(arr, 0, i); } } /** * 对arr[0, n] 所形成的最大堆中,索引k的元素,执行siftDown操作 * k索引元素比左右孩子节点元素小,则交换位置,不断循环 * @param arr * @param k * @param n * @param <E> */ private static <E extends Comparable<E>> void siftDown(E[] arr, int k, int n){ //(k * 2 + 1) 完全二叉树的数组表示中,一个索引所表示的元素的左孩子节点的索引 while ((k * 2 + 1) < n){ //获取k索引的左孩子的索引 int j = k * 2 + 1; //j + 1 < data.getSize() if(j + 1 < n && //如果右孩子比左孩子大 arr[j + 1].compareTo(arr[j]) > 0){ //k * 2 + 2 完全二叉树的数组表示中,一个索引所表示的元素的右孩子节点的索引 //最大孩子的索引赋值给j j = k * 2 + 2; } //此时data[j]是leftChild和rightChild中的最大值 if(arr[k].compareTo(arr[j]) >= 0){ //如果父亲节点大于等于左右孩子节点,跳出循环 break; } //如果父亲节点小于左右孩子节点(中的最大值),交换索引的值 swap(arr, k, j); //交换完成之后,将j赋值给K,重新进入循环 k = j; } } /** * 数组索引元素交换 * @param arr * @param i * @param j * @param <E> */ private static <E> void swap(E[] arr, int i, int j){ if(i < 0 || i >= arr.length || j < 0 || j >= arr.length){ throw new IllegalArgumentException("Index is illegal."); } E temp = arr[i]; arr[i] = arr[j]; arr[j] = temp; } }下面是数组a对应的初始化结构
2.3.1 初始化堆
在堆排序算法中,首先要将待排序的数组转化成二叉堆。 下面演示将数组{20,30,90,40,70,110,60,10,100,50,80}转换为最大堆{110,100,90,40,80,20,60,10,30,50,70}的步骤。
2.3.1.1 i=11/2-1,即i=4
上面是siftDown(a, 4, 9)调整过程。siftDown(a, 4, 9)的作用是将a[4...9]进行下调;a[4]的左孩子是a[9],右孩子是a[10]。调整时,选择左右孩子中较大的一个(即a[10])和a[4]交换。
2.3.1.2 i=3
上面是siftDown(a, 3, 9)调整过程。siftDown(a, 3, 9)的作用是将a[3...9]进行下调;a[3]的左孩子是a[7],右孩子是a[8]。调整时,选择左右孩子中较大的一个(即a[8])和a[4]交换。
2.3.1.3 i=2
上面是siftDown(a, 2, 9)调整过程。siftDown(a, 2, 9)的作用是将a[2...9]进行下调;a[2]的左孩子是a[5],右孩子是a[6]。调整时,选择左右孩子中较大的一个(即a[5])和a[2]交换。
2.3.1.4 i=1
上面是siftDown(a, 1, 9)调整过程。siftDown(a, 1, 9)的作用是将a[1...9]进行下调;a[1]的左孩子是a[3],右孩子是a[4]。调整时,选择左右孩子中较大的一个(即a[3])和a[1]交换。交换之后,a[3]为30,它比它的右孩子a[8]要大,接着,再将它们交换。
2.3.1.5 i=0
上面是siftDown(a, 0, 9)调整过程。siftDown(a, 0, 9)的作用是将a[0...9]进行下调;a[0]的左孩子是a[1],右孩子是a[2]。调整时,选择左右孩子中较大的一个(即a[2])和a[0]交换。交换之后,a[2]为20,它比它的左右孩子要大,选择较大的孩子(即左孩子)和a[2]交换。
调整完毕,就得到了最大堆。此时,数组{20,30,90,40,70,110,60,10,100,50,80}也就变成了{110,100,90,40,80,20,60,10,30,50,70}。
2.3.2 第2部分 交换数据
在将数组转换成最大堆之后,接着要进行交换数据,从而使数组成为一个真正的有序数组。
交换数据部分相对比较简单,下面仅仅给出将最大值放在数组末尾的示意图。
上面是当n=10时,交换数据的示意图。 当n=10时,首先交换a[0]和a[10],使得a[10]是a[0...10]之间的最大值;然后,调整a[0...9]使它称为最大堆。交换之后:a[10]是有序的! 当n=9时, 首先交换a[0]和a[9],使得a[9]是a[0...9]之间的最大值;然后,调整a[0...8]使它称为最大堆。交换之后:a[9...10]是有序的! ... 依此类推,直到a[0...10]是有序的。
2.4 堆排序的时间复杂度和稳定性
2.4.1 堆排序时间复杂度
堆排序的时间复杂度是O(NlogN)。 假设被排序的数列中有N个数。遍历一趟的时间复杂度是O(N),需要遍历多少次呢? 堆排序是采用的二叉堆进行排序的,二叉堆就是一棵二叉树,它需要遍历的次数就是二叉树的深度,而根据完全二叉树的定义,它的深度至少是lg(N+1)。最多是多少呢?由于二叉堆是完全二叉树,因此,它的深度最多也不会超过lg(2N)。因此,遍历一趟的时间复杂度是O(N),而遍历次数介于lg(N+1)和lg(2N)之间;因此得出它的时间复杂度是O(NlogN)。
2.4.2 堆排序稳定性
堆排序是不稳定的算法,它不满足稳定算法的定义。它在交换数据的时候,是比较父结点和子节点之间的数据,所以,即便是存在两个数值相等的兄弟节点,它们的相对顺序在排序也可能发生变化。 算法稳定性 -- 假设在数列中存在a[i]=a[j],若在排序之前,a[i]在a[j]前面;并且排序之后,a[i]仍然在a[j]前面。则这个排序算法是稳定的!
2.5 堆排序实现——原地排序
/** * @Author: huangyibo * @Date: 2022/2/19 0:42 * @Description: 堆排序:原地排序 * 1、先将待排序数组整理成最大堆的形状 * 2、然后将堆的最开始索引的值即最大值和最后面的索引值交换,不断循完成排序 * 3、每交换一轮后,将0索引元素和其左右孩子节点元素进行比较,如果比左右孩子小,则交换位置,不断循环 */ public class HeapSort2 { public static <E extends Comparable<E>> void heapSort(E[] arr){ //如果arr元素个数小于等于1,直接返回 if(arr.length <= 1){ return; } //从最后一个叶子节点的父节点开始进行siftDown操作,不断循环 //(arr.length - 1) / 2 最后一个叶子节点的父节点的索引 //for循环完成,则将数组整理成堆的形状 for(int i = (arr.length - 1) / 2; i >= 0; i --){ siftDown(arr, i, arr.length); } //进行排序操作,将堆的最开始索引的值即最大值和最后面的索引值交换,不断循完成排序 for (int i = arr.length - 1; i >= 0; i--) { //将堆的最开始索引的值即最大值和最后面的索引值交换 swap(arr,0, i); //将0索引元素比左右孩子节点元素小,则交换位置,不断循环 //由于数组最末尾的值已经排好序,索引排好序的元素不包含在内 siftDown(arr, 0, i); } } /** * 对arr[0, n] 所形成的最大堆中,索引k的元素,执行siftDown操作 * k索引元素比左右孩子节点元素小,则交换位置,不断循环 * @param arr * @param k * @param n * @param <E> */ private static <E extends Comparable<E>> void siftDown(E[] arr, int k, int n){ //(k * 2 + 1) 完全二叉树的数组表示中,一个索引所表示的元素的左孩子节点的索引 while ((k * 2 + 1) < n){ //获取k索引的左孩子的索引 int j = k * 2 + 1; //j + 1 < data.getSize() if(j + 1 < n && //如果右孩子比左孩子大 arr[j + 1].compareTo(arr[j]) > 0){ //k * 2 + 2 完全二叉树的数组表示中,一个索引所表示的元素的右孩子节点的索引 //最大孩子的索引赋值给j j = k * 2 + 2; } //此时data[j]是leftChild和rightChild中的最大值 if(arr[k].compareTo(arr[j]) >= 0){ //如果父亲节点大于等于左右孩子节点,跳出循环 break; } //如果父亲节点小于左右孩子节点(中的最大值),交换索引的值 swap(arr, k, j); //交换完成之后,将j赋值给K,重新进入循环 k = j; } } /** * 数组索引元素交换 * @param arr * @param i * @param j * @param <E> */ private static <E> void swap(E[] arr, int i, int j){ if(i < 0 || i >= arr.length || j < 0 || j >= arr.length){ throw new IllegalArgumentException("Index is illegal."); } E temp = arr[i]; arr[i] = arr[j]; arr[j] = temp; } }2.6 堆排序实现——非原地排序
- 该实现需要借助于最大堆(MaxHeap)数据结构
2.6.1 动态数组底层实现
public class Array<E> { private E[] data; private int size; public Array(){ this(10); } public Array(int capacity){ this.data = (E[]) new Object[capacity]; this.size = 0; } public Array(E[] arr){ this.data = (E[]) new Object[arr.length]; for (int i = 0; i < arr.length; i++) { data[i] = arr[i]; } this.size = arr.length; } /** * 获取数组中元素个数 * @return */ public int getSize(){ return size; } /** * 获取数组容量 * @return */ public int getCapacity(){ return data.length; } /** * 返回数组是否为空 * @return */ public boolean isEmpty(){ return size == 0; } /** * 数组尾部新增元素 * @param e */ public void addLast(E e){ add(size, e); } /** * 数组头部新增元素 * @param e */ public void addFirst(E e){ add(0, e); } /** * 在指定位置插入元素 * @param index * @param e */ public void add(int index, E e){ if(index < 0 || index > size){ throw new IllegalArgumentException("AddLast failed. require index >=0 and index <= size"); } if(size == data.length){ //扩容 resize(2 * data.length); } for(int i = size - 1; i >= index; i --){ data[i + 1] = data[i]; } data[index] = e; size ++; } /** * 数组扩容 * @param newCapacity */ private void resize(int newCapacity){ E[] newData = (E[])new Object[newCapacity]; for (int i = 0; i < size; i++) { newData[i] = data[i]; } data = newData; } /** * 获取指定索引位置的值 * @param index * @return */ public E get(int index){ if(index < 0 || index >= size){ throw new IllegalArgumentException("Get failed. index is illegal."); } return data[index]; } /** * 替换指定索引位置的值 * @param index * @param e */ public void set(int index, E e){ if(index < 0 || index >= size){ throw new IllegalArgumentException("Set failed. index is illegal."); } data[index] = e; } /** * 数组是否包含元素e * @param e * @return */ public boolean contains(E e){ for (int i = 0; i < size; i++) { if(data[i].equals(e)){ return true; } } return false; } /** * 查找数组中元素e所在的索引,不存在元素e,返回-1 * @param e * @return */ public int find(E e){ for (int i = 0; i < size; i++) { if(data[i].equals(e)){ return i; } } return -1; } /** * 删除数组中index位置的元素, 并返回删除的元素 * @param index * @return */ public E remove(int index){ if(index < 0 || index >= size){ throw new IllegalArgumentException("Remove failed. index is illegal."); } E ret = data[index]; for (int i = index; i < size - 1; i++) { data[i] = data[i + 1]; } size --; data[size] = null; if(size == data.length / 4 && data.length / 2 != 0){ //当数组长度缩小为原数组的4分之一的时候才进行数组的缩容, //缩小为原数组的2分之一,预留空间,防止有数据添加导致扩容浪费性能 resize(data.length / 2); } return ret; } /** * 删除数组中第一个元素 * @return */ public E removeFirst(){ return remove(0); } /** * 删除数组中最后一个元素 * @return */ public E removeLast(){ return remove(size - 1); } /** * 从数组中删除元素e * @param e */ public void removeElement(E e){ int index = find(e); if(index != -1){ remove(index); } } /** * 数组索引元素交换 * @param i * @param j */ public void swap(int i, int j){ if(i < 0 || i >= size || j < 0 || j >= size){ throw new IllegalArgumentException("Index is illegal."); } E temp = data[i]; data[i] = data[j]; data[j] = temp; } @Override public String toString(){ StringBuilder sb = new StringBuilder(); sb.append(String.format("Array: size = %d, capacity = %d\n",size,data.length)); sb.append("["); for (int i = 0; i < size; i++) { sb.append(data[i]); if(i != size - 1){ sb.append(", "); } } sb.append("]"); return sb.toString(); } }2.6.2 基于动态数组底层实现的最大堆实现
/** * @Author: huangyibo * @Date: 2022/2/17 22:54 * @Description: 最大堆 完全二叉树,父亲节点大于等于孩子节点,采用数组表示 */ public class MaxHeap<E extends Comparable<E>> { //这里使用数组作为底层实现 private Array<E> data; public MaxHeap(){ data = new Array<>(); } public MaxHeap(int capacity){ data = new Array<>(capacity); } /** * 将任意数组整理成堆的形状 * @param arr */ public MaxHeap(E[] arr){ data = new Array<>(arr); //从最后一个叶子节点的父节点开始进行siftDown操作,不断循环 for(int i = parent(arr.length - 1); i >= 0; i --){ siftDown(i); } } /** * 返回堆中的元素个数 * @return */ public int getSize(){ return data.getSize(); } /** *堆是否为空 * @return */ public boolean isEmpty(){ return data.isEmpty(); } /** * 返回完全二叉树的数组表示中,一个索引所表示的元素的父亲节点的索引 * @param index * @return */ private int parent(int index){ if(index == 0){ throw new IllegalArgumentException("index-0 doesn't have parent."); } return (index - 1) / 2; } /** * 返回完全二叉树的数组表示中,一个索引所表示的元素的左孩子节点的索引 * @return */ private int leftChild(int index){ return index * 2 + 1; } /** * 返回完全二叉树的数组表示中,一个索引所表示的元素的右孩子节点的索引 * @param index * @return */ private int rightChild(int index){ return index * 2 + 2; } /** * 向堆中添加元素 * @param e */ public void add(E e){ data.addLast(e); //当前元素在数组中的索引为 data.getSize() - 1 //比较当前元素和其父亲节点的元素,大于父亲节点元素则交换位置 siftUp(data.getSize() - 1); } /** * k索引元素比父节点元素大,则交换位置,不断循环 * @param k */ private void siftUp(int k){ //k > 0 并且k索引元素比父节点元素大,则交换位置,不断循环 while (k > 0 && data.get(parent(k)).compareTo(data.get(k)) < 0){ data.swap(parent(k), k); k = parent(k); } } /** * 查看堆中最大元素 * @return */ public E findMax(){ if(data.getSize() == 0){ throw new IllegalArgumentException("Can not findMax when heap is empty."); } return data.get(0); } /** * 取出堆中最大元素 * @return */ public E extractMax(){ //获取堆中最大元素 E ret = findMax(); //堆中最开始的元素和最后元素交换位置 data.swap(0,data.getSize() - 1); //删除堆中最后一个元素 data.removeLast(); //0索引元素比左右孩子节点元素小,则交换位置,不断循环 siftDown(0); return ret; } /** * k索引元素比其左右孩子节点元素小,则交换位置,不断循环 * @param k */ private void siftDown(int k){ while (leftChild(k) < data.getSize()){ //获取k索引的左孩子的索引 int j = leftChild(k); //j + 1 < data.getSize() if(j + 1 < data.getSize() && //如果右孩子比左孩子大 data.get(j + 1).compareTo(data.get(j)) > 0){ //最大孩子的索引赋值给j j = rightChild(k); } //此时data[j]是leftChild和rightChild中的最大值 if(data.get(k).compareTo(data.get(j)) >= 0){ //如果父亲节点大于等于左右孩子节点,跳出循环 break; } //如果父亲节点小于左右孩子节点(中的最大值),交换索引的值 data.swap(k, j); //交换完成之后,将j赋值给K,重新进入循环 k = j; } } /** * 取出堆中最大元素,并且替换成元素e * @param e * @return */ public E replace(E e){ //获取堆中的最大值 E ret = findMax(); //用新添加的元素替换最大的元素 data.set(0, e); //0索引元素比左右孩子节点元素小,则交换位置,不断循环 siftDown(0); return ret; } }2.6.3 堆排序:非原地排序
/** * @Author: huangyibo * @Date: 2022/2/18 21:42 * @Description: 堆排序:非原地排序 */ public class HeapSort { public static <E extends Comparable<E>> void heapSort(E[] arr){ //建立一个最大堆 MaxHeap<E> maxHeap = new MaxHeap<>(); for (E e : arr) { //将数组元素放入最大堆 maxHeap.add(e); } //循环遍历,取出最大堆的最大元素倒序放入数组中,完成堆排序 for (int i = arr.length - 1; i >= 0; i--) { arr[i] = maxHeap.extractMax(); } } }参考: https://www.cnblogs.com/onepixel/articles/7674659.html
https://www.cnblogs.com/skywang12345/p/3602162.html