桶排序、基数排序与后缀排序

最近学后缀数组，需要接触到这些排序方法，于是乎开帖记录。

术语说明

本文中，“排名”可以粗浅地理解为“不大于$x$的元素个数称为$x$的排名”。但是，有重复元素的时候，假设小于$x$的元素个数是$a$，不大于$x$的元素个数是$b$，那么这些重复元素的排名各不相同，且都位于区间$(a,b]$中。

如，数组$1,1,2,3,3,4$中各元素的排名可以是$1,2,3,4,5,6$，当然也可能是$2,1,3,5,4,6$等等。

本文中要大量使用“元素数组”、“排名数组”这样的词汇，请牢记它们的含义：叫做什么数组，里面存的就是什么值。

• “元素数组”指根据排名查元素编号的数组，即$\mathrm{ele}:\left\{\mathrm{rank}\right\}\rightarrow \left\{\mathrm{id}\right\}$
• “排名数组”指根据元素编号查排名的数组，即$\mathrm{rk}:\left\{\mathrm{id}\right\}\rightarrow \left\{\mathrm{ele}\right\}$

这两个数组之间是逆映射的关系。

在桶排序中，还会用到桶数组。桶数组是根据元素值查“这个值的元素有多少个”的数组，做前缀和后就是根据元素值查“不大于这个值的元素有多少个”的数组。通常，我们使用它的后一种含义。

• “桶数组”是根据元素值查“不大于这个值的元素有多少个”的数组，即$\mathrm{bucket}:\left\{\mathrm{value}\right\}\rightarrow \left\{\mathrm{rank}\right\}$

熟悉这些映射关系，对于快速写出代码有很大帮助。

文中还用了 Pascal 的数组区间符号。a[1...3]={1,2,3}表示a[1]=1,a[2]=2,a[3]=3。

离散化

首先我们通过复习离散化方法，熟悉“元素数组”和“排名数组”的意义。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

int a[MAXN]; //原始数据
int ele[MAXN],rk[MAXN]; //定义见上文
bool cmp(const int lhs,const int rhs);

for (int i=1;i<=n;i++)
    ele[i]=i; //初始化，假设第i名的元素下标是i
sort(ele+1,ele+1+n,cmp); //排序后，第i名元素的下标是ele[i]
//利用rk和ele的互逆关系求rk
for (int i=1;i<=n;i++)
    rk[ele[i]]=i; //第i名元素的下标所对应的排名是i
    
bool cmp(const int lhs,const int rhs){
    //利用元素给下标排序
    return a[lhs]<a[rhs];
}

上述代码执行后，rk数组中的值就是离散化目标值。

桶排序

单关键字桶排序

桶排序？这个谁不会啊？

1
2
3
4
5
6
7
8
9

int a[MAXN],bucket[MAXM]; //原始数据, 桶(桶的定义域是原始数据的值域)
for (int i=0;i<MAXM;i++)
    bucket[i]=0;
for (int i=1;i<=n;i++)
    bucket[a[i]]++;
int pos=0;
for (int i=0;i<MAXM;i++)
    for (int j=0;j<bucket[i];j++)
        a[++pos]=i;

但是如何用桶排序求出元素数组和排名数组呢？这里介绍一种简单的办法。

我们知道，原始的桶数组记录的是“值为$x$的元素的个数”。如果对桶数组做前缀和，记录的就是“值不大于$x$的元素个数”——不就是“值为$x$的元素的（最大）排名”吗？之所以是“最大”，是因为可能有重复元素（参见“术语说明”）。于是，我们可以用这种方法得到元素数组和排名数组。

下面这段代码对于理解多关键字桶排序比较重要，请认真阅读。如果对代码不太理解，请接着阅读下面的说明。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

int a[MAXN],bucket[MAXN],ele[MAXN],rk[MAXN];
for (int i=0;i<MAXM;i++)
    bucket[i]=0;
for (int i=1;i<=n;i++)
    bucket[a[i]]++;
for (int i=1;i<MAXM;i++)
    bucket[i]+=bucket[i-1]; //求前缀和
// 此时bucket数组的意义就是“给值，求最大排名”
// 下面用bucket数组求ele数组
for (int i=n;i;i--){ // 这个循环是倒序的
    int trank=bucket[a[i]]; // 求出i号元素的排名
    bucket[a[i]]--; // 排名trank已经被i占用了，下一个来的元素要用上一个可用的排名
    ele[trank]=i; // 排名为trank的元素编号是i
    // 上面这三条语句通常缩写为
    // ele[ bucket[a[i]]-- ]=i;
}
//此时, a[ele[1]],a[ele[2]],...,a[ele[n]]就是有序的了
//再利用rk和ele的互逆关系求rk
for (int i=1;i<=n;i++)
    rk[ele[i]]=i; //第i名元素的下标所对应的排名是i

现在问题来了，为什么这个循环是倒序的呢？也就是说，我们需要搞清楚，排名的“分配原则”是什么。同时我们还要搞懂这行关键代码：ele[ bucket[a[i]]-- ]=i;

首先，如果数组中没有重复元素，那么bucket[a[i]]只会被访问一次，其中的值正是i号元素的真正排名。

但如果数组中有重复元素呢？举个例子，如果a[1...6]={1,4,3,1,3,2}，那么在求前缀和之前，bucket[1...4]={2,1,2,1}；求前缀和之后，bucket[1...4]={2,3,5,6}。那么，$1$的“最大排名”是$2$，$3$的“最大排名”是$5$。

我们倒序循环分配排名。首先i=6，ele[ bucket[a[6]]-- ]=6。执行语句时bucket[a[6]]=bucket[2]=3，于是我们得到了$6$号元素的排名是$3$，也就是被赋予了排名$3$的元素是$6$号(ele[3]=6)。根据--运算符的规则，我们把bucket[2]的值减$1$，那么执行后bucket[2]=2。这表示，排名$3$已经被占用了，下一个值为$2$的元素只能使用排名$2$——当然，由于数列中只有一个元素的值是$2$，因此不存在所谓的“下一个元素”。

接着i=5，ele[ bucket[a[5]]-- ]=5。bucket[a[5]]=bucket[3]=5，那么这次我们把排名$5$赋给a[5]。这时bucket[3]--，表示下一个值为$3$的元素只能使用排名$4$——在这里就表示，靠前的一个$3$将使用排名$4$。

继续模拟这个过程，最后ele[1...6]={1,4,6,3,5,2}。在模拟的过程中我们发现，值相同的元素，先者总是得到较大的排名。就有些像孔融让梨，孔融是把大的梨让出去，先拿到排名的元素是把靠前的排名让给后拿到排名的元素。

而我们倒序循环，原本靠后的元素将先得到排名，结果就是值相同的元素，原本靠后的，排名也较大（即在排序后的数组里也靠后）。这正满足了“稳定性”的定义——这样它就是“稳定排序”了。

当然，这么做的意义远不止如此，正是这一操作，为桶排序提供了可扩展性。请看——

多关键字桶排序

什么叫“多关键字”呢？就有点像中考成绩排序——先按总分等级排序，总分等级相同的再按A+数排序，A+数相同的……概括地说，就是，优先按第一关键字排序，如果第一关键字相同，再按第二关键字排序。

下面我们只讨论两个关键字的情形；在此基础上，很容易扩展出更多关键字的排序。

还记得上面讲的“稳定性”吗？我们有一个思路——先按第二关键字排序，再按第一关键字做稳定排序。

为什么先排次要关键字呢？可以这么理解——第一次排序的结果会被第二次排序打乱，因此是次要的。第一次排序只是为了第二次排序在关键字相同时，提供原先的相对位置。也就是，第一次排序的功效，体现在了排序前相对位置上。

那么我们就可以写出多关键字桶排序的代码了。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

int a[MAXN],b[MAXN];// a 为主要关键字, b为次要关键字
// ele_b是第一次排序时用的ele数组
int bucket[MAXN],ele[MAXN],ele_b[MAXN],rk[MAXN];
for (int i=0;i<MAXM;i++)
    bucket[i]=0;
for (int i=1;i<=n;i++)
    bucket[b[i]]++;
for (int i=1;i<MAXM;i++)
    bucket[i]+=bucket[i-1];
for (int i=n;i;i--)// 仍然注意这个循环是倒序的
    ele_b[ bucket[b[i]]-- ]=i;
//现在b[ele_b[1]],b[ele_b[2]],...,b[ele_b[n]]是有序的
//我们下一次桶排序循环的时候,就按照ele_b[n],ele_b[n-1],...,ele_b[1]的顺序
for (int i=0;i<MAXM;i++)
    bucket[i]=0;
for (int i=1;i<=n;i++)
    bucket[a[i]]++;
for (int i=1;i<MAXM;i++)
    bucket[i]+=bucket[i-1];//这三个for循环基本相同
for (int i=n;i;i--)// 按我们上面说的做！
    ele[ bucket[ a[ ele_b[i] ] ]-- ]=ele_b[i];

整段代码最难理解的应该就是ele[bucket[a[ele_b[i]]]--]=ele_b[i];这一行了。足足四层嵌套，让不少多关键字桶排序和基数排序的初学者望而生畏。下面我们解析它。

对b做排序的时候，我们已经写过一次三层嵌套了。ele_b[ bucket[b[i]]-- ]=i;，意思是bucket[b[i]]中存着b[i]的排名，那么排名为bucket[b[i]]的元素编号就是i。

对a做排序的时候，我们不是要按ele_b[n],ele_b[n-1],...,ele_b[1]的顺序做嘛——于是，运用换元法，把ele_b[i]带入原来的i中，不就得到了这一行代码吗？

于是，双关键字的桶排序就写好了。这也就是这道题的解法。

基数排序

基数排序其实就是多关键字的桶排序。比如，给三位数排序，第一关键字是百位，第二关键字是十位，第三关键字是个位。

但实际操作中，我们所用的模数不是$10$，而是$2$的幂。根据挑战这道题的经验，我们取$256(2^8)$为模，把$32$位整数（也就是int）分为四个关键字进行排序，分别排序四次就好了。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28

#define MASK 255
int a[MAXN],b[MAXN]; //a储存原数据, b在排序过程中会发生改变
int b1[BUSKN],b2[BUSKN],b3[BUSKN],b4[BUSKN]; //val -> rank, 四次排序的桶
int e1[MAXN],e2[MAXN],e3[MAXN],e4[MAXN]; //rank -> ID, 四次排序的ele数组

for (int i=1;i<=n;i++){
    int t=b[i]=a[i];
    b1[t&MASK]++,t>>=8;
    b2[t&MASK]++,t>>=8;
    b3[t&MASK]++,t>>=8;
    b4[t&MASK]++; //分别加到桶里
}

for (int i=1;i<=MASK;i++)
    b1[i]+=b1[i-1],b2[i]+=b2[i-1],
    b3[i]+=b3[i-1],b4[i]+=b4[i-1]; //给桶做前缀和

//核心步骤——赋予排名
for (int i=n;i;i--)
    e1[b1[b[i]&MASK]--]=i,        b[i]>>=8;
for (int i=n;i;i--)
    e2[b2[b[e1[i]]&MASK]--]=e1[i],b[e1[i]]>>=8;
for (int i=n;i;i--)
    e3[b3[b[e2[i]]&MASK]--]=e2[i],b[e2[i]]>>=8;
for (int i=n;i;i--)
    e4[b4[b[e3[i]]&MASK]--]=e3[i];
for (int i=1;i<=n;i++)
    ayano(a[e4[i]],' '); //按顺序输出整数

后缀排序

给后缀排序是建立后缀数组（Suffix Array）的关键操作。

字符串s[1...n]的后缀就是指这些子串：s[1...n],s[2...n],s[3...n],...,s[n...n]。按照后缀的起始点，分别把它们编号为$1,2,3,\cdots,n$。

“后缀排序”就是对这$n$个后缀（就是$n$个字符串）进行排序。当然不是真的排序，只是求出元素数组和排名数组罢了。

在这里重新强调元素数组和排名数组的定义：

• 元素数组，此处称作后缀数组或sa数组，表示排名为i的后缀的编号是sa[i]
• 排名数组，此处称作rank（缩写为rk）数组，表示编号为i的后缀排名为rk[i]

还是那句话，“名副其实”，后缀数组里的东西是后缀（的编号），排名数组里的东西是排名。

如何给后缀排序呢？最简单的方法当然是直接应用一遍快速排序，时间复杂度是$\mathrm{O}(n\log n)$，足够快了吧。

可惜的是，这个时间复杂度是错的。由于比较两个字符串是$\mathrm{O}(n)$而非$\mathrm{O}(1)$的，快速排序需要$\mathrm{O}(n\log n)$次比较，因此正确的复杂度应该是$\mathrm{O}(n^2 \log n)$，无法承受。

那么改成基数排序吧？字符串的排序是按照字典序，也就是以第一个字符为第一关键字、以第二个字符为第二关键字，以此类推。可是这样会有$n$个关键字，需要（桶）排序$n$次，每次排序的时间复杂度是$\mathrm{O}(n)$，合起来达到$\mathrm{O}(n^2)$，依然无法承受。

做不出来的时候怎么办？看看我们是不是漏条件了啊。

上面的两种方法可是不仅可以用于后缀排序，还可以用于“给$n$个字符串排序”啊。这不就相当于，“后缀”的条件完全没有利用上吗？那怎么可能做得出来啊。

“后缀”的条件是，这些字符串有很多的公共部分！利用这些公共部分，就能改善我们算法的时间复杂度！

利用这个条件的方法很多，像后缀树、后缀平衡树、后缀自动机等。当然，我们在这里要介绍的是最简单的一种——倍增法求后缀数组。

倍增法的主要思想是，“用排名代替具体的元素”。

我们用字符串"aabaaaab"做例子（这个例子好经典，为什么？因为它是 IOI 2009 国家集训队论文里边的啊~），它的后缀有"b","ab","aab","aaab","aaaab",'baaaab","abaaaab","aabaaaab"。

首先，我们把所有的后缀调整成一样长的，也就是（假装）我们在字符串后面补了一些空字符（'\0'，字典序是最小的；下面用0表示）。那么后缀就变成了"b0000000","ab000000","aab00000","aaab0000","aaaab000",'baaaab00","abaaaab0","aabaaaab"。补这些字符并不影响字典序，因为我们规定，比不出大小时短的字符串较小。

思考这个问题：某些元素，按$(a,b)$双关键字排序的排名是$x$，按$(c,d)$双关键字排序的排名是$y$，那么按$(a,b,c,d)$四关键字排序的排名是否就相当于按$(x,y)$双关键字排序的排名呢？（关键字的顺序表示主次顺序。）

思考后可以发现，答案是肯定的。

那么，我们就把这个字符串的所有长度为$1$的块进行排序；接着把它所有长度为$2$的块按照组成它的两个$1$块的排名（在前面的是主要关键字，在后面的是次要关键字）进行双关键字排序，就可以得到$2$块的排名；然后再把$4$块按照$2$块的排名进行双关键字排序，得到$4$块的排名……直到块的长度不小于$n$为止。此时每一个块都是原串的后缀（因为长度不小于$n$，因此除了s[1...n]，其余块都一定要越过s[n]补零，也就成了后缀），我们就得到了后缀的排序。

引用一下集训队论文里的图片——

从图中我们可以看到，每一次排序都是把上次排序的rank数组作为元素值，也就是“用排名代替具体的元素”。排序的主要关键字是上一次的rank[i]，次要关键字是上一次的rank[i+w]，其中$w=2^k$。

从图中我们还可以看到，我们不必实际地去补“0”，只需要在所找的$2$块、$4$块等超出边界的时候直接令他们的原排名为$0$即可。

那么，我们就可以实现代码了。

首先是桶排序部分的代码。我们已经把次要关键字rk[i+w]的元素数组制作好并存到了数组tp里，因此相当于次要关键字已经排好序了。注意，sa和tp都是元素数组。

1
2
3
4
5
6
7
8
9
10
11
12
13

void bucket_sort(int n,int m){
    // 任务: 根据主要关键字的值数组rk和次要关键字的排名数组tp, 计算元素数组sa
    // n是字符串长, m是rk和tp的值域（[1,m]）
    // 各映射的信息: rk: id->val, tp: rank->id, bucket: val->rank, sa: rank->id
    for (int i=0;i<=m;i++)
        bucket[i]=0;
    for (int i=1;i<=n;i++)
        bucket[rk[i]]++;
    for (int i=1;i<=m;i++)
        bucket[i]+=bucket[i-1];
    for (int i=n;i;i--)
        sa[ bucket[ rk[ tp[i] ] ]-- ] = tp[i];
}

四重嵌套那一行可能比较难写。一个较为快速的推法是，把映射关系写下来，再根据映射关系写（“量纲分析”）。

1. 要求出sa，先写sa[ ]=
2. sa的值是id，值是id的只有tp，写下sa[ ]=tp[i]
3. sa的定义域是rank，值域是rank的只有bucket，写下sa[bucket[ ]--]=tp[i]（是bucket，所以伴随着--）
4. bucket的定义域是val,值域是val的只有rk，写下sa[bucket[rk[ ]]--]=tp[i]
5. rk的定义域是id，值域是id的已知量只有tp，写下sa[bucket[rk[tp[i]]]--]=tp[i]。

接着再来实现后缀排序的主函数。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42

void suffix_sort(int n){
    //字符串长度为n
    //先做一遍长度为1的块的排序
    //因为是第一遍排序, 所以第一关键字是字符大小
    //第二关键字随意指定一个，那么第二关键字的元素数组可以设为1,2,...,n
    int m='z'-'/'; //假设字符集是0-9,A-Z,a-z
    //m表示字符集大小,也就是值数组的值域
    for (int i=1;i<=n;i++)
        //分别求出第一遍排序的主要关键字 值数组 和次要关键字 元素数组
        rk[i]=str[i]-'/', tp[i]=i; 
    bucket_sort(n,m);
    //下面开始重复排序，也就是倍增过程
    for (int w=1,p=0;w<n && p<n;w<<=1,m=p){
        //w表示上一次排序的块长
        //为进行排序,先制作tp数组
        p=0; //记录排名
        //先处理那些次要关键字已经超过了串的末尾,也就是达到补零位置的块
        for (int i=n-w+1;i<=n;i++)
            tp[++p]=i; //将“++p”这个排名分配给i这个块
            //这些块的次要关键字都一样,任意指定一些最靠前的排名就好了
        //接着根据上一回排序的“排名”的元素数组，制作本次的元素数组
        for (int i=1;i<=n;i++)
            //取上一回第i名的块,分配排名
            if (sa[i]>w) //如果某个块的编号小于w,那么这次就不会作为后继块(sa[i]-w已经小于0了)
                tp[++p]=sa[i]-w; //给sa[i]-w（前驱块的编号）分配++p的排名
        //上述循环顺序进行, 先遍历到的块比较小, 分配靠前的排名
        //现在tp数组制作完成，开始进行排序
        bucket_sort(n,m);
        //现在根据sa数组制作rk数组
        swap(rk,tp); //tp数组已经使用完毕了(排序后就不需要上一次排序的信息了),下面我们用它来储存上一轮的rk数组
        rk[sa[1]]=1; //排名为1的元素所对应的排名是1
        p=1; //此处p的含义是已经分配了的排名
        for (int i=2;i<=n;i++)
            if (tp[sa[i]]==tp[sa[i-1]] && tp[sa[i]+w]==tp[sa[i-1]]+w)
                //上述两个条件说明, 组成 sa[i]和sa[i-1],即排名为i和i-1的两个元素的两个块完全相同
                rk[sa[i]]=p;
            else
                rk[sa[i]]=++p;
        //到此处,p表示已经分配出的排名种类数；同时也是值数组的值域,因此可以作为下一轮的m值
        //p=n表示已经区分出了n种后缀,后缀排序就完成了
    }
}

通过这两个函数，我们就计算出了sa和rk数组，也就实现了后缀排序。输出sa数组就可以通过这道模板题了。

可能这里的注释还有一些不清楚的地方，但是暂时无法进一步完善了（哭）。如果有什么问题在评论区提吧。

那么这篇文章就结束了。