算法复杂度

标签：问题   依次   应该   mamicode   常见   循环结构   渐进   一点   情况下   

算法的时间复杂度反映了程序执行时间随输入规模增长而增长的量级，在很大程度上能很好反映出算法的优劣与否。算法执行时间需通过依据该算法编制的程序在计算机上运行时所消耗的时间来度量。而度量一个程序的执行时间通常有两种方法。

• 时间频度 一个算法执行所耗费的时间，从理论上是不能算出来的，必须上机运行测试才能知道。但我们不可能也没有必要对每个算法都上机测试，只需知道哪个算法花费的时间多，哪个算法花费的时间少就可以了。并且一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费时间就多。一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。
• 时间复杂度 在刚才提到的时间频度中，n称为问题的规模，当n不断变化时，时间频度T(n)也会不断变化。但有时我们想知道它变化时呈现什么规律。为此，我们引入时间复杂度概念。 一般情况下，算法中基本操作重复执行的次数是问题规模n的某个函数，用T(n)表示，若有某个辅助函数f(n),使得当n趋近于无穷大时，T(n)/f(n)的极限值为不等于零的常数，则称f(n)是T(n)的同数量级函数。记作T(n)=Ｏ(f(n)),称Ｏ(f(n)) 为算法的渐进时间复杂度，简称时间复杂度。

T (n) = Ο(f (n)) 表示存在一个常数C，使得在当n趋于正无穷时总有 T (n) ≤ C * f(n)。例如，O(2n²+n +1) = O (3n²+n+3) = O (7n² + n) = O ( n² ) 。注意到大O符号里隐藏着一个常数C，所以f(n)里一般不加系数。特殊的，当算法中语句执行次数为一个常数时，时间复杂度为O(1)。

另外，在时间频度不相同时，时间复杂度有可能相同，如T(n)=n²+3n+4与T(n)=4n²+2n+1它们的频度不同，但时间复杂度相同，都为O(n²)。

按数量级递增排列，常见的时间复杂度有：

• 常数阶O(1)
• 对数阶O(log2n)
• 线性阶O(n),
• 线性对数阶O(nlog2n)
• 平方阶O(n²)，立方阶O(n³),...， k次方阶O(n^k)
• 指数阶O(2n)。

随着问题规模n的不断增大，上述时间复杂度不断增大，算法的执行效率越低。

从图中可见，我们应该尽可能选用多项式阶O(nk)的算法，而不希望用指数阶的算法。

常见的算法时间复杂度由小到大依次为：Ο(1)＜Ο(log₂n)＜Ο(n)＜Ο(nlog₂n)＜Ο(n2)＜Ο(n3)＜…＜Ο(2n)＜Ο(n!)

求解算法的时间复杂度

具体步骤是：

1. 找出算法中的基本语句，算法中执行次数最多的那条语句就是基本语句，通常是最内层循环的循环体。
2. 计算基本语句的执行次数的数量级，只需计算基本语句执行次数的数量级，这就意味着只要保证基本语句执行次数的函数中的最高次幂正确即可，可以忽略所有低次幂和最高次幂的系数。这样能够简化算法分析，并且使注意力集中在最重要的一点上：增长率。
3. 用大Ο记号表示算法的时间性能，将基本语句执行次数的数量级放入大Ο记号中。

如果算法中包含嵌套的循环，则基本语句通常是最内层的循环体，如果算法中包含并列的循环，则将并列循环的时间复杂度相加。

例如：

for (i = 1; i <= n; i++)
    x++;
for (i = 1; i <= n; i++)
    for (j = 1; j <= n; j++)
        x++;

第一个for循环的时间复杂度为Ο(n)，第二个for循环的时间复杂度为Ο(n²)，则整个算法的时间复杂度为Ο(n+n²)=Ο(n²)。

• Ο(1)表示基本语句的执行次数是一个常数，一般来说，只要算法中不存在循环语句，其时间复杂度就是Ο(1)。
• 其中Ο(log2n)、Ο(n)、 Ο(nlog₂n)、Ο(n²)和Ο(n³)称为多项式时间，计算机科学家普遍认为多项式时间复杂度的算法是有效算法，把这类问题称为P（Polynomial,多项式）类问题。
• 而Ο(2ⁿ)和Ο(n!)称为指数时间，计算机科学家把后者（即指数时间复杂度的算法）称为NP（Non-Deterministic Polynomial, 非确定多项式）问题。

几个简单的程序分析法则

1. 对于一些简单的输入输出语句或赋值语句,近似认为需要O(1)时间
2. 对于顺序结构，需要依次执行一系列语句所用的时间可采用大O下"求和法则"，求和法则：是指若算法的2个部分时间复杂度分别为 T1(n)=O(f(n))和 T2(n)=O(g(n))，则 T1(n)+T2(n)=O(max(f(n), g(n))) 特别地,若 T1(m)=O(f(m))，T2(n)=O(g(n))，则 T1(m)+T2(n)=O(f(m) + g(n)) 。
3. 对于选择结构，如if语句，它的主要时间耗费是在执行then字句或else字句所用的时间，需注意的是检验条件也需要O(1)时间 。
4. 对于循环结构，循环语句的运行时间主要体现在多次迭代中执行循环体以及检验循环条件的时间耗费,一般可用大O下"乘法法则"，乘法法则: 是指若算法的2个部分时间复杂度分别为 T1(n)=O(f(n))和 T2(n)=O(g(n)),则 T1*T2=O(f(n)*g(n)) 。
5. 对于复杂的算法,可以将它分成几个容易估算的部分,然后利用求和法则和乘法法则技术整个算法的时间复杂度

另外还有以下2个运算法则

• 若g(n)=O(f(n)),则O(f(n))+ O(g(n))= O(f(n))
• O(Cf(n)) = O(f(n))，其中C是一个正常数

几个常见的时间复杂度示例说明：

(1)、O(1)

Temp = i;
i = j;
j = Temp;            

以上三条单个语句的频度均为1，该程序段的执行时间是一个与问题规模n无关的常数。算法的时间复杂度为常数阶，记作T(n)=O(1)。注意：如果算法的执行时间不随着问题规模n的增加而增长，即使算法中有上千条语句，其执行时间也不过是一个较大的常数。此类算法的时间复杂度是O(1)。

(2)、O(n2)

2.1. 交换i和j的内容

sum = 0;                     //（一次）
for (i = 1; i <= n; i++)     //（n + 1次）
    for (j = 1; j <= n; j++) //（n2次）
        sum++;                 //（n2次）

因为Θ(2n²+n+1)=n²（即：去低阶项，去掉常数项，去掉高阶项的常参得到），所以T(n)= =O(n²)；

2.2.   

for (i = 1; i < n; i++)
{
    y = y + 1;　　//1
    for (j = 0; j <= (2 * n); j++)
        x++;　　//2
}

 语句1的频度是n-1，语句2的频度是(n-1)*(2n+1)=2n²-n-1，f(n)=2n2-n-1+(n-1)=2n2-2；又(2n²-2)=n²，该程序的时间复杂度T(n)=O(n2)。

一般情况下，对步进循环语句只需考虑循环体中语句的执行次数，忽略该语句中步长加1、终值判别、控制转移等成分，当有若干个循环语句时，算法的时间复杂度是由嵌套层数最多的循环语句中最内层语句的频度f(n)决定的。     

(3)、O(n)                                                              

a = 0;
b = 1;                     //1
for (i = 1; i <= n; i++) //2
{
    s = a + b; //3
    b = a;       //4
    a = s;       //5
}

•  语句1的频度：2
• 语句2的频度： n
• 语句3的频度： n-1
• 语句4的频度：n-1
• 语句5的频度：n-1

T(n)=2+n+3(n-1)=4n-1=O(n).

(4)、O(log2n)

i = 1; //1
while (i <= n)
    i = i * 2; //2

• 语句1的频度是1, 
• 设语句2的频度是f(n),   则：2^f(n)<=n;      f(n)<=log₂n    

取最大值f(n)=log₂n，T(n)=O(log₂n )

(5)、O(n3) 

for (i = 0; i < n; i++)
{
    for (j = 0; j < i; j++)
    {
        for (k = 0; k < j; k++)
            x = x + 2;
    }
}

当i=m, j=k的时候,内层循环的次数为k当i=m时, j 可以取 0,1,...,m-1 , 所以这里最内循环共进行了0+1+...+m-1=(m-1)m/2次所以,i从0取到n, 则循环共进行了: 0+(1-1)*1/2+...+(n-1)n/2=n(n+1)(n-1)/6所以时间复杂度为O(n³).

算法复杂度

标签：问题   依次   应该   mamicode   常见   循环结构   渐进   一点   情况下   

原文地址：https://www.cnblogs.com/stu-jyj3621/p/12943531.html