1. 算法的基本概念

1.1 什么是算法？

程序 = 数据结构 + 算法
算法（Algorithm）是对特定问题求解步骤的一种描述，它是指令的有限序列，其中的每条指令表示一个或多个操作。

1.2 算法的五个特性

  • 有穷性：一个算法必须总再执行有穷步之后结束，且每一步都可在有穷时间内完成。
  • 确定性：算法中每条指令必须有确切的含义，对于相同的输入只能得到相同的输出.
  • 可行性：算法中描述的操作都可以通过已经实现的基本运算执行有限次来实现
  • 输入：一个算法有零个或多个输入，这些输入取自于某个特定的对象集合。
  • 输出：一个算法有零个或多个输出，这些输出是与输入有着某种特定关系的量。

注意：

  • 算法必须是有穷的，而程序可以是无穷的

1.3 “好”算法的特质

  1. 正确性：算法应能正确地解决求解问题
  2. 可读性：算法应具有良好的可读性，以帮助人们理解
  3. 健壮性：输入非法数据时，算法能适当地做出反应或进行处理，而不会产生莫名其妙的输出结果
  4. 高效率(时间复杂度低)与低存储量需求(空间复杂度低)

2.算法效率的度量

2.1 时间复杂度

事前预估算法时间开销T(n)与问题规模n的关系（T表示“time"）
algorithm

时间复杂度大小比较：
$$
O(1)<O(log_2 n)<O(n)<O(nlog_2 n)<O(n^2)<O(n^3)<O(2^n)<O(n!)<O(n^n)
$$
口令：常对幂指阶

复杂度：

  • 最坏时间复杂度
  • 平均时间复杂度
  • 最好时间复杂度

2.2 空间复杂度

2.2.1 如何计算？

普通程序：

  1. 找到所占空间大小与问题规模相关的变量
  2. 分析所占空间x与问题规模n的关系x=f(n)
  3. x的数量级O(x)就是算法空间复杂度S(n)
    递归程序：
  4. 找到递归调用的深度x与问题规模n的关系x=f(n)
  5. x的数量级O(x)就是算法空间复杂度S(n)
    注：有的算法各层函数所需存储空间不同，分析方法略有区别

2.2.2 常用技巧

  1. 加法法则
    $$
    O(f(n)) + O(g(n)) = O(max(f(n),g(n)))
    $$
  2. 乘法法则
    $$
    O(f(n)) \times O(g(n)) = O(f(n) \times g(n))
    $$
  3. 常对幂指阶
    $$
    O(1)<O(log_2 n)<O(n)<O(nlog_2 n)<O(n^2)<O(n^3)<O(2^n)<O(n!)<O(n^n)
    $$