算法

完全遍歷法和不完全遍歷法：在问题的解是有限离散解空间，且可以验证正确性和最优性时，最简单的算法就是把解空间的所有元素完全遍历一遍，逐个检测元素是否是我们要的解。这是最直接的算法，实现往往最简单。但是当解空间特别庞大时，这种算法很可能导致工程上无法承受的计算量。这时候可以利用不完全遍历方法——例如各种搜索法和规划法——来减少计算量。

分治法：把一个问题分割成互相独立的多个部分分别求解的思路。这种求解思路带来的好处之一是便于进行并行计算。

动态规划法：当问题的整体最优解就是由局部最优解组成的时候，经常采用的一种方法。

贪婪算法：常见的近似求解思路。当问题的整体最优解不是（或无法证明是）由局部最优解组成，且对解的最优性没有要求的时候，可以采用的一种方法。

线性规划法：见条目。

简并法：把一个问题通过逻辑或数学推理，简化成与之等价或者近似的、相对简单的模型，进而求解的方法。

递归方法与迭代方法

顺序计算、并行计算和分布式计算：顺序计算就是把形式化算法用编程语言进行单线程序列化后执行。

确定性算法和非确定性算法

精确求解和近似求解

算法的时间复杂度是指算法需要消耗的时间资源。一般来说，计算机算法是问题规模${\displaystyle n}$的函数${\displaystyle f(n)}$，算法的时间复杂度也因此记做

${\displaystyle T(n)={\mathcal {O}}(f(n))}$

算法执行时间的增长率与${\displaystyle f(n)}$的增长率正相关，称作渐近时间复杂度，简称时间复杂度。

常见的时间复杂度有：常数阶${\displaystyle O(1)}$，对数阶${\displaystyle O(\log n)}$，线性阶${\displaystyle O(n)}$，线性对数阶${\displaystyle O(n\log n)}$，平方阶${\displaystyle O(n^{2})}$，立方阶${\displaystyle O(n^{3})}$，...，${\displaystyle k}$次方阶${\displaystyle O(n^{k})}$,指数阶${\displaystyle O(2^{n})}$。随着问题规模${\displaystyle n}$的不断增大，上述时间复杂度不断增大，算法的执行效率越低。

算法的空间复杂度是指算法需要消耗的空间资源。其计算和表示方法与时间复杂度类似，一般都用复杂度的渐近性来表示。同时间复杂度相比，空间复杂度的分析要简单得多。

这是算法的一个简单的例子。

我们有一串随机数列。我们的目的是找到这个数列中最大的数。如果将数列中的每一个数字看成是一颗豆子的大小，可以将下面的算法形象地称为「捡豆子」：

1. 首先将第一颗豆子放入口袋中。
2. 从第二颗豆子开始检查，如果正在检查的豆子比口袋中的还大，则将它捡起放入口袋中，同时丢掉原先口袋中的豆子。反之則繼續下一顆豆子。直到最后一颗豆子。
3. 最后口袋中的豆子就是所有的豆子中最大的一颗。

以上算法在中国大陆的教科书中通常被叫做“打擂法”或者“循环打擂”[14][15][16]：在一个for循环中，每轮循环都有新的挑战者。若挑战者胜的话，挑战者做新擂主，否则擂主卫冕。for循环结束后输出最后的擂主。

下面是一个形式算法，用ANSI C代码表示

int max(int *array, int size)
{
  int mval = *array;
  int i;
  for (i = 1; i < size; i++)
    if (array[i] > mval)
      mval = array[i];
  return mval;
}

求两个自然数的最大公约数 设两个变量${\displaystyle M}$和${\displaystyle N}$

1. 如果${\displaystyle M<N}$，则交换${\displaystyle M}$和${\displaystyle N}$
2. ${\displaystyle M}$除以${\displaystyle N}$，得到余数${\displaystyle R}$
3. 判断${\displaystyle R=0}$，正确则${\displaystyle N}$即为“最大公约数”，否则下一步
4. 将${\displaystyle N}$赋值给${\displaystyle M}$，将${\displaystyle R}$赋值给${\displaystyle N}$，重做第一步。

用ANSI C代码表示

//交換2數
void swapi(int *x, int *y)
{
  int tmp = *x;
  *x = *y;
  *y = tmp;
}

int gcd(int m, int n)
{
  int r;
  do
  {
    if (m < n)
      swapi(&m, &n);
    r = m % n;
    m = n;
    n = r;
  } while (r);
  return m;
}

利用if函式以及遞迴則能做出更為精簡的程式碼，更可省去交換的麻煩。（但是也因為遞迴呼叫，其空間複雜度提高）

int gcd(int a,int b)
{
    if(a%b)
        return gcd(b,a%b);
    return b;
}