算法基础

 什么是算法?

  算法(Algorithm)是指解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系统的方法描述解决问题的策略机制。也就是说,能够对一定规范的输入,在有限时间内获得所要求的输出。如果一个算法有缺陷,或不适合于某个问题,执行这个算法将不会解决这个问题。不同的算法可能用不同的时间、空间或效率来完成同样的任务。一个算法的优劣可以用空间复杂度时间复杂度来衡量。

  算法中的指令描述的是一个计算,当其运行时能从一个初始状态和(可能为空的)初始输入开始,经过一系列有限而清晰定义的状态,最终产生输出并停止于一个终态。一个状态到另一个状态的转移不一定是确定的。随机化算法在内的一些算法,包含了一些随机输入。简单来说,算法就是一个计算过程,解决问题的方法。

算法的特征

  一个算法应该具有五个重要的特征:

  • 有穷性(Finiteness):算法的有穷性是指算法必须在执行有限的步骤之后终止。
  • 确切性(Definiteness):算法的每一个步骤必须有确切的定义。
  • 输入项(Input):一个算法有0个或多个输入,以刻画运算对象的初始情况,0个输入是指算法本身定出了初始条件。
  • 输出项目(Output):一个算法有1个或多个输出,以反映对输入数据加工后的结果,没有输出的算法是毫无意义的。
  • 可行性(Effectiveness):算法中执行的任何计算步骤都是可以被分解为基本的可执行的操作,每个计算步都可以在有限时间内完成(也称之为有效性)。

算法的评定

同一问题可以用不同的算法解决,而一个算法的质量优劣将影响到算法乃至程序的效率。算法分析的目的在于选择合适算法和改进算法。其一个算法的评价只要从(时间复杂度)和(空间复杂度)来考虑。

  • 时间复杂度:算法的时间复杂度是指执行算法所需要的计算工作量。可以用O(n)来当单位衡量。
  • 空间复杂度:算法的空间复杂度是指算法需要消耗的内存空间。一般用空间换时间。
  • 正确性:算法的正确性是评价一个算法优劣的最重要标准、
  • 可读性:算法的可读性是指一个算法可供人们阅读的容易程度。
  • 健壮性:健壮性是指一个算法对不合理数据输入的反应能力和处理能力,也称为容错性。

Python中的算法排序

一般来说,时间复杂度高的算法比复杂度低的算法慢。
常见的时间复杂度(按效率排序)
O(1)<O(logn)<O(n)<O(nlogn)<O(n**2)<O(n**2logn)<O(n**3)
不常见的空间复杂度
O(n!)n的阶乘   O(2**n)2的n次方    O(n**n)n的n次方
小技巧:
    如果是循环减半的过程 -> O(logn)
    几次循环就是n的几次方的复杂度

print("Hello World!")                # 时间复杂度为O(1)

 
for i in range(n):                     # 时间复杂度为O(n)
    print("Hello World!")     


for i in range(n):                     # 时间复杂度为O(n**2)n的二次方
    for j in range(n):
        print("Hello World!")


for i in range(n):                     # 时间复杂度为O(n**3)n的三次方
    for j in range(n):
        for k in range(n):
            print("Hello World!")


while n > 1:                            # 时间复杂度为O(logn)求n的幂的逆运算
    print(n)
    n = n // 2

几种常见的算法

  • 冒泡排序:相邻的两个数,如果前边比后边的大,那么久交换这两个数。
# 冒泡排序法的时间复杂度O(n**2)
li = [1,9,2,8,3,6,4,5,7]                        # 一个列表需要排序   

# 方式一:
def bubble_sort(li):                                         
    for i in range(0, len(li)-1):               # 循环一下其索引(0,8)因为顾头不顾尾索引-1
        for j in range(0, len(li) - i - 1):     # 再次循环相邻换完最小值要去掉他最小值
            if li[j] > li[j+1]:                      # 如果循环完的数大于相邻的数
                li[j], li[j+1] = li[j+1], li[j]    # 那么就交换这两个数


print(bubble_sort(li))                            # 最后结果[1,2,3,4,5,6,7,8,9]


# 方式二(优化方式一,代表冒泡排序法执行一趟之后没有交换,则代表列表是有序状态,可以直接结束算法。):

def bubble_sort_2(li):
    for i in range(0, len(li)-1):
        for j in range(0, len(li) - i - 1):
            exchange = False
            if li[j] > li[j+1]:
                li[j], li[j+1] = li[j+1], li[j]
                exchange = True
            if not exchange:
                return

print(bubble_sort_2(li))                         #  如果有序的话,执行速度会加快
  • 选择排序法:一趟遍历记录最小的数,放到第一个位置,接着在一趟遍历记录中剩余列表最小的数,继续放置,直至结束。
# 选择排序法的时间复杂度O(n**2)

def select_sort(li):
    for i in range(len(li) - 1):
        # 第i趟:有序区li[0:i] 无序区li[i:n]
        min_loc = i
        for j in range(i + 1, len(li)):
            if li[min_loc] > li[j]:
                min_loc = j
        li[min_loc], li[i] = li[i], li[min_loc]
  • 插入排序法:列表分为有序区和无序区两个部分,初始有序区只有一个元素。每次从无序区取出一个元素,插入到有序区的位置,直到无序区为空。
def insert_sort(li):
    for i in range(1, len(li)):
        # i既表示趟数,也表示数的下标
        j = i - 1
        tmp = li[i]
        while j >= 0 and li[j] > tmp:
            li[j + 1] = li[j]
            j -= 1
        li[j + 1] = tmp
  • 快速排序法:取一个元素,才用填坑法,让一个列表被这个元素分成两部分,左边都比这个元素小,反之右边比这个元素大,在用递归完成排序。
li = [5, 7, 4, 6, 3, 1, 2, 9, 8]


def quick_sort(li, low, high):             # 参数是(取第一个参数, 0, 列表中的元素个数)
    i = low
    j = high
    if i >= j:
        return li
    key = li[i]
    while i < j:
        while i < j and li[j] >= key:      # 如果要是进行降序排序吧li[j] >= key 变成 <=
            j = j - 1
        li[i] = li[j]
        while i < j and li[i] <= key:      # 如果要是进行降序排序吧li[i] <= key 变成 >=
            i = i + 1
        li[j] = li[i]
    li[i] = key
    quick_sort(li, low, i - 1)
    quick_sort(li, j + 1, high)
    return li


print(quick_sort(li, 0, 8))
  • 堆排序法:直到堆的概念需要先知道数与二叉树

    树是一种数据结构,并且是可以递归定义的数据结构。

    树是由n个节点组成的集合:如果n = 0,那么这就是一颗空树,如果n > 0,那存在1个节点作为树的根节点,其他节点可以分为m个集合,每个集合又是一个树。

上面是树的概念,下面是特殊且常用的树 —— 二叉树(度不超过2的树(节点最多有两个叉))

      两种特殊二叉树:

        满二叉树:一个二叉树,如果每一个层的结点数都达到最大值,则这个二叉树就是满二叉树。

        完全二叉树:叶节点只能出现在最下层和次下层,并且最下面一层的结点都集中在该层最左边的若干位置的二叉树。

堆排序:

      大跟堆:一颗完全二叉树,满足任一节点都比其孩子节点大。

      小跟堆:一颗完全二叉树,满足任一节点都比其孩子节点小。

堆排序的过程:如果节点的左右子树都是堆,但自身不是堆,那么就可以通过向下调整来创造堆。

      建立堆,并且保证堆顶元素是最大元素。去掉堆顶,将堆最后一个元素放到堆顶,此时可通过一次调整重新使堆有序,直至堆边空。

    在Python中有个内置模块——heapq,其中可以用这个模块来实现堆排序

from cal_time import cal_time
import heapq

def sift(li, low, high):
    tmp = li[low]        # 最大元素
    i = low
    j = 2 * i + 1
    while j <= high:    # 第二种跳出条件: j > high
        if j < high and li[j+1] > li[j]: # 如果右孩子存在并且大于左孩子
            j += 1
        if tmp < li[j]:
            li[i] = li[j]
            i = j
            j = 2 * i + 1
        else:   # 第一种跳出条件:li[j] <= tmp
            break
    li[i] = tmp


@cal_time
def heap_sort(li):
    n = len(li)
    # 1. 建堆
    for i in range(n // 2 - 1, -1, -1): # 最后一个非叶子节点的位置是n//2-1
        sift(li, i, n-1)
    # 2. 挨个出数
    for i in range(n-1, -1, -1): # i 表示此时堆的high位置
        li[0], li[i] = li[i], li[0] # 已经排序好的元素
        sift(li, 0, i-1)

import random


li = list(range(100000))
random.shuffle(li)
heap_sort(li)
print(li)
  • 归并排序法:将列表越分越小,直到分成一个元素,接下来合并,合并之后是有序列表,越来越大。
def merge(li, low, mid, high):               # 一次归并方法
    i = low
    j = mid + 1
    li_tmp = []
    while i <= mid and j <= high:
        if li[i] < li[j]:
            li_tmp.append(li[i])
            i += 1
        else:
            li_tmp.append(li[j])
            j += 1
    while i <= mid:
        li_tmp.append(li[i])
        i += 1
    while j <= high:
        li_tmp.append(li[j])
        j += 1
    for i in range(low, high+1):
        li[i] = li_tmp[i-low]


def merge_sort(li, low, high):               # 归并排序
    if low < high:                           # 至少两个元素
        mid = (low + high) // 2
        print(li[low:mid + 1], li[mid + 1:high + 1])
        merge_sort(li, low, mid)
        merge_sort(li, mid+1, high)
        print(li[low:mid+1], li[mid+1:high+1])
        merge(li, low, mid, high)
        print(li[low:high + 1])

li = [10,4,6,3,8,2,5,7]
merge_sort(li, 0, len(li)-1)

排序方法

空间复杂度

稳定性

最坏情况

平均情况

最好情况

冒泡排序

O(n2)

O(n2)

O(n)

O(1)

稳定

直接选择排序

O(n2)

O(n2)

O(n2)

O(1)

不稳定

直接插入排序

O(n2)

O(n2)

O(n)

O(1)

稳定

快速排序

O(n2)

O(nlogn)

O(nlogn)

平均情况O(logn); 最坏情况O(n)

不稳定

堆排序

O(nlogn)

O(nlogn)

O(nlogn)

O(1)

不稳定

归并排序

O(nlogn)

O(nlogn)

O(nlogn)

O(n)

稳定

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏程序员叨叨叨

6.1 关系操作符(Comparison Operators)

在上一章中,我们已经介绍了Cg语言的基础数据类型(7种)、内置数据类型,以及数组、结构、接口等类型,本章将在此基础上讨论Cg中的表达式,表达式由操作符(oper...

442
来自专栏武培轩的专栏

剑指Offer-连续子数组的最大和

题目描述 在古老的一维模式识别中,常常需要计算连续子向量的最大和,当向量全为正数的时候,问题很好解决。但是,如果向量中包含负数,是否应该包含某个负数,并期望旁边...

2602
来自专栏武培轩的专栏

Leetcode#461. Hamming Distance(汉明距离)

712
来自专栏ml

二分查找算法基本思想

转载http://www.cppblog.com/converse/archive/2009/10/05/97905.html 二分查找算法基本思想 二分查找算...

40511
来自专栏专知

Numpy教程第1部分 - 阵列简介(常用基础操作总结)

【导读】这里是numpy教程的基础部分,涵盖了使用numpy的ndarrays执行数据操作和分析的一些操作。众所周知,Numpy是Python中最基本和最强大的...

2634
来自专栏吴伟祥

时间复杂度和空间复杂度详解 原

(1)时间频度 一个算法执行所耗费的时间,从理论上是不能算出来的,必须上机运行测试才能知道。但我们不可能也没有必要对每个算法都上机测试,只需知道哪个算法花费的时...

702
来自专栏阿凯的Excel

索引功能(Pandas读书笔记10)

当我们定义一个Series类型的数据的时候,发现Pandas会帮我们自定义生成一个0到3的索引,我个人是比较喜欢使用Pandas给我们生成的自定义索引,但是部分...

641
来自专栏编程理解

动态规划(一):爬楼梯

时,处于原地,因为步长为 1 ~ 2 阶,不能有前进之后再后退的情况,所以只能有当前一种方式,所以

772
来自专栏温安适的blog

union/find--不相交集合

3377
来自专栏互联网杂技

各种排序算法总结

排序算法是最基本最常用的算法,不同的排序算法在不同的场景或应用中会有不同的表现,我们需要对各种排序算法熟练才能将它们应用到实际当中,才能更好地发挥它们的优势。今...

3195

扫码关注云+社区