人工智能需要什么基础?

Question

如题所述

Answer 1

当前，人工智能已经成为新时代的必修课，其重要性不言而喻。然而，作为一个跨学科领域，人工智能包含的内容广泛而复杂，各种模型和算法让人眼花缭乱。对于新手来说，如何入手人工智能往往是一头雾水，比如需要哪些数学基础、是否需要工程经验、对于深度学习框架应该关注什么等等。那么，学习人工智能应该从哪里开始呢？人工智能的学习路径又是怎样的呢？本文节选自王天一教授在极客时间 App 开设的“人工智能基础课”，已获授权。更多相关文章，请下载极客时间 App，订阅专栏获取。
数学基础知识是处理智能问题的基本思想和方法，也是理解复杂算法的必备要素。人工智能的各种技术最终都建立在数学模型之上，要了解人工智能，首先要掌握必备的数学基础知识，具体来说包括：
1. 线性代数：如何将研究对象形式化？
2. 概率论：如何描述统计规律？
3. 数理统计：如何以小见大？
4. 最优化理论：如何找到最优解？
5. 信息论：如何定量度量不确定性？
6. 形式逻辑：如何实现抽象推理？
线性代数不仅仅是人工智能的基础，更是现代数学和以现代数学作为主要分析方法的众多学科的基础。从量子力学到图像处理都离不开向量和矩阵的使用。而在向量和矩阵背后，线性代数的核心意义在于提供了一种看待世界的抽象视角：万事万物都可以被抽象成某些特征的组合，并在由预置规则定义的框架之下以静态和动态的方式加以观察。线性代数的要点如下：
- 线性代数的本质在于将具体事物抽象为数学对象，并描述其静态和动态的特性；
- 向量是 n 维线性空间中的静止点；
- 线性变换描述了向量或者作为参考系的坐标系的变化，可以用矩阵表示；
- 矩阵的特征值和特征向量描述了变化的速度与方向。
概率论也是人工智能研究中必备的数学基础。随着连接主义学派的兴起，概率统计已经取代了数理逻辑，成为人工智能研究的主流工具。在数据爆炸式增长和计算力指数化增强的今天，概率论已经在机器学习中扮演了核心角色。同线性代数一样，概率论也代表了一种看待世界的方式，其关注的焦点是无处不在的可能性。频率学派认为先验分布是固定的，模型参数要靠最大似然估计计算；贝叶斯学派认为先验分布是随机的，模型参数要靠后验概率最大化计算；正态分布是最重要的一种随机变量的分布。
数理统计根据观察或实验得到的数据来研究随机现象，并对研究对象的客观规律做出合理的估计和判断。虽然数理统计以概率论为理论基础，但两者之间存在方法上的本质区别。概率论作用的前提是随机变量的分布已知，根据已知的分布来分析随机变量的特征与规律；数理统计的研究对象则是未知分布的随机变量，研究方法是对随机变量进行独立重复的观察，根据得到的观察结果对原始分布做出推断。数理统计的任务是根据可观察的样本反过来推断总体的性质；推断的工具是统计量，统计量是样本的函数，是个随机变量；参数估计通过随机抽取的样本来估计总体分布的未知参数，包括点估计和区间估计；假设检验通过随机抽取的样本来接受或拒绝关于总体的某个判断，常用于估计机器学习模型的泛化错误率。
最优化理论是人工智能必备的基础知识。本质上讲，人工智能的目标就是最优化：在复杂环境与多体交互中做出最优决策。几乎所有的人工智能问题最后都会归结为一个优化问题的求解，因而最优化理论同样是人工智能必备的基础知识。最优化理论研究的问题是判定给定目标函数的最大值（最小值）是否存在，并找到令目标函数取到最大值（最小值）的数值。如果把给定的目标函数看成一座山脉，最优化的过程就是判断顶峰的位置并找到到达顶峰路径的过程。通常情况下，最优化问题是在无约束情况下求解给定目标函数的最小值；在线性搜索中，确定寻找最小值时的搜索方向需要使用目标函数的一阶导数和二阶导数；置信域算法的思想是先确定搜索步长，再确定搜索方向；以人工神经网络为代表的启发式算法是另外一类重要的优化方法。
信息论使用“信息熵”的概念，对单个信源的信息量和通信中传递信息的数量与效率等问题做出了解释，并在世界的不确定性和信息的可测量性之间搭建起一座桥梁。信息论处理的是客观世界中的不确定性；条件熵和信息增益是分类问题中的重要参数；KL 散度用于描述两个不同概率分布之间的差异；最大熵原理是分类问题中的常用准则。
形式逻辑是实现抽象推理的关键。1956 年召开的达特茅斯会议宣告了人工智能的诞生。在人工智能的初创期，各位奠基者们，包括约翰·麦卡锡、赫伯特·西蒙、马文·闵斯基等未来的图灵奖得主，他们的愿景是让“具备抽象思考能力的程序解释合成的物质如何能够拥有人类的心智。”通俗地说，理想的人工智能应该具有抽象意义上的学习、推理与归纳能力，其通用性将远远强于解决国际象棋或是围棋等具体问题的算法。如果将认知过程定义为对符号的逻辑运算，人工智能的基础就是形式逻辑；谓词逻辑是知识表示的主要方法；基于谓词逻辑系统可以实现具有自动推理能力的人工智能；不完备性定理向“认知的本质是计算”这一人工智能的基本理念提出挑战。
本文主要介绍机器有关概念、与大数据、人工智能间的关系、机器学习常用架构及算法等，具体如下：
01. 机器学习的定义
02. 大数据与机器学习
03. 机器学习与人工智能及深度学习
04. 机器学习的基本任务
05. 如何选择合适算法
通过以上内容，我们可以更好地理解人工智能、机器学习及深度学习之间的关系，以及如何选择合适的算法来解决实际问题。希望这些信息能够帮助你在学习人工智能的道路上少走弯路，更快地达到你的目标。