，ML是AI的子集，因此可以在一定程度上理解为AIMLDL

　　人工智能是一个总括术语，其中计算机程序能够像人类一样思考和行为，后来，随着神经网络的发展，机器可以像人脑一样对输入的数据进行分类和组织。按照Russel和Norvig在他们的书《人工智能：现代方法》中的讨论，人工智能有七种分类，分别是推理和问题解决、知识表示、规划和社交智能、感知、机器学习、机器人：运动和操纵，以及自然语言处理。

　　传统的机器学习进一步分为三个重要子集：监督学习、无监督学习和半监督学习。监督学习中，模型被训练为使用带标签的数据，这意味着输入已经用相应的优选输出标签进行了标记；无监督学习中，模型被训练为使用无标签的数据，从输入数据中寻找重现模式；半监督学习同时使用监督和九游娱乐非监督学习。除了传统机器学习外，自我监督学习是一种特例，它使用两步过程，无监督学习为无标签数据生成标签，其最终目标是建立监督学习模型；强化学习也是一种ML，它借助不断的反馈循环随着时间的推移改进其算法。最后是深度学习，它包含多层ML算法，模仿人脑，但需要很高的计算能力来训练和学习。

　　深度学习与传统的机器学习方法一样，都可以根据输入的数据进行分类或者回归。但随着数据量的增加，传统的机器学习方法表现得不尽人意，而随着数据量的积累和计算及性能的提升，利用更深的网络挖掘数据信息的深度学习表现出淋漓尽致的性能。和传统的机器学习算法相比，深度学习最大的特点是端到端的学习，在进行学习之前无须进行特征提取等操作，可以通过深层的网络结构自动从原始数据中提取有用的特征。两者的学习过程的差异性如下图所示。

　　ML的起源可以追溯到1943年，当时McCulloch和Pitts发表了一篇名为“神经活动中固有概念的逻辑演算”的文章，在这篇文章中，他们给出了有史以来第一个神经网络的数学模型。艾伦·M·图灵在1950年发表的开创性论文中提出了ML的概念。1952年，Arthur L.Samuel为IBM编写了一个跳棋程序，从而普及了“机器学习”这一术语。1957年，Frank Rosenblatt开发了用于图九游娱乐像识别的感知器。Henry J.Kelley在1960年提出了连续反向传播模型，Stuart Dreyfus在1962年提出了一个更简单的仅基于链规则的模型。

　　1965年，Ivakhnenko和Lapa开发了第一个可用的DL网络。大约在1980年，福岛邦彦开发了一种名为新认知管的人工神经网络，这种神经网络有一个多层的设计，可以帮助计算机学习如何识别视觉模式，他还开发了第一个基于动物视觉皮层组织的卷积神经网络(CNN)。

　　1986年，David Rumelhart、Geoffrey Hinton和Ronald J.Williams发表了一篇名为“通过反向传播错误学习表示法”的论文，证明反向传播可以改善形状识别和单词预测。在最初的成功之后，有一些挫折，但Hinton没有放弃并达到了新的高度，因此他被认为是DL的教父。不久，在1989年，Yann LeCun在贝尔实验室进行了第一次反向繁殖的实际演示。同年， Christopher Watkins发表了题为“从延迟奖励中学习(Learning From Delay Rewards)”的论文，引入了Q-learning的概念，进一步改进了计算机程序中的强化学习。1995年，Corinna Cortes和Vladimir Vapnik开发了支持向量机(SVM)来映射和识别相似的数据。两年后，1997年，Jürgen Schmidhuber和Sepp Hochreiter开发了用于递归神经网络的长期短期记忆(LSTM)。

　　LPRum1999年，图形处理单元(GPU)作为微处理器电路推出，最初开发它是为了加速计算机游戏的3D图形处理。后来，GPU也因其并行计算能力而在技术和研究领域变得流行起来。Meta Group在2001年发布的一份研究报告指出，数据的数量、速度、来源和类型都在增加，这是对大数据攻击做好准备的呼唤。2007年，NVIDIA推出了计算统一设备架构(CUDA)，这是一个允许程序员和研究人员使用GPU进行通用计算的框架。从那时起，在CUDA的帮助下，研究人员开始使用GPU进行DL驱动的操作，因为GPU的高内存带宽允许轻松处理DL算法中涉及的海量数据，并且GPU中的数千个内核允许同时并行处理神经网络。2009年，Fei-Fei Li推出了ImageNet，这是一个免费的数据库，包含数百万张可用于研究目的的标签图像。AlexNet是一种卷积神经网络，由Alex Krizhevsky在2012年左右创建，它使用经过校正的线性单元帮助提高了速度和丢失率。同年，谷歌大脑(Google Brain)进行的“猫实验”得出结论，该网络正确识别所呈现物体的比例不到16%。2014年，NVIDIA推出了CUDA深度神经网络(CuDNN)，这是一个基于CUDA的DL库，加快了基于DL的操作。无独有偶，2014年研发发布的DeepFace，人脸识别准确率达到97.5%。同年，生成性对抗网络(GAN)被引入，使用两个相互竞争的神经网络来检查数据是线年，Cray等人在其XC50超级计算机上使用了微软的神经网络软件，XC50超级计算机配备了1000个Nvidia Tesla P100 GPU，可以执行这项任务，并在几秒钟内提供输出。2017年，NVIDIA推出了特斯拉V100 GPU，它的张量内核可以加速基于AI的操作。然而，数据库仍处于成长阶段，在这一领域的进一步发展需要创造性的想法。