Deep Learning: Outline
Course Introduction
我将课程内容分为几个部分：
- Introduction：Introduce the development of AI, Linear models for regression & classification. 其中第一部分需要了解AI，ML和DL之间的关系，第二部分比较简单，在很多课程里都提过。
- Neural Networks: Basics, Backpropagation, Training and Batch Normalization. 这部分是对神经网络的介绍，是后续模型的基础。
- Vision: CNN(Important), AlexNet to Resnet, Visualization & Application.这部分是计算机视觉相关的内容，第一部分是CV的基础网络CNN，紧接着是图像网络的发展，最后一部分是可视化和应用。
- Generative AI：这部分是生成式AI的部分。
- Natural Language Processing: RNN/LSTM & Word Embeddings, Transformer
Introduction
Development of AI
我们可以从artificial intelligence, machine learning and deep learning三个主题理解AI的发展。
Artificial Intelligence: 人工智能是指使计算机或机器模拟人类智能的能力，包括学习、推理、问题解决、理解自然语言、感知和与环境互动等。
Machine Learning: 机器学习是人工智能的一个子领域，是指一种使计算机系统能够从数据中学习并做出决策或预测的技术。通过识别数据中的模式和规律，机器能够在未见过的数据上进行推断。
Deep Learning: 深度学习是机器学习的一个子领域，专注于使用多层神经网络来学习和表示数据中的复杂模式和特征。它通过模拟人脑神经元的工作方式，自动从大量数据中提取特征并进行决策。
三者之间逐层递进的区别：
在机器学习领域中，features是手工设计的，ML是学习如何将features映射到输出。
在深度学习领域中，features是通过学习得到的，并且应用了多个层用于多个级别的特征。即，在DL中，模型会主动学习特征，并且模型有很多层，每一层都有每一层的特征。
机器学习是人工智能的一个分支，深度学习是机器学习的一个分支。
有关深度学习的主题包含了：
- 计算机视觉(Vision)：和图像相关。
- 生成式AI(Generative AI)：通俗来讲就是从头开始生成特定的东西，可以是图像，可以是文字等。
- 自然语言处理(Natural Language Process)
#