放大机

复试扩展知识机器学习的相关问题

发布时间:2022/5/9 20:32:32   

这个周,各个高校开始了复试工作,复试中可能会遇到各种本科没有学到,但是是研究生研究方向的问题。今天小编为大家准备了一些机器学习的相关问题,方便各位同学在复试中有能回答的点,让我们一起来看一看吧!

机器学习1什么是梯度爆炸和梯度消失?

在反向传播过程中需要对激活函数进行求导,如果导数大于1,那么随着网络层数的增加梯度更新将会朝着指数爆炸的方式增加这就是梯度爆炸。同样如果导数小于1,那么随着网络层数的增加梯度更新信息会朝着指数衰减的方式减少这就是梯度消失。因此,梯度消失、爆炸,其根本原因在于反向传播训练法则,属于先天不足。

2如何解决梯度消失、梯度爆炸?

解决方法:

[1]对于RNN,可以通过梯度截断,避免梯度爆炸。

[2]可以通过添加正则项,避免梯度爆炸。

[3]使用LSTM等自循环和门控制机制,避免梯度消失。

[4]优化激活函数,譬如将sigmold激活函数改为relu激活函数,避免梯度消失。

3简述主成分分析PCA算法

PCA(PrincipalComponentAnalysis)是最常用的线性降维方法,它的目标是通过某种线性投影,将高维的数据映射到低维的空间中表示,并期望在所投影的维度上数据的方差最大,以此使用较少的数据维度,同时保留住较多的原数据点的特性。

4简述支持向量机SVM算法

SVM的全称是SupportVectorMachine,即支持向量机,主要用于解决模式识别领域中的数据分类问题,属于有监督学习算法的一种。

通俗来讲,SVM是一种二类分类模型,其基本模型定义为特征空间上的间隔最大的线性分类器,其学习策略便是间隔最大化,最终可转化为一个凸二次规划问题的求解。

5简述神经网络算法的步骤

使用神经网络有4个步骤:

[1]提取问题中实体的特征向量作为神经网络的输入,不同实体可以提取不同的特征向量。

[2]定义神经网络的结构,并定义如何从神经网络中的输入得到输出,这个过程就是神经网络的前向传播算法。

[3]通过训练数据来调整神经网络参数的取值,这就是训练神经网络的过程。

[4]使用训练的神经网络来预测未知的数据。

6简述神经网络算法的优缺点

优点:

1、分类的准确度极高

2、可解决复杂的非线性问题

3、对噪声神经有较强的鲁棒性和容错能力

4、并行分布处理能力强,分布存储及学习能力强

5、常用于图像识别

6、数据量越大,表现越好

缺点:

1、黑箱模型,难以解释

2、需要初始化以及训练大量参数,如网络结构、权值、阈值,计算复杂

3、误差逆传播的损失

4、容易陷入局部最小

7深度学习算法与神经网络算法相比,其优点和变革性在哪里(某高校复试真题)

机器学习技术(浅层学习)仅将输入数据变换到一两个连续的表示空间,通常使用简单的变换,这通常无法得到复杂问题所需要的精确表示。因此,人们必须竭尽全力让输入数据更适合这些方法来处理,也必须手动为数据设计好表示层,这个过程叫做特征工程。

深度学习的优点在于它在很多问题上都表现出更好的性能,并且简化了问题的解决步骤,因为它将特征工程完全自动化。利用深度学习,你可以一次性学习所有特征,而无须自己手动设计。这极大地简化了机器学习工作流程,通常将复杂的多阶段流程替换为一个简单的、端到端的深度学习模型。

深度学习的变革性在于,模型可以在同一时间共同学习所有表示层,而不是依次连续学习(这被称为贪婪学习)。通过共同的特征学习,一旦模型修改某个内部特征,所有依赖于该特征的其他特征都会相应地自动调节适应,无须人为干预。

8简述深度学习算法在数据学习中的两个特征

两个基本特征:

第一,通过渐进的、逐层的方式形成越来越复杂的表示;

第二,对中间这些渐进的表示共同进行学习,每一层的变化都需要同时考虑上下两层的需要。

机器学习的几个简单问题就到这里了,看到最后的小伙伴们还请为小编点个

转载请注明:http://www.aideyishus.com/lkcf/223.html

------分隔线----------------------------

热点文章

  • 没有热点文章

推荐文章

  • 没有推荐文章