机器学习/深度学习 问题总结及解答

作者：原果

链接：https://www.nowcoder.com/discuss/71482

来源：牛客网

问题总结及资料链接

（1）机器学习部分

1 逻辑回归部分
常问，推导要会

2 SVM部分
常问，推导要会，精简版看下面链接，但是写的不是很详细，最好把cs229讲义好好看看

3 集成学习
常问，推导要会

这里注意一下，GBDT有两种，一种是残差学习，一种是负梯度代替残差的版本（所以有个G啊），为啥用负梯度近似残差也是常问的，其实这个说法就不对，残差只是在loss用最小二乘时候的一个特例,对求梯度刚好就是，换成其他loss function就不对了，所以应该反过来说，残差学习只是一个特例，负梯度才是通用的

4 softmax

5 牛顿法和梯度下降

6 交叉验证

7 正则方法

8 归一化方法

9 SVD分解 PCA ICA 白化
这部分我没有被问到，但是应该会问，毕竟是重点，看cs229讲义

（2）深度学习部分

1 过拟合的起因，怎么解决

2 batch normalization

3 cnn rnn本质

4 梯度弥散/爆炸

5 激活函数，比较

6 梯度下降优化

7 各种网络结构

（3）传统算法

很奇怪，反而这块很不重视，考的题都很简单
1 阿里在线编程测试
给一个圆，切成n个扇形，涂m种颜色，要求任意两个相邻扇形颜色不同
思路：首先不考虑首尾位置的扇形是否颜色相同，那么总共是 种，

此时两种情况：1）首尾位置扇形颜色相同 2）首尾位置扇形颜色不同，第二种满足题意，不管，第一种可以把首尾颜色相同的扇形合成一个扇形，这样就成了一个相同要求但是规模是的问题，这样递推公式就是 ，

2 腾讯二面 面试官随手问的一个问题
是分水岭算法的一部分，问题可以如下描述：假设有一个单通道图片，背景像素点值为0，中间的物体像素点值为1，求出所有物体像素点到背景的最短距离
思路：dp思想，查看邻点，如果有一个是0，那么距离为1，否则该点的距离是邻点中最短的距离+1，先扫描行，只关心行的不关心列，算出最短距离，再扫描列，只关心列不关心行，更新上一步扫描行后的结果，就是EDT算法，如果是欧式距离还要扫描斜边

有n堆石子，第i堆石子的重量是w[i]，每次合并两堆石子，并计算分数，比如，两堆石子是x,y，合并后是x+y 分数是xy，一直合并下去，直到只剩一堆石子，求最大累积分数
思路： 一眼看到合并就是哈夫曼树呗，区别就是哈夫曼树分数是x+y，这个是x 一眼看到合并就是哈夫曼树呗，区别就是哈夫曼树分数是x+y，这个是x*y，那么每次取两个最大就行了，优先队列，弹出两个最大的相加计算乘积分数，然后结果扔进队列，直到队列只剩一个元素

（4）数字图像处理和模式识别

这部分只被问了这一个问题

（5）信息论

信息熵、条件熵、互信息、信息增益 等等的计算，腾讯现场笔试考的，具体的题忘了。。。

（6）概率论

1 概率分布的相关计算