机器学习面试题与八股文汇总：154 道经典算法真题分类整理（2026 面经）

美团、字节跳动这两年的算法岗面试里，"解决过拟合有哪些方法"这道题依然是出现频率最高的机器学习问题之一——不管面的是推荐算法、大模型还是传统数据挖掘岗，面试官几乎都会在八股环节留一道经典机器学习题。原因很直接：大模型相关的题考的是新知识，而过拟合、AUC、随机森林这类经典机器学习概念考的是地基，面试官默认这部分你在学校或者项目里就该打牢，答不上来比大模型题答不上来更扣分。

这份合集从公开面经里把机器学习方向的经典八股题抽出来，不含 RLHF、DPO、GRPO 这类大模型对齐专属内容（那部分在大模型与 AI Agent 面试题合集里单独整理），聚焦监督学习、无监督学习、集成学习、模型评估和强化学习基础，一共 152 道题，分八个主题。

怎么用这份题单：

• 题目后面括号里是近期实际问过这道题的公司，不代表完整名单，也不代表没标注的公司不问
• 机器学习八股的追问套路很固定：先问"是什么"，再问"为什么会这样"，最后问"你在项目里怎么处理的"——只背定义答不上第三层追问
• 过拟合、AUC、损失函数这几类题几乎是所有算法岗的公共必考区，无论目标岗位偏推荐、偏 CV 还是偏大模型，这部分都值得优先准备

主题导航：机器学习基础概念 · 过拟合欠拟合与正则化 · 模型评估与特征工程 · 经典监督学习算法 · 集成学习与树模型 · 无监督学习与降维 · 优化算法与损失函数 · 强化学习基础概念

机器学习基础概念

• 机器学习中监督学习和无监督学习有什么区别？（华为 / 快手 / 阿里巴巴）
• 深度学习和机器学习有哪些区别？（字节跳动 / 快手 / 美团）
• 常用的机器学习算法有哪些？（京东 / 华为 / 美团）
• 了解哪些机器学习算法？（华为 / 百度 / 顺丰）
• 机器学习了解吗？说说你的理解。（京东 / 字节跳动 / 百度）
• 学过什么机器学习的算法吗？（华为 / 阿里巴巴）
• 大模型和传统机器学习模型、深度学习模型的区别是什么？（京东 / 字节跳动 / 快手）
• 相比传统机器学习，深度学习有哪些优势和劣势？
• 了解机器学习吗？监督学习和非监督学习分别是什么？（京东）
• 机器学习项目的一般流程是什么？（数据准备、特征工程、模型选择、训练调参、评估上线）
• 参数模型和非参数模型有什么区别？

过拟合欠拟合与正则化

• 解决过拟合有哪些方法？（字节跳动 / 京东 / 阿里巴巴）
• 什么是过拟合，如何缓解？（华为 / 字节跳动 / 阿里巴巴）
• 什么是过拟合？（商汤科技 / 美团）
• 什么是欠拟合和过拟合？（华为 / 字节跳动 / 快手）
• 过拟合和欠拟合的解决方法有哪些？（华为 / 字节跳动 / 快手）
• 过拟合的现象、原因和解决方式是什么？（字节跳动 / 小红书 / 快手）
• 如何防止机器学习模型过拟合？（vivo / 字节跳动 / 百度）
• 如何判断模型是否过拟合？（字节跳动 / 科大讯飞 / 网易）
• 模型出现过拟合时可以如何处理？（华为 / 快手 / 拼多多）
• 项目过程中有没有遇到过过拟合的问题，什么原因造成的，怎么解决的？（京东 / 腾讯）
• 常见的正则化方法有哪些？它们分别解决什么问题？（快手 / 美团 / 蚂蚁集团）
• 为什么 L1 和 L2 正则化能够缓解过拟合？（小米 / 快手 / 腾讯）
• 什么是正则化？它有什么作用？（美团 / 腾讯）
• Dropout 为什么能防止过拟合？（小红书）
• 讲一下如何避免模型过拟合。（字节跳动 / 知乎）
• 如何保证不过拟合，如何避免欠拟合？（小红书 / 美团 / 阿里巴巴）
• 什么是数据泄漏（Data Leakage）？训练中怎么排查和避免？
• 什么是学习曲线，如何用它诊断欠拟合和过拟合？
• Early Stopping 是怎么判断该在哪一轮停止训练的？

模型评估与特征工程

• AUC 的定义和物理意义是什么？（字节跳动 / 快手 / 百度）
• 数据样本不平衡的时候怎么办？（京东 / 字节跳动 / 美团）
• 如何处理机器学习中的正负样本不平衡？（科大讯飞 / 美团 / 腾讯）
• 精确率和召回率的定义和区别是什么？（字节跳动 / 快手 / 美团）
• 介绍一下精确率和召回率。（字节跳动 / 美团 / 高德）
• 召回率是什么？（拼多多 / 高德）
• ROC 曲线和 AUC 分别表示什么？（字节跳动 / 快手 / 高德）
• ROC 曲线和 PR 曲线的区别是什么？（携程 / 阿里巴巴）
• 如何手写实现 AUC 的计算？（哔哩哔哩 / 快手 / 美团）
• AUC 有哪些计算方法？请写出对应公式。（小红书 / 快手 / 拼多多）
• 介绍一下 AUC、精确率、召回率、F1，AUC 的意义是什么？（腾讯 / 高德）
• 准确率和召回率是怎么衡量的？（美团 / 腾讯 / 阿里巴巴）
• 如何做特征选择？（字节跳动 / 快手 / 蚂蚁集团）
• 特征工程具体怎么做？（快手 / 阿里巴巴）
• 数据处理和特征工程分别包括哪些内容？（小红书 / 理想汽车）
• 如何选择和评价机器学习模型？（华为 / 字节跳动 / 快手）
• 模型评估常用哪些方式？（小米 / 快手 / 百度）
• 模型评估性能指标有哪些？（携程 / 科大讯飞）
• F1 分数是怎么计算的？
• k 折交叉验证和留一法交叉验证有什么区别？
• 网格搜索和随机搜索调参各自的优缺点是什么？
• SHAP 值是用来做什么的，能解决模型的什么问题？
• 类别极度不平衡时，为什么 PR 曲线比 ROC 曲线更有参考价值？

经典监督学习算法

• 逻辑回归和线性回归有什么区别？（京东 / 快手 / 腾讯）
• 请介绍逻辑回归。（京东 / 滴滴 / 百度）
• 逻辑回归的原理是什么？（字节跳动 / 拼多多 / 顺丰）
• 逻辑回归损失函数是什么？（字节跳动 / 拼多多 / 荣耀）
• 请推导逻辑回归的损失函数和梯度。（字节跳动 / 微软）
• 逻辑回归为什么用交叉熵损失而不是均方误差？
• SVM 的原理和优势是什么？（快手 / 科大讯飞 / 美团）
• 请介绍支持向量机（SVM）的基本原理。（拼多多）
• 为什么 SVM 要引入核函数？
• SVM 常用核函数有哪些，分别适用什么场景？
• 软间隔和硬间隔 SVM 有什么区别？
• KNN 和 K-means 的原理有什么区别？（快手 / 小红书 / 阿里巴巴）
• KNN 的 K 值怎么选择？K 太大或太小分别会有什么问题？
• 朴素贝叶斯是什么？（华为 / 美团 / 蔚来）
• 决策树的原理是什么？（小鹏汽车 / 阿里巴巴）
• 决策树、信息熵分别是什么？（快手 / 腾讯）
• 决策树常见的三种划分依据（信息增益、信息增益比、基尼指数）有什么区别？
• 决策树节点分裂算法有哪些？
• 决策树怎么解决过拟合问题？（预剪枝和后剪枝）

集成学习与树模型

• Bagging 和 Boosting 的区别是什么？（字节跳动 / 快手 / 拼多多）
• 随机森林 vs GBDT，有什么区别？（快手 / 滴滴 / 美团）
• 决策树、XGBoost 和随机森林有什么区别？（快手 / 滴滴 / 阿里巴巴）
• XGBoost 与随机森林的区别是什么？（腾讯 / 蚂蚁集团）
• 决策树和随机森林的区别是什么？（字节跳动 / 滴滴 / 蔚来）
• 随机森林、Adaboost、XGBoost 三者的区别是什么？（字节跳动 / 腾讯 / 顺丰）
• 说一下随机森林算法。（京东 / 华为 / 滴滴）
• 随机森林如何保证每棵树具有随机性？（百度）
• 随机森林的"随机"二字体现在什么地方？（拼多多 / 阿里巴巴）
• XGBoost 的原理是什么？（快手 / 美团 / 阿里巴巴）
• XGBoost 为什么使用二阶泰勒展开？（OPPO / 字节跳动）
• XGBoost 如何选择分裂点？（百度 / 腾讯）
• XGBoost 怎么处理缺失值？（快手 / 滴滴 / 美团）
• XGBoost 的特征重要度如何计算？（京东 / 腾讯）
• 对比 LightGBM 和 XGBoost。（京东 / 快手 / 携程）
• CatBoost 和 XGBoost 有什么区别？（华为 / 快手 / 阿里巴巴）
• 树模型系列：GBDT、XGBoost、LightGBM、CatBoost 的原理和区别是什么？（小米 / 微软 / 快手）
• 说一下 GBDT 的全部流程，能做分类任务吗，怎么做？（字节跳动 / 快手）
• 集成学习有哪些方式？分别是怎么做的？
• 集成学习的基本原理是什么？
• 什么是 OOB（袋外）误差，随机森林里怎么用它评估模型？
• Stacking 和 Blending 有什么区别？
• Adaboost 训练时样本权重和基学习器权重是怎么更新的？

无监督学习与降维

• 常用的聚类算法有哪些？（华为 / 联想）
• K-means 的优缺点和优化方法有哪些？（京东 / 微软 / 滴滴）
• K-means 算法怎么实现？（字节跳动 / 百度 / 蚂蚁集团）
• 手写 K-means 算法，并优化时间和空间复杂度。（微软 / 知乎 / 蚂蚁集团）
• K-means 原理步骤是什么，K 值怎么确定？（华为 / 顺丰）
• 说一下 K-means 的流程？（OPPO / 华为 / 字节跳动）
• K-means 中 K 值怎么选取？样本量很大时怎么办？
• K-means 和 K-means++ 的区别是什么？
• PCA 的原理是什么？（华为 / 快手 / 科大讯飞）
• 机器学习里的高斯混合模型，原理是什么？（腾讯）
• 讲讲聚类算法的分类和各自的适用场景。
• 什么是维度灾难，特征维度过高时应该怎么应对？
• DBSCAN 和 K-means 相比有什么优势？
• 层次聚类和 DBSCAN 各自的优缺点是什么？

优化算法与损失函数

• 梯度消失和梯度爆炸为什么会发生，如何缓解？（华为 / 字节跳动 / 快手）
• 梯度消失有哪些解决办法？（华为 / 科大讯飞 / 腾讯）
• 梯度爆炸的原因是什么？（华为 / 快手 / 阿里巴巴）
• RNN 里为什么会出现梯度消失和梯度爆炸，怎么解决？（字节跳动 / 百度 / 美团）
• ReLU 为什么能缓解梯度消失？（字节跳动 / 快手 / 滴滴）
• Sigmoid 导致梯度消失应该如何处理？（字节跳动 / 快手 / 滴滴）
• 常用的损失函数有哪些？（字节跳动 / 携程 / 科大讯飞）
• 常见损失函数有哪些，分别适用于什么场景？（哔哩哔哩 / 字节跳动 / 网易）
• 知道哪些损失函数？（字节跳动 / 腾讯）
• 什么是损失函数？（快手 / 阿里巴巴 / 饿了么）
• 分类模型用什么损失函数？（京东 / 字节跳动 / 腾讯）
• 如何实现交叉熵损失函数？（字节跳动 / 拼多多 / 阿里巴巴）
• 分类问题的损失函数交叉熵可以换成 MSE 吗？（美团 / 高德）
• 损失函数一般用的是什么？（快手 / 美团 / 腾讯）
• 优化器有哪些？（百度 / 美团）
• 常见的优化器有哪些？它们的原理和适用场景是什么？（知乎 / 美团 / 高德）
• 深度学习中常见的优化器有哪些？（小红书 / 平安 / 百度）
• SGD、SGDM、RMSProp 和 Adam 有什么区别？（字节跳动 / 小红书 / 快手）
• SGD 是什么，Adam 相对于 SGD 改进了什么？（字节跳动 / 阿里巴巴）
• AdamW 与 Adam 有什么区别？（百度 / 阿里巴巴）
• 手撕 AdamW 优化器的实现。（腾讯）
• 说一下有哪些优化器，Adam 相较于 SGD 做了哪些改善？（小红书 / 滴滴）
• 梯度下降是什么？请简述其原理。（京东 / 快手）
• 介绍一下随机梯度下降。（中兴通讯 / 小鹏汽车 / 荣耀）
• 为什么 Adam 不一定收敛到最优而 SGD 有时反而更好？怎么理解？（字节跳动）
• 如何用梯度下降法求平方根？（快手 / 百度 / 阿里巴巴）
• 学习率衰减（Learning Rate Decay）常见的策略有哪些？
• Batch Size 大小对训练速度和收敛效果分别有什么影响？
• Focal Loss 解决了什么问题，和普通交叉熵损失的区别是什么？
• Hinge Loss 是什么，主要用在哪类模型上？

强化学习基础概念

• 是否了解强化学习？（京东 / 字节跳动 / 腾讯）
• 对强化学习了解多少？（华为 / 滴滴 / 美团）
• 不同强化学习方法之间的区别是什么？（腾讯）
• 经典强化学习算法有哪些？（百度）
• Model-based 和 Model-free 强化学习有什么区别？（小米 / 蚂蚁集团）
• 强化学习中 online 和 offline 有什么区别？（美团）
• 深度学习和强化学习有什么不同？（华为 / 网易 / 美团）
• 马尔可夫性质是什么？（小米 / 饿了么）
• Q-learning 的核心更新公式是什么？
• On-policy 和 off-policy 强化学习算法的代表分别是什么？
• Epsilon-greedy 策略是用来解决强化学习中的什么问题？
• 强化学习和 RLHF、PPO 这类大模型对齐方法是什么关系？

备考重点

机器学习八股的核心区别在于它考的是"能不能讲清楚取舍"，不是"能不能背出定义"。过拟合是这份题单里出现频率最高的方向，几乎每场面试都会问，但很少停在"什么是过拟合"，追问一定会落到"你项目里遇到过吗，怎么发现的，用了哪个方法，为什么选这个不选别的"——只背概念定义，第二句追问就会露馅。

集成学习这块的题量大但套路固定：先分清 Bagging 降方差、Boosting 降偏差这条主线，再往下记各家树模型的差异（随机森林并行、GBDT 串行拟合残差、XGBoost 加二阶导和正则、LightGBM 用直方图加速），顺着这条主线记比死记每个算法的公式高效得多。

如果目标岗位偏大模型或 AI 应用开发，这份题单打的是地基——过拟合、AUC、优化器这些概念在大模型面试里同样会被问到，只是换了个场景（比如"LoRA 微调时怎么防止过拟合"），机器学习基础不牢，大模型那条线也答不透。

常见问题

这份题单是怎么整理出来的？

来源是公开面经，把机器学习方向反复出现的经典八股题抽出来重新归类，不包含面灵用户的面试内容。括号里标注的是近期实际问过这道题的公司，只作参考，不代表完整名单。

机器学习八股和大模型八股应该先准备哪个？

看目标岗位。如果面的是推荐算法、数据挖掘这类传统算法岗，机器学习八股是主战场；如果面的是大模型算法或 AI 应用开发，机器学习基础通常只占一小节，但过拟合、优化器、损失函数这些概念依然是绕不开的公共题，建议两条线都留时间，机器学习部分可以按这份题单的高频区优先补。

面试官问机器学习题，是想考察什么？

不是考公式推导能力，是考察对模型行为的判断力——为什么这个模型会过拟合、这个指标为什么在这个场景下失真、换一个数据分布结果会怎么变。能结合自己做过的项目具体讲清楚"哪里出问题、怎么定位、换了什么方案"，比背熟每个算法的原理更容易拿到分。

没有机器学习项目经验，这部分怎么准备？

优先吃透概念之间的对比关系（过拟合 vs 欠拟合、Bagging vs Boosting、L1 vs L2），面试官追问最多的就是这类对比题。如果简历上有相关项目，哪怕规模很小，也应该准备好讲清楚当时用了什么模型、怎么评估效果、遇到过什么问题——这类具体细节比堆砌算法名称更容易让面试官相信你真的做过。