📘 专业课复习题目清单 面经真题 × 常问题库合并版

1. 数据结构与算法

• ★★★ O(n) 的大 O 是什么意思？什么是时间复杂度？
• ★★★ 线性存储结构与链式存储结构的优点 〔真题·北航：顺序/链式区别〕
• ★★★ 顺序存储与链式存储
• ★★ 头指针和头结点的区别
• ★★★ 栈和队列的区别和内存结构 〔真题·东南：栈队列区别、BFS/DFS 各用哪个〕
• ★★ 循环队列 Q（0~n-1，头尾指针 f、p），求元素个数
• ★★★ 如何区分循环队列队空还是队满
• ★★ 堆、大顶堆、小顶堆的实现及应用
• ★★★★ 哈希表概念、构造方法、类型、冲突解决办法
• ★★★★★★★ 判断链表是否有环（快慢指针） 〔真题·北航：要求给出比遍历更快的方法〕
• ★★★ 平衡二叉树、二叉排序树、完全二叉树、二叉搜索树的区别及构造
• ★★★ 二叉搜索树的优缺点 【补充】 〔真题·东南：查找快但维护难〕
• ★★★ 由遍历序列构造二叉树；已知先序+后序能否重现二叉树 〔真题·人大：二叉树遍历多种实现〕
• ★★★ B 树 / B+ 树：定义、区别、数据库中的应用
• ★★★ 红黑树原理与建立过程
• ★★★ 二分搜索 vs 线性搜索：区别与时间复杂度
• ★★★★★★ 排序算法全家桶：插入/希尔/选择/冒泡/归并/快排（必考）/堆排/基数——基本思想、时间复杂度、稳定性、最坏情况比较次数 〔真题·北航快排过程、西工大冒泡、上科全部〕
• ★★★★★★★ 最小生成树与最短路径：Dijkstra、Floyd、Prim、Kruskal 的思想、复杂度、优化 〔真题·东南：英文介绍最小生成树原理〕
• ★ 邻接表和邻接矩阵（大数据如何存储）
• ★★★ DFS 和 BFS 的实现 〔真题·人大：DFS/BFS 求邻居团体、川大：层次遍历〕
• ★★★ 有向图如何判断有环 【补充】 〔真题·东南〕
• ★★★ 字符串匹配：朴素匹配和 KMP（能用语言描述实现）
• ★★★ NP 难问题 / NP-Complete 概念 【补充】 〔真题·东南：NP 难问题；上科考纲〕
• ★★★ 哈夫曼树定义、构造与应用 【补充】 〔真题·东南；上科考纲〕

2. 计算机网络

• ★★★★★★ OSI 和 TCP/IP 模型各层协议与功能（必考）
• ★★★ 计算机网络为什么要分层？优点？
• ★★ 层次路由原理；与自治系统相关的内部/外部网关协议；单工、半双工、全双工
• ★★ 协议三要素（语法、语义、时序）
• ★ 香农公式：信道容量含义、带宽与信道容量关系、前提条件
• ★★★★ CSMA/CD 协议
• ★★★★★★ TCP 和 UDP 的异同点（必考）〔真题·北航、哈工大〕
• ★★★★★ TCP 三次握手四次挥手过程；为什么三次、能否两次（必考）
• ★★★★★ TCP/UDP 特点与头部结构
• ★★★★★★ TCP 如何保证可靠传输 〔真题·哈工大：TCP 机制〕
• ★★★★ TCP 拥塞控制：慢开始、拥塞避免、快重传、快恢复 〔真题·哈工大〕
• ★★★★ TCP 快速重传机制
• ★★★★ 流量控制与拥塞控制的关系
• ★★★★ 两服务器网络已连通却收不到对方 UDP 报文的原因
• ★★ ARP 和 RARP 协议
• ★★★ 网卡是什么？功能？
• ★★ 网络中的主机通信流程（逐层封装/解封装） 〔真题·北航〕
• ★★ 主机双端口接网络是否提升吞吐量（端口捆绑） 〔真题·北航〕
• ★★★★★ DNS 域名解析过程
• ★★★ 浏览器输入网址后发生什么（HTTP 请求全流程）
• ★★ IP 地址和 MAC 地址的区别与用途
• ★★★★ HTTP 状态码含义；HTTP 和 HTTPS 的区别
• ★★ DHCP 的作用
• ★★★ 能否直接在应用层把数据交给网络层
• ★★★★ Socket 是什么？
• ★★★ Cookie 和 Session 的区别
• ★★★ OSPF 协议：工作层次、原理（邻居→邻接→SPF） 【补充】 〔真题·北航〕
• ★★★ VLAN 的作用 【补充】 〔真题·电科〕
• 📎 参考链接：计算机网络面试常考 https://www.cnblogs.com/zyf-zhaoyafei/p/4716297.html

3. 操作系统

• ★ 操作系统的特点、功能
• ★★★ 中断和系统调用的区别
• ★★★★★★ 进程、线程概念及区别；进程间通信方式 〔真题·北航：共享存储/消息传递/管道〕
• ★★★★ 进程状态、状态转换、调度策略 〔真题·北航：进程调度衡量标准〕
• ★ 读写者问题用进程还是线程实现；文件如何组织
• ★★★★★★ 死锁：四个必要条件、如何预防
• ★★★★ 哲学家进餐的实现方式
• ★★★★ 银行家算法
• ★★★★★★ 常见进程调度算法：FCFS、SJF、剩余短作业优先、优先级、轮转、多级反馈队列 〔真题·北航、哈工大：调度算法+性能指标〕
• ★★★ 分页的作用与好处；与分段的区别 〔真题·北航：分页分段〕
• ★★★ 内存分配机制（含 JVM 内存管理及 GC 算法）
• ★★★ 虚拟内存、共享内存 〔真题·中山：虚存的作用〕
• ★★★★ 页面置换算法
• ★★★ 缓冲区溢出怎么处理
• ★★★★ 磁盘调度算法与磁盘空间存储管理
• ★★ 文件系统中文件如何组织
• ★★★ 局部性原理 【补充】 〔真题·北航：缓存原理；西工大：操作系统的局部性〕
• ★★★ 快表 TLB：定义、作用 【补充】 〔真题·电科：快表定义〕
• ★★★ 进程迁移：把一个机器上的进程转到另一台机器要做哪些工作 【补充】 〔真题·北航〕

4. 计算机组成原理

• ★★★★★ 冯诺依曼机体系结构
• ★★★★ 衡量计算机性能指标
• ★★★ 原码、反码、补码
• ★★ 奇偶校验、汉明码、循环冗余校验
• ★★ 存储器分类（RAM、DAM 区别）
• ★★★ 段页式虚拟内存
• ★★★★★ CPU 一个指令周期的流程
• ★★ 总线通讯的四种方式
• ★★★ DMA 是什么 【补充】 〔真题·北航〕
• ★★★ 五级流水 CPU 各阶段；单周期 vs 流水谁快 【补充】 〔真题·北航〕
• ★★★ 缓存原理、失效场景、硬件实现；存储介质有哪些 【补充】 〔真题·北航〕
• ★★★ 电脑开机过程（MBR） 【补充】 〔真题·北航〕

5. 数据库

• ★★★★★ 第一、二、三范式
• ★★ SQL 查询语句 〔真题·北航：SQL 五种子句及执行顺序 from→where→group by→having→order by〕
• ★★★★ 数据库类型；关系型数据库特点
• ★★★ 数据库有几种锁
• ★★★★ 三个完整性约束
• ★★★★★ 事务与锁；事务的四个特性 〔真题·哈工大：事务与 ACID 含义（丢优营的关键题）〕
• ★★★ 存储过程、触发器、为什么用存储过程
• ★★★ ACID 特性、事务回滚、数据不一致解决、REDO/UNDO 机制 〔真题·哈工大〕
• ★★★ MySQL 存储引擎及区别
• ★★★★★★ 如何优化数据库、提高查询效率（索引）
• ★★★ 大文件读写的流式处理（内存读不下怎么办） 【补充】 〔真题·人大笔试：文件操作连考多年〕
• ★★★ Oracle 连接算法：嵌套连接、合并连接、哈希连接 【补充】 〔真题·中山〕

6. 编译原理

• ★★★ 写出编译的过程；求 first 和 follow 集合 〔真题·东南：程序的编译、链接、装入〕
• ★★★★ 上下文无关文法的特点
• ★★★★★ 0、1、2、3 型文法及其关系

7. 软件工程

• ★★★ 什么是软件工程；软件工程三要素
• ★ 软件生存周期
• ★ 软件开发模型 〔真题·东南：静态/动态优先级调度、嵌入式〕
• ★★★ 黑盒测试和白盒测试的区别
• ★ 敏捷开发和瀑布模型的区别
• ★ 配置管理包括哪些活动
• ★ 持续集成及其特性
• ★★★★★★ 说一个了解的设计模式并举例
• ★★★★ MVC 模式
• ★★★ 软件工程 vs 计算机科学与技术的区别 【补充】 〔真题·北航〕

8. 编程语言

• ★★★★★ 指针和引用的区别
• ★★★ 浅拷贝和深拷贝
• ★★★★★★ 程序的编译执行过程
• ★★★ C++ 符号重载
• ★★★ C++ 如何实现多态 〔真题·人大笔试：多态性在 C++/Java 的体现〕
• ★★★★★★ Java / C++ / C 的区别（准备英文版）
• ★★★ Java 垃圾回收算法
• ★★★ JVM 内存管理
• ★★ 全局变量是好是坏
• ★★★ struct 和 union 的区别 【补充】 〔真题·面试复盘、北航〕
• ★★★ 值类型 vs 引用类型 【补充】 〔真题·北航〕
• ★★★ 传指针 vs 传指针的指针；指针数组 vs 数组指针 【补充】 〔真题·电科〕
• ★★★ C 语言二进制文件 vs 文本文件；char/int 大小 【补充】 〔真题·北航：char 1 字节、int 4 字节〕
• ★★★ 继承和接口的区别 【补充】 〔真题·北航〕
• ★★★ static 在 C/C++/Java 中的使用场景与作用 【补充】 〔真题·人大笔试〕

9. 机器学习与深度学习 （面经真题 + 常问题库）

9.1 面经真题（真实考过，优先背）

• 机器学习 vs 深度学习的区别与联系 〔真题·北航〕
• BERT 输入维度（512 等结构细节） 〔真题·电科、西工大——两校都问，必背〕
• CNN：卷积原理、全连接层的作用 〔真题·电科〕
• Transformer 机制 〔真题·东南：英文介绍 transformer〕
• LSTM 为什么叫"长短时记忆"（遗忘门/更新门） 〔真题·面试复盘：答错教训〕
• AutoEncoder 是什么、目标函数 〔真题·面试复盘〕
• GAN 原理、是否自己训练过 〔真题·面试复盘〕
• 模型评估：P、R、F1 分数与混淆矩阵 〔真题·面试复盘〕
• 过采样 / 数据不均衡处理 / 数据增强 〔真题·面试复盘、东南〕
• 数据量太大（>1T）如何训练（Dataloader/batch） 〔真题·东南〕
• 数据量太少怎么办（数据增强/迁移学习） 〔真题·东南〕
• 序列推荐系统、图神经网络（GNN）、推荐系统 〔真题·电科〕
• 多模态融合怎么做 〔真题·东南〕
• 跑 baselines 的收获与解决过程 〔真题·西工大、电科〕
• 数据集规模、训测划分比例、有无验证集、标注方式 〔真题·电科、东南〕
• 如何证明模型改进有效（消融实验） 〔真题·电科：如何证明 ConceptNet 有效〕
• 梯度下降 vs 牛顿迭代法 〔真题·北航〕
• ARIMA 模型：是否是回归模型 〔真题·面试复盘〕
• 大模型：CoT（链式思维）、Prompt 工程 〔真题·面试复盘〕
• ECI 事件因果关系识别：研究现状、现有方法及不足 〔真题·面试复盘：中山王可泽老师〕

9.2 通用方法论（解决 ML 问题的思路）

• 简述解决一个机器学习问题时，你的流程是怎样的？
• 损失函数是什么，如何定义合理的损失函数？为什么用这个损失函数？
• 回归模型和分类模型常用损失函数有哪些？各有什么优缺点
• 什么是结构误差和经验误差？训练模型的时候如何判断已经达到最优？
• 模型的"泛化"能力是指？如何提升模型泛化能力？
• 如何选择合适的模型评估指标？AUC、精准度、召回率、F1 值都是什么？如何计算？有什么优缺点？
• ROC 曲线如何绘制？相比 P-R 曲线有什么特点？
• 如何评判模型是过拟合还是欠拟合？遇到过拟合或欠拟合时，你是如何解决？
• 你是如何针对应用场景选择合适的模型？
• 如何选择模型中的超参数？有什么方法，并说说其优劣点
• 误差分析是什么？你是如何进行误差分析？
• 你是如何理解模型的偏差和方差？什么样的情况是高偏差，什么情况是高方差？
• 出现高偏差或者高方差的时候你有什么优化策略？
• 奥卡姆剃刀定律是什么？对机器学习模型优化有何启发？举例说明

9.3 特征工程

• 你是怎样理解"特征"？
• 给定场景和问题，你如何设计特征？（特征工程方法论）
• 开发特征时候如何做数据探索，怎样选择有用的特征？
• 你是如何做数据清洗的？举例说明
• 如何发现数据中的异常值，你是如何处理？缺失值如何处理？
• 对于数值类型数据，你会怎样处理？为什么要做归一化？归一化有哪些方法？离散化有哪些方法，离散化和归一化有哪些优缺点？
• 标准化和归一化异同？
• 你是如何处理 CTR 类特征？
• 讲解贝叶斯平滑原理？以及如何训练得到平滑参数
• 类别型数据你是如何处理的？比如游戏品类、地域、设备
• 序号编码、one-hot 编码、二进制编码都是什么？适合怎样的类别型数据？
• 时间类型数据你的处理方法是什么？原因？
• 你怎样理解组合特征？举个例子，并说明它和单特征有啥区别
• 如何处理高维组合特征？比如用户 ID 和内容 ID？
• 如何理解笛卡尔积、外积、内积？
• 文本数据你会如何处理？
• 文本特征表示有哪些模型？他们的优缺点都是什么？
• 讲解 TF-IDF 原理，它有什么优点和缺点？针对它的缺点，你有什么优化思路？
• N-gram 算法是什么？有什么优缺点？
• 讲解一下 word2vec 工作原理？损失函数是什么？
• 讲解一下 DAN（原文档写 DA）模型原理和训练过程？
• Word2vec 和 DAN 两个模型有什么区别和联系？
• Skip-gram 和 CBOW 有何异同？
• 图像数据如何处理？有哪些常用的图像特征提取方法
• 你是怎样做特征选择的？卡方检验、信息值（IV）、WOE 都是如何计算？
• 计算特征之间的相关性方法有哪些？有什么优缺点

9.4 经典模型逐一击破

KNN（注意：老师可能让手写 KNN 算法）

• Knn 建模流程是怎样的？
• Knn 优缺点是什么？
• Knn 适合什么样的场景和数据类型？
• 常用的距离衡量公式都有哪些？具体说明它们的计算流程，以及使用场景？
• 超参数 K 值过大或者过小对结果有什么影响，你是如何选择 K 值？
• 介绍一下 Kd 树？如何建树，以及如何搜索最近节点？

支持向量机（SVM）

• 简单讲解 SVM 模型原理？
• SVM 为什么会对缺失值敏感？实际应用时候你是如何处理？
• SVM 为什么可以分类非线性问题？
• 常用的核函数有哪些？你是如何选择不同的核函数的？
• RBF 核函数一定线性可分么？为什么
• SVM 属于线性模型还是非线性模型？为什么？
• 训练误差为 0 的 SVM 分类器一定存在吗？说明原因？

朴素贝叶斯

• 讲解贝叶斯定理？
• 什么是条件概率、边缘概率、联合概率？
• 后验概率最大化的含义是什么？
• 朴素贝叶斯模型如何学习的？训练过程是怎样？
• 你如何理解生成模型和判别模型？
• 朴素贝叶斯模型"朴素"体现在哪里？存在什么问题？有哪些优化方向？
• 什么是贝叶斯网络？它能解决什么问题？
• 为什么说朴素贝叶斯也是线性模型而不是非线性模型呢？

线性回归

• 线性回归的基本思想是？
• 什么是"广义线性模型"？
• 线性回归常用的损失函数有哪些？优化算法有哪些？
• 线性回归适用什么类型的问题？有哪些优缺点？
• 请用最小二乘法推导参数更新公式？

逻辑回归

• 逻辑回归相比于线性回归有什么异同？
• 逻辑回归和广义线性模型有何关系？
• 逻辑回归如何处理多标签分类？
• 为什么逻辑回归需要进行归一化或者取对数？
• 为什么逻辑回归把特征离散化之后效果会提升？
• 类别不平衡问题你是如何处理的？什么是过采样，什么是欠采样？举例
• 讲解 L1 和 L2 正则，它们都有什么作用，解释为什么 L1 比 L2 更容易产生稀疏解；对于存在线性相关的一组特征，L1 正则如何选择特征？
• 使用交叉熵作为损失函数，梯度下降作为优化方法，推导参数更新公式

FM / FFM

• FM 模型与逻辑回归相比有什么优缺点？
• 为什么 FM 模型计算复杂度是 O(kn)？
• 介绍 FFM 场感知分解机器（Field-aware Factorization Machine），说说与 FM 异同？
• 使用 FM 进行模型训练时候，有哪些核心参数对模型效果影响大？
• 如何从神经网络的视角看待 FM 模型？

决策树

• 讲解完整的决策树的建树过程
• 你是如何理解熵？从数学原理上解释熵公式可以作为信息不确定性的度量？
• 联合熵、条件熵、KL 散度、信息增益、信息增益比、gini 系数都是什么？如何计算？
• 常用的决策树有哪些？ID3、C4.5、CART 有啥异同？
• 决策树如何防止过拟合？前剪枝和后剪枝过程是怎样的？剪枝条件都是什么

随机森林（RF）

• 介绍 RF 原理和思想
• RF 是如何处理缺失值？
• RF 如何衡量特征重要度？
• RF"随机"主要体现在哪里？
• RF 有哪些优点和局限性？
• 为什么多个弱分类器组合效果会比单个要好？如何组合弱分类器可以获得更好的结果？原因是什么？
• Bagging 的思想是什么？它是降低偏差还是方差，为什么？
• 可否将 RF 的基分类模型由决策树改成线性模型或者 knn？为什么？

GBDT

• 梯度提升和梯度下降有什么区别和联系？
• 你是如何理解 Boosting 和 Bagging？他们有什么异同？
• 讲解 GBDT 的训练过程？
• 你觉得 GBDT 训练过程中哪些环节可以并行提升训练效率？
• GBDT 的优点和局限性有哪些？
• GBDT 是否对异常值敏感，为什么？
• 如何防止 GBDT 过拟合？
• 在训练过程中哪些参数对模型效果影响比较大？这些参数造成影响是什么？

k-means

• 简述 kmeans 建模过程？
• Kmeans 损失函数是如何定义？
• 你是如何选择初始类族的中心点？
• 如何提升 kmeans 效率？
• 常用的距离衡量方法有哪些？他们都适用什么类型问题？
• Kmeans 对异常值是否敏感？为什么？
• 如何评估聚类效果？
• 超参数类的个数 k 如何选取？
• Kmeans 有哪些优缺点？是否有了解过改进的模型，举例说明？
• 试证明 kmeans 算法的收敛性
• 除了 kmeans 聚类算法之外，你还了解哪些聚类算法？简要说明原理？

PCA 降维

• 为什么要对数据进行降维？它能解决什么问题？
• 你是如何理解维度灾难？
• PCA 主成分分析思想是什么？
• 如何定义主成分？
• 如何设计目标函数使得降维达到提取主成分的目的？
• PCA 有哪些局限性？如何优化？
• 线性判别分析和主成分分析在原理上有何异同？在目标函数上有何区别和联系？

9.5 深度学习

最常问（高频必背）

• 什么是特征值和特征向量
• 条件概率和贝叶斯公式
• 卷积核大小如何选取？
• 1×1 卷积核大小的作用？
• 如何解决过拟合和欠拟合
• 解决梯度消失和梯度爆炸的问题

DNN

• 描述一下神经网络？推导反向传播公式？
• 讲解一下 dropout 原理？
• 梯度消失和梯度爆炸的原因是什么？有什么方法可以缓解？
• 什么时候该用浅层神经网络，什么时候该选择深层网络
• Sigmoid、ReLU、Tanh 激活函数都有哪些优缺点？
• 写出常用激活函数的导数
• 训练模型的时候，是否可以把网络参数全部初始化为 0？为什么？
• Batchsize 大小会如何影响收敛速度？

CNN

• 简述 CNN 的工作原理？
• 卷积核是什么？选择大卷积核和小卷积核有什么影响？
• 你在实际应用中如何设计卷积核？
• 为什么 CNN 具有平移不变性？
• Pooling 操作是什么？有几种？作用是什么？
• 为什么 CNN 需要 pooling 操作？
• 什么是 batch normalization？它的原理是什么？在 CNN 中如何使用？
• 卷积操作的本质特性包括稀疏交互和参数共享，具体解释这两种特性及其作用？
• 你是如何理解 fine-tune？有什么技巧

RNN / 序列模型

• 简述 RNN 模型原理，说说 RNN 适合解决什么类型问题？为什么？
• RNN 和 DNN 有何异同？
• RNN 为什么有记忆功能？
• 长短期记忆网络 LSTM 是如何实现长短期记忆功能的？
• 长短期记忆网络 LSTM 各模块都使用什么激活函数，可以使用其他激活函数么？
• GRU 和 LSTM 有何异同？
• 什么是 Seq2Seq 模型？该模型能解决什么类型问题？
• 注意力机制是什么？Seq2Seq 模型引入注意力机制主要解决什么问题？

9.6 框架与工具（Spark / XGBoost / TensorFlow）

Spark（大数据方向重点）

• 什么是宽依赖，什么是窄依赖？哪些算子是宽依赖，哪些是窄依赖？
• Transformation 和 action 算子有什么区别？举例说明？
• 讲解 spark shuffle 原理和特性？shuffle write 和 shuffle read 过程做些什么？
• Shuffle 数据块有多少种不同的存储方式？分别是什么
• 哪些 spark 算子会有 shuffle？
• 讲解 spark 任务调度（schedule）？
• Spark stage 是如何划分的？
• Spark cache 一定能提升计算性能么？说明原因？
• Cache 和 persist 有什么区别和联系？
• RDD 是弹性数据集，"弹性"体现在哪里呢？你觉得 RDD 有哪些缺陷？
• RDD 有多少种持久化方式？memory_only 如果内存存储不了，会怎么操作？
• RDD 分区和数据块有啥联系？
• 当 GC 时间占比很大可能的原因有哪些？对应的优化方法是？
• Spark 中 repartition 和 coalesce 异同？coalesce 什么时候效果更高，为什么？
• Group by key 和 reduce by key 哪个性能更高，为什么？
• 你是如何理解 case class 的？
• Scala 里 trait 有什么功能，与 class 有何异同？什么时候用 trait 什么时候该用 class
• Scala 语法中 to 和 until 有啥区别？
• 讲解 Scala 伴生对象和伴生类？

XGBoost

• 你选择使用 xgboost 的原因是什么？
• Xgboost 和 GBDT 有什么异同？
• 为什么 xgboost 训练会那么快，主要优化点是什么？
• Xgboost 是如何处理缺失值的？
• Xgboost 和 LightGBM 有哪些异同？
• Xgboost 为什么要使用泰勒展开式，解决什么问题？
• Xgboost 是如何寻找最优特征的？

TensorFlow

• 使用 tensorflow 实现逻辑回归，并介绍其计算图？
• sparse_softmax_cross_entropy_with_logits 和 softmax_cross_entropy_with_logits 有何异同？
• 使用 tensorflow 过程中，常见调试哪些参数？举例说明？
• Tensorflow 梯度更新是同步还是异步，有什么好处？
• 讲解一下 TFRecords？
• tensorflow 如何使用如何实现超大文件训练？
• 如何读取或者加载图片数据？

9.7 核心知识点速记（原文档自带简要答案）

• 正定矩阵和半正定矩阵判断（顺序主子式法）
• L1 和 L2 范数（稀疏性 vs 防过拟合）
• 特征值和特征向量（"运动速度与方向"的解释）
• 条件概率和贝叶斯公式（后验 = 条件概率 × 先验 ÷ 全概率）
• 高斯分布、拉普拉斯分布与正态分布（中心极限定理：默认高斯合适）
• 线性回归和逻辑回归的区别（连续值 vs 分类；最小二乘 vs 最大似然）
• 常用损失函数：0-1 / 绝对值 / log 对数 / hinge（各适用什么模型）
• 深度神经网络训练问题：梯度消失、梯度爆炸、权重矩阵退化
• 反向传播的过程以及链式法则
• 卷积核大小如何选取；1×1 卷积核的作用（跨通道交互、降维升维）
• 常见激活函数（Sigmoid/Tanh/ReLU/LeakyReLU/Softplus）特点与选择
• batchsize 如何选取、有什么影响
• 如何解决过拟合和欠拟合（加特征/加数据/正则化/剪枝/数据清洗）
• BN（批归一化）算法流程（求均值方差→归一化→γ、β 还原）
• 网络训练技巧：更多数据、迁移学习（fine-tune）、集成、剪枝加速
• Pytorch vs TensorFlow 优缺点

9.8 最优化问题（数学建模方向准备）

• 什么是梯度？梯度下降找到的一定是下降最快的方法？
• 什么是拟牛顿法？牛顿法和梯度法有什么区别？
• 讲解什么是拉格朗日乘子法、对偶问题、KKT 条件？
• 是否所有的优化问题都可以转化为对偶问题？
• 讲解 SMO（Sequential Minimal Optimization）算法基本思想？
• 为什么深度学习不用二阶优化？
• 讲解 SGD、FTRL、Adagrad、Adadelta、Adam、Adamax、Nadam 优化算法以及他们的联系和优缺点
• 参数估计有哪些方法？
• 点估计和区间估计都是什么？
• 讲解一下极大似然估计，以及适用场景？
• 极大似然和最小二乘法有什么关系？
• 假设检验是什么？有什么作用，举例说明？一类和二类错误分别是什么？
• 什么是置信区间？
• P 值数据含义是什么？如何计算？
• 如何证明两个变量是独立分布还是相关的？
• 什么是协方差，它和相关性有什么联系？
• 数学期望和平均数有何异同？

10. 高等数学

• ★★★★★★ 泰勒展开和傅里叶变换的概念及计算机领域应用
• ★★★ 傅里叶变换和傅里叶级数的区别
• ★★★★★ 函数零点和极值点怎么求
• ★★★ 判断两个无穷集合的大小；单射、满射、双射 〔真题·北航：双射定义〕
• ★★★★★ 欧氏距离及常见距离公式的缺点
• ★★★★★ 最大似然估计 〔真题·西工大：条件概率、极大似然函数〕
• ★★★★★ 梯度、方向导数与梯度下降 〔真题·北航：梯度定义与作用〕
• ★★ 复合函数求导公式（会求）
• ★★ 导数和偏导数的区别 〔真题·北航：一阶导/二阶导的物理与几何意义〕
• ★★★ 可导、可微、连续、可积的关系（一元+二元）
• ★★★ 三个中值定理的区别、联系、物理意义（罗尔、拉格朗日、柯西） 〔真题·中山：微分中值定理〕
• ★★★ 二重积分定义与几何意义 【补充】 〔真题·西工大〕
• ★★★ 数列极限的 ε-N 语言定义 【补充】 〔真题·中山：n 在前还是 ε 在前〕
• ★★★ 初等函数与基本初等函数分类 【补充】 〔真题·中山〕

11. 线性代数

• ★★★★★ 矩阵的秩；满秩代表什么，不满秩呢 〔真题·北航三种定义；中山：矩阵满秩〕
• ★★★★★ 线性相关与线性无关 〔真题·北航〕
• ★★★★ 向量空间、线性空间
• ★★★ 向量的基
• ★★ 向量正交、矩阵正交 〔真题·北航：正交矩阵 A·Aᵀ=E〕
• ★★★★ 高斯分布（正态分布）
• ★★★★ 线性方程组 Ax=b（m>n 长矩阵 / n>m 扁矩阵），哪个解是最优解
• ★★★★ 相似矩阵、正定矩阵
• ★★★★ 矩阵范数（一阶、二阶范数）
• ★★★★ 特征值与特征向量的关系、含义与作用 〔真题·北航：拉伸/旋转解释〕
• ★★ Ax=b 在什么情况下 x 有解
• ★★ 张量与矩阵的区别
• ★★★ 矩阵如何求逆 【补充】 〔真题·北航：伴随矩阵法〕
• ★★★ 如何确定数据线性不可分 【补充】 〔真题·中山〕

12. 概率论

• ★★ 变量与随机变量的区别
• ★★ 随机变量与概率分布的联系
• ★★ 联合概率与边缘概率的区别与联系
• ★★ 常见概率分布及适用场景（举例）
• ★★★★ 大数定律和中心极限定理的意义与作用（切比雪夫） 〔真题·北航：大数定律、中心极限定理〕
• ★★★★★ 正态分布的和还是正态分布吗；正态分布性质与独立同分布 〔真题·北航：正态分布〕
• ★★ 什么是假设和检验
• ★★ 数学期望和方差
• ★★ 独立和不相关的区别
• ★★ 概率密度函数
• ★★ 泊松分布的例子
• ★★★★★★★ 全概率公式和贝叶斯公式 〔真题·北航、中山：贝叶斯公式及应用〕
• ★★★ 相关系数、协方差；为 0 能否说明无关
• ★★★ 若干正态分布相加、相乘后的分布
• ★★★ 不均匀硬币（正面概率 p）如何构造 1/2
• ★★ 机器学习为什么要使用概率

13. 离散数学

• ★★ 群、环、域
• ★ 离散型随机变量有哪些
• ★★★ 哈密顿图、欧拉图的区别与求法
• ★★★ 欧拉图和欧拉函数
• ★ 哈夫曼树的定义、求法、应用
• ★ 无向图的定义
• ★★ 等价关系和等价类 〔真题·北航、中山〕
• ★★★ 偏序关系与等价关系的区别 【补充】 〔真题·北航〕

14. 附：面经高频真题速查表