面经 | 机器学习算法岗（阿里-飞猪）

飞猪在秋招时也是海量HC这一著名梗的贡献者之一

但是后来据说海量HC是指4个HC

作者的心也是泡池子泡的凉凉的

面试体验

a. 面试形式为电话面试，面试官可能是个鸽子，平均约三次才能面上一次。

b. 当时投递简历时调研了一下，大文娱、本地生活以及飞猪，据说都不是太核心，竞争较小。

c. 本文为阿里爸爸-飞猪的面试帖，8月末，虽然已经有别家offer，但是阿里终于捞了还是要面一下。

一面

• 项目与自我介绍
• 由于作者是某研发了LTP的实验室的，所以有如下两个问题（NLP相关），小看官们可以选择性略过这一趴：
  • LTP分词怎么做的
  • UNK怎么处理
    • char-emb：英文字符中使用char-embedding编码得到的feature来代替word-embedding；或char-embedding编码得到的feature拼接word-embedding；
    • 词汇表扩展：为不同的UNK编号，进行训练。
    • copy机制：在NLP生成任务时，例如自动摘要任务，摘要中有很多词都是来自于输入部分，比如机构名、地名、人名。这些词出现很少有的甚至只出现一次，如果靠语言模型来生成是不可能的。而使用拷贝模型，则在很大程度上解决了UNK的问题。
  • 还知道什么分词方法
• 已知前序和后序能不能重构二叉树？
  • 不能，“根左右”和“左右根”无法判断左右子树。
• 矩阵的特征值和特征向量是什么？
  • 设 A 是n阶方阵，如果存在数m和非零n维列向量 x，使得 Ax=λx 成立，则称 λ 是矩阵A的一个特征值。
  • 非零向量x称为A的对应于特征值λ的特征向量。
  • 式Ax=λx也可写成( A-λE)X=0。这是n个未知数n个方程的齐次线性方程组，它有非零解的充分必要条件是系数行列式| A-λE|=0。
• 生成模型和判别模型：
  • 生成模型：学习得到联合概率分布P(x,y)，即特征x和标记y共同出现的概率，然后(通过贝叶斯公式)求条件概率分布p(y|x)，最后选取使得p(y|x)最大的y_i.。能够学习到数据生成的机制。
    • Eg: 朴素贝叶斯 / HMM / LDA
  • 判别模型：学习得到条件概率分布P(y|x)，即在特征x出现的情况下标记y出现的概率。
    • Eg: KNN / LR / SVM / Boosting / 感知机 / 决策树 / 最大熵模型 / CRF
• 参数模型和非参数模型:
  • 参数模型通常假设总体（随机变量）服从某一个分布，该分布由一些参数确定（比如正态分布由均值和方差确定）
    • 假设可以极大地简化学习过程，但是同样可以限制学习的内容。简化目标函数为已知形式的算法就称为参数机器学习算法。
    • Eg: LR / 感知机 / SVM / LSTM
  • 非参数模型对于总体的分布不做任何假设，只是知道总体是一个随机变量，其分布是存在的（分布中也可能存在参数），但是无法知道其分布的形式，更不知道分布的相关参数，只有在给定一些样本的条件下，能够依据非参数统计的方法进行推断。
    • 通过不做假设，算法可以自由的从训练数据中学习任意形式的函数。
    • Eg: 决策树 / SVM / LSTM
  • 从上述的区别中可以看出，问题中有没有参数，并不是参数模型和非参数模型的区别。
  • 其区别主要在于总体的分布形式是否已知。而为何强调“参数”与“非参数”，主要原因在于参数模型的分布可以有参数直接确定

二面

• 项目与自我介绍
• Python C++ 怎么调试怎么断点调试
  • 小白都会的print大法
  • IDE：PyCharm可以在某行代码增加断点
  • pdb：python自带工具pdb进行调试，
    • 命令行使用：python -m pdb xxx.py进入调试模式，类似于c++的gdb调试
    • 代码使用：代码中添加pdb，在代码指定位置设置上断点pdb.set_trace()
• python解释器是什么 / 如何工作编译过程和执行原理
  • 用户提交源码后，解释器将源码转化为字节码，在Python中一般为.pyc文件，在Java中则是.class文件，这个字节码机器不能执行，由虚拟机执行（这个虚拟机不是vmware或者virtualbox的虚拟机概念），在Java中同样是由JVM来实现。由于字节码一般是不依赖于操作系统的，所以可以做到跨平台运行。
  • 当python程序第二次运行时，首先程序会在硬盘中寻找pyc文件，如果找到，则直接载入，否则就重复上面的过程。
• Python中的几种解释器知道几个：
  • CPython：CPython是标准Python，也是其他Python编译器的参考实现。通常提到“Python”一词，都是指CPython。CPython由C编写，将Python源码编译成CPython字节码。
  • Jython：Jython在JVM上实现的Python，由Java编写。Jython将Python源码编译成JVM字节码，由JVM执行对应的字节码
  • IronPython：IronPython与Jython类似，所不同的是IronPython在CLR上实现了Python，即面向.NET平台，由C#编写。
  • PyPy：使用RPython实现
• ID3\C4.5等基本树是二叉树还是多叉树
  • ID3只能处理离散型变量，离散特征(离散数量>2)时是多叉树
  • C4.5可以处理离散型/连续型变量，离散特征(离散数量>2)时是多叉树，连续特征时是二叉树
• 被切过的特征还会再切吗？
  • 连续可以在切，离散不可以
• 编程题：
  • 01矩阵里找面积最大的全1矩阵
    • 思路：转换成找面积最大的直方图问题
    • 暴力法
    • 单调栈
    • 动态规划

三面

• 项目与自我介绍
• GBDT和RF的区别：
  • RF属于bagging方法，并行方法，由分类树/回归树组成，结果由多棵树表决决定
  • 异常值不敏感，目的是减少模型的方差，不需要数据预处理、归一化
  • GBDT属于boosting方法，串行方法，只由回归树组成，结果为多棵树累加之和
  • 异常值敏感，目的是减少模型的偏差，需要进行特征归一化
• GBDT和RF哪个树比较深？
  • 单颗树的话是RF深，RF中的树是过拟合的，对样本切对特征切，构造多样性样本集合，每棵树甚至不剪枝。
• 哪些学习器是凸优的？
  • 凸优：局部最优即全局最优
  • 对于凸优化问题，所有的局部极小值都是全局极小值，因此这类问题一般认为是比较容易求解的问题。
  • 逻辑回归、SVM、线性回归凸优。
  • 神经网络不凸优，因为可能收敛到鞍点。
• SVM有几种，都是什么，几种核？
• 拉格朗日乘子法
  • 是一种寻找变量受一个或多个条件所限制的多元函数的极值的方法。这种方法将一个有n 个变量与k 个约束条件的最优化问题转换为一个有n + k个变量的方程组的极值问题，其变量不受任何约束。
  • SVM中涉及相关知识
• hessian矩阵
• 概率题：
  • 两堆水果：其中有橘子和苹果，第一堆中有黄色:绿色为7:3；第二堆中有黄色:绿色为5:5；已知橘子都是黄色，苹果都是绿色；那么现在拿出一个水果是苹果，则苹果是从第一堆拿出来的概率是多少？
    • 解：
    • P(绿 第一堆) = 3/10 * 1/2 = 3/20
    • P(绿) = 8/20
    • P(第一堆|绿) = P(绿 第一堆) / P(绿) = 3/8
    • 答：3/8