史上最全《四万字 AI 词典》助力通关AI学习

前言

随着AI概念的兴起，人工智能已经成为备受关注的热门话题。随着技术的不断成熟，与之相关的专业术语也日益增多。本文整理了当前与人工智能相关的一些专业术语，旨在帮助读者更好地了解和应用这一领域的知识。

A

Absolute value rectification

（绝对值矫正）：一种数学运算，将输入值取绝对值以进行修正。

Activation Function

（激活函数）：在神经网络中使用的函数，用于计算神经元的输出。

Accumulated error backpropagation

（累积误差反向传播）：一种神经网络训练算法，用于调整网络参数以最小化误差。

Acoustic modeling

（声学建模）：用于自然语言处理和语音识别的技术，用于建立声音与文本之间的关联模型。

Acquisition funtion

（获取函数）：在优化问题中，用于选择下一个试验点以获取更多信息的函数。

Actor-critic method

（演员-评论家方法）：一种强化学习方法，结合了策略梯度方法（演员）和值函数方法（评论家）。

Adaptive bitrate (ABR) algorithm

（自适应比特率算法）：用于流媒体服务的算法，根据网络条件和设备性能调整视频的比特率。

Adaptive Resonance Theory/ART

（自适应共振理论）：一种神经网络模型，用于模拟大脑的自组织学习和记忆。

Addictive model

（成瘾模型）：用于描述成瘾行为和成瘾症状的模型。

Adversarial example

（对抗样本）：在机器学习中，经过故意设计的输入样本，旨在欺骗模型。

Adversarial Networks

（对抗网络）：一种神经网络架构，用于生成对抗样本或进行生成对抗训练。

Affine Layer

（仿射层）：神经网络中的一种层类型，执行仿射变换。

Affinity matrix

（关联矩阵）：在数据聚类和图像分割中使用的矩阵，表示样本之间的相似性。

Agent

（代理）：在强化学习中，与环境交互并采取行动的实体。

Algorithm

（算法）：一组有序的操作步骤，用于解决特定问题或执行特定任务。

Alpha-beta pruning

（Alpha-beta剪枝）：用于提高博弈树搜索效率的算法。

Alternative splicing dataset

（可选剪接数据集）：包含基因组中可选剪接事件的数据集。

Analytic gradient

（解析梯度）：通过数学分析计算得到的梯度。

Ancestral Sampling

（祖先抽样）：从概率图模型中抽取样本的方法。

Annealed importance sampling

（退火重要抽样）：一种概率推断方法，用于从复杂分布中抽取样本。

Anomaly detection

（异常检测）：识别数据中不正常或不典型模式的任务。

Application-specific integrated circuit

（应用特定集成电路）：专门设计用于特定应用领域的集成电路。

Approximate Bayesian computation

（近似贝叶斯推断）：一种贝叶斯推断方法，通过近似抽样计算后验分布。

Approximate inference

（近似推断）：在概率模型中，通过近似方法计算后验分布。

Approximation

（近似）：用一个简化的模型或方法来代替复杂的现象或问题。

Architecture

（架构）：系统或软件的整体设计结构。

Area Under ROC Curve/AUC

（ROC曲线下的面积）：评估二分类器性能的指标。

Artificial General Intelligence/AGI

（人工通用智能）：具有与人类智能类似的广泛智能能力的人工智能系统。

Artificial Intelligence/AI

（人工智能）：使机器能够模拟人类智能行为的领域。

Association analysis

（关联分析）：在数据集中寻找变量之间关联关系的任务。

Asymptotically unbiased

（渐近无偏）：在样本数量趋向于无穷时，估计值的期望等于真实参数的性质。

Asynchronous Stochastic Gradient Descent

（异步随机梯度下降）：一种随机梯度下降优化算法，允许并行更新参数。

Attention mechanism

（注意力机制）：在神经网络中用于加强或抑制不同部分输入的机制。

Attribute conditional independence assumption

（属性条件独立性假设）：在概率图模型中假设属性之间的条件独立性。

Attribute space

（属性空间）：由属性构成的空间，用于描述对象的特征。

Attribute value

（属性值）：描述对象属性的具体取值。

Augmented Lagrangian

（增广拉格朗日）：用于非线性约束优化问题的一种优化方法。

Autoencoder

（自编码器）：一种神经网络架构，用于学习数据的压缩表示。

Automatic differentiation

（自动微分）：一种计算微分的技术，用于自动计算导数。

Automatic speech recognition/ASR

（自动语音识别）：将语音转换为文本的技术。

Automatic summarization

（自动摘要）：从文本中提取关键信息以生成摘要的技术。

Auto-regressive network

（自回归网络）：一种神经网络架构，输出依赖于先前的输出。

Average gradient

（平均梯度）：在优化算法中，梯度的平均值。

Average-Pooling

（平均池化）：在神经网络中常用的池化操作，计算特征图的平均值。

B

Backpropagation/BP

（反向传播）：一种用于训练神经网络的算法，通过计算梯度来更新网络参数。

Backpropagation Through Time

（通过时间的反向传播）：用于训练循环神经网络的算法，将梯度反向传播到各个时间步。

Backward induction

（反向归纳）：在博弈论和动态规划中使用的一种推理方法，从最终状态开始向前推断。

Bag of words/BoW

（词袋模型）：文本表示方法，忽略文本中单词的顺序和语法，只考虑单词的出现频率。

Base learner

（基学习器）：集成学习中的基本模型，用于构建更复杂的集成模型。

Base learning algorithm

（基本学习算法）：集成学习中使用的基础算法，例如决策树、支持向量机等。

Batch

（批次）：在机器学习中，一次性处理的训练样本集合。

Batch Normalization/BN

（批量归一化）：一种用于加速神经网络训练的技术，通过规范化输入以及激活函数的输出。

Bayes decision rule

（贝叶斯决策规则）：基于贝叶斯定理进行决策的规则，选择具有最大后验概率的类别。

Bayes error

（贝叶斯错误）：在最优分类器条件下的错误率，表示分类器无法避免的错误。

Bayes Model Averaging/BMA

（贝叶斯模型平均）：使用多个模型的加权平均进行预测的方法。

Bayes optimal classifier

（贝叶斯最优分类器）：在给定先验分布的情况下，最小化错误率的分类器。

Bayesian decision theory

（贝叶斯决策理论）：利用贝叶斯定理进行决策的理论框架。

Bayesian network

（贝叶斯网络）：一种图模型，用于表示变量之间的依赖关系和概率分布。

Bayesian optimization

（贝叶斯优化）：一种优化方法，通过构建目标函数的概率模型来指导搜索过程。

Beam search

（束搜索）：一种在搜索空间中保持固定数量路径的搜索算法。

Benchmark

（基准）：用于评估算法性能或系统性能的标准数据集、指标或测试。

Belief network

（信念网络）：另一种称为贝叶斯网络的概率图模型。

Bellman equation

（贝尔曼方程）：动态规划中描述最优值函数的递归方程。

Between-class scatter matrix

（类间散布矩阵）：用于描述不同类别之间差异的矩阵。

Bias

（偏差）：模型预测与真实值之间的系统性偏离。

Biased

（有偏的）：在样本选择或模型设计中产生偏向特定结果的情况。

Biased importance sampling

（有偏重要抽样）：在重要抽样中使用的一种技术，引入偏差以改善采样效率。

Bias-variance decomposition

（偏差-方差分解）：用于分析学习算法误差的分解方法，将总误差分解为偏差、方差和不可避免误差。

Bias-Variance Dilemma

（偏差-方差困境）：在模型中调整偏差和方差之间的权衡问题。

Bi-directional Long-Short Term Memory/Bi-LSTM

（双向长短期记忆网络）：一种循环神经网络结构，允许信息从过去到未来和从未来到过去传播。

Binary classification

（二元分类）：将样本分为两个类别的分类任务。

Binary relation

（二元关系）：在集合论中定义的一种关系，将元素对映射到真值集合。

Binary sparse coding

（二元稀疏编码）：使用稀疏编码的一种变体，编码系数仅取二元值。

Binomial distribution

（二项分布）：描述两种可能结果的离散概率分布。

Binomial test

（二项检验）：用于比较两个样本比例是否有显著差异的假设检验方法。

Bi-partition

（双分区）：将数据集分成两个互斥的子集的操作。

Block coordinate descent

（块坐标下降）：一种优化算法，每次更新一组相关的参数。

Block Gibbs Sampling

（块吉布斯采样）：马尔科夫链蒙特卡罗采样算法的一种变体，以块为单位更新变量。

Boilerplate code

（样板代码）：在软件开发中经常出现且具有相似结构的代码片段。

Boltzmann distribution

（玻尔兹曼分布）：描述粒子能级分布的概率分布。

Boltzmann machine

（玻尔兹曼机）：一种基于能量的随机生成模型，用于学习数据的概率分布。

Bootstrap sampling

（自助采样）：一种重采样技术，通过有放回地从样本中抽取数据来估计总体分布。

Bootstrapping

（自助法）：利用重采样技术进行统计推断的方法。

Bottleneck layer

（瓶颈层）：神经网络中的一层，将输入数据映射到低维表示。

Bounding Boxes

（边界框）：在目标检测中用于表示物体位置和大小的矩形框。

Break-Even Point/BEP

（盈亏平衡点）：在经济学和业务中，收入与成本相等的点。

Bridge sampling

（桥梁抽样）：用于估计两个分布之间归一化常数的一种重要抽样方法。

Broadcasting

（广播）：在数组计算中，自动扩展数组以匹配操作的要求。

Burning-in

（烧录）：在马尔科夫链蒙特卡罗采样中，丢弃前几个样本以消除初始条件影响的过程。

C

Calculus of variations

（变分法）：研究函数als的极值问题的一种数学分支。

Calibration

（校准）：调整模型或仪器以使其输出与实际值或标准相符合的过程。

Cascade/Coalesced

（级联/合并）：一种处理器的多种模式，其中指令或数据在一条指令周期内通过一组处理器。

Cascade-Correlation

（级联相关）：一种神经网络训练方法，通过逐步添加节点来构建网络。

Categorical attribute

（分类属性）：在数据集中表示离散类别的属性。

Categorical distribution

（分类分布）：表示离散随机变量概率分布的函数。

Causal factor

（因果因素）：导致结果发生的原因或变量。

Causal modeling

（因果建模）：研究因果关系的建模方法。

Centered difference

（中心差分）：数值微分的一种方法，使用函数在点左右的两个位置的差值来估计导数。

Central limit theorem

（中心极限定理）：描述在特定条件下，大量独立随机变量的均值呈正态分布的定理。

Chain rule

（链式法则）：微积分中的一条规则，用于计算复合函数的导数。

Chordal graph

（和弦图）：图论中的一种图，任意长度大于3的环都有一个公共的弦。

Class-conditional probability

（类条件概率）：给定类别下观察到的某一事件的概率。

Classification and regression tree/CART

（分类与回归树）：一种树结构的模型，用于分类和回归分析。

Classifier

（分类器）：用于将输入数据分配到类别或标签的模型或算法。

Class-imbalance

（类别不平衡）：在分类问题中，各个类别样本数量差别很大的情况。

Clip gradient

（梯度裁剪）：在训练神经网络时限制梯度的范围，以防止梯度爆炸或消失。

Clique potential

（团势）：在图模型中，指向团的概率分布。

Closed-form

（闭式解）：可以用有限步骤求解的解析解。

Cluster

（聚类）：将数据分成组或簇的过程，使得同一组内的数据点相似度较高，不同组之间的相似度较低。

Cluster analysis

（聚类分析）：一种通过观察数据点之间的相似性来将数据点划分为组的分析方法。

Clustering

（聚类）：将数据集中的对象划分为具有相似特征的组的过程。

Clustering ensemble

（聚类集成）：将多个聚类结果结合起来以获得更准确的聚类。

Co-adapting

（协同适应）：系统中多个组件相互适应和改变的过程。

Coding matrix

（编码矩阵）：用于将输入数据编码成一种特定形式的矩阵。

Collaborative filtering

（协同过滤）：一种推荐系统技术，根据用户和物品之间的历史行为进行推荐。

COLT

（计算学习理论）：研究计算机算法和学习系统之间关系的学科。

Committee-based learning

（委员会学习）：使用多个模型或专家来进行学习或决策的方法。

Competitive learning

（竞争学习）：一种无监督学习方法，其中神经元竞争以学习表示数据。

Complete graph

（完全图）：图论中的一种图，每对不同顶点之间都有一条边。

Component learner

（组件学习器）：集成学习中的单个学习器，用于构建更复杂的集成模型。

Comprehensibility

（可理解性）：模型或系统容易理解和解释的程度。

Computation Cost

（计算成本）：完成特定计算任务所需的时间、资源和功耗。

Computational Linguistics

（计算语言学）：研究人类语言和计算机之间相互作用的学科。

Computer vision

（计算机视觉）：使计算机能够理解和分析图像和视频的技术。

Concept drift

（概念漂移）：在数据分布或任务的潜在关系发生变化时，学习系统性能下降的现象。

Concept Learning System/CLS

（概念学习系统）：一种能够从数据中学习并生成概念的计算系统。

Conditional entropy

（条件熵）：在给定另一个随机变量的条件下，随机变量的不确定性。

Conditional mutual information

（条件互信息）：在给定另一个随机变量的条件下，两个随机变量之间的互信息。

Conditional Probability Table/CPT

（条件概率表）：在贝叶斯网络中用于表示节点概率分布的表格。

Conditional random field/CRF

（条件随机场）：一种概率图模型，用于建模结构化数据的条件分布。

Conditional risk

（条件风险）：在给定一些条件的情况下，事件发生可能带来的损失或风险。

Confidence

（置信度）：对于某一事件发生的信心或度量。

Confusion matrix

（混淆矩阵）：用于评估分类模型性能的矩阵，显示实际类别和预测类别之间的关系。

Conjugate directions

（共轭方向）：在优化问题中，一组方向被称为共轭，如果在这些方向上移动可以得到无重叠的线段。

Conjugate distribution

（共轭分布）：在贝叶斯统计中，如果后验分布与先验分布具有相同的函数形式，则称它们是共轭的。

Conjugate gradient

（共轭梯度）：一种用于解决线性方程组和优化问题的算法。

Connection weight

（连接权重）：在神经网络中，用于调节神经元之间连接强度的参数。

Connectionism

（连接主义）：一种认知科学理论，认为智能行为可以通过神经元之间的连接实现。

Consistency

（一致性）：学习算法在样本数量增加时，模型参数逼近真实参数的性质。

Consistency convergence

（一致性收敛）：随着训练数据量增加，学习算法估计参数向真实参数收敛的过程。

Contingency table

（列联表）：用于展示两个或多个分类变量之间关系的表格。

Continuation method

（延续方法）：求解非线性方程组的数值方法，通过改变参数来逐步求解问题。

Continuous attribute

（连续属性）：在数据集中表示连续变量的属性。

Contractive autoencoder

（收缩自编码器）：一种自编码器，通过在编码器的激活函数上添加约束来学习数据的稳定表示。

Contractive neural network

（收缩神经网络）：一种神经网络，通过加入收缩项来降低参数对输入数据的敏感度。

Convex optimization

（凸优化）：优化问题的一种形式，目标函数是凸函数，约束也是凸的。

Convergence

（收敛）：迭代算法在满足某些条件下趋向于稳定的过程。

Conversational agent

（对话代理）：模拟人类对话的计算机程序或系统。

Convex quadratic programming

（凸二次规划）：优化问题的一种形式，目标函数是二次函数，约束是线性或二次函数。

Convexity

（凸性）：函数的图像在任意两点之间的线段位于函数图像上方的性质。

Convolutional Boltzmann Machine

（卷积玻尔兹曼机）：一种用于学习数据的分布的概率模型。

Convolutional neural network/CNN

（卷积神经网络）：一种专门用于处理具有网格结构数据的深度学习模型。

Co-occurrence

（共现）：在给定环境或数据集中同时出现的事件或对象。

Coordinate descent

（坐标下降）：一种优化算法，每次只更新一个参数以最小化目标函数。

Correlation coefficient

（相关系数）：衡量两个变量之间关系强度和方向的统计量。

Cosine similarity

（余弦相似度）：衡量两个向量之间夹角的余弦值，用于比较它们的相似度。

Cost curve

（成本曲线）：显示不同成本和收益之间关系的曲线。

Cost Function

（成本函数）：用于评估模型预测与真实值之间差异的函数。

Cost matrix

（成本矩阵）：在分类问题中，表示不同分类错误所带来的成本的矩阵。

Cost-sensitive

（成本敏感）：考虑到不同类别错误带来的成本或损失的学习方法。

Covariance

（协方差）：两个随机变量之间的关系度量，表示它们共同变化的程度。

Covariance matrix

（协方差矩阵）：描述多个随机变量之间协方差关系的矩阵。

Cross entropy

（交叉熵）：用于衡量两个概率分布之间差异的度量。

Cross validation

（交叉验证）：一种评估模型泛化性能的统计方法，将数据集分成训练集和测试集进行多次训练和测试。

Cross-correlation

（交叉相关）：两个信号之间的相似性度量。

Crowdsourcing

（众包）：将任务分配给在线社区或大量人员以获取信息、创意或解决问题的方法。

Cumulative function

（累积函数）：在给定区间内变量的累积分布函数。

Curse of dimensionality

（维数灾难）：在高维空间中数据分析和机器学习任务变得困难的现象。

Curve-fitting

（曲线拟合）：通过拟合函数来近似数据点的过程。

Cut point

（切点）：在某个特征上选择的分割点，用于构建决策树等模型。

Cutting plane algorithm

（割平面算法）：一种用于求解线性规划问题的算法。

D

Data generating distribution

（数据生成分布）：描述产生观测数据的概率分布。

Data mining

（数据挖掘）：从大量数据中发现模式、规律和趋势的过程。

Data parallelism

（数据并行）：一种并行计算的方式，将数据分成多个部分并在不同的处理单元上同时处理。

Data set

（数据集）：组织成组的数据，用于分析、研究或训练模型。

Data Wrangling

（数据整理）：准备和清洗数据以便进行分析或建模的过程。

Dataset augmentation

（数据集增强）：通过应用不同的变换或扩充方法来增加数据集的大小和多样性。

Debugging strategy

（调试策略）：识别和纠正软件或程序中的错误的方法或策略。

Decision Boundary

（决策边界）：在分类问题中，分隔不同类别的区域。

Decision stump

（决策树桩）：一个仅有一个分裂节点的决策树，用于简单的分类任务。

Decision tree

（决策树）：一种树状结构，用于对实例进行分类或预测。

Deconvolutional Network

（反卷积网络）：一种神经网络结构，用于从特征空间还原输入空间。

Deduction

（演绎推理）：从已知事实、前提或假设推断出新的结论的推理过程。

Deep Belief Network

（深度置信网络）：一种由多个受限玻尔兹曼机组成的深度神经网络。

Deep Boltzmann Machine

（深度玻尔兹曼机）：一种用于建模数据分布的概率生成模型。

Deep circuit

（深度电路）：一种具有多层非线性处理单元的计算电路。

Deep Convolutional Generative Adversarial Network/DCGAN

（深度卷积生成对抗网络）：一种生成对抗网络的变体，特别用于生成图像。

Deep generative model

（深度生成模型）：能够从随机噪声中生成复杂数据的模型。

Deep learning

（深度学习）：一种机器学习方法，通过多层神经网络进行特征学习和表示学习。

Deep neural network/DNN

（深度神经网络）：包含多个隐藏层的神经网络。

Deep Q-Learning

（深度 Q 学习）：一种基于深度学习的强化学习方法，用于学习动作值函数。

Deep Q-Network

（深度 Q 网络）：使用深度神经网络近似动作值函数的 Q 学习算法。

Denoising autoencoder

（去噪自编码器）：一种自编码器，通过学习去除输入中的噪声来重构干净的输入。

Denoising score matching

（去噪分数匹配）：一种用于密度估计和生成模型的方法，通过去噪来学习概率密度函数。

Density estimation

（密度估计）：估计数据背后的概率密度函数的过程。

Density-based clustering

（基于密度的聚类）：一种聚类方法，根据数据点周围的密度来划分簇。

Detailed balance

（细致平衡）：在马尔可夫链中，转移概率满足一定平衡条件的性质。

Determinant

（行列式）：方阵的一个标量值，表示矩阵的特征。

Diagonal matrix

（对角矩阵）：除对角线上的元素外，所有元素均为零的矩阵。

Differentiable neural computer

（可微分神经计算机）：一种结合了神经网络和外部存储器的计算模型。

Differential entropy

（微分熵）：连续随机变量的熵的一种推广，衡量其不确定性。

Differential equation

（微分方程）：包含一个或多个未知函数及其导数的方程。

Dimensionality reduction algorithm

（降维算法）：减少数据集维度的算法，以保留最重要的特征。

Directed edge

（有向边）：在有向图中连接两个顶点的边，具有方向性。

Directed graphical model

（有向图模型）：用有向边连接节点表示随机变量依赖关系的图模型。

Directional derivative

（方向导数）：多元函数沿着给定方向的导数。

Dirichlet distribution

（Dirichlet 分布）：用于表示多维随机变量的概率分布。

Disagreement measure

（不一致度量）：衡量两个或多个模型或预测之间差异的度量。

Discriminative model

（判别模型）：重点在于建模类别之间的条件概率分布的模型。

Discriminator

（判别器）：在生成对抗网络中，用于区分真实样本和生成样本的模型。

Discriminator network

（判别器网络）：在生成对抗网络中，用于区分生成器生成的样本和真实样本的神经网络。

Distance measure

（距离度量）：衡量两个数据点之间距离或相似性的度量方式。

Distance metric learning

（距离度量学习）：学习适合特定任务的距离度量的过程。

Distribution

（分布）：描述随机变量取值的可能性的函数或概率。

Divergence

（散度）：用于度量两个概率分布之间差异的概念。

Diversity measure

（多样性度量）：衡量数据集或样本中不同类别或群体之间差异程度的指标。

Domain adaption

（领域自适应）：在不同领域之间迁移学习模型的过程。

Dominant strategy

（主导策略）：在博弈论中，对于玩家来说是最优选择的策略。

Double backprop

（双向反向传播）：一种使用两个反向传播过程的方法，用于更新参数或优化损失函数。

Doubly block circulant matrix

（双重分块循环矩阵）：由分块循环矩阵构成的矩阵。

Downsampling

（降采样）：减少信号或图像采样率的过程。

E

Echo state network

（回声状态网络）：一种具有固定随机连接的循环神经网络。

Edge device

（边缘设备）：指在边缘计算环境中执行计算任务的设备，通常是物联网设备或嵌入式系统。

Eigendecomposition

（特征值分解）：将方阵分解为一组特征值和相应的特征向量的过程。

Eigenvalue

（特征值）：矩阵的一个标量值，描述线性变换时向量沿着特定方向缩放的比例。

Eigenvalue decomposition

（特征值分解）：将矩阵分解为特征值和对应的特征向量的过程。

Eigenvector

（特征向量）：与矩阵乘积后等于一个标量乘以该向量自身的向量。

Element-wise product

（逐元素乘积）：对应位置元素相乘的操作。

Ellipsoid method

（椭球法）：一种求解凸优化问题的数值方法，通过不断迭代调整椭球来逼近最优解。

Embedding

（嵌入）：将高维数据映射到低维空间的过程，通常用于特征提取或降维。

Emotional analysis

（情感分析）：通过自然语言处理技术来识别和分析文本中的情感和情绪。

Empirical conditional entropy

（经验条件熵）：根据观测数据计算的条件熵。

Empirical entropy

（经验熵）：根据观测数据计算的熵。

Empirical error

（经验误差）：根据实际观测到的数据计算的误差。

Empirical risk

（经验风险）：根据样本数据计算的损失函数。

End-to-End

（端到端）：将系统的所有组件连接在一起，以实现整体目标的方法。

Energy-based model

（基于能量的模型）：一种通过能量函数来定义概率分布的生成模型。

Ensemble learning

（集成学习）：通过组合多个模型的预测来提高整体性能的机器学习方法。

Ensemble pruning

（集成剪枝）：移除集成模型中不重要的模型或预测以提高性能的过程。

Epochs

（时期）：在神经网络训练中，完整地将训练数据集通过网络一次称为一个时期。

Error Correcting Output Codes/ECOC

（纠错输出码）：一种多类别分类方法，将多类别问题转化为多个二元分类问题。

Error rate

（错误率）：在分类任务中，错误预测的比例。

Error-ambiguity decomposition

（误差-模糊分解）：将总误差分解为误差和模糊性两部分的过程。

Euclidean distance

（欧氏距离）：空间中两点之间的直线距离。

Euclidean norm

（欧几里得范数）：向量的长度或大小，由其元素的平方和的平方根计算而得。

Evolutionary computation

（进化计算）：一类基于生物进化过程的优化算法，如遗传算法、进化策略等。

Expectation-Maximization/EM

（期望最大化算法）：一种用于参数估计的迭代算法，常用于混合模型的学习。

Expected loss

（期望损失）：根据概率分布计算的损失的平均值。

Expert network

（专家网络）：由多个专家模型组成的网络，用于解决特定领域的问题。

Explaining away effect

（解释隔离效应）：在概率图模型中，观察到一个节点后，另一个节点与它的关联性增加的现象。

Exploding Gradient Problem

（梯度爆炸问题）：在反向传播中，梯度值变得非常大，导致模型不稳定或难以训练的问题。

Exploitation

（利用）：在强化学习中，选择当前已知最佳策略的过程。

Exploration

（探索）：在强化学习中，尝试新的策略或动作以了解环境的过程。

Exponential loss function

（指数损失函数）：一种常用于二分类问题的损失函数，对错误的分类结果施加指数级别的惩罚。

Extreme Learning Machine/ELM

（极限学习机）：一种简单且高效的神经网络训练算法。

F

Factor analysis

（因子分析）：一种统计方法，用于识别并解释观测数据中潜在的隐含因子结构。

Factorization

（因子分解）：将一个对象分解成若干个因子或成分的过程。

Factors of variation

（变化因素）：影响数据集中变量值变化的因素或特征。

False negative

（假阴性）：在二元分类中，将负类别样本错误地预测为正类别的情况。

False positive

（假阳性）：在二元分类中，将负类别样本错误地预测为正类别的情况。

False Positive Rate/FPR

（假阳率）：在二元分类中，被错误地分类为正类别的负类别样本的比率。

Fault-tolerant asynchronous training

（容错异步训练）：一种训练神经网络的方法，可以处理节点或连接失效的情况。

Feature engineering

（特征工程）：通过选择、转换、创造特征以及对原始数据进行预处理来提高机器学习模型性能的过程。

Feature extractor

（特征提取器）：用于从原始数据中提取特征的模块或算法。

Feature map

（特征映射）：在卷积神经网络中，将输入映射到隐藏层的过程。

Feature selection

（特征选择）：从原始特征集合中选择最具代表性或最相关的特征子集的过程。

Feature vector

（特征向量）：用于表示数据样本的向量，其中每个元素对应一个特征。

Featured Learning

（特征学习）：通过自动学习数据的表示或特征来改善机器学习性能的过程。

Feedforward Neural Networks/FNN

（前馈神经网络）：由多个神经元按照层次结构排列并且信号只能向前传播的神经网络。

Field Programmable Gated Array

（场可编程门阵列）：一种可编程的集成电路，可以根据用户需求进行配置。

Fine-tuning

（微调）：在机器学习中，通过调整模型的参数或超参数以优化性能的过程。

Finite difference

（有限差分）：一种数值计算方法，用于近似求解微分方程或函数的导数。

Fixed point equation

（不动点方程）：满足特定条件的函数方程，其解是函数自身的点。

Flipping output

（反转输出）：在神经网络训练中，调整输出以改变模型的行为或性能的过程。

Fluctuation

（波动）：数据、变量或参数在一段时间内的不规则变化或摆动。

Folk Theorem

（民间定理）：博弈论中关于多人博弈的一个定理，表明在某些情况下，均衡可以通过一系列明确的策略达成。

Forget gate

（遗忘门）：在长短期记忆网络（LSTM）中，控制是否遗忘先前状态的门控机制。

Forward stagewise algorithm

（前向逐步算法）：一种特征选择算法，逐步添加或删除特征以优化模型性能。

Fourier transform

（傅里叶变换）：一种将函数从时域转换到频域的数学变换。

Frequentist

（频率主义者）：概率论中一种将概率解释为事件频率的观点。

Frequentist probability

（频率主义概率）：根据事件在重复试验中出现的频率来定义概率的观点。

Full-rank matrix

（满秩矩阵）：具有最大可能秩的矩阵，秩等于其行数或列数的矩阵。

Functional derivative

（泛函导数）：对泛函进行微分的操作，泛函是关于函数的函数。

Functional neuron

（功能神经元）：在神经网络中，执行某种特定功能或激活函数的神经元。

G

Gain ratio

（增益比）：用于决策树分裂属性选择的指标，考虑了属性分裂后的类别不平衡问题。

Game payoff

（博弈支付）：博弈论中指定策略组合下各方获得的收益或损失。

Game theory

（博弈论）：研究决策者在相互作用中做出决策的数学模型和方法。

Gated recurrent net/GRN

（门控循环网络）：一种循环神经网络结构，包含门控机制以控制信息的流动。

Gaussian kernel function

（高斯核函数）：一种常用的核函数，用于支持向量机等机器学习算法中的非线性变换。

Gaussian Mixture Model

（高斯混合模型）：由多个高斯分布组合而成的概率模型，用于对复杂数据分布进行建模。

Gaussian Process

（高斯过程）：一种用于回归和分类的非参数贝叶斯模型，可以用于处理连续的输入和输出空间。

General Problem Solving

（通用问题求解）：涉及解决广泛问题领域的一般性问题解决方法。

Generalization

（泛化）：机器学习模型在未见过的数据上表现良好的能力。

Generalization error

（泛化误差）：机器学习模型在未见过的数据上的误差。

Generalization error bound

（泛化误差界）：对机器学习模型泛化性能的上界估计。

Generalized Lagrange function

（广义拉格朗日函数）：包含等式和不等式约束的最优化问题的拉格朗日函数的推广。

Generalized linear model

（广义线性模型）：一类线性模型，可以用于对非正态分布数据进行建模。

Generalized pseudolikelihood

（广义伪似然）：用于参数估计的一种统计方法，特别适用于复杂的数据结构。

Generalized Rayleigh quotient

（广义瑞利商）：对矩阵特征值的一种泛化定义。

Generalized score matching

（广义评分匹配）：一种非参数密度估计方法，用于拟合概率分布。

Generative Adversarial Networks/GAN

（生成对抗网络）：一种生成模型，由生成器和判别器相互对抗训练而成。

Generative Model

（生成模型）：模拟生成数据的概率模型。

Generative moment matching network

（生成矩匹配网络）：通过匹配样本矩的生成模型。

Generator

（生成器）：在生成对抗网络中负责生成数据样本的模块。

Genetic Algorithm/GA

（遗传算法）：一种模拟自然进化过程的优化算法。

Giant magnetoresistance

（巨磁电阻效应）：一种材料中的电阻随外加磁场变化的效应，应用于磁存储器等领域。

Gibbs sampling

（吉布斯采样）：一种马尔可夫链蒙特卡洛采样方法，用于从联合概率分布中抽取样本。

Gini index

（基尼指数）：衡量集合中元素多样性的统计量，常用于决策树算法中的节点分裂选择。

Global contrast normalization

（全局对比度归一化）：一种图像预处理技术，用于提高图像的对比度。

Global minimum

（全局最小值）：在优化问题中指的是目标函数取得最小值的点，可能有多个局部最小值但只有一个全局最小值。

Global Optimization

（全局优化）：寻找优化问题中全局最优解的过程。

Gradient boosting tree

（梯度提升树）：一种集成学习方法，通过迭代训练决策树以减小损失函数的梯度来提高模型性能。

Gradient Descent

（梯度下降）：一种优化算法，通过沿着损失函数梯度的反方向更新参数以最小化损失函数。

Gradient energy distribution

（梯度能量分布）：描述梯度值在图像或信号中的分布情况。

Graph theory

（图论）：研究图及其在数学和计算机科学中的应用的学科。

Grid search

（网格搜索）：一种超参数调优的方法，通过穷举搜索给定的参数组合来寻找最优模型。

Ground-truth

（真实值）：在机器学习中指的是实际的、准确的标签或结果。

H

Hard margin

（硬间隔）：在支持向量机中，指的是要求所有数据点都位于间隔边界之外的情况。

Hard voting

（硬投票）：一种集成学习方法，每个基学习器投票，少数服从多数。

Harmonic mean

（调和平均数）：一种平均数的计算方法，其倒数等于各数倒数的平均值。

Hesse matrix

（黑塞矩阵）：多元函数的二阶偏导数构成的矩阵。

Heterogeneous Information Network/HIN

（异构信息网络）：具有不同类型节点和边的复杂网络。

Hidden dynamic model

（隐藏动态模型）：考虑隐藏状态的动态系统模型。

Hidden layer

（隐藏层）：神经网络中位于输入层和输出层之间的一层或多层。

Hidden Markov Model/HMM

（隐马尔可夫模型）：一种用于建模时序数据的概率图模型，假设系统的状态是隐藏的。

Hierarchical clustering

（层次聚类）：一种聚类方法，通过逐步合并或分裂聚类来构建聚类层次结构。

Hilbert space

（希尔伯特空间）：具有特定内积结构的完备向量空间，常用于量子力学和函数分析中。

Hinge loss function

（铰链损失函数）：支持向量机中常用的损失函数，用于最大间隔分类。

Hold-out

（留出法）：一种数据集划分方法，将数据集划分为训练集和测试集。

Homogeneous

（同质的）：在统计学和数学中指的是具有相同性质或结构的事物。

Hybrid computing

（混合计算）：利用多种计算方法、策略或架构结合的计算方法。

Hyperparameter

（超参数）：机器学习算法中需要手动设定的参数，不能通过训练数据学习得到。

Hypothesis

（假设）：在统计学和科学研究中，根据理论或观察提出的关于未知真相的陈述。

Hypothesis test

（假设检验）：统计学中一种用于判断假设真实性的方法，通常基于样本数据进行推断。

I

ICML

（国际机器学习大会）：一年一度的机器学习领域的顶级学术会议。

Identity matrix

（单位矩阵）：主对角线上的元素为1，其他元素为0的方阵。

Image restoration

（图像恢复）：通过去除图像中的噪声或损坏部分，使其恢复到原始状态的过程。

Imperfect Information

（不完全信息）：在决策过程中缺乏完全信息的情况。

Improved iterative scaling/IIS

（改进的迭代缩放算法）：一种用于求解线性规划问题的算法。

Incremental learning

（增量学习）：在不断接收新数据时更新模型的学习方法。

Independent and identically distributed/i.i.d.

（独立同分布）：指随机变量之间相互独立且具有相同的概率分布。

Independent Component Analysis/ICA

（独立分量分析）：一种从多个信号混合中恢复原始信号的方法。

Independent subspace analysis

（独立子空间分析）：将输入空间分解为独立的子空间的方法。

Indicator function

（指示函数）：在数学中，当参数满足一定条件时为1，否则为0的函数。

Individual learner

（个体学习器）：集成学习中的基本学习算法。

Induction

（归纳）：从特殊情况中推断出一般原理或规律的推理过程。

Inductive bias

（归纳偏好）：机器学习算法对学习任务的先验偏好或假设。

Inductive learning

（归纳学习）：通过观察样本数据来推断规律或模式的学习过程。

Inductive Logic Programming/ILP

（归纳逻辑编程）：结合逻辑编程和机器学习的方法。

Inequality constraint

（不等式约束）：线性规划或优化问题中的限制条件，通常表示为不等式。

Inference

（推断）：从已知事实、规则或数据中推导出新的结论或信息的过程。

Information entropy

（信息熵）：衡量随机变量不确定性的度量。

Information gain

（信息增益）：在决策树中用于选择最佳划分属性的指标。

Input layer

（输入层）：神经网络中接收外部输入的层。

Insensitive loss

（鲁棒损失）：对异常值不敏感的损失函数。

Instance segmentation

（实例分割）：图像分割任务的一种，将图像中的每个对象实例分割成单独的部分。

Inter-cluster similarity

（簇间相似度）：用于衡量不同簇之间相似程度的指标。

Intra-cluster similarity

（簇内相似度）：用于衡量同一簇内部样本相似程度的指标。

Intrinsic value

（内在价值）：资产或选项的实际价值，独立于市场价格。

Invariance

（不变性）：对某些变化的不敏感性或不受影响的性质。

Invert

（求逆）：矩阵求逆的操作。

Isometric Mapping/Isomap

（等距映射）：一种非线性降维算法，保持原始数据之间的等距关系。

Isotonic regression

（保序回归）：一种回归分析方法，保证预测值单调递增或递减。

Iterative Dichotomiser

（迭代二叉树）：这似乎是一个笔误或简称，可能指的是Iterative Dichotomiser 3（ID3），这是一个经典的决策树算法。

J

Jensen-Shannon Divergence/JSD

（Jensen-Shannon 散度）：用于衡量两个概率分布之间的相似性的一种统计度量。

K

Kernel method

（核方法）：一种机器学习方法，通过在高维空间中进行非线性变换，将线性不可分问题转化为线性可分或更容易处理的问题。

Kernel trick

（核技巧）：在支持向量机等算法中使用核函数，将数据从输入空间映射到更高维的特征空间，以实现非线性分类。

Kernelized Linear Discriminant Analysis/KLDA

（核化线性判别分析）：线性判别分析（LDA）的一种变体，通过使用核技巧将数据映射到高维空间来处理非线性问题。

K-fold cross validation

（K折交叉验证）：一种常用的模型评估技术，将数据集分成K个子集，每次使用K-1个子集进行训练，剩余的一个子集用于验证。

K-Means Clustering

（K均值聚类）：一种常用的聚类算法，将数据集划分为K个簇，以最小化簇内的平方距离。

K-Nearest Neighbours Algorithm/KNN

（K近邻算法）：一种基于实例的学习方法，根据数据点之间的距离找到与给定样本最接近的K个邻居。

Knowledge base

（知识库）：用于存储和组织知识的计算机系统或数据结构。

Knowledge Engineering

（知识工程）：一种跨学科领域，涉及将人类知识转化为计算机可处理的形式。

Knowledge graph

（知识图谱）：一种用于表示知识的图形结构，其中实体、关系和属性用节点和边表示。

Knowledge Representation

（知识表示）：将现实世界中的知识用计算机可处理的形式进行表达和存储的方法和技术。

L

Label space

（标签空间）：指分类任务中可能的标签集合，用于对数据样本进行分类或标记。

Lagrange duality

（拉格朗日对偶性）：最优化理论中的概念，将原始优化问题转化为对偶问题以便更好地求解。

Lagrange multiplier

（拉格朗日乘子）：用于在优化问题中引入约束条件的系数，用于对约束条件进行建模。

Laplace smoothing

（拉普拉斯平滑）：一种用于平滑概率分布的技术，通常用于避免零概率问题。

Laplacian correction

（拉普拉斯校正）：一种在频率计数中用于避免概率为零的技术，通常应用于朴素贝叶斯分类器中。

Latent Dirichlet Allocation/LDA

（隐狄利克雷分布）：一种用于主题建模的生成概率模型，常用于文本分析。

Latent semantic analysis

（隐语义分析）：一种文本挖掘和信息检索技术，用于发现文本数据中的语义关系。

Latent variable

（隐变量）：在统计模型中，指影响观察数据的但并未直接观测到的变量。

Law of large number

（大数定律）：统计学中的一个定理，指随着样本量的增加，样本的平均值趋于总体的期望值。

Layer-wise Adaptive Rate Scaling/LARS

（逐层自适应速率缩放）：一种用于训练神经网络时调整学习率的方法。

Lazy learning

（懒惰学习）：一种延迟推断的机器学习方法，直到需要进行预测时才进行模型构建。

Leaky ReLU

（泄漏修正线性单元）：修正线性单元（ReLU）的一种变体，允许一定程度的负值输入通过。

Learner

（学习器）：用于学习和预测的机器学习模型或算法。

Learning by analogy

（类比学习）：一种学习方法，通过将已学习的知识应用于新的情境或问题。

Learning rate

（学习率）：在梯度下降算法中控制参数更新步长的超参数。

Learning Vector Quantization/LVQ

（学习向量量化）：一种用于分类的无监督学习算法。

Least squares regression tree

（最小二乘回归树）：一种回归树模型，通过最小化平方损失来进行分裂。

Leave-One-Out/LOO

（留一法）：一种交叉验证技术，每次将一个样本作为验证集，其余样本作为训练集。

Lebesgue-integrable

（勒贝格可积）：指函数在勒贝格积分下是有限的。

Left eigenvector

（左特征向量）：矩阵的左乘特征向量，与右特征向量相对应。

Leibniz’s rule

（莱布尼兹法则）：微积分中的求导法则，用于求解复合函数的导数。

Linear Discriminant Analysis/LDA

（线性判别分析）：一种用于降维和分类的统计学方法。

Linear model

（线性模型）：用线性关系来描述变量之间关系的数学模型。

Linear Regression

（线性回归）：一种用于建模和预测连续型目标变量的线性模型。

Linear threshold units

（线性阈值单元）：一种人工神经网络模型，常用于分类任务。

Link function

（链接函数）：将线性模型的预测值转换为概率的函数。

Local conditional probability distribution

（局部条件概率分布）：给定部分观测数据情况下的条件概率分布。

Local contrast normalization

（局部对比度归一化）：一种图像处理技术，用于增强图像的对比度。

Local curvature

（局部曲率）：在数学和几何学中，描述曲线或曲面在某一点附近的弯曲程度的性质。

Local Invariances

（局部不变性）：指在局部范围内对一些变换或操作的不敏感性。

Local Markov property

（局部马尔可夫性）：指在马尔可夫随机过程中，给定过去状态条件下的当前状态独立于更早期状态的性质。

Local minimum

（局部最小值）：函数在某一点附近的局部最小值。

Log likelihood

（对数似然）：似然函数的对数。

Log odds/logit

（对数几率）：指事件发生的对数几率。

Logistic Regression

（逻辑回归）：一种用于建模二分类问题的线性分类器。

Log-likelihood

（对数似然）：似然函数的对数。

Log-linear regression

（对数线性回归）：一种线性回归模型，其目标变量的对数与预测变量的线性组合相关。

Long-Short Term Memory/LSTM

（长短期记忆网络）：一种用于处理序列数据的循环神经网络结构。

Long-term dependency

（长期依赖）：指在序列数据中相隔较远的信息之间存在关联的情况。

Loopy belief propagation

（环形信念传播）：一种用于近似计算图模型中变量之间相互依赖关系的推断算法。

Loss function

（损失函数）：用于衡量模型预测值与真实值之间差异的函数。

Low rank matrix approximation

（低秩矩阵近似）：通过保留最重要的特征来近似原始矩阵的方法。

M

Machine translation/MT

（机器翻译）：利用计算机技术将一种自然语言的文本翻译成另一种自然语言的过程。

Macron-P

（宏平均精确率）：在多分类问题中，通过计算每个类别的精确率的平均值来评估模型性能。

Macron-R

（宏平均召回率）：在多分类问题中，通过计算每个类别的召回率的平均值来评估模型性能。

Main diagonal

（主对角线）：矩阵中从左上角到右下角的主要对角线，包含矩阵的主要元素。

Majority voting

（多数投票）：一种集成学习方法，通过多个模型的投票来进行最终决策。

Manifold assumption

（流形假设）：在机器学习中，假设数据样本分布在一个低维流形上，而不是高维空间中。

Manifold learning

（流形学习）：一种降维技术，旨在发现数据样本所在的流形结构。

Manifold tangent classifier

（流形切分类器）：利用流形学习的概念构建的分类器。

Margin theory

（间隔理论）：支持向量机中的概念，指数据点到决策边界的距离。

Marginal distribution

（边缘分布）：联合分布中去除部分变量后得到的分布。

Marginal independence

（边缘独立）：在概率模型中，指两个随机变量在给定其他变量的条件下是独立的。

Marginal probability distribution

（边缘概率分布）：在概率论中，指单个随机变量的概率分布。

Marginalization

（边缘化）：在概率论中，指从联合分布中消除一些变量以获得边缘分布的过程。

Markov Chain

（马尔可夫链）：一种随机过程，具有马尔可夫性质，即未来状态仅依赖于当前状态。

Markov Chain Monte Carlo/MCMC

（马尔可夫链蒙特卡洛）：一种用于从复杂分布中采样的随机算法。

Markov Random Field

（马尔可夫随机场）：用于建模联合概率分布的图模型，具有马尔可夫性质。

Matrix inversion

（矩阵求逆）：计算矩阵的逆矩阵的过程。

Maximal clique

（最大团）：图论中的概念，指图中的一个完全子图，无法通过添加任何其他节点来使其成为更大的完全子图。

Maximum A Posteriori

（最大后验）：贝叶斯统计中的概念，表示给定数据时参数的后验估计值。

Maximum Likelihood Estimation/MLE

（最大似然估计）：一种参数估计方法，通过最大化给定数据的似然函数来估计参数值。

Maximum margin

（最大间隔）：支持向量机中的概念，指决策边界与最靠近的训练样本之间的距离。

Maximum weighted spanning tree

（最大权重生成树）：一个图的最小生成树，其边权重之和最大。

Max-Pooling

（最大池化）：神经网络中一种池化操作，选择输入区域中的最大值作为输出。

Mean product of Student t-distribution

（学生 t 分布的均值乘积）：一种概率模型，用于建模数据的联合分布。

Mean squared error

（均方误差）：预测值与真实值之间差异的平方的均值。

Mean-covariance restricted Boltzmann machine

（均值-协方差受限玻尔兹曼机）：一种神经网络模型，用于学习数据的概率分布。

Measure theory

（测度论）：数学中研究集合上的测度的理论。

Meta-learner

（元学习器）：一种学习算法，用于自动选择、结合或调整其他学习算法。

Metric learning

（度量学习）：一种机器学习方法，旨在学习数据的度量或距离函数。

Micro-P

（微观精确率）：评估二分类问题中正例的精确率，通过计算正例的真正率和预测精确率的乘积。

Micro-R

（微观召回率）：评估二分类问题中正例的召回率，通过计算正例的真正率和预测召回率的乘积。

Mini-Batch SGD

（小批量随机梯度下降）：随机梯度下降的一种变体，每次迭代使用部分数据进行参数更新。

Minimal Description Length/MDL

（最小描述长度）：一种模型选择准则，旨在平衡模型复杂度和数据拟合度。

Minimax game

（极小极大博弈）：博弈论中的概念，指两方玩家选择策略以最小化对方最大化利益。

Misclassification cost

（分类错误成本）：指将一个类别误分类为另一个类别所造成的损失。

Mixture density network

（混合密度网络）：一种用于建模多峰连续概率分布的神经网络。

Mixture of experts

（专家混合模型）：一种集成学习模型，将多个专家模型的预测结果进行加权组合。

Model predictive control (MPC)

（模型预测控制）：一种控制方法，基于对未来系统行为的预测来制定控制策略。

Moment matching

（矩匹配）：一种参数估计方法，用于使模型生成的分布与观测数据的分布相匹配。

Momentum

（动量）：随机梯度下降算法中的一种优化技术，引入先前梯度的指数衰减平均值以加速收敛。

Monte Carlo Estimate

（蒙特卡洛估计）：使用随机抽样方法进行数值估计的技术。

Moore's Law

（摩尔定律）：计算机科学中的一个经验规律，指集成电路上可容纳的晶体管数量大约每隔18个月翻一番。

Moral graph

（道德图）：贝叶斯网络中的一种图结构，用于表示变量之间的关系。

Multi-class classification

（多类分类）：一种分类任务，将样本分为多个互斥的类别。

Multi-document summarization

（多文档摘要）：从多篇文档中提取关键信息以生成一个摘要的过程。

Multi-kernel learning

（多核学习）：一种机器学习方法，利用多个核函数来学习复杂的非线性关系。

Multi-layer feedforward neural networks

（多层前馈神经网络）：一种神经网络结构，包含多个全连接的前馈层。

Multilayer Perceptron/MLP

（多层感知机）：一种前馈神经网络结构，包含多个全连接的隐藏层。

Multimodal learning

（多模态学习）：学习多种类型数据之间的关系的机器学习领域。

Multinomial distribution

（多项分布）：描述多个离散型随机变量的概率分布。

Multiple Dimensional Scaling

（多维缩放）：一种降维技术，用于将高维数据映射到低维空间以保留数据之间的距离关系。

Multiple linear regression

（多元线性回归）：一种线性回归模型，其中有多个自变量。

Multi-response Linear Regression/MLR

（多响应线性回归）：一种回归分析技术，用于预测多个响应变量。

Multivariate normal distribution

（多元正态分布）：具有多维随机变量的正态分布。

Mutual information

（互信息）：度量两个随机变量之间相互依赖关系的度量。

N

Naive Bayes

（朴素贝叶斯）：一种基于贝叶斯定理和特征条件独立假设的分类算法。

Naive Bayes Classifier

（朴素贝叶斯分类器）：利用朴素贝叶斯算法进行分类的模型。

Named entity recognition

（命名实体识别）：从文本中识别和分类命名实体（例如人名、地名、组织机构名等）的任务。

Nash equilibrium

（纳什均衡）：博弈论中的概念，指在多人博弈中，每个参与者选择的策略组合使得没有人可以通过改变自己的策略来获得更好的结果。

Nash reversion

（纳什回归）：博弈论中的概念，指在动态博弈中，参与者根据过去的经验和结果调整自己的策略。

Natural language generation/NLG

（自然语言生成）：使用计算机程序自动生成自然语言文本的过程。

Natural language processing

（自然语言处理）：研究人类语言的计算机科学领域，涉及文本理解、生成和语言学等方面。

Nearest-neighbor search

（最近邻搜索）：在数据集中查找与给定数据样本最相似的邻居的过程。

Negative class

（负类）：在二分类问题中，表示需要被识别的一类样本。

Negative correlation

（负相关）：指两个变量之间的关系，在一个变量增加时，另一个变量减少。

Negative definite

（负定）：指矩阵的所有特征值都是负数的特殊类型的矩阵。

Negative Log Likelihood

（负对数似然）：用于衡量模型预测与真实观测数据之间差异的指标。

Negative semidefinite

（负半定）：指矩阵的所有特征值都是非正数的特殊类型的矩阵。

Neighbourhood Component Analysis/NCA

（邻域分量分析）：一种用于降维和特征选择的学习算法。

Neural Machine Translation

（神经机器翻译）：利用神经网络模型进行机器翻译的技术。

Neural Turing Machine

（神经图灵机）：一种结合了神经网络和图灵机思想的计算模型。

Neuromorphic Computing

（神经形态计算）：受生物神经系统启发的计算方法和硬件实现。

Newton method

（牛顿法）：一种数值优化算法，用于寻找函数的零点或局部极小值。

Conference on Neural Information Processing Systems/NIPS

（神经信息处理系统会议）：一年一度的学术会议，聚焦于神经科学和机器学习领域。

No Free Lunch Theorem/NFL

（无免费午餐定理）：指在优化问题中，没有一种算法可以在所有问题上表现最好。

Noise-contrastive estimation

（噪声对比估计）：一种用于估计参数的机器学习方法，常用于处理大规模数据。

Nominal attribute

（名义属性）：表示对象的类别或标签的属性。

Non-convex optimization

（非凸优化）：一种优化问题，目标函数不是凸函数。

Nonlinear model

（非线性模型）：包含非线性关系的数学模型。

Non-linear oscillation

（非线性振荡）：振动系统中，振幅随时间变化不是简单的正弦或余弦函数。

Non-metric distance

（非度量距离）：不满足三角不等式的距离度量。

Non-negative matrix factorization

（非负矩阵分解）：一种矩阵分解技术，要求分解出的矩阵元素非负。

Non-ordinal attribute

（非序属性）：表示对象特征的属性，不能按顺序排列或比较。

Non-Saturating Game

（非饱和博弈）：指在博弈中，没有一个策略对所有玩家都是最优的情况。

Norm

（范数）：用于衡量向量或矩阵大小的数学概念。

Normalization

（归一化）：将数据缩放到一定范围内，通常是 0, 1 或 -1, 1。

Nuclear norm

（核范数）：矩阵的奇异值之和。

Numerical attribute

（数值属性）：表示数值或数量的属性。

Numerical optimization

（数值优化）：使用数值方法寻找函数最优解的过程。

O

Objective function

（目标函数）：在优化问题中定义需要最小化或最大化的函数。

Oblique decision tree

（斜决策树）：一种决策树模型，允许非垂直于特征轴的划分。

Occam's razor

（奥卡姆剃刀）：一种科学原理，认为在多个解释中，应该选择最简单的那个。

Odds

（赔率）：事件发生的概率与不发生的概率之比。

Offline inference

（离线推断）：在数据采集之后进行推断或分析的过程。

Off-Policy

（离策略）：强化学习中的一种学习方法，策略评估和策略改进是不同的。

Offset vector

（偏移向量）：在线性模型中用于调整截距的向量。

One shot learning

（单次学习）：在机器学习中，从一个样本或很少的样本中学习的技术。

One-Dependent Estimator/ODE

（单依赖估计器）：一种用于估计概率分布参数的统计学方法。

Online inference

（在线推断）：在数据流中实时进行推断或分析的过程。

On-Policy

（在策略）：强化学习中的一种学习方法，策略评估和策略改进是基于同一策略的。

Ordinal attribute

（序数属性）：具有顺序关系但不具有数值性质的属性。

Orthogonal matrix

（正交矩阵）：矩阵的转置等于其逆的矩阵。

Orthonormal

（标准正交）：指向量组中的向量是彼此正交并且归一化的性质。

Outlier

（异常值）：在数据集中与其他数据明显不同的数据点。

Out-of-bag estimate

（包外估计）：在随机森林中，使用未被特定决策树使用的数据来评估模型性能的估计。

Output layer

（输出层）：神经网络中的最后一层，产生最终的输出。

Output smearing

（输出扩散）：在神经网络中，一种降低模型过拟合程度的正则化技术。

Overcomplete

（过完备）：表示特征数量大于样本数量的情况。

Overfitting

（过拟合）：模型过度拟合训练数据，导致在新数据上表现不佳的现象。

Oversampling

（过采样）：在不平衡数据集中，增加少数类样本的数量以平衡样本分布的方法。

P

Paired t-test

（配对 t 检验）：用于比较两组相关样本均值是否存在显著差异的统计检验方法。

Pairwise

（成对的）：指一次考虑两个对象或变量之间的关系。

Pairwise Markov property

（成对马尔可夫性质）：马尔可夫随机场中的一个性质，指给定其他变量条件下，任意两个变量之间的关系是成对马尔可夫的。

Parallel tempering

（平行温度调节）：一种用于马尔可夫链蒙特卡罗采样的算法，通过同时运行多个马尔可夫链来加速收敛。

Parameter

（参数）：模型中的可调整变量，用于控制模型的行为和输出。

Parameter estimation

（参数估计）：通过观测数据对模型参数进行估计的过程。

Parameter Server

（参数服务器）：分布式机器学习系统中用于存储和更新模型参数的服务器。

Parameter tuning

（参数调整）：通过调整模型的参数来改善模型的性能和泛化能力。

Parse tree

（解析树）：在语言学和计算机科学中，用于表示句子结构的树形结构。

Partial derivative

（偏导数）：多变量函数的导数，表示函数在某个方向上的变化率。

Particle Swarm Optimization/PSO

（粒子群优化）：一种群体智能算法，模拟鸟群或鱼群的行为来搜索最优解。

Part-of-speech tagging

（词性标注）：自然语言处理中的任务，给定一个句子中的每个词，确定它的词性。

Perceptron

（感知器）：一种最简单的神经网络结构，用于二元分类任务。

Performance measure

（性能指标）：用于评估模型预测性能的度量标准。

Permutation invariant

（置换不变性）：指某个函数或系统在输入的排列顺序发生变化时输出结果保持不变的性质。

Perplexity

（困惑度）：语言模型中用来衡量模型预测能力的指标。

Pictorial structure

（图像结构）：用于表示和识别图像中物体部件和它们之间关系的模型。

Plug and Play Generative Network

（即插即用生成网络）：一种生成对抗网络的改进版本，利用预训练的解码器和编码器来提高性能。

Plurality voting

（多数投票）：一种投票方法，选项得票最多者获胜。

Polarity detection

（极性检测）：识别文本中的情感极性，如积极、消极或中性。

Polynomial Basis Function

（多项式基函数）：一种基函数，用于将输入数据映射到高维空间以进行非线性分类或回归。

Polynomial kernel function

（多项式核函数）：用于支持向量机等模型的核函数，将数据映射到高维空间以进行非线性分类。

Pooling

（池化）：神经网络中一种降维技术，将特征图的尺寸减小，保留最重要的特征。

Positive class

（正类）：在二分类问题中，指需要被识别的类别。

Positive definite matrix

（正定矩阵）：所有特征值均为正数的矩阵。

Posterior inference

（后验推断）：贝叶斯推断中，根据观测数据来更新模型的后验概率分布。

Posterior probability

（后验概率）：在贝叶斯推断中，给定观测数据后，模型参数的概率分布。

Post-hoc test

（事后检验）：在统计分析中，用于确定组间差异的检验方法。

Post-pruning

（后剪枝）：决策树构建过程中，先构建一棵完整的树然后再剪枝的策略。

Potential function

（势函数）：在物理学和优化问题中使用的函数，表示系统的势能或优化目标。

Power method

（幂法）：一种用于计算矩阵特征值和特征向量的迭代算法。

Precision

（精确率）：在信息检索中，指检索结果中相关文档的比例。

Prepruning

（预剪枝）：决策树构建过程中，在树的生长过程中根据一定的条件提前终止的策略。

Principal component analysis/PCA

（主成分分析）：一种常用的降维技术，通过线性变换将数据映射到低维空间。

Principle of multiple explanations

（多重解释原则）：科学研究中的一种原则，指认为多种解释可能性都存在，直到有证据证明某种解释不正确。

Prior knowledge

（先验知识）：在学习过程中，先前已知的关于数据或问题的信息。

Probability Graphical Model

（概率图模型）：用图结构表示随机变量之间的概率关系的模型。

Proximal Gradient Descent/PGD

（近端梯度下降）：一种优化算法，结合梯度下降和近端算子来求解凸优化问题。

Pruning

（剪枝）：在机器学习中，去除模型中不必要的参数或结构以提高模型泛化能力的过程。

Pseudo-label

（伪标签）：在半监督学习中，使用模型对未标记数据进行预测并将预测结果作为标签的方法。

Q

Quadratic Programming

（二次规划）：一种数学优化问题，其目标函数和约束条件都是二次的，通常用于求解凸优化问题。

Quantized Neural Network/QNN

（量化神经网络）：一种神经网络结构，使用量化技术将网络的权重和激活值量化为低比特表示，以减少模型的计算和存储需求。

Quantum computer

（量子计算机）：利用量子力学原理进行计算的新型计算机，具有在某些特定任务上超越经典计算机的潜力。

Quantum Computing

（量子计算）：使用量子位和量子门等量子力学概念来执行计算任务的计算方法。

Quantum machine learning

（量子机器学习）：结合量子计算和机器学习技术的交叉领域，旨在利用量子计算的优势来解决机器学习中的一些问题。

Quasi Newton method

（拟牛顿法）：一种优化算法，用于求解无约束或约束优化问题，通过估计目标函数的Hessian矩阵来更新梯度信息。

Quasi-concave

（拟凹函数）：一个函数在其定义域内的某个区间上是凹函数，但不是在整个定义域上都是凹函数的特性。

R

Radial Basis Function/RBF

（径向基函数）：一种用于将输入数据映射到高维空间的函数，常用于核方法和插值技术中。

Random Forest Algorithm

（随机森林算法）：一种集成学习方法，由多个决策树组成，通过投票或平均来进行分类或回归。

Random walk

（随机游走）：在图或网络中随机地移动的过程，可以用于建模随机过程或搜索算法。

Recall

（召回率）：在信息检索中，指检索到的相关文档数与文档库中所有相关文档数的比例。

Receiver Operating Characteristic/ROC

（接收者操作特征曲线）：用于评估二分类器性能的曲线，以真正例率（True Positive Rate）为纵轴，假正例率（False Positive Rate）为横轴。

Rectified Linear Unit/ReLU

（修正线性单元）：神经网络中常用的激活函数，将负数置零，保留正数。

Recurrent Neural Network

（循环神经网络）：一种具有循环连接的神经网络结构，用于处理序列数据和时序信息。

Recursive neural network

（递归神经网络）：一种能够处理树形结构的神经网络，通过递归结构对输入进行建模。

Reference model

（参考模型）：在机器学习或统计建模中，用作比较或基准的模型。

Regression

（回归）：一种统计建模方法，用于预测连续型变量的数值。

Regularization

（正则化）：一种用于控制模型复杂度并防止过拟合的技术，通常通过添加惩罚项到损失函数中实现。

Regularizer

（正则化器）：用于正则化模型参数的函数或方法。

Reinforcement learning/RL

（强化学习）：一种机器学习方法，通过试错和奖惩机制学习如何在环境中采取行动以达到某个目标。

Relative entropy

（相对熵）：衡量两个概率分布之间差异的指标。

Reparametrization

（参数重参数化）：一种优化技巧，用于改变模型参数的参数化方式以便更好地进行优化。

Representation learning

（表示学习）：一种机器学习方法，旨在自动地学习数据的合适表示，通常用于降维和特征学习。

Representer theorem

（表示定理）：机器学习理论中的一个定理，表明在一定条件下，解决优化问题的函数可以表示为训练数据的线性组合。

Reproducing Kernel Hilbert Space/RKHS

（再生核希尔伯特空间）：一种特殊的希尔伯特空间，具有核函数的再生性质。

Re-sampling

（重新抽样）：在数据分析中，通过从已有数据集中随机抽取样本来生成新的数据集的过程。

Rescaling

（重新缩放）：调整数据的尺度或幅度以使其适应特定范围或尺度的过程。

Reservoir computing

（储层计算）：一种基于动态系统的机器学习方法，利用具有随机连接的动态系统来处理序列数据。

Residual Blocks

（残差块）：深度神经网络中的一种模块，用于学习输入和输出之间的残差。

Residual Mapping

（残差映射）：指神经网络学习的是输入和输出之间的差异（残差）的映射。

Residual Network

（残差网络）：一种深度神经网络结构，通过残差块来解决深度网络训练中的梯度消失和爆炸问题。

Restricted Boltzmann Machine/RBM

（受限玻尔兹曼机）：一种基于能量模型的神经网络结构，用于学习数据的分布。

Restricted Isometry Property/RIP

（受限等距性质）：压缩感知理论中的概念，用于分析线性测量矩阵的性质。

Reverse mode accumulation

（反向模式累积）：计算图中的一种反向传播技术，用于计算目标函数对参数的梯度。

Re-weighting

（重新加权）：调整样本或特征的权重以改变其在模型中的影响力。

Ridge regression

（岭回归）：一种线性回归方法，通过添加L2正则化项来减少模型的过拟合。

Robustness

（鲁棒性）：指系统对于扰动、噪声或异常情况的稳定性和健壮性。

Root node

（根节点）：树结构中位于顶部的节点，是整个树的起始点。

Rule Engine

（规则引擎）：用于执行基于规则的系统或软件组件，根据预定义的规则集对输入数据进行处理。

Rule learning

（规则学习）：一种机器学习方法，通过发现数据中的规则来进行分类或预测。

S

Saddle point

(鞍点): 在多元函数的图像中，是指函数在某一点上的梯度为零，但该点不是极值点的情况。

Saddle-free Newton method

(无鞍点牛顿法): 一种优化算法，用于在损失函数的优化过程中避免落入鞍点。

Saliency map

(显著性地图): 在计算机视觉中，用于指示图像中区域的显著性程度的图像。

Sample space

(样本空间): 随机试验中所有可能结果的集合。

Sampling

(抽样): 从总体中选择样本的过程。

Score function

(得分函数): 用于评估模型输出结果的函数。

Second derivative

(二阶导数): 函数的导数的导数，描述了函数曲线的曲率。

Second-order method

(二阶方法): 一种优化算法，利用函数的二阶导数信息来更新参数。

Self-contrastive estimation

(自对比估计): 一种估计技术，用于从数据中学习模型参数。

Self-Driving

(自动驾驶): 指车辆自主进行行驶、导航和避障等动作的技术和系统。

Self-Organizing Map/SOM

(自组织映射): 一种无监督学习算法，用于将输入数据映射到一个低维的拓扑结构上。

Semantic hashing

(语义哈希): 一种将文本或数据转换为二进制编码的技术，保留了数据的语义信息。

Semantic segmentation

(语义分割): 在计算机视觉中，将图像分割成具有语义含义的区域的任务。

Semantic similarity

(语义相似度): 衡量文本、图像或其他数据之间语义关联程度的指标。

Semi-Definite Programming

(半定规划): 一种数学优化问题，其中优化目标是一个半定矩阵的线性组合。

Semi-naive Bayes classifiers

(半朴素贝叶斯分类器): 基于朴素贝叶斯分类器的一种改进方法，考虑了一部分特征间的相关性。

Semi-restricted Boltzmann Machine

(半受限玻尔兹曼机): 一种受限玻尔兹曼机的变种，用于学习数据的分布和特征提取。

Semi-Supervised Learning

(半监督学习): 一种机器学习范式，利用带标签和无标签的数据来进行模型训练。

semi-Supervised Support Vector Machine

(半监督支持向量机): 支持向量机的变种，利用带标签和无标签的数据进行分类。

Sentiment analysis

(情感分析): 识别文本中的情感倾向或情绪状态的任务。

Separating hyperplane

(分离超平面): 在支持向量机等分类器中，将不同类别的数据分隔开的超平面。

Shannon entropy

(香农熵): 衡量随机变量不确定性的度量指标。

Shift invariance

(平移不变性): 指模型对输入数据进行平移操作后输出结果不变的性质。

Siamese Network

(孪生网络): 一种神经网络结构，用于学习两个输入之间的相似性或差异性。

Sigmoid function

(Sigmoid 函数): 一种常用的激活函数，通常用于神经网络的输出层，将输入映射到 (0, 1) 区间内。

Similarity measure

(相似度度量): 用于衡量两个对象之间相似程度的指标。

Simulated annealing

(模拟退火): 一种优化算法，模拟固体退火过程中的原理，用于在大范围内搜索最优解。

Simultaneous localization and mapping/SLAM

(同时定位与地图构建): 一种技术，用于同时实现机器人在未知环境中的定位和地图构建。

Singular value

(奇异值): 矩阵的奇异值是矩阵特征值的平方根。

Singular Value Decomposition

(奇异值分解): 一种矩阵分解方法，将矩阵分解为奇异值、左奇异向量和右奇异向量的乘积。

Slack variables

(松弛变量): 在线性规划问题中，引入的变量用于允许一些约束条件的违反。

Slowness principle

(缓慢性原则): 一种学习原则，认为有用的信息通常以缓慢的方式呈现。

Smoothing

(平滑): 一种数据处理技术，用于去除数据中的噪声或波动，使其更加平滑。

Smoothness prior

(平滑先验): 在贝叶斯推断中，假设数据或模型的参数具有平滑的先验分布。

Soft margin

(软间隔): 在支持向量机中，允许一些数据点落在分离超平面的错误一侧的概念。

Soft margin maximization

(软间隔最大化): 优化支持向量机时，通过最大化软间隔来实现更好的分类效果。

Soft voting

(软投票): 一种集成学习方法，多个分类器的预测结果按照一定权重进行投票。

Sparse activation

(稀疏激活): 在神经网络中，指神经元只有少数几个被激活的状态。

Sparse coding

(稀疏编码): 一种信号处理技术，通过寻找一组稀疏的基向量来表示信号。

Sparse connectivity

(稀疏连接): 指神经网络中只有少数神经元之间存在连接的情况。

Sparse initialization

(稀疏初始化): 在神经网络中，初始化权重或参数时采用稀疏值的策略。

Sparse representation

(稀疏表示): 一种信号处理技术，通过少量的基向量组合来表示信号。

Sparsity

(稀疏性): 指数据或特征中存在大量的零值或接近零的情况。

Specialization

(专业化): 指个体或系统在特定领域或任务上具有专门化的能力或特征。

Spectral Clustering

(谱聚类): 一种聚类算法，基于数据的谱分解来划分数据集。

Spectral radius

(谱半径): 矩阵的最大特征值的绝对值。

Speech Recognition

(语音识别): 识别和理解语音信号中的语言内容的技术。

Spiking Neural Nets

(脉冲神经网络): 一种神经网络模型，模拟生物神经元通过脉冲传递信息的过程。

Splitting variable

(分裂变量): 决策树中用于划分数据集的特征。

Squashing function

(压缩函数): 一种非线性函数，用于将输入值映射到一个有限范围内。

Stability-plasticity dilemma

(稳定性-可塑性困境): 神经网络中的一个困境，平衡网络的稳定性和可塑性。

Stacked Deconvolutional Network/SDN

(堆叠反卷积网络): 一种神经网络结构，用于图像处理和特征提取。

Standard deviation

(标准差): 描述数据分布离散程度的统计量。

Static game

(静态博弈): 在博弈论中，参与者一次性做出决策，没有连续的动作序列。

Stationary distribution

(稳定分布): 马尔可夫链在长时间趋于稳定时的分布状态。

Stationary point

(稳定点): 函数的导数为零的点，可能是极值点也可能是鞍点。

Statistical learning

(统计学习): 利用数据和统计方法来构建模型并做出预测或推断的过程。

Status feature function

(状态特征函数): 在条件随机场等模型中，用于描述观测序列和标签序列的特征函数。

Stochastic gradient descent

(随机梯度下降): 一种优化算法，利用随机样本的梯度估计来更新模型参数。

Stochastic Matrix

(随机矩阵): 矩阵的每一行元素都是非负的，且每一行元素之和为1。

Stochastic maximum likelihood

(随机最大似然): 一种参数估计方法，通过随机采样来估计模型参数。

Stochastic Neighbor Embedding

(随机邻域嵌入): 一种降维技术，用于可视化高维数据。

Stratified sampling

(分层抽样): 将总体分为若干层，然后从每一层中进行抽样的方法。

Structural risk

(结构风险): 机器学习模型的泛化误差与模型复杂度之间的平衡。

Structural risk minimization/SRM

(结构风险最小化): 一种模型选择准则，旨在使模型的泛化误差达到最小化。

Structured variational inference

(结构化变分推断): 一种变分推断方法，用于处理具有结构化模型的概率推断问题。

Subsampling

(子采样): 从数据集中随机选择一部分样本进行训练的方法。

Subspace

(子空间): 向量空间的一个子集，保持了向量加法和数乘运算的封闭性。

Supervised learning

(监督学习): 一种机器学习范式，通过标记的数据来训练模型以进行预测或分类。

support vector expansion

(支持向量扩展): 在支持向量机中，通过向数据集中添加支持向量来扩展决策边界。

Support Vector Machine/SVM

(支持向量机): 一种用于分类和回归分析的监督学习模型。

Surrogat loss

(替代损失): 用于优化目标的替代损失函数。

Surrogate function

(替代函数): 在优化问题中，用来替代原始目标函数的函数。

Symbolic learning

(符号学习): 一种从逻辑规则或符号推理中学习知识的机器学习方法。

Symbolism

(符号主义): 将知识表示为符号和规则的学习和推理方法。

Synset

(同义词集): 在词汇网络中，具有相似含义的词语集合。

Synthetic feature

(合成特征): 通过对现有特征进行组合或转换得到的新特征。

T

Tangent plane

(切平面): 在微积分中，曲面上某一点处的切平面是与曲面相切且与曲面在该点处切线垂直的平面。

Tangent prop

(切向属性): 在几何学中，描述与曲线或曲面相切的属性或性质。

T-Distribution Stochastic Neighbor Embedding/t-SNE

(t分布随机邻域嵌入): 一种非线性降维技术，用于将高维数据映射到低维空间以进行可视化和分析。

Tempered transition

(温和转换): 在优化算法中，指通过温和的过渡方式来调整参数或优化目标。

Tensor

(张量): 数学上是多维数组的概念，在物理学、工程学和计算机科学中有广泛应用。

Tensor Processing Units/TPU

(张量处理单元): 由谷歌开发的专用于深度学习任务的硬件加速器。

The least square method

(最小二乘法): 一种常见的参数估计方法，用于拟合数据和估计参数。

Threshold

(阈值): 在机器学习和信号处理中，用于分类、过滤或决策的固定值或界限。

Threshold logic unit

(阈值逻辑单元): 一种人工神经元模型，将输入加权和与阈值进行比较以产生输出。

Threshold-moving

(移动阈值): 调整分类器或模型中的阈值以改变分类或决策的过程。

Tiled convolution

(分瓦卷积): 在深度学习中，指将输入图像划分为多个瓦片并对每个瓦片进行卷积操作的技术。

Time delay neural network

(时延神经网络): 一种神经网络结构，考虑了时间延迟因素，常用于时序数据建模。

Time Step

(时间步长): 在时间序列分析或循环神经网络中，表示每个时间点或时间间隔的单位。

Tokenization

(分词): 将文本或字符串分割成单词或子字符串的过程。

Training error

(训练误差): 在机器学习中，模型在训练集上预测结果与实际结果之间的误差。

Training instance

(训练样本): 用于训练模型的数据点或样本。

Transductive learning

(转导学习): 一种机器学习范式，试图从训练集和测试集中同时推断出模型。

Transfer learning

(迁移学习): 将已学到的知识或模型迁移到新的、相关的任务或领域中的机器学习技术。

Treebank

(树库): 语言学中，存储句子结构树的语料库。

Trial-by-error

(反复试错): 一种学习或解决问题的方法，通过反复尝试和纠错来达到目标。

Triangulate

(三角测量): 在计算机图形学和地理信息系统中，根据已知的点和角度来确定未知点的位置。

Trigram

(三元模型): 自然语言处理中，由三个连续词组成的语言模型。

True negative

(真阴性): 在二元分类中，指被正确判定为负类的样本数。

True positive

(真阳性): 在二元分类中，指被正确判定为正类的样本数。

True Positive Rate/TPR

(真阳性率): 在二元分类中，指正类样本被正确预测为正类的比例。

Turing Machine

(图灵机): 是一种理论计算模型，可以模拟任何可计算的算法。

Twice-learning

(双重学习): 一种学习方法，通过反复学习和调整模型来不断优化性能。

Two-dimensional array

(二维数组): 在计算机编程中，包含行和列的数据结构。

U

Underestimation

(低估): 对某一量值或情况的估计或评估过低。

Underfitting

(欠拟合): 模型在训练数据上表现不佳，不能很好地捕捉数据中的模式和趋势。

Undersampling

(欠采样): 从具有不平衡类别的数据集中移除一部分负类样本，以平衡正负类别比例。

Understandability

(易理解性): 模型或系统的可理解程度，包括结构、参数和输出的可解释性。

Undirected graphical model

(无向图模型): 表示变量之间关系的图模型，不区分因果关系。

Unequal cost

(不平等成本): 在决策或分类问题中，不同类别的错误所带来的成本不同。

Unit norm

(单位范数): 向量的范数为1，通常用于表示向量的标准化。

Unit test

(单元测试): 在软件开发中，针对程序中的最小可测试单元进行的测试。

Unit variance

(单位方差): 数据集或分布的方差为1，通常用于数据标准化。

Unitary matrix

(酉矩阵): 矩阵乘以其共轭转置得到单位矩阵的方阵。

Unit-step function

(单位阶跃函数): 一种分段函数，在某一阈值之前值为0，在阈值之后值为1。

Univariate decision tree

(单变量决策树): 决策树中只考虑单个特征的决策树模型。

Unprojection

(反投影): 在图像处理中，从投影数据恢复原始图像的过程。

Unshared convolution

(非共享卷积): 在神经网络中，卷积操作的滤波器在不同位置使用不同的参数。

Unsupervised learning

(无监督学习): 一种机器学习方法，从未标记的数据中发现模式、结构或特征。

Unsupervised layer-wise training

(无监督逐层训练): 在深度学习中，使用无监督学习算法逐层训练深度神经网络。

Upper Confidence Bounds

(置信上界): 多臂赌博机问题中的一种策略，用于平衡探索和利用。

Upsampling

(上采样): 增加数据集中某一类别的样本数量，以解决类别不平衡的问题。

V

Vanishing Gradient Problem

(梯度消失问题): 在深度神经网络中，反向传播过程中，由于梯度在多层网络中被连续乘积，可能导致梯度逐渐趋向于零，使得较浅层网络的参数更新缓慢或停滞。

Variational derivative

(变分导数): 在变分法中，表示函数对于变分参数的导数。

Variational free energy

(变分自由能): 在统计物理学和概率图模型中，用于近似概率分布的能量函数，通常作为优化目标。

Variational inference

(变分推断): 一种概率推断方法，通过近似复杂的后验概率分布来简化推断问题。

VC Theory

(VC理论): 由Vapnik和Chervonenkis提出的机器学习理论，用于理解学习算法的泛化能力。

Version space

(版本空间): 在概念学习中，指包含所有与训练数据一致的假设的假设空间。

Virtual adversarial example

(虚拟对抗样本): 在对抗性机器学习中，通过对原始样本进行微小的扰动而生成的样本，用于欺骗模型。

Viterbi algorithm

(维特比算法): 一种动态规划算法，用于在隐马尔可夫模型中查找最可能的状态序列。

Von Neumann architecture

(冯·诺伊曼体系结构): 计算机体系结构的一种范式，包括存储器、控制单元、算术逻辑单元和输入输出设备。

W

Weak learner

(弱学习器): 在集成学习中，指性能略优于随机猜测的学习器，通常用于构建更强大的集成模型。

Weight

(权重): 在机器学习中，用于衡量特征或样本在模型中的重要性或影响力的参数。

Weight decaying

(权重衰减): 一种正则化技术，通过向损失函数添加关于模型权重的惩罚项，以防止过拟合。

Weight sharing

(权重共享): 在神经网络中，多个神经元或神经网络层共享相同的参数或权重。

Weighted voting

(加权投票): 在集成学习中，每个基学习器的投票权重不同，根据其性能或置信度进行加权，以提高整体预测的准确性。

Wasserstein GAN/WGAN

(Wasserstein生成对抗网络): 一种生成对抗网络 (GAN) 的变种，通过最小化生成样本与真实样本之间的Wasserstein距离来改善训练稳定性和生成样本的质量。

Within-class scatter matrix

(类内散布矩阵): 在模式识别和统计学中，用于描述同一类别内样本分布的矩阵。

Word embedding

(词嵌入): 将词语映射到连续向量空间的技术，常用于自然语言处理任务中表示单词的语义和上下文信息。

Word sense disambiguation

(词义消歧): 在自然语言处理中，确定文本中词语的确切含义或语义的过程，以便正确理解句子的意思。

X

Y

Z

Zero mean

(零均值): 指数据集或分布的均值等于零的情况。在统计学和信号处理中，零均值通常用于预处理数据，以消除数据的偏移或中心化数据。

Zero-data learning

(零数据学习): 一种机器学习方法，指在没有任何标记数据的情况下进行学习和预测的技术。该方法通常依赖于先验知识、模型假设或其他辅助信息来进行学习和推断。

Zero-shot learning

(零样本学习): 一种机器学习范式，指在没有直接观察到的类别或样本的情况下进行学习和预测的技术。在零样本学习中，模型需要从其他已知类别的样本中学习到关于新类别的特征和属性，以便在没有直接训练数据的情况下对新类别进行分类或识别。