求负对数似然Python的导数

文章/答案/技术大牛

发布

2回答

python、scipy、sympy、derivative、log-likelihood

我正在尝试计算python中负对数似然函数的导数。我正在使用渐近来计算导数，但是，当我试图计算它时，我收到了一个错误。下面的示例代码尝试为lognormal函数计算此值。2/sx**2)/(sx*Dummy_39[i]), (i, 1, n))) NameError: name 'Derivative' is not defined 我意识到表达式"deriv“包含导数运算符，但我只

浏览 22提问于2021-02-05得票数 1

回答已采纳

1回答

是使用分析梯度还是自动分化来进行训练？

pytorch、gaussian、autograd、gaussian-process、gpytorch

我对gpy手电如何计算与模型参数相关的梯度感到困惑。例如，假设我使用具有高斯似然、径向基函数核和常量均值的ExactGP，并使用MLE (极大似然估计)来求模型的参数(均值、核参数和噪声)。计算模型梯度w.r.t参数的一种方法是使用解析梯度，即取参数的负对数似然导数，并求出每一次推导的方程。另一种方法是使用py

浏览 14提问于2022-03-17得票数 0

1回答

Spark中AFT生存模型的p值计算

apache-spark、machine-learning

可用于该模型的是系数向量、比例、截距、预测和输入数据(Y和特征)。如何使用这些变量来计算p值？欢迎任何建议。谢谢

浏览 3提问于2016-05-28得票数 0

1回答

何时可以重新排序日志操作？

logistic-regression、mathematics、softmax

例如，您可以将softmax + nl (负似然)重新排序到log_softmax + nll (负对数似然)。实质上将日志(softmax(X))更改为softmax(log(x)) 然而，重新排序日志的规则是什么呢？

浏览 0提问于2020-03-12得票数 0

回答已采纳

1回答

用ContrastiveDivergence计算RBM导数的差异

machine-learning、neural-network、rbm

有人能解释一下用-h_j * x_k和- h_j(x) * x_k计算RBM导数的区别吗？我找到了两种实现的源代码，我不确定哪一种更好(为什么？)

浏览 3提问于2014-12-01得票数 0

1回答

负对数似然不等于交叉熵？

machine-learning、deep-learning

负对数似然可以乘以\frac{1}{m}，现在我的问题来了:我正在读的这本书(古德费罗等人的深度学习)提到了使用负日志似然(如一致性)的几个吸引人的特性。同时，它还直接使用交叉熵作为最大似然</em

浏览 0提问于2021-05-06得票数 2

回答已采纳

1回答

对火炬NLLLOSS的认识

pytorch、classification、loss-function

PyTorch的负对数似然损失，被定义为：因此，如果损失是用一批中的一个标准权重计算的，则损失的公式总是：正确类别=0损失= -1 * 0.5 那么，如果在计算损失时不涉及日志函数，为什么称之为“负对数似然损失”呢？

浏览 2提问于2021-09-25得票数 3

回答已采纳

2回答

Logistic回归与最优参数w

machine-learning、logistic-regression

当我学习Logistic回归时，我们用负对数似然法对参数w进行优化。有一种说法是：，当训练样本线性分离时，最优w的大小可以达到无穷大。我很困惑: 1.最优w的大小是什么? 2.你能解释为什么w可以无限大吗？

浏览 2提问于2014-09-20得票数 1

2回答

在python中实现负对数似然函数

python、gradient-descent、log-likelihood

我在python中实现负对数似然函数有些困难。我的负对数似然函数如下所示：这是我的实现，但我一直收到错误：ValueError: shapes (31,1) and (2458,1) not aligned: 1 (dim 1) !np.sum(-y @ X @ theta) + np.sum(np.exp(X @ theta))+ np.sum(np.log(y)) retur

浏览 2提问于2019-11-04得票数 1

3回答

负对数似然应该使用什么基？

machine-learning、loss-function

在计算负对数似然损失时，我们应该使用什么样的对数基础？

浏览 0提问于2018-11-03得票数 2

回答已采纳

1回答

火炬7的反向传播是如何工作的？

backpropagation、torch

我试着通过火炬指导来理解有监督的学习。和反向传播： output = model:forward(inputs[i])00000在这个例子中，我知道目标是9，输出是4，所以结果是错误的，给出了df_do "-1“的第9个元素

浏览 0提问于2015-09-15得票数 1

回答已采纳

1回答

绘制作为theta1和theta2的函数的对数似然

python、logistic-regression、log-likelihood

我被要求将logistic回归模型的对数似然率绘制为theta1和theta2的函数，以评估其是否为凸函数(该模型只有两个参数，θ是每个参数的权重)。我的理解是，我需要一个笛卡尔图，每个轴表示thetas的值。负对数似然给出为(在代码中)： sigma = sigmoid(np.dot(x, weight)) loss = -1/size * np.sum(y * np.

浏览 19提问于2020-11-29得票数 1

1回答

Tensorflow等效PyTorch NLLLoss

python、tensorflow

是否有一个等效于PyTorchs负对数似然函数的tensorflow？

浏览 2提问于2020-09-14得票数 0

回答已采纳

3回答

当MLE不能给出一个确定的解时，为什么要考虑它在Logistic回归中的作用？

regression、logistic-regression、parameter-estimation

如果极大似然估计( MLE )不能给出Logistic回归中参数的适当闭型解，为什么这种方法会有如此多的讨论呢？为什么不坚持梯度下降来估计参数呢？

浏览 0提问于2022-05-04得票数 2

回答已采纳

1回答

tensorflow embedding_lookup可微吗？

tensorflow、nlp、deep-learning、word-embedding、sequence-to-sequence

我遇到的一些教程，使用一个随机初始化的嵌入矩阵来描述，然后使用tf.nn.embedding_lookup函数来获得整数序列的嵌入。我的印象是，由于embedding_matrix是通过tf.get_variable获得的，优化器将添加适当的ops来更新它。我不明白的是，反向传播是如何通过查找函数发生的，它似乎是硬的，而不是软的。这个操作的梯度是多少？其中一个是输入ids？

浏览 1提问于2018-01-09得票数 3

回答已采纳

2回答

Python中的凸优化

python、python-3.x、optimization、scipy、convex

现在，我想用Python3.5 ()实现著名的Dixon-Coles模型。最基本的问题是，从本文所描述的模型中得到一个具有众多参数结果的似然函数，需要最大化。例如:一个德甲赛季的似然函数将导致37个参数。当然，我做的是相应的负对数似然函数的最小化。我知道这个log函数是严格凸的</e

浏览 2提问于2016-09-13得票数 0

回答已采纳

1回答

统计模型OLS回归:对数似然、使用和解释

python、statistics、statsmodels

我使用python的statsmodel包来进行线性回归。在R^2、p等的输出中也存在“对数似然”.在文档中，这被描述为“拟合模型的似然函数的值”。我看了一下源代码，并不真正理解它在做什么。阅读更多关于似然函数，我仍然有非常模糊的想法，这个‘对数-似然’值可能意味着什么，或被用来。所以有几个问题：在线性回

浏览 1提问于2014-10-23得票数 2

回答已采纳

1回答

在xgboost泊松运行中nloglisilies值背后的直觉

python、xgboost、poisson、gbm

当我使用count:poisson而不是rmse时，我看到的是nloglikelihood值。现在我不确定如何将这些数字与rmse或mae进行比较。当然值越小越好..但没有得到我们在rmse或Mae中得到的实际错误直觉。

浏览 0提问于2017-03-22得票数 0

1回答

nce_loss()的Tensorflow num_classes参数

tensorflow、nlp、word2vec、word-embedding、language-model

我对噪声对比估计的理解是，我们从单词嵌入中采样一些向量(负样本)，然后计算每个向量的对数似然。然后，我们希望最大化目标单词的概率和每个负样本单词的对数似然之间的差异(因此，如果我在这方面是正确的，我们希望优化损失函数，使其尽可能接近1)。我的问题是： nce_loss函数的num_classes参数有什么作用？

浏览 1提问于2017-11-30得票数 2

2回答

如何在Matlab中捕捉警告？

matlab、probability、distribution

我用Matlab的函数来拟合我的数据的概率分布。有时会出现以下警告消息：目前，我正在研究负日志的可能性是复杂的还是无限的，如果是的话，我会抛出一个错误。还有其他的</em

浏览 1提问于2016-03-06得票数 3

回答已采纳

点击加载更多