首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >在计算1/(1+exp(x)) python时避免数值不稳定

在计算1/(1+exp(x)) python时避免数值不稳定
EN

Stack Overflow用户
提问于 2015-11-25 15:36:04
回答 2查看 1.3K关注 0票数 2

我想为(可能很大) x计算1/(1+exp(x))。

代码语言:javascript
运行
复制
import numpy as np
1.0/(1.0+np.exp(x))

但是在这个朴素的实现中,np.exp( x )很可能只返回大x的0或无穷大,这取决于符号。在python中有哪些函数可以帮助我解决这个问题?

我正在考虑实现一个系列扩展和系列加速,但我想知道这个问题是否已经解决了。

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2015-11-25 16:30:11

您可以使用scipy.special.expit(-x)。它将避免1.0/(1.0 + exp(x))生成的溢出警告。

票数 5
EN

Stack Overflow用户

发布于 2015-11-25 16:23:41

从根本上说,你受到浮点精度的限制。例如,如果您使用64位浮点数:

代码语言:javascript
运行
复制
fmax_64 = np.finfo(np.float64).max  # the largest representable 64 bit float
print(np.log(fmax_64))
# 709.782712893

如果x大于709,那么您就无法使用64位浮点数来表示np.exp(x) (或1. / (1 + np.exp(x)))。

您可以使用扩展的精度浮点数(即np.longdouble):

代码语言:javascript
运行
复制
fmax_long = np.finfo(np.longdouble).max
print(np.log(fmax_long))
# 11356.5234063

np.longdouble的精度可能会根据您的平台- 在x86上通常是80位而有所不同,这将允许您处理高达11356的x值:

代码语言:javascript
运行
复制
func = lambda x: 1. / (1. + np.exp(np.longdouble(x)))
print(func(11356))
# 1.41861159972e-4932

除此之外,您还需要重新考虑如何计算扩展,或者使用支持任意精确算法的模数学。然而,这通常是以比numpy更差的运行时性能为代价的,因为矢量化已经不可能了。

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/33920544

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档