腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
使用
科学
记数法
时
,
两个
不同
的
浮点数
求值
相等
In [0]: 1e18 == (1e18 + 50) Out[0]: True 当用指数表示法替换
科学
记数法
时
,正如人们所预期
的
那样,它
的
计算结果为 In [1]: 10**18 == (10**18
浏览 44
提问于2021-03-02
得票数 2
回答已采纳
2
回答
拼音:控制
科学
记数法
中
的
打印
如果我在Ruby中有一个非常长
的
浮点数
,比如:当它通过to_s显示
时
,它会以
科学
记数法
显示:有没有办法抑制
科学
记数法
中
的
格式,或者在硬币
的
另一面,强制它
使用
极短
的
浮点数
?
浏览 2
提问于2009-07-27
得票数 20
回答已采纳
2
回答
从
浮点数
创建
两个
十进制数-不用于显示
、
、
我一直在一些计算中
使用
浮点数
类型。我
使用
NSLog查看控制台中
的
值,它们以
科学
记数法
显示。我希望这些值由
两个
小数位来表示,用于显示calculations...not。如何转换为
两个
小数?
浏览 1
提问于2011-04-21
得票数 0
1
回答
T-SQL:在将表与其视图一起
使用
时禁用默认
的
浮点型舍入
这是当我想要
使用
其视图将数据插入到表中
时
的
浮点型舍入问题。数据需要在Table中存储为varchar。CREATE TABLE [dbo].AS ,Convert(float, FloatField) as FloatField数据,我从表中选择
使用
它
的
视图我不能插入表
的
数据,如果我需要,我需要做它
的
视图。因此,我不能(这是任务规则)直接将数据插入到表中,只能
使用
浏览 3
提问于2011-09-28
得票数 0
回答已采纳
3
回答
Java Double vs BigDecimal
我正在看一些代码,它
使用
双精度变量来存储(360-359.9998779296875)
的
结果,即0.0001220703125。double变量将其存储为-1.220703125E-4。当我
使用
BigDecimal
时
,它存储为0.0001220703125。为什么双重存储为-1.220703125E-4?
浏览 2
提问于2012-09-06
得票数 2
回答已采纳
1
回答
如何避免在mysql中
使用
浮点数
据类型
的
科学
数字格式?
、
、
我
使用
mysql作为后端数据库,hibernate和spring作为我
的
前端。我在许多表中
使用
浮点型,它只接受最多七位数,然后将值保存为
科学
数字格式,这是一个很大
的
问题,我不能
使用
双精度,因为它将重新反射大多数表。我试过
使用
十进制格式,但不起作用 protected void initBinder(HttpServletRequest request, ServletRequestDataBinder binderbinder.registerCustomEditor(
浏览 1
提问于2011-11-02
得票数 0
3
回答
将
科学
记数法
转换为十进制python
、
、
如何将
科学
记数转换为
浮点数
?下面是我想要避免
的
一个例子:Type "help", "copyright"
浏览 1
提问于2013-06-06
得票数 6
回答已采纳
2
回答
字符串格式,Python中浮点
的
科学
表示法
、
、
、
我正在
使用
python,我对python非常陌生,对于我认为是字符串格式化问题
的
问题,我可以提供一些指导。 我有一个来自外部程序
的
输出,我想把它“转换”成
浮点数
。输出包含
两个
数字,这
两个
数字可能是
科学
记数法
,也可能不是
科学
记数法
,小数点后最多可以有15位数字(我在这里省略了这一点)。(-1.040e-05+3.1676e-03j)我想让它变成像这样
的
两个
独立
的
数字
浏览 0
提问于2013-07-15
得票数 1
回答已采纳
1
回答
格式化
浮点数
,去掉尾随
的
零和小数点,在haskell中切换为大数字
的
科学
记数法
、
、
、
我正在寻找一种在Haskell中
的
方法,以精确地格式化一个
浮点数
,在中描述
的
方式,为最佳紧凑性。我认为这也可以被称为“正常化”。我将在这里复制该问题
的
示例场景:765.000000 -> "765" (注意小数点也被去掉了)0.0000073943162953 -> "7.39432E-6&
浏览 1
提问于2016-03-14
得票数 2
1
回答
在给定一个6位数
的
情况下,计算python中
的
排列需要多长时间?
、
、
、
、
我正在尝试计算hdmi显示器中可能
的
像素排列
的
数量,我知道它是离散
的
和有限
的
,但是我在概念上遇到了所需
的
大O符号和/或处理能力
的
问题。permutations(num): for i in range(num): return var 我需要将这个函数应用于数字2073600,但是我
的
python有没有一种方法可以很容易地做到这一点,或者该函数是否适合
使用
并发?
浏览 4
提问于2018-03-05
得票数 2
回答已采纳
5
回答
科学
记数法
是解释为整型还是浮点型?
、
、
如果我
使用
科学
记数法
(例如1e9)在代码中硬编码一个数字,那么该数字
的
类型是什么(整型、长整型、浮点型、双精度型..)? 当有效位或指数是
浮点数
时
,显然不能是整数,但在上面的情况下呢?
浏览 2
提问于2013-03-20
得票数 13
回答已采纳
2
回答
如何强制
浮点数
以全精度显示,而不是以字符串
的
形式显示?
、
在Ruby中,如何在没有
科学
记数
的
情况下强制
浮点数
以所有重要位置/全精度显示?目前,我将BigDecimal转换为Float,BigDecimal(0.000000001453).to_f,但是这会产生1.453e-09
的
结果
浮点数
。然而,在这种情况下,字符串作为输出是不可接受
的
,因为我需要它作为一个没有
科学
记数
的
实际数字
浮点数
。好
的
,让我在这里给出一些背景,这可能需要改变我原来
的</em
浏览 0
提问于2012-01-10
得票数 7
回答已采纳
2
回答
C语言中
浮点数
的
取值范围
、
、
、
根据
的
说法,C中
的
浮点数
据类型
的
范围从1.2E-38到3.4E+38,并且有6位小数精度。我
的
推理出了什么问题?
浏览 3
提问于2016-08-10
得票数 0
1
回答
在matplotlib.pyplot中防止
使用
科学
记数法
、
几个小时以来,我一直在尝试抑制pyplot中
的
科学
符号。在尝试了多种解决方案但都没有成功后,我需要一些帮助。
浏览 1
提问于2015-02-07
得票数 103
回答已采纳
1
回答
如何获取浮点值
的
小数位数?
、
、
我想要表示根据
科学
记数法
四舍五入
的
最终产品。因此,如果80.55和879.5689给出70849.281250,则最终
的
打印函数输出70849.28。 有没有办法得到
两个
输入
浮点数
的
小数位数?如果我有
两个
整数声明为每个整数
的
小数位数,我可以
使用
if/else进行比较,并将最小
的
一个声明为另一个整数,但我同样不知道如何在这里
使用
int代替5:%.5f
浏览 1
提问于2019-12-24
得票数 1
1
回答
如何在写入CSV文件
时
关闭
科学
记数法
?
、
、
、
、
因此,我测试了
不同
的
包(readxl,openxlsx)。在这些电子表格中,某些字段具有较大
的
十进制数。这些都是作为
科学
数字导入
的
。但是,当我将数字导出到CSV
时
,我在CSV文件中得到了
科学
记数法
。我测试过
不同
的
方法(wri
浏览 32
提问于2018-08-17
得票数 0
1
回答
使用
ANTLR编写描述以下Pascal标记
的
正则表达式
、
、
如何
使用
antlr编写类似下面的正则表达式?谢谢。 1.要将一个数字视为“实数”(或“
浮点数
”),它必须有小数点或
使用
科学
记数法
。例如,1.0,1e-12,1.0e-12,0.000000001都是有效
的
实数。小数点
的
两边必须至少存在一个数字。 2.字符串由单引号之间
的
一系列字符组成:‘string’。单引号本身可以作为一个字符串中
的
两个
单引号出现:‘in’t‘。
浏览 9
提问于2019-09-16
得票数 0
2
回答
如何在bokeh中
使用
悬停工具提示显示整数而不是
浮点数
、
我有一个简单
的
X-Y数据点图表。当我将鼠标悬停在每个数据点上
时
,我希望Bokeh图向我显示每个数据点
的
整数值。我即将得到我想要
的
东西,但当我将鼠标悬停在数据点上
时
,它显示一个
浮点数
,然后更高,它
使用
科学
记数法
。有没有办法让悬停工具只返回X和Y
的
整数值,而不
使用
科学
记数法
?
浏览 1
提问于2015-03-12
得票数 24
1
回答
MySQL SUM返回不必要
的
小数
、
所以在MySQL上,当但是当我执行MySQL as
时
既然我只有一条记录,它不应该返回相同
的
金额420.67吗?以及如何在
使用
SUM
的
情况下获得420.67。 感谢任何帮助,是的,我
的
数据类型是float。
浏览 2
提问于2016-05-11
得票数 2
2
回答
处理
浮点数
时
跟踪
科学
错误
、
背景 我讨厌.Net/IEEE-754处理
浮点数
相等
(即双
浮点数
)
的
方式。它要求程序员对尚未确定
的
数字历史有先见之明,因为程序员必须选择一个“合理”
的
epsilon值,在那里通常无法确定这样
的
值(因为程序员无法提前确定多少次操作,因此,数字将受到限制)。我想在.Net中创建一个更好
的
FPN。在创建
时
,您将设置它
的
初始
科学
错误(或者接受一个默认
的
;默认值是最小
的</
浏览 0
提问于2013-03-27
得票数 0
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
python 入门 基本数据类型
Python入门学习篇(2)-数据类型之数字
JavaScript一元操作符
宝宝都能学会的python编程教程2:数据类型和变量
《4》python数据类型和变量
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券