腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
在
Haskell
中
显示
无
指数
部分
的
小数
部分
haskell
如何让
Haskell
在
没有
指数
部分
保留前导零
的
情况下
显示
Fractional值? 例如,命令show 0.0025输出"2.5e-3"。有没有办法重新定义这种行为?
浏览 10
提问于2020-09-12
得票数 0
6
回答
将浮点转换为不动点
c++
、
fixed-point
在
C++
中
,将浮点值(浮点数)转换为 (int,16:16或24:8)
的
一般方法是什么?为了清楚起见,让我们拿钱做个类比吧。
小数
部分
可以表示美分--一美元
的
分数
浏览 13
提问于2008-10-09
得票数 25
回答已采纳
11
回答
如何从字符串
中
手动解析浮点数
parsing
、
floating-point
、
precision
当然,大多数语言都有相应
的
库函数,但是假设我想自己做。 假设浮点数类似于C或Java程序(除了'f‘或'd’后缀),例如"4.2e1“、".42e2”或简单
的
"42“。一般来说,
小数
点之前有“整数
部分
”,
小数
点后面有“
小数
部分
”,“
指数
”。这三个都是整数。查找和处理单个数字很容易,但是如何在不丢失精度
的
情况下将它们组合成一个类型为float 或 double
的
值?我
浏览 20
提问于2008-09-17
得票数 35
回答已采纳
1
回答
Displaytag:如何指定列数据类型为"Text“
java
、
excel
、
jsp
、
displaytag
我有一列包含很长
的
数字代码,比如'740760000000001':它们应该按原样呈现,但Excel试图变得更聪明,
显示
的
是7,4076E+14。 如何告诉DisplayTag将列导出为纯文本?
浏览 4
提问于2017-03-02
得票数 0
2
回答
Javascript用0替换最后一位数字,而不是用
指数
表示法表示数字
javascript
、
math
、
exponential
我有一个javascript代码,它应该能处理大数字,并希望它们能以
指数
表示法
显示
。我搞不懂为什么x值
的
最后4位数字被0代替了,但是y值,甚至是一个更大
的
数字,就像它应该
显示
的
那样-用
指数
表示法。然后我想用固定点
显示
x,它返回了完全错误
的
值。以下代码
在
控制台中进行了测试。知道为什么会这样吗?
浏览 0
提问于2020-09-28
得票数 0
1
回答
转换-Json将小写e转换为大写(有时)
json
、
powershell
我正在PowerShell
中
处理JSON文件,而且它似乎只
在
一些(罕见
的
)情况下更改了它
的
输入
的
情况。100 -Compress它返回:小写
的
e变成了大写
的
E,
在
处理过程
中
验证正确
的</e
浏览 3
提问于2020-01-11
得票数 2
回答已采纳
1
回答
带2个
小数
的
Kotlin浮点数对字符串没有精度损失
android
、
kotlin
在
Android
中
,我从后端获得浮点数(例如,num = 10000000.47),当我尝试将它添加到我
的
String.format
中
时,它会用
指数
显示
它(类似于1.0E10)。我想
显示
数字,通常没有
指数
和2
小数
点。(
无
先兆损失!) 试图使用DecimalFormat("#.##"),但它没有帮助我。也许我做错了什么?
浏览 0
提问于2020-03-06
得票数 7
2
回答
用Java将双字符串转换为字符串
java
、
string
、
types
、
double
double d=12345678.999;或者,只是简单
的
但是,它是否以
指数
形式返回字符串值:1.2345678999E712345678.999
浏览 0
提问于2014-07-31
得票数 1
回答已采纳
1
回答
在
Golang中将Float64类型打印为int
go
、
types
、
floating-point
、
strconv
令人惊讶
的
是,我找不到其他有同样问题的人;我尝试
在
Go
中
简单地初始化float64并打印它,然后尝试字符串转换并打印它。两种输出都不准确。我已经尝试了很多
小数
,包括那些不能解析为重复
小数
的
小数
,以及简单地写出浮点数和打印(例如,num := 1.5然后fmt.Println(num)给输出1)。("%v\n", num)
浏览 305
提问于2019-07-15
得票数 2
回答已采纳
3
回答
Powershell:
在
科学
中
形成一个双倍,使用一个点而不考虑地区设置。
powershell
、
powershell-2.0
、
string-formatting
我想在科学表示法
中
显示
一个双倍,
小数
点3位,
指数
部分
也有三个
小数
。另外,我想用点(".")来
显示
数字。作为十进制分隔符(我
的
本地化总是用逗号打印它)。我想要
的
格式如下:我该怎么做?我所有的尝试到目前为止已经失败..。欢迎任何暗示:)
浏览 8
提问于2014-01-22
得票数 0
回答已采纳
1
回答
定点传输:31…24
指数
与23…0分数到Q25值?
c
、
signal-processing
、
fixed-point
我需要计算公式
的
定点数值:我使用第三方divide()和antilog()函数,类似于:out = antilog( div ); bits 23…0 fractional part (这实际上是移位<< 8时
的
Q0.31格式)bits 31…24 exponent。如何以Q6.25格式将有意义
的
内容提供给antilog()? 在这种特定情况下,如
浏览 0
提问于2017-01-31
得票数 1
4
回答
浮点数
的
分数
部分
中
基数-10位
的
最大数是多少?
c++
、
floating-point
、
max
、
decimal
、
numeric-limits
如果可以输出浮点数,以便不截断值(例如setpercision),并且以固定表示法(例如用fixed)输出浮点数,那么保证浮点数
的
整个分数
部分
可以存储
在
缓冲区中所需
的
缓冲区大小是多少?我希望
在
标准中有一些东西,比如#define或numeric_limits
中
的
一些东西,它将告诉我浮点类型
的
分数
部分
的
最大值-10值
的
位置。我询问了浮点类型
的
小数
部分</em
浏览 1
提问于2016-10-03
得票数 5
回答已采纳
1
回答
Printf E-表示法
java
、
notation
对于那些在家玩的人,我读
的
是Walter
的
绝对Java第5版(第2章,第66页)。= 12345.123456789;答案我理解这个printf方法
的
参数
的
基本原理,例如,我知道'%‘表示参数
的
开始。'12‘是空格
的
数目,'.5’是
小数
点移动
的
次数.我看到
小数</
浏览 2
提问于2013-07-11
得票数 2
回答已采纳
1
回答
Python将等量值解释为非相等
python
对于这
部分
代码,它位于 For 循环中。); prev_cl_num = cl_num;cl_num = 65557, prev_cl_num = 65557 instruction 400558 is cache miss, cl_num = 65557, prev_cl_num
浏览 3
提问于2014-06-01
得票数 0
回答已采纳
3
回答
从字符串解析浮点值是不正确
的
,double工作,为什么?
android
、
floating-point
、
double
我将179.9输入到EditText
中
。当我检索它时,如果它被存储为一个float,它
的
值是不同
的
。inputAsString); //179.899994这里发生了一些可疑
的
事情即便如此,如果我将上面的双值转换为浮点数,它将是不正确
的
。 此外,是否有什么可以做
的
事来检索作为浮点数
的
值,使其与实际输入<e
浏览 3
提问于2016-02-27
得票数 1
回答已采纳
1
回答
如何在python
中
减少输出中
指数
的
尾数
部分
的
小数
位数
python
、
numpy
an atom = atomic weight/Avogadro's number我感兴趣
的
是,
在
输出1.0552096305520962e-22
中
,我希望
指数
的
尾数
部分
只
显示
3个
小数
点,而不是这么多
小数
点。因此,我应该使用什么命令来实现所需
的
结果。
浏览 0
提问于2020-04-26
得票数 1
2
回答
Javascript数字获得另一个值
javascript
、
node.js
、
google-chrome
、
firefox
、
numbers
我最近发现了一个奇怪
的
JS片段,但是我不确定它是一个bug还是有一些逻辑。 试试这个号码: 9000000022903136*8*通知它,console.log it,将它赋值给一个变量。
浏览 2
提问于2013-10-23
得票数 1
回答已采纳
1
回答
JS如何将大数字(大于2^53)转换为字符串
javascript
、
double
由于2^53以上
的
整数不能以双精度精确表示,那么当它们被打印为字符串时,JS如何决定它们
的
小数
表示呢?例如,2^55是36028797018963968,C
中
的
printf("%lf",(double)(1LL<<55))将正确打印该数字,因为它在二进制表示中有尾随零,
在
截断时不会导致精度损失。然而,
在
Javascript
中
,我们得到了36028797018963970。它似乎试图将数字舍入到末尾得到0,但并不总是如此-
浏览 3
提问于2018-07-24
得票数 3
1
回答
LynxOS strtod与Linux不同
c
、
std
、
lynxos
看起来LynxOS
的
strtod实现并不能处理所有与Linux或Solaris相同
的
情况。我遇到
的
问题是,我正在尝试解析一些可能包含十进制或十六进制数字
的
文本。
在
Linux上,我调用我还得到了1.234567和0x40等输入字符串
在
a
中
的
期望值。
在
LynxOS上,十进制数可以正确解析,但十六进制会简单地解析为0,因为它在命中'x‘时会停止。查看手册页,Lyn
浏览 2
提问于2010-12-12
得票数 2
回答已采纳
1
回答
Matlab -
在
符号表达式中使用
小数
matlab
、
decimal
、
symbolic-math
在这个简单
的
示例
中
,
在
符号表达式中使用函数vpa可以将外分数转换为
小数
: >> syms x(37*x^(27/10))/5 7.4*x^(27/10) 但结果仍然保留了
指数
中
的
一小
部分
。怎样才能迫使Matlab尽可能地使用
小数
?
浏览 96
提问于2020-02-02
得票数 2
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
原来编程语言是这么算的……
TIOBE 7 月编程语言榜:TypeScript 进入前 50 名
Java开发中商业计算请务必使用BigDecimal来进行计算!
Practical Haskell,2nd Edition 电子书推荐
Dice 称这 5 种编程语言可能衰落
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券