腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(465)
视频
沙龙
2
回答
如
何在
PHP
中用
未知
的
小数
位数
乘以
小
浮点数
,
而
不会
因为
科学
记数法
而
得到
零
?
php
、
floating-point
、
bcmath
我试图在
PHP
中将一些
小数
字相乘,但bcmul返回
零
,
因为
浮点值正在被转换为
科学
记数。我尝试在较小
的
浮点值上使用sprintf('%.32f',$value),但由于
小数
位数
未知
,它
得到
了错误
的
舍入,然后在乘法时会导致舍入错误。此外,我不能使用strpos('e',$value)来确定它是否是
科学
记数法
数字,
因为</
浏览 31
提问于2020-10-31
得票数 1
回答已采纳
2
回答
c++ cout << [double]不打印
小数
位
c++
我有一个简单
的
C++程序,我想它会打印出一个在f和g中定义
的
双精度值作为双精度。但C++将它们打印成整数。我检查了cout
的
默认精度,当我运行它时,输出表明默认精度应该是6,所以我搞不懂为什么double不能正确打印。[c] g = 735416.716898[c++] g = 735417[c] g = 735416.816898std::co
浏览 0
提问于2013-11-22
得票数 16
回答已采纳
1
回答
通过计算
零
来显示
科学
记数法
中
的
非常大或非常
小
的
数字
c#
我需要一个方法来获得
小数
点后
的
零
数,
而
小数
点之前
的
数字也是
零
。因此,例如0.00000000987654将计算为8,
因为
在0之后有8个0。将Decimal数据类型转换为字符串,然后我可以将其以
科学
记数法
显示为9.87654E9。 我需要这样做
的
原因是,我可以多次迭代非常
小
的
数字,产生
的
结果对于计算器来说太高了。例如,0.123456789
浏览 1
提问于2019-03-30
得票数 4
3
回答
Java Double vs BigDecimal
java
我正在看一些代码,它使用双精度变量来存储(360-359.9998779296875)
的
结果,即0.0001220703125。double变量将其存储为-1.220703125E-4。
浏览 2
提问于2012-09-06
得票数 2
回答已采纳
2
回答
随机数
的
位数
分布
javascript
、
python
、
random
我在JavaScript中实现UUID生成器时遇到了这种奇怪
的
现象。if (records[l]) { } else { }console.log(records); '19': 281175, '21': 2939, '23
浏览 1
提问于2015-11-07
得票数 15
3
回答
Pandas Dataframe对浮点值
的
减法产生与预期值不同
的
值
python-3.x
、
pandas
、
database
0.338249Name: prob2, dtype: float64df['diff'] = df.prob1 - df.prob20 2.384000e-072 2.384000e-07为什么会这样呢
浏览 3
提问于2021-05-01
得票数 0
3
回答
如何结合np字符串数组和浮动数组python
python
、
arrays
、
string
、
floating-point
、
scientific-notation
我想把一个充满
浮点数
的
数组和一个充满字符串
的
数组结合起来。有没有办法做到这一点?(我也遇到了舍入
浮点数
的
问题,插入正在将它们更改为
科学
记数法
;我无法用一个
小
示例来重现这一点)B=如果有办法将一个
浮点数
(或者可能是一个
科学
数字,我
的
数字显示为'5.02512563e-0
浏览 0
提问于2015-07-17
得票数 1
3
回答
将
浮点数
转换为nvarchar,保留十进制变量部分
sql-server
、
format
我在将
浮点数
转换为字符串时遇到问题,但t-sql以
科学
格式返回它。floatprint cast(@amount as nchar(20))我试过STR函数,但重点是:我不知道有多少个
小数
可以有
浮点数
有没有办法将
浮点数
作为nchar返回,其精度与声明
的
浮点数
相同? 非常感谢。
浏览 0
提问于2016-07-29
得票数 2
6
回答
定点与
浮点数
numbers
、
computer-science
、
representation
我只是不能理解定点和
浮点数
,
因为
在Google上很难读懂它们
的
定义。但在我读过
的
书中,没有一个能对它们
的
真正含义提供足够简单
的
解释。我可以通过示例
得到
一个简单
的
定义吗?
浏览 2
提问于2011-09-23
得票数 133
3
回答
SUM -当我使用sum和计算器时,为什么我
得到
不同
的
sum?)
mysql
、
sql
注意到在现场计算数量时
的
奇怪之处。 键入field - float。SELECT SUM(cost) as cost FROM Table 我使用计算器),结果是sum = 20,47497 请告诉我为什么我会
得到
不同
的
结果
浏览 0
提问于2013-02-20
得票数 3
回答已采纳
6
回答
在C中,%g和%f
的
区别是什么?
c
、
variables
我正在学习K&R编写
的
C编程语言。下面是打印双变量
的
语句,它是这样写
的
其中sum声明为double。谁能告诉我什么时候使用%g,如果是双精度
的
,或者是
浮点数
的
,%g和%f
的
区别是什么?
浏览 2
提问于2011-05-06
得票数 33
回答已采纳
8
回答
Perl -删除不带指数值
的
尾随
零
perl
我正在尝试从十进制数中删除尾随
零
。例如:如果输入数字是0.0002340000,我希望输出是0.000234 我使用
的
是sprintf("%g",$number),但这在大多数情况下都是有效
的
,除了有时它会使用E-将数字转换为指数值。我怎么能让它只显示为一个完整
的
十进制数字?
浏览 0
提问于2011-12-30
得票数 5
回答已采纳
1
回答
SQL server real field将数字转换为标准格式。
sql
、
sql-server
、
sql-server-2008
、
type-conversion
我使用ADO.net在我
的
c#应用程序中插入/读取值。当我在Server Management Studio中查询我
的
数据时,我可以看到它将我
的
数字转换为
科学
标准格式,
如
: 2,211221E+07。我没有设置任何东西来这样做,一切都是默认
的
。MS SQL Server 2008 Express/.Net 4/VS2010
浏览 1
提问于2011-07-09
得票数 0
回答已采纳
2
回答
德尔菲减法误差?怎么才能解决这个问题?
delphi
我有这样
的
代码:在这条线之前p_sum:=36;p_paid:=32.4;
浏览 6
提问于2013-11-29
得票数 2
回答已采纳
7
回答
双精度(Java)中有多少个
小数
位
java
、
rounding
java中有没有内置
的
函数可以告诉我一个双精度数中有多少位
小数
。例如:101.130 = 31.1 = 1 -3.2322 = 4 etc.
浏览 3
提问于2010-07-26
得票数 9
回答已采纳
1
回答
关于一般
的
浮点数
呢?
c++
、
boost
、
floating-point
我
的
基本目标是减去两个应该相等
的
浮点数
。请考虑以下内容:float a=x/30-x/40; b-=x/40;我应该得
零
分
的
。相反,我
得到
了一个非常
小
的
大约10^(-10)
的
数字。首先,我考虑使用有理表达式
而
不是分数(
浏览 2
提问于2013-04-16
得票数 3
回答已采纳
2
回答
C#中
的
双精度与
小数
舍入
c#
、
double
、
decimal
、
rounding
但是为什么双精度取整
的
答案是1.0,
而
Decimal不是呢? 另外,为什么double计算1.0/3.0等于0.33333333333333331?如果使用四舍五入,那么最后
的
3
不会
舍入为0,为什么是1?
浏览 1
提问于2013-03-11
得票数 6
回答已采纳
1
回答
Python中随机数
的
最终数字分布
python
、
random
在Python中,有两种明显
的
方法可以生成从0到9
的
随机数字。可以在0到1之间生成一个随机
浮点数
,
乘以
10,然后进行舍入。或者,可以使用random.randint方法。int(10 * random.random()) return random.randint(0, 9) 我很好奇,如果一个人生成一个0到1之间
的
随机数我不一定认为分布是一致
的
,但我发现结果相当令人惊讶。注意,0
不会
出现,
因为
尾随
浏览 3
提问于2020-04-25
得票数 31
8
回答
为什么Decimal.Divide (int,int)可以工作,但(int/ int)不行?
c#
、
math
、
int
、
divide
为什么将两个32位整数除以( int / int )会返回给我0,但是如果我使用Decimal.Divide(),我会
得到
正确
的
答案?我绝不是一个喜欢c#的人。
浏览 2
提问于2009-06-25
得票数 115
回答已采纳
4
回答
Objective-C:奇怪
的
计算结果
objective-c
我正在学习Objective-C,并完成了一个简单
的
程序,
得到
了意想不到
的
结果。这个程序只是一个乘法表测试。用户输入迭代次数(测试题),然后输入答案。after程序显示正确答案和错误答案
的
数量、百分比和接受/失败
的
结果。percent);else[pool drain];} 问题(奇怪
的
结果只<
浏览 1
提问于2011-07-12
得票数 0
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
原来编程语言是这么算的……
《4》python数据类型和变量
PHP中的这些坑,你没踩过算你厉害
学术篇之APS105编程小课堂
LeetCode小白菜笔记4:Roman to Integer
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券