腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(2296)
视频
沙龙
2
回答
ODP ADO.NET驱动程序在
字符串
表示中返回带有额外零
的
十进制
c#
、
.net
、
oracle
、
decimal
、
precision
今天
的
问题如下:我们在Oracle数据库中有一个表。该表包含一个类型为数字(18,3)
的
字段。 从表面上看,存储和加载来自上述现场
的
数据都是完美的。然而,进一步
的
检查发现,从数据库中读取
具有
三个
小数
位数
(例如500.001 )
的
数字,其方式是
十进制
的
字符串
表示有四个零
位数
(例如500.0010)。当第三位
十进制
数
为非零时,这种情况似乎就会发生。为
浏览 3
提问于2009-11-27
得票数 1
回答已采纳
3
回答
在pl sql中将
字符串
转
换为
十进制
oracle
、
plsql
、
decimal
、
data-conversion
、
varchar2
我想把一个
字符串
转换成一个
小数
位数
。例如: 从dual中选择TO_NUMBER('04.0','99.99'); 但是它不会将
字符串
转
换为
十进制
数</
浏览 0
提问于2019-02-13
得票数 0
回答已采纳
2
回答
DECIMAL_DIG和LDBL_DIG在<float.h>中有什么区别?
c
、
floating-point
宏常量DECIMAL_DIG是 来源:
浏览 7
提问于2016-09-26
得票数 6
3
回答
不四舍五入
的
浮点数转
换为
字符串
c++
、
string
、
floating-point
、
rounding
、
precision
我想从
十进制
数
中提取
小数
位。没那么难,对吧?然后,我使用substr()裁剪从string.find('.')+1开始
的
字符串
,直到最后。如果它自身舍入,我不能精确地得到
小数
位数
...所以问题是:
如何将
十进制
数</
浏览 0
提问于2019-05-15
得票数 3
2
回答
如何在C++中将
字符串
转
换为
精度为6位
的
双精度?
c++
、
floating-point
、
double
、
string-conversion
我想知道
如何将
像"1234.123456"这样
的
字符串
转
换为
double或float。我需要至少3
位数
的
精度(即
小数
点后
的
3
位数
,而不管
小数
点之前
的
位数
)。
浏览 0
提问于2012-08-14
得票数 0
1
回答
如何将
浮点数格式化为一定数量
的
小数
位和整数位?
ruby
我尝试将Ruby中
的
浮点数格式化为四
位数
,包括
小数
点。例如:2.4 => 02.40现在,我正在尝试按如下方式格式化浮点数:这成功地将
小数
位数
限制为两位我还意识到:它成功地将1
转
换为
01,但丢失了
小数
位。我尝试将它们组
浏览 0
提问于2013-07-03
得票数 7
回答已采纳
2
回答
为什么
JavaScript
中带
小数
的
最大数字只有16
javascript
、
asp.net-mvc
、
json.net
、
precision
带有
小数
点
的
JavaScript
数
中
的
最大数字数只有16。- 16
位数
12345678912345.68 - 16
位数
字123456789123.6789如果在
小数
点之前增加数字,则
小数
点后
的
数字被舍入。类似的仅为0.12345
浏览 0
提问于2019-02-21
得票数 6
回答已采纳
4
回答
将
十进制
转
换为
十
小数
点
code-golf
、
base-conversion
任务是将表示
十进制
(基10)表示
的
数字
的
字符串
转
换为
十进制
(基数12)。因此输入是一个
字符串
,输出应该打印出来。十
小数
位数
应该是0-9,a,b. 输出不应包含十
小数
点后
的
尾随零,而在
浏览 0
提问于2018-10-28
得票数 0
1
回答
C/C++双不动点
的
最小非零
位数
转换
c
、
double
多个定点
十进制
数
被映射到相同
的
双值.例如:double d2 = 132.24000000000001; d1和d2
具有
相同
的
二进制值。当使用14位精度
的
ostream将d1 (或d2,它们
具有
相同
的
值)转
换为
字符串
时,它被转
换为
: 132.24000000000001。是否有一种方法/库支持从double->string,进行转换,其中<
浏览 5
提问于2015-09-06
得票数 5
回答已采纳
1
回答
在
Javascript
中将大
的
十进制
数
转
换为
字符串
javascript
我有从请求中获得
的
大
十进制
数
&我想将它们转
换为
字符串
。因此,对EG而言://output//what i want所有的方法返回
的
十进制
数最多4
位数</
浏览 2
提问于2017-03-26
得票数 0
回答已采纳
2
回答
源限定符允许在Informatica中
的
值大于定义
的
大小
workflow
、
scale
、
precision
、
informatica
、
sqldatatypes
我
的
一个informatica会话表现得很奇怪。对于
特定
的
列,精度和比例尺值分别定义为17、16,并且启用了高精度。根据精度和比例尺值,它应该允许在
小数
点之前只有一
位数
的
数字,但在我
的
会话中,它允许
小数
点之前
的
2
位数
,
小数
点之前
的
3
位数
失败,错误为无效
数
。我很困惑,为什么它允许2
位数
,因为它们也应该失败?例句:精度17,刻度16
浏览 5
提问于2021-04-01
得票数 0
2
回答
C# -可以从文本输入恢复双精度吗?
c#
、
double
、
precision
我有一个类,它根据票上
的
高度来计算长度。它已经存在多年了而且运作得很好..。直到我们有了一个独特
的
票号。它们由销售人员输入(以英寸为单位),通常是不错
的
数字,如3、4或3.5,并存储在数据库中--然而,这个数字是3.66666次重复(或11/3),但它被输入为3.666,并且由于丢失精度而导致计算失败。我曾经想过一些黑客来恢复某些数字
的
精确性,但我想也许有人知道一个更好
的
方法,让3.666或93.1333回到它
的
数字+三分之二
的
状态? 谢谢米克。
浏览 0
提问于2015-09-28
得票数 2
回答已采纳
2
回答
如何在
JavaScript
中获得巨大数字的确切值
字符串
?
javascript
、
bignum
我知道
JavaScript
数只是“双”
数
,对于分数部分只有52位
的
精度。然而,对于巨大
的
数字,真实
的
JavaScript
数
似乎
具有
更实际
的
精确性。例如,预定义常数Number.MAX_VALUE表示数字类型
的
最大正有限值,即近似于1.7976931348623157e+308。在这里,我可以使用模运算符访问这个值
的
尾随
位数
。所以我认为每个
JavaScript
<em
浏览 2
提问于2015-03-15
得票数 1
5
回答
如何在python中将指数值转
换为
字符串
格式?
python
、
python-3.x
我正在做一些计算,它给出了非常小
的
十进制
数
,例如,0.0000082 当我把它保存在一个变量中时,它会变成指数形式。我最终需要一个
字符串
形式
的
结果。因此,使用str()转换结果是不可能
的
,因为它将e保留在
字符串
中。我需要
字符串
恰好有8位
小数
。有没有办法在保持8
位数
精度不变
的
情况下做到这一点?另一个例子:应该将5.8e-06
转
换为
'0.00000580
浏览 92
提问于2017-08-23
得票数 5
回答已采纳
1
回答
处理货币价值时,将一个数字除以100是否安全?
javascript
、
ieee-754
、
ieee
在存储库代码中,在另一个团队开发
的
模块中,我发现有一个价格从美分到欧元
的
转换,只需将数字除以100。到目前为止,我还没有发现整数除以100会得到不准确
的
结果
的
任何情况。我们知道用2除以一个数字是安全
的
,因为它正好等于一个位置
的
移位。 所以我们可以很容易地说,如果存
浏览 11
提问于2019-03-13
得票数 10
1
回答
Javascript
如何将
十进制
数
转
换为
具有
特定
小数
位数
的
字符串
javascript
、
number-formatting
、
decimalformat
在
javascript
代码中,我需要将一个
十进制
数
格式化为
特定
的
小数
位数
,并获得其确切
的
字符串
表示形式。例如,如果数字是999999999.9,
小数
位数
是8,那么期望值应该是"999999999.90000000“ 当使用Number.toFixed(8)时,它返回一个四舍五入
的
值,这不是我想要
的
。num.toFixed(8) >> the
浏览 30
提问于2020-07-21
得票数 1
回答已采纳
2
回答
将整数转
换为
可调整大小
的
向量或
字符串
c++
我在不使用
字符串
的
情况下将
十进制
整数转
换为
二进制(在Visual Studio 2013中):{while(de > 0) bi = bi + (de % 2) * pos; pos *= 10;return bin;这样,输出中
的
二进制表示实际上是一个
十进制
数
问题是我想控制我
的
二进制输出中
浏览 8
提问于2015-02-10
得票数 1
2
回答
将
小数
舍入为特殊
位数
c#
、
asp.net
我需要创建一个函数来对
十进制
数
进行舍入,如下所示:其中第一个参数是
字符串
,第二个参数是所需
的
小数
位数
我使用
的
是Math.round,但它正在转
换为
85.9
浏览 1
提问于2012-06-14
得票数 0
回答已采纳
3
回答
了解python中
的
打印格式%.3
python
有人能帮我解释一下下面代码中“f%”
的
意思吗? print('Slope: %.3f' % lr.w_[1])
浏览 5
提问于2018-07-13
得票数 4
回答已采纳
7
回答
与斯特伦
php
、
substr
、
strlen
我有一个类似于0003000
的
数字,最后两个数字是
十进制
数
。我想将0003000
转
换为
00030 00(在最后2
位数
字前面插入一个
十进制
逗号)。我试着用子
字符串
来做这个。我用strlen取
字符串
的
长度,然后做-2,但是忽略了-2。 这里有一个例子,为什么它被忽略了?
浏览 7
提问于2011-08-26
得票数 3
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
30天快速掌握js02之简单数据类型Number知识点详解
十进制转化为二进制转换器有哪些?看看这款
计算机科学研究者陶贤斌站在巨人的肩膀上总结JavaScript数据类型
原来编程语言是这么算的……
php学习之php的八种数据类型的使用
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券