腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
如何
在NSDecimalNumber
中
存储
1.66
swift
、
nsdecimalnumber
我知道
浮点
数和双
浮点
数不适合像货币和数量那样
存储
十进制
数
。我试着用NSDecimalNumber代替。这是我
在
斯威夫特操场
的
代码。
如何
将
十进制
数
1.66的确切
值
存储
在
变量
中
?
浏览 4
提问于2017-03-14
得票数 11
回答已采纳
1
回答
如何
访问
未
存储
在
浮点
值
中
的
十进制
数
python
、
numbers
、
decimal
如果我想
访问
数字1/919
的
第100个小数点,有什么方法可以做到吗?我知道
浮点
值
只能
存储
到某些小数,所以我只能
访问
已
存储
的
小数,但
如何
访问
未
存储
的
小数。
浏览 9
提问于2021-01-07
得票数 0
回答已采纳
2
回答
为什么printf("%.2f",(double) 12.555)返回12.55?
c++
、
floating-point
、
double
我正在写一个程序,我不得不把小数点
的
第二位舍入到第二位。我注意到printf("%.2f",(double) 12.555)返回12.55。但是,printf("%.2f",(
浮点
数) 12.555)返回12.56。有人能解释一下为什么会发生这种事吗?
浏览 0
提问于2019-01-28
得票数 4
2
回答
如果我只需要1位或2位精度,float比decimal类型更好吗?
sql
、
sql-server
如果我只需要小数位后1到2位
的
精度,我应该使用float还是仍然使用decimal(18,2) 有问题
的
数值代表薪水。
浏览 1
提问于2016-03-10
得票数 0
1
回答
SQL Real vs Float
sql
、
sql-server
sum(cast(2666 as real)) * cast(.3 as real)第二个查询返回:799.800031781197 为什么第二个查询没有返回与第一个相同
的
东西
浏览 1
提问于2012-05-23
得票数 8
回答已采纳
2
回答
浮点
算法
中
尾数
的
乘法
floating-point
、
hardware
、
fpu
关于尾数(re ),你是
如何
将两个尾数相乘
的
?1.5 x 1.125 = 1.6875。1.687
浏览 1
提问于2018-02-18
得票数 0
1
回答
swift iOS
中
十进制
数
的
浮点
值
ios
、
swift
我有一个带
十进制
数
的
UITextField,我想把它
的
值
转换成
浮点
数。所以我可以输入像123.45这样
的
值
,但是
在
设备上我有一个问题,因为我
在
十进制
键盘上看到数字和",“。所以
在
将"123,45“添加到myTextField之后,我看到“我知道我可以改变”。设置
中
的
",“,但我真的不确定
浏览 2
提问于2015-07-01
得票数 0
1
回答
即使使用
十进制
,MySQL也不能处理大
值
mysql
如果我
在
创建表时使用大于18
的
数字,情况就更糟了。我发布了这个澄清编辑,因为有些人不知道
十进制
数据类型。(1)
存储
具有精确
十进制
值
的
大量数字。 (2)防止使用
浮点
计算时无法避免
的
舍入错误。因此,对
十进制
值
的
任何计算都应该是精确
的
..
浏览 2
提问于2011-03-30
得票数 0
回答已采纳
1
回答
使用db2和c++将
十进制
浮点
值
(DECFLOAT)
存储
在数据库
中
c++
、
sql
、
c
、
db2
我想使用db2库和c++将
十进制
浮点
值
存储
在
具有DECFLOAT类型
的
列
的
表
中
。我知道已经添加了SQLDECIMAL64和SQLDECIMAL128来
存储
十进制
浮点
值
。现在,为了将数据插入到这个DECFLOAT列
中
,我应该
如何
为SQLDECIMAL64或SQLDECIMAL128赋值,因为它们是联合。是否有任何c++数据类型可用于
存储</
浏览 1
提问于2014-08-04
得票数 2
1
回答
如何
在iOS
中
获得高精度
的
值
ios
、
json
、
numbers
服务器向我响应一个'json对象‘:{ wareAmount:"13.40" } ;__weak typeof(self)doubleValue];}] ; 为什么value挂载(wareAmount是self
的
属性对象)
的
值
是13.39,
浏览 1
提问于2015-10-26
得票数 0
回答已采纳
2
回答
机器和数据库
中
的
最大小数位数
java
、
c++
、
sql
、
operating-system
1)对于一个
浮点
十进制
数字,是否有一个可以
存储
在给定机器
的
磁盘上
的
最大小数位数?3)假设C++代码使用
存储
在
磁盘上的确切数字,即
十进制
全位数。如果C++代码输出
的
结果
数
(例如乘以2),小数位数超过db允许
的
数字,那么db
如何
处理它?抛出异常,还是将其集合到底层硬盘允许
的
最大位置
数<
浏览 0
提问于2019-05-13
得票数 0
回答已采纳
3
回答
我怎样才能将一个双点数精确地归一化成一个整型
数
?
c++
我有一个通过tcp连接
的
客户端程序,将数据发送到服务器。
在
客户端,我需要将一个标准化
的
十进制
数
发送到服务器进行标准化,我将
十进制
数
乘以100,000,然后将其发送到服务器,但我
在
服务器
中
得到了错误
的
数字。例如。double price;cout<<price; ---> 74.40#define Normal 100
浏览 3
提问于2012-06-26
得票数 0
回答已采纳
1
回答
如果小数部分为0,则SQL Server对小数数据进行舍入
sql-server
、
decimal
在
SQL Server
存储
过程
中
,我将一个变量转换为decimal:如果结果是57282.0000 (
十进制
值
是0),我希望它显示为我不能使用
浮点
数,因为如果
值
大于8位
数
,它将显示为指数格式。 我该
如何
解决这个问题呢?
浏览 0
提问于2013-03-01
得票数 0
1
回答
在
mysql数据库
中
插入长整数值时,总是要舍入数字。
php
我尝试
在
名为356361070084127
的
mysql表
中
插入像IMEI这样
的
整数。但是,在从excel文件
中
插入它时,它会自动将这些IMEI转换为356361070084120,将最后一个数字转换为0。我用PHPExccel上传了excel文件。
浏览 2
提问于2017-05-12
得票数 1
回答已采纳
1
回答
Django滤波不适用于float字段
python
、
mysql
、
django
我正在尝试从MySQL数据库
中
获取一些记录,但似乎
浮点
字段
的
过滤不起作用。当我只通过user_id过滤时,我会接收所有记录,但是当我添加value子句时,只会得到DoesNotExist异常。value = models.FloatField() user_id=user.id,) python代码
中
的
数据库
中
的
value列为float unsigned类型,其
值</em
浏览 3
提问于2022-10-24
得票数 0
3
回答
如何
将表示
十进制
数
的
指数形式
的
字符串转换为Qt
中
的
浮点
数?
c++
、
qt
、
string
、
type-conversion
、
qstring
我
在
一个文本文件中有一些用指数形式表示
的
十进制
数
,例如: 144.2e-3。我想将这些
值
存储
在
浮点
数
中
。
在
qt
中
,当我直接使用"number.toFloat()“方法时,它返回"0”。请帮帮忙。
浏览 1
提问于2010-09-17
得票数 3
回答已采纳
6
回答
"For“循环增量不能正常工作。为什么?
c#
、
.net
、
loops
、
floating-point
for (float i = -1; i <= 1; i+=0.1f) Console.WriteLine(i); 这就是结果-0.9-0.6999999-0.4999999-0.2999999-0.099999930.10000010.30000010.50000010.70000010.9000002
浏览 1
提问于2011-07-28
得票数 6
回答已采纳
1
回答
CString到
浮点
转换
c++
、
visual-c++
、
mfc
、
type-conversion
一个常见
的
问题,可能是我在这一点上是错
的
,但在谷歌上
的
最后两个小时没有给我任何答案,问题是
如何
将CString转换为浮动而不使用c++
中
的
std:库。我尝试使用wcstod()函数,但是这个函数
的
行为非常不同。Tempconvert = "32.001";因此,最后TempConvertedValue
的
值
应
浏览 1
提问于2014-01-08
得票数 0
回答已采纳
4
回答
将
浮点
(双精度)转换为字符串
c++
、
boost
我遇到了一些我以前从未见过
的
事情,我非常想知道发生了什么。我尝试将一个双精度数四舍五入到两位小数,然后将该
值
转换为字符串。
在
完成演员阵容后,我
的
事情变得疯狂起来。number*100 + .5)/100;}...and获取以下内容:
浏览 0
提问于2011-07-01
得票数 1
回答已采纳
2
回答
如何
用二进制表示
浮点
数。IEEE
floating-point
、
binary
、
decimal
与
十进制
类似,二进制
数
也可以表示
浮点
数。现在我读到它可以有这种类型
的
浮点
编辑:所以我理解更好
的
问题应该是:
如何
将
十进制
浏览 0
提问于2012-12-02
得票数 3
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
特别注意,在Python中比较浮点数的正确方法
原来编程语言是这么算的……
伪·从零开始学Python-基本数据类型-整型与浮点型
C语言编程预备计算机专业知识
计算机科学研究者陶贤斌站在巨人的肩膀上总结JavaScript数据类型
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券