腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
在财务之外使用
小数
、
、
、
我总是听说
浮点
数存在舍入误差,因此,必须使用decimal类型来代替
浮点
数来进行金融运算。他们所说的finance是什么意思?他们是否只考虑金钱,而金、铜、铁、蜂蜜、木头、毛料、谷类等仍须以实数计算,抑或任何物质资产均须以
小数
计算?
浏览 2
提问于2013-11-07
得票数 0
6
回答
定点
与
浮点
数
、
、
我只是不能理解
定点
和
浮点
数,因为在Google上很难读懂它们的定义。但在我读过的书中,没有一个能对它们的真正含义提供足够简单的解释。我可以通过示例得到一个简单的定义吗?
浏览 2
提问于2011-09-23
得票数 133
3
回答
使用0b表示打印(printf)
浮点
数
、
、
、
我试图用二进制表示一个
小数
,然后把它打印成
浮点
数。我已经完成了
定点
到
浮点
的转换。
小数
:-342.26562532位
浮点
数:110000111010101010010001000000000*我也知道printf会改
浏览 10
提问于2016-10-05
得票数 1
回答已采纳
1
回答
使用C++精度在C++中舍入十进制文件时发出
、
、
std::string st = s2.str();}我的输出是0.8942,但是我想要0.8943,也就是说,如果我需要的
小数
位后面的下一个数字是
浏览 4
提问于2012-11-28
得票数 2
回答已采纳
2
回答
如何在
MySQL
数据库中存储精确的十进制度坐标
、
、
、
、
然而,当我使用Google的地理编码器服务对某些点进行地理编码时,我得到了一些带有14个
小数
位的结果。例如,数字永远不会大于21或小于-67,并且
小数
点后始终有1到14位数字。 如何在数据库中设置该字段?
浏览 1
提问于2011-12-08
得票数 2
回答已采纳
1
回答
如何在C#中将Cobol字段输出转换为可读的十进制?
、
、
在将cobol程序转换为C#时,我遇到了COMP:03 Var2 PIC X(3).03 Var4 PIC X(4).03 Var6 PIC X(4).
浏览 6
提问于2017-06-12
得票数 3
回答已采纳
6
回答
将
浮点
转换为不动点
、
在C++中,将
浮点
值(
浮点
数)转换为 (int,16:16或24:8)的一般方法是什么?为了清楚起见,让我们拿钱做个类比吧。
小数
部分可以表示美分--一美元的分数部分。“美分”数据类型的范围为0到99。如果一个8位的无符号整数被用于不动点的数学,那么
小数
部分将被分割成256个可平分的部分。 我希望这能把事情弄清楚。
浏览 13
提问于2008-10-09
得票数 25
回答已采纳
1
回答
我可以在Linux内核中调用任何一个GCC内置函数吗?
、
、
、
、
GCC的一些内置函数处理
浮点
值: 由于Linux内核在默认情况下不支持
浮点
操作,这是否意味着我不能在Linux内核模块中使用这些内置的GCC函数?
浏览 1
提问于2013-04-05
得票数 3
回答已采纳
1
回答
如何在sql server中操作和存储精确的数字
、
、
如何存储
小数
点个数可变的数字?我猜可能有从1到100个
小数
点的任何地方。float数据类型是怎么回事?为什么他们称它为近似数?Decimal很好,但据我所知它是固定精度的数据类型。
浏览 1
提问于2011-08-03
得票数 0
1
回答
Yii2如何在迁移过程中更改双类型的精度
、
、
我正在使用
MySQL
数据库,并试图更改列的精度。我需要将数字限制在逗号后面的2个零。
浏览 11
提问于2021-12-08
得票数 0
2
回答
将
浮点
转换为
定点
、
我想要将
浮点
sin值转换为
定点
值。np f = 5x = np.arange(sample)如何轻松地将此y
浮点
样本转换为
定点
样本每个元素应该是16位和1位整数部分,15位应该是
小数
部分,以便我可以将这些样本传递到DAC芯片。
浏览 1
提问于2016-11-20
得票数 1
1
回答
CCK Decimal和Float字段有什么区别?
、
、
从技术上讲,
小数
是
浮点
数,那么这两个字段有什么区别呢?
浏览 1
提问于2010-11-15
得票数 2
回答已采纳
2
回答
使用
定点
的复数除法
、
、
、
我正在写一个C程序,在
定点
中执行2个复数的除法。我不能得到它的
小数
部分。下面是关于它的更多细节。我有两个复数:M = c + jd上述复数的示例值可以是:M = 1.24 + j(0.55) 为了转换为
定点
,我将a,b,c和d与2^14相乘。我面临的问题是,我不知道如何从除法中获得
小数
部分。我只得到<
浏览 4
提问于2014-11-14
得票数 1
5
回答
带
小数
的字段-使用哪种数据类型?
如何确定像整型字段一样带有
小数
点的字段范围?(例如,tinyint unsigned is 0-255)我需要在查询中做一些计算
浏览 2
提问于2011-07-09
得票数 1
1
回答
你能在智能契约中输入
小数
吗?
、
有人知道如何正确传递
小数
吗?
浏览 0
提问于2016-02-16
得票数 6
回答已采纳
1
回答
传递给数组时四舍五入的Excel VBA单元格值
、
我希望这有一个简单的解决方案。我需要从工作表中获取值,执行计算并将它们插入隐藏的工作表中(稍后将上载到数据库中)。我通常不使用VBA编程,所以我不确定我做错了什么。我的问题是:当我将数据从工作表复制到数组中时,当我指定long时,它们会像整数一样舍入。下面的代码片段将会让你对这个问题有一个大概的了解。我初始化数组是不是错了? Set ThisWS = Excel.ActiveWorkbook.Worksheets("BchSheet") Dim BTW() As Long '
浏览 1
提问于2013-01-15
得票数 1
回答已采纳
2
回答
如何将Oracle NUMBER主键转换为Ado.Net消耗的SQL Server
、
、
我从中提取的Oracle数据库使用定义为NUMBER数据类型(没有定义精度或
小数
位数)的主键。我应该在SQL Server端使用什么数据类型来存储Oracle NUMBER字段?我在大多数文档中都发现了将SQL Server中的数字数据字段存储为
浮点
型的状态,但这没有什么帮助,因为这些数字字段中有许多表示主键(使用
浮点
值作为主键不是一个好主意)。但是当您尝试用一个类型为DECIMAL(38,38)的ADO.NET SqlParameter (例如在SqlCommand上)设置一个DECIMAL(38,38)类型的值时,您会得到一个算术溢出错
浏览 4
提问于2011-02-02
得票数 0
回答已采纳
1
回答
定点
fx表示法和转换
、
、
、
我有一个fx1.15符号。基础整数值是63183 (寄存器值)。那么假设它是一个fx1.16值,我如何将它转换为人类可读的值?
浏览 1
提问于2012-03-04
得票数 1
回答已采纳
1
回答
映射[-1,+1]
浮点
到Q31
定点
、
、
我需要将
浮点
数转换为Q31
定点
,Q31表示1个符号位,0位表示整数部分,31位表示
小数
部分。这意味着Q31只能表示范围[-1,0.9999]中的数字。根据定义,当从
浮点
转换为
定点
时,执行2ˇN的乘法,其中N是
小数
部分大小,在本例中为31。
浏览 84
提问于2017-01-18
得票数 3
回答已采纳
3
回答
如何在
mysql
中正确定义[float]数据类型
、
、
如何保存正确的数字,
小数
点后至少7位?
浏览 0
提问于2011-07-16
得票数 4
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
FPGA定点小数计算(四)
程序员:数据库操作,如何选择合适的数据类型?
中国大学MOOC计算机组成原理2答案
MySQL数据库应用总结(八)—MySQL数据库的数据类型和运算符(下)
10 个MySQL数据库技巧
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券