腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
我可以信任表示整数的
浮点
数或双精度数来保持精度吗?
、
、
如果我有两个表示精确整数的随机
浮点
数或双精度数(在32位整数的范围内),我能期望它们之间的任何和所有加、
减
、乘
运算
产生一个没有小数部分的整数
浮点
数/双精度数吗?} 每个人都明白永远不要相信
浮点
精度,但我愿意在适当的地方重建信任。考虑到一些解释
型
语言(不明智地)使用
浮点
数/双精度数作为泛
型
"number“类型的基础,了解哪些操作可以将
浮点
数的状态保留为整数非常重要。
浏览 2
提问于2018-11-02
得票数 0
1
回答
C语言,不使用
浮点
数执行简单计算的方法。
、
、
、
是否有任何方法、代码片段或库不使用
浮点
数来执行简单的计算(乘法、除法、和、
减
)? 我在8位单片机上用C语言编写,没有
浮点
单元,所以
浮点
运算
非常长。我想把我所有的
浮点
计算转换成整数。我可以允许在初始化时进行
浮点
计算,例如从
浮点
系数计算整数系数。
浏览 12
提问于2022-11-18
得票数 0
1
回答
Elixir真的需要两组相等
运算
符(普通和严格)吗?
我正在学习Elixir,并且刚刚了解了两对相等
运算
符==、!=和===以及!==。我认为Elixir有两组相等
运算
符是错误的。他们创建了一个“严格的”相等
运算
符,用于比较整数和
浮点
数的情况。请注意,这种通过值比较整型和
浮点
型
的情况是
运算
符在比较两种不同类型时的正常工作方式的例外,这会导致类型比较,而不是值比较。因此,我们对类型比较规则进行了例外处理,并添加了两个
运算
符来支持该例外。所以整型和
浮点
型
可以通过值来比较,这
浏览 13
提问于2018-08-08
得票数 1
1
回答
是否可以在Android环境下使用GPU进行数值计算(复数矩阵乘法)?
、
、
、
、
我正在Android
中
实现卡尔曼滤波算法。代码有一些复杂的矩阵乘法
运算
。矩阵元素的类型为
浮点
型
。我的问题是非常感谢
浏览 1
提问于2013-02-08
得票数 2
1
回答
Gcc 4.6.0在x86和x86_64上的应用
、
、
、
我有中型C99程序,它使用long double类型(80位)进行
浮点
计算.我想提高精度与新GCC 4.6扩展__float128。据我所知,这是一个软件模拟128位精度的数学.我不确定GCC是否会将float128上的操作转换为运行时库,我也不知道如何在我的源代码
中
从long double迁移到__float128。对其他类型的支持包括算术
运算
符:加、
减
、乘、除;一元算术
运算
符;关系
运算
符;相等
运算
符. __float128类
型
在i386,x86_6
浏览 0
提问于2011-06-23
得票数 17
回答已采纳
1
回答
gcc的__float128
浮点
数考虑到当前的舍入模式了吗?
、
、
、
gcc的__float128
浮点
数的算术
运算
是否考虑了当前的舍入模式?例如,如果使用C++11函数std::fesetenv,我将舍入模式改为FE_DOWNWARD,__float128上的算术
运算
结果是否会四舍五入? 这是由__float128规范保证的吗?
浏览 5
提问于2014-09-23
得票数 9
2
回答
iPhone 4和iPad 2:定点
运算
相对于
浮点
运算
的优势
、
、
、
、
我听说iPhone 4和iPad有一个叫做VFP的
浮点
运算
单元,它在某种程度上优化了
浮点
运算
,甚至允许使用单指令多路复用(尽管GCC是否利用了这一点还是个疑问)。然而,我读到对于一些Android设备,使用定点而不是
浮点
的加速可以导致性能提高20倍。 在这些设备中使用定点
运算
而不是
浮点
来实现
浮点
密集
型
代码有什么好处?
浏览 2
提问于2011-04-01
得票数 1
回答已采纳
2
回答
.net
中
任意精度的
浮点
类型。有没有允许这样做的库?
、
、
我需要在
浮点
数和整数上做数学
运算
,比.net
中
的整型/
浮点
型
/双精度
型
提供的精度和大小都要大得多。有没有一些库可以帮助你做到这一点?我记得在c/c++
中
也有类似的东西。
浏览 1
提问于2009-10-22
得票数 2
回答已采纳
3
回答
NSArray
中
的
浮点
数
、
、
我有一个
浮点
数的NSArray,我通过使用然后我将该数组传递到其他地方,我需要将这些
浮点
数从数组
中
取出,并执行基本的算术
运算
。当我尝试的时候编译器抱怨我试图对一个类型id执行算术
运算
。它也不会让我转换为
浮点
型
或双精度
型
。 有什么想法吗?这看起来应该是一个简单的问题。
浏览 1
提问于2012-10-08
得票数 0
回答已采纳
2
回答
乘浮精度
、
、
在
浮点
数和双数上执行
运算
(如乘法、除法、加法和减法)是否保持其精度? 例如,如果我乘以(或除以,加,
减
) 1000浮动在一起,我还能保持7位数的精度吗?
浏览 1
提问于2016-05-07
得票数 4
回答已采纳
2
回答
泛
型
类型约束只接受数字?
、
、
可能重复: 假设我们在泛
型
类型上有一个功能,在概念上我们的泛
型
类型仅限于数字。public class Image<T> where T : number 请注意,性能也很重要,因此我们不想重新定义数字类型的结构并使用它们。或者,是否有任何设计模式允许我们对泛
型
变量拥有“高性能”算术函数?
浏览 2
提问于2011-07-06
得票数 4
回答已采纳
2
回答
用于iPhone上的大数
运算
的NSDecimalNumber
、
、
、
、
我需要在我的应用程序中使用大数字来提高精度,
浮点
数或双精度数是不够的。我也有整型和
浮点
型
的数字,我必须对它们进行
运算
。我认为NSDecimalNumber对于我所需要的精度是有好处的,但我想用其他类型的数字来做
运算
,这是一个复杂的公式。有没有人知道要使用什么才能轻松地操作大数,并对它们进行不同类型的操作(
浮点
型
、小数
型
、整型)? 谢谢。
浏览 1
提问于2011-03-01
得票数 4
1
回答
通过使用ILSpy,在哪里可以看到
运算
符重载的原语类型?
、
、
、
、
出于好奇,我试图在Int32 in MsCorLib.dll
中
查找诸如+、Int32、*等一元
运算
符的相关操作符重载。 我用ILSpy。
浏览 0
提问于2012-03-04
得票数 3
回答已采纳
2
回答
为什么在
浮点
型
上调用to_i会从值
中
减去1?
、
我有一个例子,我在一个Float对象上做一些数学
运算
,当我在它上面调用to_i时,它会被
减
一。value = 0.29 * 100=> 28 我知道
浮点
数是不精确的表示,但这比我预期的要差得多。这是怎么回事,我怎样才能防止这种情况?我使用的是ruby 1.8.7 (在1.8.6
中
也是如此)。
浏览 2
提问于2011-12-07
得票数 0
2
回答
浮点
指数求幂算法
、
、
、
我必须编写一个在整型或
浮点
型
参数
中
对基数(整型或
浮点
型
)求幂的算法。- 1)); else if (expoente == 0) base = 1; return base;(Deluge没有增强
运算
符或函数
浏览 2
提问于2010-12-14
得票数 1
回答已采纳
1
回答
OCaml
运算
符<和>如何处理非整数类型?
、
、
我很好奇大于(>)和小于(<)
运算
符如何处理OCaml
中
不是整型、
浮点
型
或双精度
型
的类型。最后,这些如何在用户定义的数据类型
中
工作? 谢谢!
浏览 2
提问于2015-07-01
得票数 3
7
回答
在java
中
创建配对列表
、
我将采用一堆(
浮点
型
,短
型
)对,并且需要能够执行简单的数学
运算
(例如将这些对相乘以返回单个
浮点
数,等等)。List只有一个参数,而且HashMap不允许重复(据我所知)。有什么想法吗?
浏览 6
提问于2011-01-24
得票数 32
回答已采纳
1
回答
在MySQL
中
,你会映射哪种类型的BigDecimal?
、
、
、
、
在经历了前面开发人员的代码残骸之后,我意识到我需要移动所有基于货币的列,以便不使用
浮点
数学。
浏览 1
提问于2011-09-26
得票数 39
回答已采纳
3
回答
像SymPy这样的Haskell库?
、
、
我需要操作像1+ sqrt(3)这样的表达式,并做一些基本的算术
运算
,比如加、
减
和除。我希望结果是某种规范的形式,这样它就可以用作map
中
的键。由于舍入问题,将1+ sqrt(3)转换为
浮点
数是不可行的。 我在Python语言中使用了SymPy来完成这项任务。Haskell有没有对等的本地库?
浏览 6
提问于2010-07-21
得票数 31
7
回答
有没有好的JavaScript货币或小数类?
、
、
我正在尝试处理诸如23.45之类的JavaScript值,但我希望能够对这些值进行数学
运算
(加、
减
、乘、除),而不会遇到
浮点
问题。是的,我有时可能需要舍入结果,但我希望它能给出合理的答案。是否有人构建了可以有效处理此类数据的类,或者是否有其他解决方案来处理此类数据而不必不断调整
浮点
错误?
浏览 0
提问于2011-05-12
得票数 14
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
【一问一答】Excel中因浮点运算导致的运算精度误差
第二章 JavaScript基本语法
Python中数字的相关运算:数学运算及函数运算
【Python智阐2】数据类型1
Python数据类型之数字(Numbers)和运算符
热门
标签
更多标签
云服务器
ICP备案
实时音视频
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券