腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
5
回答
浮点
步长
的
scala
范围
精度
我打算使用步骤0.05生成一个从0.05到0.95
的
数组,就像0.05, 0.1, 0.15, 0.2, ...一样。但以下代码存在一些
精度
问题:
scala
> 0.05 to 0.95 by 0.05 res11:
scala
.collection.immutable.NumericRange[Double] = NumericRange0.7000000000000001, 0.7500000000000001, 0.8000000000000002, 0.8500000000000002, 0.90000000
浏览 51
提问于2016-11-15
得票数 4
回答已采纳
2
回答
不精确地渲染巨大
的
WPF视觉效果-有什么解决方案吗?
、
、
、
、
在WPF中渲染巨大
的
视觉效果时,随着坐标的增加,视觉会越来越扭曲。我认为这与渲染管道中使用
的
浮点
数据类型有关,但我不能完全确定。无论哪种方式,我都在寻找一个实用
的
解决方案来解决这个问题。为了演示我正在讨论
的
内容,我创建了一个示例应用程序,该应用程序只包含一个嵌入到ScrollViewer中
的
自定义控件,该控件绘制一条正弦曲线。 您可以在这里看到,绘图对于<= 2^24
的
双
精度
值(在本例中是水平坐标值)是正确
的
,但从这一点
浏览 1
提问于2010-10-25
得票数 4
1
回答
将两个
浮点
值相加时出现问题
我一直在尝试将两个值相加成一个单
精度
的
浮点
值,但我没有得到正确
的
答案。这些值相加
的
32位
浮点
值是多少。另外,如果我将
浮点
结果转换成十进制,那么十进制值是多少?我得到了10,000,001.0(在我添加
浮点
值之后,然后转换为十进制),这是不正确
的
应为10,000,001.5
浏览 0
提问于2016-11-12
得票数 0
1
回答
在已知
范围
内以两个字节存储正
浮点
数
、
所以我
的
想法是把这个
范围
到0.65535 * (x )/ (f )达到0,0.65535。就
精度
而言,这将是存储
的
有效利用吗?我是为WebGL1.0着色器做
的
,所以我希望有简单
的
编码/解码数学,我没有按位操作
的
权限。
浏览 9
提问于2022-05-10
得票数 1
回答已采纳
3
回答
Solr日期字段tdate vs date?
、
所以我有一个关于Solr字段日期类型
的
问题,这个问题非常简单:' date‘字段和'tdate’字段有什么区别?模式.xml声称“对于更快
的
范围
查询,可以考虑tdate类型”和“一个基于Trie
的
日期字段,以实现更快
的
日期
范围
查询和日期分面”。很公平..。但是precisionStep="6“到底是怎么回事呢?它是否改变了我在使用tdate
的
情况下创建查询
的
方式?真正
的
优势是什么,或者Solr做了什么让它
浏览 0
提问于2011-01-08
得票数 33
回答已采纳
2
回答
拼音
的
最佳数值
精度
是多少?
我在想,怎样才能在红宝石上获得最好
的
精确度。有人告诉我,最好
的
精度
可能在0到1之间,因为当你进入更大
的
数字时,
步长
也会增加。我想找出
的
一种方法是知道最小
浮点
数是多少,以及下一个
浮点
数是多少,那么
精度
就是不同
的
,对吧?如果我是对
的
,我怎么能在ruby上做到这一点?感谢您
的
帮助。
浏览 1
提问于2010-12-13
得票数 1
1
回答
x64
的
新.net
浮点
类型?
、
、
我对.net
浮点
类型感兴趣,它
的
范围
是双
精度
(或更大),
精度
是小数(或更大)。有什么计划吗?有没有人有兴趣推测一下x64上新
的
高
精度
、大
范围
浮点
类型
的
实用性?
浏览 3
提问于2009-04-30
得票数 1
回答已采纳
2
回答
放大时
的
双
精度
问题
、
我有一个算法来计算点(x0,y0)
的
mandelbrot值(我认为x0和y0在-1和1之间,不是很重要)。当scale没有变得太大时,这一切都很好,但是当scale
的
值较高时,返回
的
值非常不准确,并且我
的
图形输出开始变得异常。我如何根据scale
的
值来预测会发生这种情况?
浏览 0
提问于2012-09-17
得票数 3
回答已采纳
1
回答
Scala
中
的
双循环
、
、
它可以像低音一样使用但是不可能用这个val ls = for(i <- la to la + 1) yield i使用双循环,如何处理呢?
浏览 3
提问于2013-06-22
得票数 4
回答已采纳
1
回答
OpenGL正弦函数向点移动
、
、
这是我在glutTimerFunc中
的
代码:{ spinZ += SPEED_Z} glutTimerFunc(100, callbackTimerGlutFunc, value);基本上,我根据它离目的地X
的
距离是远还是近来递增当前
的
很明显,这是行不通
的
。我敢肯定我只是用错了cosf。谁知道我怎么才能得到一个好
的</em
浏览 0
提问于2013-02-06
得票数 0
2
回答
'3.4E +/- 38 (7位)‘到底是什么意思?
、
、
我正在尝试理解数据类型
的
范围
。对于非
浮点
数,这很容易,但是对于
浮点
数和双
精度
数,
范围
是这样列出
的
:双
精度
: 1.7E +/- 308 (15位) 但在外行中,这到底是什么意思,我如何利用这些信息
浏览 12
提问于2013-04-16
得票数 7
3
回答
C++标准在哪里定义
浮点
类型
的
值
范围
?
、
、
、
、
据我所知,
浮点
值
的
形式为n* 2^e,与我查看了C++标准,但没有找到标准指定此标准
的
位置,也没有规定浮动、双和长双类型与其他(IEEE)标准中定义
的
范围
的
关联。我在3.9.1.8中发现
的
唯一相关问题是: 有三种
浮点
类型:
浮点
数、双
浮点</
浏览 3
提问于2009-11-29
得票数 3
回答已采纳
1
回答
在其他语言中使用%a打印
的
解析
浮点
数
、
、
当您在C++中使用%a格式说明符打印
浮点
型或双
精度
型时,例如在中,您会得到-0x1.d10e9a2c7a08p+10样式
的
输出。我需要在
scala
应用程序中读取这些
浮点
数。所以, 如何在
Scala
、Java或其他语言中通过%a重新获取C++格式
的
浮点
数?
浏览 12
提问于2017-12-25
得票数 0
3
回答
在C++编译器中存在哪些不常见
的
浮点
大小?
、
C++14标准草案似乎对浮动、双倍和长双
的
具体要求相当平静,尽管这些大小似乎很常见: 哪些C++编译器和系统目前使用<em
浏览 3
提问于2016-07-21
得票数 4
4
回答
赋值过程中
的
双值变化
我知道double存在一些
精度
问题,它可以在转换到integer时截断值。 在我
的
例子中,我分配一个690000000000123455,它在赋值期间被更改为690000000000123392。为什么这个数字会有这么大
的
变化?毕竟,它没有分配小数部分。这似乎并不是一个精确
的
问题,因为值不会改变1,而是63。
浏览 6
提问于2016-08-26
得票数 0
4
回答
检查double是否适合float
的
速度有多快?(Java)
、
是否有一些算术或按位运算可以在不损失
精度
的
情况下检查双
精度
数是否适合
浮点
数。附言:这解决了C#
的
一半问题:,但我需要一个适用于Java
的
解决方案。
浏览 0
提问于2014-09-29
得票数 9
1
回答
JPEG-XL:无损模式支持32位浮动吗?
、
、
我试图理解以下句子(引用): 16位IEEE 754半
精度
浮点
值
浏览 8
提问于2022-03-25
得票数 1
回答已采纳
3
回答
C++中出现
浮点
型奇怪
的
不精确错误
、
、
、
今天在我身上发生了一件奇怪
的
事情,当我试图编译和执行这段代码
的
输出时,这并不是我所期望
的
。下面的代码简单地将
浮点
值添加到一个
浮点
数组中,然后打印出来。简单
的
代码: float r[10]; int i=34; i=z*z*z;这是由
浮点
近似引起
的
事件吗?. 附言:我有一个64位
的
linux debian系统
浏览 0
提问于2014-12-23
得票数 2
2
回答
使用小数、
浮点
值
的
角度
范围
滑块
、
使用Daniel Crisp
的
角度
范围
滑块。。我想使用min: 0- max: 1中
的
浮点
值
步长
为0.1 (0,0.1,0.2,0.3,...)
浏览 3
提问于2016-02-19
得票数 0
2
回答
Scala
简单计算错误
、
、
嗨,我是
Scala
的
新手,下面的行为真的很奇怪。
Scala
甚至在这个简单
的
计算中也会出错吗?还是我做错了什么?谢谢,radius: Double = 10.2 res0:
浏览 0
提问于2018-01-28
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
【一问一答】Excel中因浮点运算导致的运算精度误差
BMS电池管理系统的智能守护者:YSO110TR高精度全温范围内稳定
深度学习新技术:HALP可以使用低精度的训练,但不限制准确性
聚辰股份(688123.SH):新一代高精度工业级数字温度传感器产品已完成改版优化设计实现在宽温度范围内实现±1℃的测量精度
C语言数据类型!C语言必学基础知识点干货收藏!
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
活动推荐
运营活动
广告
关闭
领券