腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
数字后面的数字是6,但我想要所有的数字。
java
、
rest-assured
我试着用放心的
方法
来获取
浮点数
,但是它在十进制之后只取6位数,但是我有超过10位。float latitude =
js
.getFloat("map.lat");这是
返回</em
浏览 7
提问于2019-10-18
得票数 0
回答已采纳
3
回答
如何确保整数除法得到正确的结果?
javascript
、
floating-accuracy
、
integer-division
问题是,我被告知
JS
在整数和
浮点数
之间没有太大的区别。所以我开始担心是否有任何
方法
可以确保积分除法是正确的。
JS
中通常的整数除法公式似乎是Math.floor(n/m),其中n,m是整数。由于
JS
将每个数字视为
浮点数
,因此n/m将
返回
一个
浮点数
。如果这个
浮点数
不精确,但甚至比实际计算结果小一点点,那么Math.floor(n/m)就会被四舍五入到比它应该小一个整数。如果是这样,有什么
方法</em
浏览 9
提问于2015-08-27
得票数 1
3
回答
JS
限制数字的小数位数
javascript
我有一个
js
,它可以抓取值、乘法、求和、除法,然后将它们放入表的一个单元格中。结果可以达到(我认为) 15位小数。如何将其限制为两个?我对需要
js
之外的资源的解决方案持开放态度,但如果存在的话,我更喜欢
js
解决方案。
浏览 4
提问于2017-07-29
得票数 1
6
回答
在python中将浮点型转换为整型的最安全的
方法
?
python
、
math
、
integer
、
python-2.x
这些函数接受一个
浮点数
,并
返回
它下面或上面的最接近的整数。但是,这些函数以
浮点数
的形式
返回
结果。例如:f=math.floor(2.3)2.0 从这个
浮点数
中获取整数的最安全
方法
是什么,而不会有舍入错误的风险(例如,如果
浮点数
等于1.99999),或者我应该完全使用另一个函数
浏览 83
提问于2010-08-02
得票数 254
回答已采纳
2
回答
Rails格式输入将整数更改为十进制。
javascript
、
ruby-on-rails
、
ruby
、
floating-point
、
administrate
我继承了一个Rails应用程序,它在管理仪表板上使用了管理创业板。我遇到的问题是,当输入管理仪表板输入字段时,一些数字会变成十进制。例如,如果输入整数3780,则输入值将自动更改为3779.9999999999995。见截图:如您所见,输入值在提交之前会自动更改。并不是每个数字都是这样的,只有某些数字: 该应用程序还利用了管理领域-货币宝石,金钱-铁路创业板,和货币化宝石。我怀疑是管理领域的创业板造成了这个
浏览 7
提问于2022-07-30
得票数 1
1
回答
NodeJS:将字符串X、XXX.XX转换为浮动
node.js
、
string
、
floating-point
、
string-parsing
我之所以打扰您,是因为我希望用node.
JS
将字符串转换为
浮点数
。我有一个从请求中
返回
的字符串,它看起来是:x,xxx.xxxx (前)。4,530.1200),我想将其转换为
浮点数
:xxxx.xxxx (或4530.1200)。我尝试使用:parseFloat(str),但它
返回
4。
浏览 0
提问于2017-08-19
得票数 3
回答已采纳
1
回答
asm.
js
如何处理除以零?
javascript
、
asm.js
在javascript中,带有“整型”参数的零除法类似于
浮点数
:-1/0; // -Infinityasm.
js
规范指出,带有整数参数的除法
返回
intish,必须立即强制进行签名或无符号。这似乎也违反了asm.
js
指定的类型签名。,
浮点数
?)→
浮点数
但是,如果其中任何一个都有零分母,则结果是double,因此
浏览 2
提问于2015-03-21
得票数 6
回答已采纳
1
回答
(FunctionReturn() - 1)失败,但(-1 + FunctionReturn())成功?
javascript
、
function
、
internet-explorer-11
、
operator-precedence
我有一个getter/setter函数,它
返回
一个绝对值。因此,我假定JavaScript将允许我使用它来执行算术。但它只能按一定的顺序工作..。注意:在这些示例中, pos.get("log", pos.get("log") + 1)总是
返回
1。尽管pos.get()总是
返回
相同类型的绝对值。
浏览 2
提问于2015-07-29
得票数 0
1
回答
Java -比较两个
浮点数
(或双倍)
java
、
floating-point
、
double
、
comparator
我有一个需要按宽度排序的ArrayList,它作为一个
浮点数
存储(.getWidth()
返回
一个
浮点数
)我已经查看了文档,并查看了所得到的错误,很明显,函数.compare()只
返回
一个int在我的用法中,是否有任何
方法
来比较两个
浮点数
(或者是双
浮点数
浏览 7
提问于2021-12-26
得票数 0
回答已采纳
3
回答
p5.
js
不能读取数组的随机值
javascript
、
arrays
、
random
、
p5.js
我试图在p5.
js
中做些什么,当程序试图获得数组的随机值时,程序就会陷入困境。400);} background(220);} 程序
返回
一条消息我正在使用p5.
js
网络编辑器。我不知道为什么会这样。如果你有解决办法,请回答。谢谢!
浏览 1
提问于2019-11-21
得票数 3
回答已采纳
2
回答
当
返回
一个
浮点数
数组时,我会得到一个错误
c#
、
game-engine
当我试图
返回
一个
浮点数
数组时,我得到了以下错误: 我在C#中使用OpenTK制作了一个2d游戏引擎,我正在处理顶点类,但是我经常出错,而且我被困住了
浏览 0
提问于2019-03-30
得票数 2
回答已采纳
1
回答
在P5.
js
中将字节数组或字符串值转换为
浮点数
(基于javascript)
javascript
、
p5.js
、
data-conversion
我找不到一种
方法
将这个数组转换成我在P5.
js
中的原始浮点值。 关于如何将字节数组转换为浮点型,或者在将字符串转换为浮点型时避免获取NaN,您有什么想法吗? 感谢您的时间和帮助。谢谢。我尝试转换的代码: 从字符串到
浮点数
,我使用 让incomingData;让dataValue;incomingData = serial.readStringUntil('\n');dataValue= float(incomingData);// P5.
js
中的标准
方法
--
浏览 121
提问于2021-02-16
得票数 0
回答已采纳
1
回答
在mfc中将CString转换为
浮点数
c++
、
visual-c++
、
mfc
如何将CString变量转换为
浮点数
?(我使用的是VisualMFC6.0和c++ )谢谢。
浏览 0
提问于2011-04-26
得票数 6
回答已采纳
1
回答
time.time没有
返回
当前时代的时间吗?
javascript
、
python
在python中,time.time()以
浮点数
的形式
返回
时间(以秒为单位),但这个数字似乎有点短。如果我在JavaScript new Date().valueOf()中运行,长度为13位。但是如果我运行python time.time(),就会得到一个10位数的
浮点数
,小数点之后的6位
浮点数
。time.time()不是获得与JavaScripts new Date().valueOf()
方法
相同的13位数字的正确
方法
吗?valueOf()
方法
以数字数据类型
返
浏览 8
提问于2022-01-10
得票数 0
回答已采纳
1
回答
在Rescript中比较字符串
reason
、
rescript
在浏览之后,似乎没有一个函数可以比较两个
返回
布尔值的字符串。最好的选择是localeCompare,但它的行为与
JS
的==略有不同。为什么localeCompare
返回
一个
浮点数
而不是一个整数?
浏览 8
提问于2020-12-21
得票数 1
回答已采纳
1
回答
JavaScript Date.getTime() (毫秒)如何映射到64位
浮点数
?
javascript
、
qt
、
date
、
double
、
gettime
我对JavaScript的Date对象及其getTime()
方法
感到困惑。来自:但是,8.640.000.000.00000需要53位。另一方面,所有
JS
数都是64位
浮点数
,只有52个小数位(不包括符号位)。 因此,当Date.getTime()是最大值或最小日期值时,
JS
如何存储Date的结果?它必须使用一个指数位来做这个,对吗?
浏览 0
提问于2018-08-05
得票数 1
1
回答
Python当前时间
javascript
、
python
、
time
、
gettime
Pythonround(time.time()*1000)new Date().getTime() 这两个时区是否都依赖于本地时区()?
浏览 5
提问于2020-07-30
得票数 0
5
回答
测试字符串在JavaScript中是否是有效的
浮点数
javascript
、
string
、
numbers
、
nan
、
parsefloat
我想测试字符串是否可以转换为
浮点数
。我一直在尝试使用parseFloat来实现这一目标。console.log(!isNaN(parseFloat("100T0"))); // should return false (but doesn't)表示,parseFloat一碰到不是数字的字符就停止读取字符串,然后
返回
到目前为止所传递的任何内容所以parseFloat("100T0")实际上
返回
的是100,而不是NaN。 有什么更好的
js
测试来查
浏览 0
提问于2018-10-10
得票数 9
回答已采纳
1
回答
从javascript前端拒绝浮动值的云终结点
javascript
、
floating-point
、
google-cloud-endpoints
调用我的端点API
方法
定位(@命名(“纬度”)浮动纬度,@命名(“经度”)浮动经度)
返回
状态400,表示代码: 400,消息:“无效浮动值:‘77.08659999999998’。”lat()和lng()
返回
一个(
JS
64位浮点)数字,API应该能够转换成32位
浮点数
。 这在我的开发服务器上似乎运行得很好,但在GAE上就不行了。有什么指示吗
浏览 3
提问于2013-09-02
得票数 1
回答已采纳
3
回答
Python3.x四舍五入
python
、
python-3.x
、
rounding
我正在寻找一种
方法
,它将
浮点数
四舍五入,并
返回
一个
浮点数
。该
方法
还应该接受一个参数,该参数定义要舍入到的十进制位。我写了一个实现这种舍入的
方法
。不过,我觉得它看起来一点也不雅致。编辑:正如下面的答案所指出的,我的问题的解决方案并不那么明显,因为正确的四舍五入首先需要正确的数字表示,而
浮点数
则不是这样。,而不是首先转换为字符串),在像这样使用时
返回
2.18:round_half_up(2.175, 2),但它不
返回
,因为Decimal(
浏览 3
提问于2019-11-08
得票数 8
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
Python-浮点数和牛顿拉夫逊方法
特别注意,在Python中比较浮点数的正确方法
前端小白必学基础之js基础之ajax返回数据处理
JMeter中返回Json数据的处理方法
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券