腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
将数字限制为特定的
小数
位
我想把一个数字限制在
小数
点后几位。例如: 0.973451到4位
小数
将是0.9374。注意:我想要限制的数字是numpy数组类型的Float64 我正在对
小数
点后有许多位的数字执行
运算
。当我执行乘法或指数之类的数学
运算
时,它显示“
溢出
错误”。
浏览 16
提问于2019-07-10
得票数 1
回答已采纳
1
回答
整数的
小数
次幂
、
我有代码: (i as f64).powf(2.0 / 5.0).floor() as u64 有没有一种方法可以在不使用浮点数的情况下将整数提升到
小数
幂? (我可以执行两个单独的整数幂
运算
。它要么会
溢出
,要么会失去很多精度,具体取决于顺序。)
浏览 19
提问于2021-06-27
得票数 3
回答已采纳
1
回答
在UInt64上做数学
运算
就是打开它
、
、
我有一个var blah = ctypes.UInt64('65'),65真的是任何东西。我需要做数学,但当我这么做的时候:
浏览 5
提问于2014-06-23
得票数 0
回答已采纳
3
回答
JS
限制数字的
小数
位数
我有一个
js
,它可以抓取值、乘法、求和、除法,然后将它们放入表的一个单元格中。结果可以达到(我认为) 15位
小数
。如何将其限制为两个?例:数学
运算
结果: 5.223567我想: 5.22 我想截断或舍入剩余的
小数
位数。我对需要
js
之外的资源的解决方案持开放态度,但如果存在的话,我更喜欢
js
解决方案。
浏览 4
提问于2017-07-29
得票数 1
2
回答
我可以限制浮动精度吗?
、
我正在使用
JS
在Canvas中编写一个简短的演示,它的运行并不像它应该的那样流畅,主要是因为涉及到相当多的正弦和余弦。 我需要进行这些计算才能将东西绘制到屏幕上。问题是,我不需要7个
小数
来知道像素的位置(两个
小数
已经是多余的了),所以我在想,如果我可以将浮点
运算
限制在两个
小数
位上,它可能会运行得更快一些。·这有可能吗?
浏览 2
提问于2015-03-11
得票数 0
1
回答
web3.
js
和web3-light.
js
之间有什么区别?
、
、
来自的web3.
js
和web3-light.
js
文件有什么区别?
浏览 3
提问于2018-03-10
得票数 3
回答已采纳
1
回答
为什么OverflowExceptions可以用于十进制->字节转换,而不是uint->字节?
、
、
我想知道有没有人能解释我看到的一个OverflowException。 uint fred = 32768; decimal bamBam = fred;我只在最后一行得到了OverflowException (当将decimal转换为byte时)。当将uint中的相同值强制转换为byte时,我不会得到它。
浏览 4
提问于2011-10-20
得票数 2
2
回答
如何找到多个字符的lastIndexOf?
我试图检查在数学表达式中使用的最后一个
运算
符之后是否已经有
小数
位。因为表达式可以改变,所以最终的
运算
符可能是不同的。 setResult(result)这应该是检查当前按下的按钮(val)是否是
小数</em
浏览 5
提问于2021-09-15
得票数 1
回答已采纳
1
回答
改变方程扩展整数
溢出
、
、
、
、
Notes:Long2.Det(a, b) = a.x * b.y - a.y * b.x 有没有办法在不使用64位整数
溢出
的情况下增加最大R值?就像把方程分解成更小的值,然后分别比较它们。这里使用的方法在整数<e
浏览 0
提问于2016-08-21
得票数 0
1
回答
列和显示无效结果
、
、
我使用页脚回调来查找两列的和。对于前两列,它在页脚处给出正确的和值。但是对于第三列,它给出了这样的结果:1.0771827874123119e-11,因为第三列包含负值。是因为负值。我怎么才能解决这个问题?$('.dataTablesSum1').DataTable({ var api = this.api(), data;
浏览 1
提问于2018-03-20
得票数 1
回答已采纳
4
回答
如何确保
小数
始终显示为xxxx.xxxx正负?
我在C#中的对象上有一个
小数
。我希望能够在值为-1.61769的时候将其显示为xxxx.xxxx,基本上我想向上舍入最后两位数,并确保它在
小数
点后只有4位
小数
。我不确定这是一个数学
运算
(即Math.Round),还是一个验证
运算
(即string.Format),还是两者兼而有之? 希望有人能帮上忙。
浏览 0
提问于2012-03-29
得票数 0
6
回答
警告C26451:算术
溢出
、
、
:对4字节值使用
运算
符'-‘,然后将结果转换为8字节值。在调用
运算
符“-”之前将值转换为更大的类型,以避免
溢出
(io.2)。:对4字节值使用
运算
符'*‘,然后将结果转换为8字节值。在调用
运算
符“*”之前将值转换为更大的类型,以避免
溢出
(io.2)。警告C26451算术
溢出
:对4字节值使用
运算
符“+”,然后将结果转换为8字节值。在调用
运算
符'+‘之前,将值转换为更大的类型,以避免
溢出
(io
浏览 3
提问于2019-05-05
得票数 27
2
回答
如何用toFixed方法动态修剪十进制后的
小数
位而不舍入
、
、
、
、
我正试图找到解决这一问题的方法,但似乎在堆栈
溢出
的情况下,
小数
点的精度需要是动态的。因此,我正在创建一个react项目,并试图得到它,在
小数
位之后我可以动态删除数字。这就是我的意思。现在,我搜索了所有的堆栈
溢出
,并试图看看如何才能做到这一点,而不让图形被四舍五入。想知道是否有一种简单的方法可以用其他
js
方法删除其余的数字,这也不会阻止它舍入。
浏览 13
提问于2022-10-14
得票数 0
回答已采纳
1
回答
哪里定义了可空值和值之间的
运算
符(相等、大于等)?
x = null;在可空
小数
和
小数
之间定义的LessThan
运算
符在哪里?我基本上想要创建调用
运算
符的linq表达式。或者这段代码是由编译器动态创建的,即它使用默认的十进制
运算
符,然后添加一些额外的语句来检查可空值是否实际上是一个值?
浏览 2
提问于2015-06-02
得票数 4
回答已采纳
1
回答
javascript和ruby整数之间的差异(使用左移按位
运算
符)
、
我正在尝试在Ruby中复制一个javascript校验位函数。结果是不同的,看起来似乎与整数的大小有关。puts "#{1421974191} | #{(1421974191 << 5)}"在javascript中:生成1421974191 | -1741466144提前
浏览 0
提问于2016-06-22
得票数 2
3
回答
为什么10..toString()可以工作,而10.toString()不能?
、
可能重复: 正确创建二进制字符串"10011000",但是抛出异常
浏览 40
提问于2012-10-31
得票数 71
回答已采纳
7
回答
向用户显示一个带有两个
小数
的数字,而不改变原始的精确值[javascript]
、
、
、
基本上,我想要的是用
小数
来模拟Excel的行为,在这里,它用两个
小数
显示一个数字,但在数学
运算
中保存所有的
小数
。我之所以要这么做,是因为我想让UI保持巨大的
小数
位数,但同时也要保持我必须执行的数学
运算
尽可能精确。我想我可以复制变量,但这听起来既累赘又乏味。 这在Javascript中是可行的吗?
浏览 1
提问于2021-11-02
得票数 1
1
回答
如何计算输入的
小数
位数?
、
、
我想知道输入有多少个
小数
位数,然后使用该信息将
运算
结果近似为相同的
小数
位数。例如:假设输入是1.99,我如何获得
小数
位数(2)才能使用它?
浏览 3
提问于2020-12-19
得票数 0
2
回答
如何从Oracle Spatial读取不适合.NET
小数
类型的纵坐标?
、
、
、
、
因此,当我尝试读取SDO_GEOMETRY值时,它抛出了一个“System.OverflowException:算术
运算
导致
溢出
”。在我的例子中,纵坐标的值在
小数
点之后有太多的数字,我不关心丢失这些信息。
浏览 3
提问于2011-06-18
得票数 1
1
回答
什么是局部操作符和不安全操作符?
、
来自C#、Java、Python和
JS
/TS,我一点也不知道它们是做什么的。 在C#中,有用于算术的。在checked块中,会导致
溢出
的数学
运算
会抛出异常。不安全的操作员与此相关吗?有人能解释一下不安全和部分
运算
符吗?
浏览 2
提问于2021-01-08
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
JS运算符-2
JS运算符-1
JS中最容易忽视的运算符in
30天快速掌握js07之表达式和运算符知识点详解
前端开发8个非常经典的常用技巧【你学废了嘛?】
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券