腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
两个矢量的matlab点和交叉积
matlab
我不明白在Matlab2013a中有什么行为,有点和交叉函数。如果计算C= v1xv2 (交叉积),那么v1和v2形成的平面的法线向量是:C=交叉(v1,v2) C= -0.0070,0.0489,-0.3587点(C,v1) = 4.3368e-19点(C,v2) =0我的matlab版本有什么问题?还是我的电脑架构(英特尔I7)?
浏览 1
提问于2014-10-07
得票数 1
回答已采纳
3
回答
具有复数的任意
精度
线性代数c/c++库
c++
、
c
、
linear-algebra
、
arbitrary-precision
为了能够
检验
一些关于解的根的假设,我需要能够用任意
精度
数值解这些方程。我以前使用过mpmath Python模块,但是它工作慢,所以我更喜欢用C/C++重写我的程序,以达到最大的性能。所以我有个问题: 是否存在支持任意
精度
算法和复数的C/C++线性代数库?我需要一些基本的功能,如点产品等。(实际上,我也需要矩阵指数,但如果需要的话,我可以自己实现)。我试图将Eigen与MPFR C++结合使用,但由于它不支持复数而失败了(而且构造类似于complex <mpreal>,因为它假定基本类型是标准
浮点数<
浏览 5
提问于2013-11-23
得票数 4
回答已采纳
4
回答
双倍截尾向量在最大性能下达到单
精度
c++
、
c++11
我正在一个流体力学代码中试验,降低
浮点数
在某些操作中的
精度
,以
检验
双重
精度
是否真的必要。 为此,我编写了一个截断函数,它将双
精度
向量的
精度
降低到单
精度
,而不需要转换数据。这允许我评估某些函数的准确性,而不必将代码转换为单个
精度
。由于这些评估在计算上是昂贵的,我的目标是具有尽可能高性能的截断函数。
浏览 5
提问于2016-04-21
得票数 2
回答已采纳
1
回答
货币的浮点
精度
:在MySQL查询中使用"round“函数与PHP
php
、
mysql
、
floating-point
、
precision
在MySQL数据库中,以下字段fee和rate(百分比)为DECIMAL类型,小数
精度
为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值,而不是将它们保存在变量中,那么
精度
问题*是否仍然存在( PHP或
JS
附带的)?如果是这样,最好在PHP或
JS
中对
浮点数
进行舍入? *是的,我指的是保存双
精度
时出现的
精度
问题,例如1.5可能会保存为1.49999999
浏览 3
提问于2015-07-28
得票数 5
1
回答
比较有理数
c++
、
operator-overloading
、
rational-numbers
请注意,我只考虑过
浮点数
,因为交叉相乘在许多情况下会导致整数溢出。
浏览 3
提问于2015-02-16
得票数 3
回答已采纳
1
回答
有没有办法只使用整数来计算Mandelbrot集?
rendering
我想在JavaScript (
JS
)中创建程序,它可以任意精确地绘制曼德尔布罗特集 (缩放)。在
JS
中有一个整数类型的BigInt,它支持像+,*,/这样的简单操作,支持任意精确整数的幂。
JS
不支持对任意
精度
浮点数
的计算。 问:是否有一种方法来执行Mandelbrot集的计算,只使用基于整数的计算(任意
精度
)--如果是,如何做?
浏览 0
提问于2019-11-29
得票数 3
回答已采纳
2
回答
Java中的类型转换浮点
java
、
types
、
floating-point
A.)当在Java中将
浮点数
转换为双
精度
时,会发生
精度
损失吗? B.)如果我将
浮点数
输入到
浮点数
中,那么会导致
精度
损失吗?还是Java仅仅智能地忽略/跳过这类类型的类型呢?
浏览 0
提问于2014-05-01
得票数 0
回答已采纳
1
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
floating-point
、
precision
为此,我创建了自己的C++类fp16,其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符),同时使用带有半
精度
浮点数
的数字。半
精度
浮点=1个符号位、5个指数位、10个有效位数= 16位因此,我要做的是将单
精度
浮点数
转换为半
精度
浮点数
: 对于有效位数-我使用截断,即从32位中松散13位,以获得10位有效数的半
精度
浮点数
。
浏览 10
提问于2011-09-15
得票数 3
回答已采纳
2
回答
浮点相等和不等式测试是否可以假定是一致的和可重复的?
c++
、
floating-point
、
inequality
假设两个
浮点数
x和y,两者都不是南。是否可以安全地假定平等和不平等
检验
将:b.可重复的,例如,如果x和y都没有改变,(x == y我之所以问这个问题,是因为浮点单元可以将中间结果存储到存储在内存中的更高
精度
,因此变量的值可能会发生变化,这取决于它是最近在FPU中计算的结果,还是来自内存。
浏览 4
提问于2020-01-16
得票数 6
回答已采纳
3
回答
如何防止Google Cloud函数在减数时产生较小的偏移量?
firebase
、
google-cloud-firestore
、
google-cloud-functions
我有一些非常奇怪的行为,在Google Firestore中使用Google Cloud函数来减去数字。exports.testCounter = functions.https.onCall((data, context) => { count: admin.firestore.FieldValue.increment(-0.0005)});firebas
浏览 44
提问于2020-03-13
得票数 0
回答已采纳
3
回答
C# -有32位
浮点数
学库吗?
c#
、
math
、
floating-point
所有的directX都使用
浮点数
,但是System.Math使用双
精度
数。这意味着不断地在
浮点数
和双
精度
数之间转换。因此,理想情况下,我希望所有的代码都使用
浮点数
,因为我不会得到任何额外的
精度
转换为
浮点数
从双
精度
始终… 然而,我一直无法为.net找到一组使用
浮点数
的数学函数。
浏览 2
提问于2008-10-13
得票数 5
4
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
floating-point
为此,我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16,这些运算符重载了自定义函数,同时使用了一个带有半
精度
浮点数
的单
精度
浮点数
字。半
精度
浮点=1位,5指数位,10位= 16位因此,我如何从一个精确
浮点数
转换为一个半
精度
浮点数
:- 对于有意义和比特-我使用截断,即从32位松散的13位得到10位意义和半
精度
浮点数
。
浏览 0
提问于2011-09-15
得票数 4
3
回答
在JavaScript中,整数是如何在存储布局中表示的?
javascript
、
integer
JavaScript为所有数字文本提供64位
浮点数
,存储布局和范围由规范。ITEE 754解释了
浮点数
的行为,但我对
JS
中的整数感到困惑。64位数据格式产生的
精度
范围如何? 求解了,该值被存储在分数位置。
浏览 9
提问于2011-10-06
得票数 2
回答已采纳
1
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
floating-point
、
numeric-precision
为此,我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16,这些运算符重载了自定义函数,同时使用了一个带有半
精度
浮点数
的单
精度
浮点数
字。半
精度
浮点=1位,5指数位,10位= 16位因此,我如何从一个精确
浮点数
转换为一个半
精度
浮点数
:- 对于有意义和比特-我使用截断,即从32位松散的13位得到10位意义和半
精度
浮点数
。
浏览 0
提问于2011-09-15
得票数 0
1
回答
Node Buffer.readFloatBE()将数据扩展到64位
javascript
、
node.js
、
floating-point
、
precision
、
ieee-754
当使用32位
浮点数
将数据转换到缓冲区或从缓冲区转换数据时,nodejs似乎使用一些使转换不可逆的条件将
浮点数
扩展为双
精度
:3.81357913e+32 4 <Buffer 75 96 6b 4f> 因此,原始值(3.81357913e+32)现在似乎表示为0x75966b4f (Big endian IEEE-754,单
精度
看起来readFloatBE()产生了一个64位的双
浏览 3
提问于2019-11-26
得票数 1
1
回答
const在编译时是双重转换的吗?
c++
、
casting
、
floating-point
将数学常量定义为双
精度
值是有意义的,但是当需要浮点值而不是双
精度
值时会发生什么呢?编译器是否在编译时自动将双
精度
浮点数
解释为
浮点数
(因此它们实际上被视为常量
浮点数
),或者此转换是在运行时进行的?
浏览 2
提问于2012-02-02
得票数 1
回答已采纳
1
回答
基于Intel芯片的半
精度
浮点算法
x86
、
intel
、
avx
、
floating-point-conversion
、
half-precision-float
是否有可能在英特尔芯片上执行半
精度
浮点算法? 我知道如何加载/存储/转换半
精度
浮点数
1,但我不知道如何在不转换为单
精度
浮点数
的情况下添加/乘它们。
浏览 0
提问于2018-04-24
得票数 16
回答已采纳
1
回答
从给定的符号、尾数和指数构造
浮点数
(双
精度
)的宏或函数?
c++
、
c
、
floating-point
、
double
是否有宏或函数可以从给定的符号、尾数和指数(都是二进制或十进制)构造浮点(双
精度
),如果输入指定的数字不能表示为
浮点数
(双
精度
),则返回有效的
浮点数
(双
精度
)或返回NaN?
浏览 2
提问于2012-03-10
得票数 9
回答已采纳
2
回答
任何软件可以将浮点转换成任意
精度
的FPU?[或Matlab解]
matlab
、
vhdl
、
fpu
我想把很多
浮点数
转换成像‘0x4049000000’这样的多
精度
FPU,执行计算,更改
精度
,然后再执行计算等等.我知道这个理论是,但我想要一个软件、在线工具或Matlab解决方案,在0.0 ~ 51.0的范围内将6000+数字转换成FPU格式(如IEEE
精度
)。编辑:它也称为基独立浮点,如和所描述的。 2编辑:和就是例子。输入任何
浮点数
,例如3.1454,就会得到二进制/十六进制中的IEEE
浏览 0
提问于2015-04-02
得票数 0
1
回答
在GHC/Haskell中可以使用扩展
精度
(80位)浮点算法吗?
haskell
、
floating-point
、
ghc
、
floating-point-precision
、
extended-precision
标准的Haskell's 使用 data Double双
精度
浮点数
.希望这种类型在范围和
精度
上至少与IEEE双
精度
类型相同。GHC/Haskell是否也提供了 (80位)
浮点数
,也许使用了一些外部库?
浏览 4
提问于2013-05-28
得票数 15
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
Unity技术分享67-资源泄露、ETC压缩、动画文件浮点数精度
JavaScript零基础保姆级教程-2
redis命令之操作字符串
程序在99.99%的情况下是可靠的,但是有那么0.001%你遇见过么?
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券