我正在尝试在Swift语言中将双精度值转换为Int64，在获得最终的Int后，位数是13或更多，它在64位系统中运行得很好，但如果它运行的系统是32位系统，会发生什么？
浏览 31提问于2019-05-27得票数 0
在Java中，我们可以隐式地将int转换为float，这可能会导致精度损失，如下面的示例代码所示。}输出为double value is 2.147483647E9在精度损失的情况下，允许将int隐式转换为float背后的原因是什么？
浏览 1提问于2012-08-11得票数 9
回答已采纳
将double转换为float总是会产生相同的结果，还是会有一些“舍入差异”？float x = (float)0.123456789d;
总是相同的值吗？当将float转换为double，然后将其转换回float ie时会怎样呢？(float)(double)someFloat？最感兴趣的是C#中的结果是什么，但如果您有关于如何在其他语言上工作的知识，请随意分享。
浏览 0提问于2012-03-17得票数 22
回答已采纳
2回答
几何物体的精度？
、、、
我将Lat和Long值存储在MySql中的几何类型中。不幸的是，它似乎是四舍五入到小数点4位，根据这个并不是非常准确。我想在mySql中使用地理空间函数，但它似乎缺乏我所需要的精度。知道我能做什么吗？我是否可以提高精度，或者我被迫将其存储为双/浮动？如果我想使用mySql的地理信息系统部分中的任何其他
浏览 8提问于2011-05-06得票数 4
回答已采纳
3回答
String[] args) { obj.myMethod(1, 100, 'b');1和100都是int类型，而b是char类型，所以结果不应该是编译错误吗？有人能给我解释一下原因吗？
谢谢
浏览 0提问于2018-05-13得票数 0
2回答
我正在调试一些旧的C代码，它有一个定义#define 3.14.在哪里..。大约是其他50位数。
为什么会这样呢？我说我可以把这个数字减少到小数点16位左右，但我的老板对我大吼大叫，说其他数字都是为了平台独立性和前向兼容性。但威尔会放慢计划的进度吗？
浏览 5提问于2014-03-13得票数 2
回答已采纳
当精度成为问题时，我正在测试一些非常简单的等价误差，并希望以扩展的双精度(以便我知道答案在大约19位数)来执行操作，然后以双精度执行相同的操作(在第16位中会有舍入误差)，但不知何故，我的双精度算法保持了当我在extended中执行操作，然后将数字硬编码到另一个Fortran例程中时，我会得到预期的错误，但是当
浏览 2提问于2016-01-06得票数 3
回答已采纳
4回答
我最近一直在用SQLite.swift来建立我的应用数据库。我用INTEGER类型定义了所有的Int64列，就像文档所解释的那样。//Create a table with Int instead of Int64lett
浏览 5提问于2015-09-26得票数 38
回答已采纳
我在Swift中有这段代码，它可以工作，但我认为有一种更好的方法可以从NSNumber获取对象并将其转换为Double：var ratingDouble: Double
浏览 23提问于2014-12-04得票数 30
回答已采纳
2回答
从字符串转换大整数
、、、
一些看似微不足道的事情给我带来了很多问题。我正在尝试将一个大整数从字符串转换为Int类型。基本上，我有一个64位的散列，在某一点上作为一个字符串传递，我需要将它转换回Int。根据我能找到的所有文档，在Swift中，Int类型是64位的。调用，Int(str)应该可以很好地处理64位转换。但它似乎试图将其转换为32位整数，所以我收到了一个nil<e
浏览 5提问于2016-08-10得票数 0
2回答
我的编译器告诉我sizeof(long double)的大小是16字节，这意味着它可以表示一个2^128上的数字。现在，我想知道精度能处理多少位数。例如，如果是x= 0.1234567812345678，long double能否在这里识别x的精确精度？
谢谢
浏览 2提问于2017-04-21得票数 1
回答已采纳
2回答
基本上我考虑的是浮点数或字符串。字符串："10.05""1,000"1010.5我喜欢字符串的格式，可能会有浮点数限制精度的问题。
你会选择什么?为什么？
浏览 5提问于2015-09-16得票数 4
我正在尝试将char*转换为双精度，然后再转换回char*。如果您创建的应用程序是32位的，则以下代码可以很好地工作，但不适用于64位的应用程序。当您尝试从int转换回char*时，就会出现这个问题。例如，如果hello = 0x000000013fcf7888则转换为0x000000003fcf7888，只有最后32位是正确的。
浏览 3提问于2011-09-27得票数 1
回答已采纳
我正在导入一个文本文件，其中包含一个数字字段，该字段的小数点最多为1000位，作为数字字段。然后，我运行并更新查询以修复SSN(前面的零)，并从number字段中减去500。Eligibility Used]-500;Original:500.016知道是什么原因造成的吗
浏览 0提问于2012-10-11得票数 1
回答已采纳
将UINT64强制转换为浮点数是否安全？我意识到UINT64不包含小数，所以我的浮点数将是整数。然而，我用来返回增量时间的函数返回了一个UINT64，对于我当前使用的函数来说，这不是一个非常有用的类型。我假设一个简单的static_cast(uint64value)不会起作用？
浏览 1提问于2009-11-17得票数 3
回答已采纳
4回答
我想将PHP的微时间作为我的时间戳存储在MySQL中。我应该选择可变DECIMAL长度吗？
浏览 2提问于2013-01-08得票数 11
回答已采纳
10回答
是否可以使用IsNumeric()测试字符串并使其返回true，但是当您使用CInt()将相同的字符串转换为整数并将其赋给整数类型的变量时，它将给出类型不匹配错误？我这样问是因为我得到了一个类型不匹配的错误，所以在尝试强制转换字符串之前，我使用IsNumeric()来检查字符串是否为数字，但我仍然得到了这个错误。下面是有问题的代码。iGlobalMaxAlternatives = CInt
浏览 3提问于2009-01-22得票数 5
回答已采纳
1回答
我正在将一个应用程序转换为64位版本。苹果公司的文档指出，CGFloat类型是32位上的float和64位上的double。
如果是这样，您如何处理值的编码/解码？例如，如果从CGFloat创建NSNumber，我应该使用NSNumber的-numberWithFloat:或-numberWithDouble:方法吗？我是否必须编写一个条件宏，以便在32位上调用-numberWithFlo
浏览 0提问于2009-11-17得票数 10
回答已采纳
3回答
由于F的可表示范围大于I，所以应该始终定义F(i)行为。
浮点类型的prvalue可以转换为整数类型的prvalue。转换截断；也就是说，小数部分被丢弃。如果截断的值不能用目标
浏览 2提问于2015-04-29得票数 8
回答已采纳
在我的c#控制台应用程序中，我希望将双精度变量转换为字符串类型。但是结果字符串变量应该至少有小数点左边的3位和小数点右边的1位。示例: 3.4569应转换为"003.4“ string StringNum = Num .ToS
浏览 2提问于2013-04-03得票数 3
回答已采纳
云服务器
ICP备案
腾讯会议
云直播
对象存储
腾讯云开发者
