Teradata:除法和大小数

文章/答案/技术大牛

发布

2回答

decimal、overflow、teradata、division、divide

我尝试将两个小数( 15，2)相除，并返回15位的高精度小数，但我在超过10位的任何小数位上不断得到2616数值溢出错误，有没有其他方法可以实现15位的小数结果？

浏览 47提问于2020-04-18得票数 0

回答已采纳

1回答

Teradata继续返回小数的零。

sql、decimal、teradata

转换为精度为2的十进制，在小数点后继续返回00。我如何实际返回值？

浏览 0提问于2016-08-03得票数 1

1回答

TeraData SQL中的Datediff函数？

sql、teradata、date-arithmetic

我通常使用MySQL或有时使用甲骨文，但现在我必须切换到Teradata.com。

浏览 2提问于2021-11-19得票数 0

2回答

错误2616执行计数(*)时，在计算过程中发生数值溢出

sql、teradata

我正在尝试从表中执行select count(*)，但由于此错误，我无法执行此操作。我不知道表中的行数。我猜这与计数值有关，因为计数值太大，无法存储在整数中。

浏览 0提问于2014-01-31得票数 5

回答已采纳

2回答

整数除法总是等于规则除法的地板吗？

python、integer、division、floating-accuracy、integer-division

对于大商，整数除法(//)似乎不一定等于正则除法(math.floor(a/b))的下限。根据Python ( - 6.7)， '{0:.10f}'.format(648705536316023400 / 7)产生“92672219473717632.0000000000”，但小数

浏览 3提问于2018-12-21得票数 33

1回答

将数据行从teradata表加载到mysql表

mysql、teradata

在这种情况下，我们需要将数据行从teradata表加载到mysql表中，对于如何开始使用它有任何提示吗？可以出口(或其他任何实用工具)帮助？ (预先谢谢:)

浏览 3提问于2014-02-27得票数 0

回答已采纳

1回答

当我使用int或double时，为什么在c中得到两个不同的输出？

我认为双和int之间唯一的区别是int是一个整数，但是double不是一个整数。它将作为输出返回，类似于我得到的5.000000，32.0000等等。那么为什么我要得到两个不同的输出呢？

浏览 3提问于2016-04-26得票数 0

回答已采纳

1回答

小数大的除法算法

algorithm

编辑:我重新建立了bignum类的基础以使用std::bitset，我刚刚实现了长除法精细。我只是不知道有什么能存储比特的类。我尝试用一个简单的算法实现除法：当然也很慢。我试着实现长除法，但这对十进制字符来说太难了。提前谢谢。

浏览 4提问于2015-01-14得票数 1

回答已采纳

1回答

除以R中的两个数字，分子是一个大整数(以百万为单位)除以13.00001，它取13.000001作为13，输出仅限于小数点1位。我要求输出一直到小数点2位，这是没有发生的。我尝试过循环、格式化和as.numeric，但是它没有给出任何结果(整数(除数，1)格式(nsmall=2)使它达到小数点2位，但将它转换为字符as.numeric，但是小数点2位被1小数位替换为1小数位，当我用13.000001这样的整数除法时，有没有办法得到2<

浏览 1提问于2014-01-16得票数 2

回答已采纳

4回答

如何始终以完整的十进制格式显示BigDecimal对象，而不是科学记数法？

java、formatting、bigdecimal

我想将其显示为一个字符串"12.345678"，而不会截断任何小数位。但是如果myNumber是非常小或者非常大的东西，比如：在将0.00000001除以一百万并转换为字符串后，它显示为科学记数法，这不是我想要的。

浏览 19提问于2010-07-20得票数 5

回答已采纳

1回答

寻找大数的余数

modulo

我知道我可以使用//除以非常大的数字(受机器内存的限制)，并在没有溢出错误的情况下获得整数值。但是，我正在尝试测试这个非常大的整数是否可以被另一个数字整除，但没有余数。但是，我如何测试非常大的数字是否被较小的数字平均除以？这相当于在执行除法时是否返回小数部分。//只给了我结果的整数部分，让我不知道在真正的数学结果中是否会有小数部分？

浏览 6提问于2019-03-12得票数 0

1回答

为什么java math.round总是四舍五入？

java、math、rounding

我有许多接受输入的字段，一个发生的过程，然后是显示输出的字段。我的问题是，由于某种原因，math.round似乎总是向下舍入，而不是舍入到最接近的整数。private void method(){ int Y= Integer.parseInt(YjTF.getText()); OutputjTF.setText(Integer.toString(outp

浏览 0提问于2013-05-29得票数 5

回答已采纳

2回答

我想在不包含浮点数的系统中执行两个128位无符号整数的乘法和除法

floating-point、precision、smartcontracts、clarity、128-bit

所以我不能把两个非常大的数字相乘，因为它降低了我的精度。我想要精度达到16小数位。如果我也做数字除法我只得到3，因为我的系统不包含浮点，所以浮点部分被忽略。为了达到这个精度，我通过将1e16乘以16小数点的精度来增加我的分值。我还试着用科学的符号来解决我的精度，这样我就可以乘法和除法了。2.5/4 or 2.5x425x10^-1和4x10^0，但由于这一点，我的乘法仍然是scale-down格式，

浏览 17提问于2022-01-12得票数 0

1回答

四元十进制的字节要求

teradata

我正在寻找一个明确的指南，在TeraData小数的大小要求。我认为10-18位数需要8个字节，这意味着小数( 10，2)和小数(12，4)的空间要求是相同的。这是对的吗？

浏览 0提问于2016-12-05得票数 0

回答已采纳

1回答

Python3:把大int转换成浮点错误的结果--它怎么做正确？

python-3.x、type-conversion、int

我需要对python3中的一个非常大的int (3.6.7版本)做一些划分。因为我在除法后总是得到错误的结果(用小数检查)，所以我发现这是int和float之间的转换。

浏览 0提问于2018-12-05得票数 5

2回答

查找浮点列的最大小数位数和精度

sql、teradata、teradatasql

我在Teradata中有一个数据类型为float的列。我想要找到该列的最大精度和小数位数。组织数据: 1234.12312000123101 从Teradata中选择时的数据: 1234.12312000123

浏览 5提问于2020-12-29得票数 2

3回答

如何在matlab中求整数除法商？

matlab

我想知道如何在MATLAB中求整数除法的商？感谢和问候！

浏览 1提问于2010-04-09得票数 4

回答已采纳

2回答

下推删除aggregator (sum) Informatica Powercenter上的小数

teradata、informatica-powercenter

我有一个映射，在源表和目标表中，我使用聚合器将一些金额相加，字段定义为decimal(15，2)。表在Teradata中。当我在没有下推的情况下运行工作流时，我得到了正确的数字，例如16,11。如果我选中下推选项(完全下推)，我发现插入到目标表中的结果丢失了小数(在我们的示例中为16.00)。我猜测，当数据到达聚合器时，它仍然具有小数部分，并且在聚合器之后丢失了小数部分，因为如果它已经丢失了小数部分，结果将小于16。我已经查看了sql表单的下推，它似乎没有将任何内容转换为整数。我还尝试在

浏览 20提问于2019-01-11得票数 0

4回答