腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(3904)
视频
沙龙
1
回答
有没有
办法
避免
错误
语句
“
算术
运算
导致
溢出
”?
、
我已经做了一些研究,一般的建议是将保存表达式的变量的数据类型更改为Long或Ulong,但在这两种情况下,我仍然会得到相同的
错误
。触发
错误
的码块如下; Vsf(i) = CInt((((0.91544 - 0.00166 * Angle(i) - 0.000002 * W - 0.054248 * Superelevation我甚至将计算表达式封装在CInt()中,希望它能将Vro (触发
算术
溢出
错误
)的结果转换为整数,从而不必处理小数,因为小数会
导致
更多的数字。
浏览 22
提问于2021-02-02
得票数 1
回答已采纳
1
回答
将datetime转换为DD:HH SQL的替代方法
、
、
、
我有一个转换方法来完成从datediff()到dd:hh的转换,但我也试图在其中添加一些额外的计算,这会
导致
将numeric转换为varchar时出现
算术
溢出
错误
。我没有寻找任何人来解决我的
算术
问题,只是寻找替代的转换方法,我可以尝试和测试自己,如果这是毫无意义的,请告诉我,以及不确定,如果不同的方法将改变任何东西。resulting in hours convert(varhcar(10), (datediff(second, startdate, enddate)%86400/3600))
浏览 0
提问于2012-10-13
得票数 1
回答已采纳
1
回答
在varchar字段上使用SQL Server
算术
运算
符
、
、
、
、
我希望能够将该列乘以一个因子(2.3)以获得默认的售价,但我不能在varchar列上应用
算术
运算
符,而且CAST函数与
算术
运算
符组合时会产生
错误
。此
语句
生成以下示例结果: AverageCost dbo.inventory SELECT FROM dbo.itemi
浏览 2
提问于2017-04-05
得票数 1
回答已采纳
1
回答
在精度大于38的Server中执行
算术
操作
我想执行
算术
运算
,例如:但是,这会
导致
错误
。将表达式转换为数据类型数值的
算术
溢出
错误
。 如何执行将返回精度大于38的值的
算术
操作?
浏览 1
提问于2018-07-23
得票数 1
1
回答
InkEdit在Windows7上抛出OverflowException
、
、
、
、
有没有
人成功解决了Windows7 x64电脑的这个问题?简单地创建一个新的InkEdit对象会抛出一个
溢出
异常。InkEdit inkEdit = new InkEdit();{“
算术
运算
导致
溢出
。”}
浏览 2
提问于2011-07-12
得票数 0
回答已采纳
2
回答
如何使用Bash
算术
操作来处理
错误
?
、
、
有没有
办法
用Bash
算术
运算
来处理
错误
?例如,尝试不支持的浮点
运算
将
导致
错误
: $ echo $(( 3.5 + 1)) -bash: 3.5 + 1: syntax error: invalid arithmetic operator (error1: syntax error: invalid arithmetic operator (error token is ".5 + 1") 我确实看到了这两种回退机制实际上如何应用于e
浏览 23
提问于2019-03-14
得票数 2
回答已采纳
2
回答
.NET VM如何检查整数
溢出
?
、
众所周知,每当整数
溢出
时,.NET都会抛出IntegerOverflow异常。我认为这是一件非常好的事情。 但我想知道他们是怎么做到这么快的。x86不会捕获整数
溢出
,如果其他架构允许这样做,我会感到惊讶。我为x86找到的最好的解决方案是在每一个
算术
运算
之后放一个"INTO“指令。但我认为这会
导致
明显的放缓。他们可以在编译器中做一些静态检查,以
避免
在可以证明操作不会
溢出
的情况下发生这种情况。但是,当编译器不能确定操作的结果时,性能关键的内部循环怎么办?那么,<e
浏览 5
提问于2010-01-12
得票数 1
回答已采纳
1
回答
System.DirectoryServices.DirectorySearcher
导致
“
算术
运算
导致
溢出
”
错误
、
、
、
我收到以下与使用DirectorySearcher.FindOne()或FindAll()查询AD相关的间歇性
错误
。System.DirectoryServices.DirectorySearcher
导致
“
算术
运算
导致
溢出
”
错误
System.OverflowException:
算术
运算
导致
溢出
。
浏览 2
提问于2016-09-17
得票数 0
5
回答
将float.MaxValue强制转换为Long抛出异常?
、
尝试获取float.MaxValue的整数部分,但抛出
错误
?long l = Convert.ToInt64(float.MaxValue);
错误
:
算术
运算
导致
溢出
。
浏览 1
提问于2010-11-20
得票数 3
回答已采纳
1
回答
警告C26451:
算术
溢出
(减去两个ints时)
、
执行以下代码行时:double num = rand() % (max - min) - min;警告C26451
算术
溢出
:对4字节值使用
运算
符'-‘,然后将结果转换为8字节值。在调用
运算
符“-”之前将值转换为更大的类型,以
避免
溢出
(io.2)。这是一个
错误
,还是我正在做的事情,可能
导致
截断等? 谢谢
浏览 1
提问于2020-04-26
得票数 1
回答已采纳
1
回答
将结果转换为十进制时Server中的
算术
溢出
错误
、
在SELECT
语句
中,我试图以1小数位的精度计算百分比。select
语句
中的此
语句
返回
算术
溢出
错误
:为什么会发生此
错误
?
浏览 3
提问于2016-11-20
得票数 0
回答已采纳
1
回答
溢出
异常:
算术
操作
导致
溢出
、
我得到了
错误
“
算术
运算
导致
溢出
。”this.ServerCfgReader.DefaultDBProvider.DBDataAccess.GetSqlSelection(selectSql); 当我在SQL中执行条件时,上面的查询得到了
算术
操作,
导致
溢出
异常。
浏览 2
提问于2013-09-20
得票数 1
2
回答
C++加2 DWORD中的
算术
溢出
我收到一个
错误
: 警告C26451
算术
溢出
:对4字节值使用
运算
符'+‘,然后将结果转换为8字节值。在调用
运算
符'+‘之前,将值转换为更大的类型,以
避免
溢出
(io.2)。我如何
避免
这个警告?我试着将这两个字段转换为size_t,但仍然会产生警告。
浏览 2
提问于2019-12-06
得票数 1
回答已采纳
2
回答
如何抑制PowerShell中的
溢出
检查?
、
、
、
PowerShell似乎在
算术
运算
和转换之后执行边界检查。例如,以下操作会失败:$a++
有没有
办法
强制
溢出
或类型转换,而不是求助于通过模或C#和Add-Type的手动计算?
浏览 1
提问于2013-03-30
得票数 6
2
回答
我的代码可以确定它是否需要一个大数字吗?
、
我正在编写一个方法,该方法必须返回一个数值,该数值是对两个输入数字进行
算术
运算
的结果。如果操作
导致
溢出
,那么我需要使用现有的大数字实现(特别是),如果不是,那么我需要返回一个内置的Javascript数字。
有没有
可能,在代码中,确定我有一个
溢出
,我需要一个大数字?
浏览 1
提问于2014-12-19
得票数 1
1
回答
可以在J中添加32位整数和wraparound吗?
、
、
有没有
可能在J中对数字进行
算术
运算
,并让它们的行为像在类似C的语言中那样?也就是说,如果我从两个32位(我想是64位)的数字开始,
有没有
办法
加减它们,让它们像C/C++/Java中那样
溢出
/下溢/回绕?
浏览 3
提问于2015-01-22
得票数 1
2
回答
溢出
数检测
、
、
、
其中一些数字是
溢出
算术
运算
的结果:因此这些数字将是流中的负数。 如何区分流中的
溢出
负数和非
溢出
负数?
有没有
办法
找出并丢弃溢满的数字?我正在C#中开发,没有对流源的控制。
浏览 2
提问于2016-02-20
得票数 0
回答已采纳
1
回答
十进制
算术
是C语言还是C++语言?
、
、
、
、
为了
避免
在使用以十为基数浮点数时的舍入误差(例如参见),IEEE-754规范定义了十进制
算术
。
有没有
办法
在C或C++中使用这种十进制
运算
?
浏览 1
提问于2013-07-07
得票数 5
1
回答
如何
避免
Microsoft C26451 (
算术
溢出
)警告
、
、
在我的例子中,如何对微软C26451 (
算术
溢出
)警告进行防御性编码?我觉得这应该是微不足道的。太让人沮丧了!: Using operator '*' on a 4 byte value then casting the result to a 8 byte value,但似乎无法修复我的C26451警告:“
算术
溢出
:在4字节值上使用
运算
符'-‘,然后将结果转换为8字节值。在调用
运算
符'-’之前将值转换为更宽的类型,以
避免
浏览 352
提问于2021-04-27
得票数 0
回答已采纳
2
回答
c#中sql查询列中的无限分数值
、
、
、
、
我面临一个问题,这个问题是在试图获得这个简单的c#查询结果时发生的:OracleDataReader.GetValue(i)抛出一个异常: 我发现,当数字精度超过28位时,就会发生此
错
浏览 9
提问于2012-04-11
得票数 5
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
JS运算符-1
改善C语言程序代码的125个建议,第1到26个建议!
致C+完美主义者:使用Visual Studio新工具分析你的代码
中国大学MOOC大学计算机程序设计(C语言)答案
C语言编程中的几点“坑”,你踩过吗?
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
活动推荐
运营活动
广告
关闭
领券