比较IF语句中的int时出现奇怪的行为
在比较IF语句中的int时出现奇怪的行为可能是由于以下几种情况导致的：
- 类型不匹配：在比较int时，如果与其他类型进行比较，可能会出现奇怪的行为。例如，将int与字符串进行比较，可能会导致意外的结果。在这种情况下，需要确保比较的两个值具有相同的类型。
- 比较运算符错误：在比较int时，使用了错误的比较运算符，也可能导致奇怪的行为。例如，使用了赋值运算符（=）而不是相等运算符（==）进行比较。在这种情况下，需要检查比较运算符是否正确使用。
- 浮点数比较：在比较浮点数时，由于浮点数的精度问题，可能会导致奇怪的行为。浮点数的比较应该使用特定的比较函数或比较范围来处理。
- 数据溢出：在比较int时，如果数据溢出，可能会导致奇怪的行为。例如，当int值超出其表示范围时，可能会出现意外的结果。在这种情况下，需要确保使用足够大的数据类型来存储和比较int值。
总结起来，当比较IF语句中的int时出现奇怪的行为时，需要检查类型匹配、比较运算符、浮点数比较和数据溢出等方面的问题。确保比较的两个值具有相同的类型，使用正确的比较运算符，处理浮点数比较的精度问题，并使用足够大的数据类型来存储和比较int值。
相关·内容
8回答
SQL Server中数字、浮点数和小数的区别
sql、sql-server、types
numeric、float和decimal数据类型之间有什么区别?在哪些情况下应该使用哪种数据类型？
对于任何类型的金融交易(例如，对于薪资领域)，哪种交易是首选的，为什么？
浏览 2提问于2009-06-29得票数 384
回答已采纳
2回答
SQL Server奇怪的天花板()行为
sql、sql-server、sql-server-2012
有人能解释一下SQL Server中的以下结果吗？我被难住了。
declare @mynum float = 8.31
select ceiling( @mynum*100)
831格式的结果
declare @mynum float = 8.21
select ceiling( @mynum*100)
822格式的结果
我已经测试了一系列数字(在SQL Server 2012中)。一些增加了，而另一些保持不变。我不明白为什么天花板对待他们中的一些人是不同的。从float更改为decimal(18,5)似乎可以解决这个问题，但我担心这样做可能会遗漏其他影响。任何解释都会有所帮助。
浏览 0提问于2014-10-03得票数 1
2回答
mysql查询中bigint对varchar的性能影响
java、mysql、spring-boot、jpa、spring-data-jpa
Mysql在将列值作为bigint传递时给出了糟糕的性能，而使用数据类型创建的列则是varchar。下面是在3列(user_id、类别、状态)上创建的create查询和索引。我使用spring与mysql进行交互，并使用本地查询从mysql获取数据。
CREATE TABLE order (
id int NOT NULL AUTO_INCREMENT,
user_id varchar(50) NOT NULL,
category varchar(255) NOT NULL,
amount decimal(13,2) N
浏览 8提问于2022-10-02得票数 0
2回答
facebook userid的数据类型是什么
php、mysql、facebook、performance、random
从字段性能和可伸缩性角度来看，facebook使用哪种数据类型来存储userid，应该是哪种数据类型最好。
如果使用int 4字节，那么我猜它还不够大，如果使用8字节int，那么如何将随机数分配给每个用户，或者对字符串也是如此。
那么，在考虑可伸缩性和性能的情况下，为用户提供固定长度的随机id的最佳方法是什么？
浏览 0提问于2013-03-05得票数 15
回答已采纳
3回答
我有非常奇怪的问题。我有一个应用程序，其中客户将输入质量和价格，然后程序将自动计算。问题是，有时它给出的数字是错误的，我举了一个例子。在此之前，代码如下：
void calculate_total()
{
int i;
total_bill = 0;
double pre_total;
for (i = 0; i < row_count; i++)
{
TextBox[] textbox_item_array = new TextBox[6];
浏览 4提问于2013-06-09得票数 0
2回答
将SQL FLOAT转换为SQL INT，丢失数据
sql、casting、floating-point、integer
在将以FLOAT数据类型存储的数据转换为以INT数据类型存储的数据时，我遇到了一些问题。下面的例子说明了我的问题：
DECLARE @data TABLE
(
id INT,
weight FLOAT
)
INSERT INTO @data VALUES(1,0.015662)
SELECT CAST(weight * 1000000 AS INT) FROM @data
SELECT 0.015662 * 1000000
SELECT CAST(0.015662 * 1000000 AS INT)
期望的结果是：ID = 1 VALUE = 15662然而，当我来自@data表时，我似
浏览 0提问于2010-12-09得票数 8
回答已采纳
2回答
在Java中，我们可以隐式地将int转换为float，这可能会导致精度损失，如下面的示例代码所示。
public class Test {
public static void main(String [] args) {
int intVal = 2147483647;
System.out.println("integer value is " + intVal);
double doubleVal = intVal;
System.out.println("double value is &
浏览 1提问于2012-08-11得票数 9
回答已采纳
2回答
将浮动值插入Server表
c#、sql、sql-server、console-application
我有一个浮点值，我试图用以下代码插入Server表中：
SqlConnection connection = new SqlConnection(ConnectionString);
SqlCommand command = new SqlCommand("AddNewValue", connection);
command.CommandType = CommandType.StoredProcedure;
command.Parameters.Add("value", SqlDbType.Float).Value = value;
try
{
c
浏览 3提问于2016-04-13得票数 0
回答已采纳
3回答
为什么postgresql不存储我的整个(PHP)浮点值？
php、postgresql、precision、math
我尝试将PHP浮点值63.59072952118762存储到postgres中的双精度列中。Postgres将值存储为63.59073。有人知道为什么吗?对这个值来说，8字节应该足够了。我尝试过使用数据类型数值，它在指定精度时起作用，但这并不是必要的。
更新:在尝试存储63.5907295时也会出现同样的问题，所以关于在存储它之前发生一些事情的建议似乎是现实的。
更新II (部分解决)：我分配双参数的行如下所示：
$stmt->bindParam(4, $this->latitude);
我不知道的是，PDO将其param类型默认为string。我将其更改为PDO::PARAM I
浏览 6提问于2009-07-10得票数 0
回答已采纳
3回答
在转换“十进制或数字”数据类型时丢失精度/溢出的原因
sql、sql-server、tsql
我目前正在上学习“数值”数据类型，并遇到了以下短语。
将十进制或数字转换为浮点数或实值可能会导致精度下降。从int、smallint、tinyint、float、real、money或smallmoney转换为十进制或数字都会导致溢出。
在转换“十进制或数字”数据类型时，我并不真正理解丢失精度/溢出的原因。有人能给我解释一下吗？
浏览 2提问于2017-03-08得票数 1
3回答
扩展Java中的类型转换
java、casting
Java中的Herbert Schild状态--初学者指南
如果(a)两种类型兼容且(b)目标类型大于源类型，则将发生自动类型转换
但是:他随后将一个long转换为一个double，因此(b)被违反了，因为64位整数明显大于32位类型。这是有点混乱和违反直觉在一开始。
难道不应该把条件细化到
目标类型比源类型更大或更小，如果没有丢失数据，则这种转换只会发生，因为目标类型足够大，足以容纳源类型的数据吗？
浏览 1提问于2015-02-18得票数 0
5回答
原始值转换
java、primitive-types
这是Java中的代码片段：
int i = 1234567890;
float f = i;
System.out.println(i - (int)f);
为什么输出不等于0？它执行扩展，所以它不应该丢失数据。然后，您只需截断该值。诚挚的问候
浏览 2提问于2012-10-16得票数 3
回答已采纳
6回答
在比较int和float时，Python什么时候执行类型转换？
python、python-3.x、floating-point、int、python-internals
当我比较具有相同值的int和float对象时，为什么Python返回float？
例如：
>>> 5*2 == 5.0*2.0
True
浏览 0提问于2018-09-28得票数 8
回答已采纳
2回答
浮点值的问题
php、serialization、floating-point
我有一个奇怪的使用浮点值的php行为。
$array_test["test"]= round($value,2); //first I round up a value
echo $array_test["test"]; //0,66
$s_array_test= serialize($array_test); //serializing the array
var_dump($s_array_test) // (...)s:4:"test";d:0.660000000000000031086244689504383131861686706542
浏览 2提问于2011-06-28得票数 0
回答已采纳
2回答
大于或等于运算符的MySQL忽略其义务或等于义务
mysql、operators
如果行中的价格为38.03，则以下搜索限制应全部返回包含结果的行。
WHERE price >= '38.02' AND price <= '38.03' (这是可行的)
WHERE price >= '20' AND price <= '100' (这是可行的)
WHERE price >= '38.03' AND price <= '38.03' (这不起作用)
WHERE price >= '38.03' AND price <=
浏览 0提问于2010-09-08得票数 9
回答已采纳
1回答
我目前正在努力使用python labelEncoder。
我尝试将其应用于一个数据集，该数据集由模式填充值和某些列中大量缺失值的“自编”值组成。
我尝试对数据集进行编码，当我只使用模式、中值或均值函数时，它工作得很好。但是，一旦一列包含了我自己计算的部分值(例如9999)来创建一个包含这些值的新类别，LabelEncoder似乎就不起作用了。
出现以下错误：
TypeError: '<' not supported between instances of 'str' and 'float'
因为我知道当奇怪的符号或NaN仍然在数据集中时
浏览 2提问于2018-05-21得票数 0
3回答
指定如何存储浮点数的SQL设置
sql、sql-server-2000
祝大家日安。我发现我的测试环境和我的生产环境之间有一个奇怪的区别。我有一个表，它将数据存储为一个浮点数。我在这两个脚本上运行以下脚本，结果不同：
insert into myTable(myFloat)
select top 1 26.1295 as foo
Select myFloat from myTable
Server A = 26.1295
Server B = 26.129499435424805
导致这种情况的服务器设置之间是否存在差异？任何想法都会有很大的帮助。
谢谢
浏览 0提问于2009-08-14得票数 1
3回答
C语言中的隐式类型转换
c、floating-point、type-conversion
我在维基百科()上偶然发现了下面的例子。
#include <stdio.h>
int main()
{
int i_value = 16777217;
float f_value = 16777217.0;
printf("The integer is: %i\n", i_value); // 16777217
printf("The float is: %f\n", f_value); // 16777216.000000
printf("Their equality: %i\n"
浏览 2提问于2011-11-10得票数 7
回答已采纳
1回答
MySQL奇怪的浮点和十进制行为
mysql、floating-point、decimal
我有一个包含float(10,5)和decimal(10,5)列的表
我将表更新为：
update table1
set decimaltesting = 12311123123123123.456789,
floattesting = 12311123123123123.456789;
结果是：
decimal = 99999.99999
float = 100000.00000
但是，如果我将列更改为float(6,3)和decimal(6,3)，并使用与上面相同的值更新它
结果是：
float = 999.999
decimal = 999.999
为什么对于第一个场景，浮点值将是100
浏览 1提问于2013-12-11得票数 3
回答已采纳
2回答
如何从double转换为Int64
c#、.net、type-conversion
我正在尝试将一个双变量转换为一个Int64，并得到一些奇怪的行为。为了测试我的问题，我尝试了以下代码：
double temporary = Int64.MaxValue;
Int64 tem = Convert.ToInt64(temporary);
在将double转换为Int64时，仍然会出现溢出异常。这是个虫子吗？还是有什么我不明白的？
浏览 5提问于2014-07-01得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频活动推荐
腾讯云开发者
