前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >关于0xFFFFFFFF和alpha,温故而知新

关于0xFFFFFFFF和alpha,温故而知新

作者头像
用户1258909
发布2018-07-03 14:32:07
3080
发布2018-07-03 14:32:07
举报
文章被收录于专栏:拂晓风起拂晓风起

做图像处理都好多年了,今天随手做个小画板的时候,发现一个挺有趣的小坑。而其实这个小坑,以前也坑过自己,不过太久没处理了,又踩到坑里了。

先来看看:0xFFFFFFFF>>24

这个结果是什么呢?是不是妥妥的,0x000000FF?也就是要拿到的alpha?

实际不然,而且这个也并不是什么bug,或者编译器的漏洞。实际上,这个结果是0xFFFFFFFF,console.log/trace出来,就是一个-1。

纠结吧?怎么就变了负数?

上次中坑,没理解清楚,简单理解是编译器变量高位溢出了。因为在C++中做这个操作,是没问题的,当时就没有太多注意这个问题。结果用了一个旁门左道去解决:0xFFFFFFFF/2>>23

现在回头想想,都觉得可笑,这样的小把戏太幼稚,too naive!

今天又遇到了这个问题,而且大脑断片了,很久都没想起来原来已经中过坑,不过也好,倒是认真的深究了一下这个小问题。

其实,还是怪自己把计算机原理忘掉了,这就是平时工作眼高手低的结果。

因为flash和js中,0xFFFFFFFF其实是一个uint,用补码表示,都是1,而右移位操作中,会按照原来最高位进行补位,例如原来是0就补0,原来是1就补1。

这样就好理解了,uint存储0xFFFFFFFF,那么最高位就是1,所以,无论怎么移位,还是全1,打印出来,当然就是-1。

那么,回到纸面上来,回到上层语言中,怎么做这个呢?小把戏就一边玩儿去吧。

逼格高点,应该是:

(0xFFFFFFFF>>24)&0x000000FF

当然,这里0xFFFFFFFF实际上是一个变量。

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2015-05-30 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
图像处理
图像处理基于腾讯云深度学习等人工智能技术,提供综合性的图像优化处理服务,包括图像质量评估、图像清晰度增强、图像智能裁剪等。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档