首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >如何四舍五入到某个浮点精度?

如何四舍五入到某个浮点精度?
EN

Stack Overflow用户
提问于 2010-06-07 22:35:20
回答 3查看 8.2K关注 0票数 3

我认为这是一个简单的问题。我想要:

代码语言:javascript
运行
复制
a = 1.154648126486416;

变成:

代码语言:javascript
运行
复制
a = 1.154;

而不是:

代码语言:javascript
运行
复制
a = 1.15000000000;

如何在不使用format('bank')的情况下做到这一点。

EN

回答 3

Stack Overflow用户

发布于 2010-06-07 22:39:26

你可以这样做:

代码语言:javascript
运行
复制
a = floor(a*1000)/1000;
票数 7
EN

Stack Overflow用户

发布于 2010-06-07 22:49:21

基于@gnovice的答案,您可以将输出格式化为字符串,以去掉多余的零。有关所有格式设置选项的信息,请参阅sprintf文档。

代码语言:javascript
运行
复制
str=sprintf('The result is %1.3f.',a);
disp(str)

将显示"The result is 1.154“。在命令提示符下。或者将字符串写入文件,等等。

票数 2
EN

Stack Overflow用户

发布于 2015-02-04 10:12:57

代码语言:javascript
运行
复制
a = 1.154648126486416;
% desired precision 
b = -3;
% your answer
ans = floor(a*10^(-b))/(10^(-b));

答案是1.1540

如果你不关心其余的数字,这是很好的,但如果你真的关心,那么你只需简单地将"floor“改为"round”。

代码语言:javascript
运行
复制
ans = round(a*10^(-b))/(10^(-b));

答案是1.1550

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/2990408

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档