printf输出浮点数的问题

电脑杂谈  发布时间:2019-10-13 10:02:53  来源:网络整理

相信学过C语言的人对printf这个变量再熟悉只是了,但是有些问题恐怕很不必定说得知道。

最近通过《数值分析》的学习,使得我对数值精度问题有了新的了解,还是那句话数学才是最直截了当的武器,没有数学依据没法停留在表层,难以知其所以然!

让我们说说以下几个案例:

1、

float f = 0.3;

printf("%f",f);

没错这里可以输出:0.300000

这是C语言的默认输出6位,%f的输出让你认为完全没问题,等等,似乎不太对,老师不是说计算机不能精确表示浮点数吗?这里如何能准确表示呢?老师在骗人?

稍等,请看上面的程序段。

2、

float f = 0.3;

printf("%.8f",f);

这里输出的是:0.30000001

终于露出了马脚,果然还是不精确啊,可是为什么是这个结果呢?接着往下看

3、

double f = 0.3;

printf("%.8lf",f);

这里输出的是:0.30000000

好奇怪,这里把float换成了double为什么又是恰当的呢?输出更多的位说说呢?

4、

double f = 0.3;

printf("%.18lf",f);

这里输出的是:0.299999999999999990

这下又重回了不精确的值了,这是为什么呢?

下面就来讲讲这个问题:

我们不妨先把0.3转换成二进制看看是哪个样子的,

推荐一个可以推动多种进制转化的网站:

0.3的二进制结果为:0.0100110011001100110011001100110011001100110011001101

当然远不止这么多位,准确的讲需要是一个无限小数。

根据IEEE754标准 ,对于单精度浮点数来讲,尾数是23位,因此截取23位二进制,当然是从左到右第一个不为0的数字开始,

因此0.3的float 的尾数为:0.010011001100110011001101

注意看此处的最终一位是1,而不是0, 而原始二进制串中是0,这里就运用了四舍五入的方法,回忆一下,在10进制中除了0.57四舍五入保留一位小数的结果是0.6,那就是因为第2位小数是7printf 没有输出,超过了5所以进1位,在二进制中就看下一位是1还是0,如果是1就进位。原始二进制串中的第24位为1,因此进位到23位printf 没有输出,因此23位变为1.

那么我们接下来吧 0.3的float 的尾数即0.010011001100110011001101转换为10进制看看

结果是:0.300000011920928955078125

这就是为什么

printf("%f",f); 可以得到 0.300000

printf("%.8f",f);可以得到 0.30000001

可以再多输出一些位数:

printf("%.15f",f);可以得到0.300000011920929

其实可以发现,这里输出也是四舍五入

将0.300000011920928955078125 保留15位小数得到0.300000011920929

至于第4个双精度输出为什么结果是大于0.3,那是因为它的尾数有52位,因此在截取二进制位的之后,因为53位是0,所以52位数字维持不变,实际上比以前的数要小一些,因为53位之后的数位依然有很多1存在。

那么也有一个疑问,为什么

3、

double f = 0.3;

printf("%.8lf",f);

输出的是:0.30000000

而不是:0.29999999

这里是因为C语言在输出处理的之后,再次使用了四舍五入。这只是为什么我们用%f输出0.3能看到0.30000.


本文来自电脑杂谈,转载请注明本文网址:
https://www.pc-fly.com/a/ruanjian/article-126160-1.html

    相关阅读
      发表评论  请自觉遵守互联网相关的政策法规,严禁发布、暴力、反动的言论

      热点图片
      拼命载入中...