相信学过C语言的人对printf这个变量再熟悉只是了,但是有些问题恐怕很不必定说得知道。
最近通过《数值分析》的学习,使得我对数值精度问题有了新的了解,还是那句话数学才是最直截了当的武器,没有数学依据没法停留在表层,难以知其所以然!
让我们说说以下几个案例:
1、
float f = 0.3;
printf("%f",f);
没错这里可以输出:0.300000
这是C语言的默认输出6位,%f的输出让你认为完全没问题,等等,似乎不太对,老师不是说计算机不能精确表示浮点数吗?这里如何能准确表示呢?老师在骗人?
稍等,请看上面的程序段。
2、
float f = 0.3;
printf("%.8f",f);
这里输出的是:0.30000001
终于露出了马脚,果然还是不精确啊,可是为什么是这个结果呢?接着往下看
3、
double f = 0.3;
printf("%.8lf",f);
这里输出的是:0.30000000
好奇怪,这里把float换成了double为什么又是恰当的呢?输出更多的位说说呢?
4、
double f = 0.3;
printf("%.18lf",f);
这里输出的是:0.299999999999999990
这下又重回了不精确的值了,这是为什么呢?
下面就来讲讲这个问题:
我们不妨先把0.3转换成二进制看看是哪个样子的,
推荐一个可以推动多种进制转化的网站:
0.3的二进制结果为:0.0100110011001100110011001100110011001100110011001101
当然远不止这么多位,准确的讲需要是一个无限小数。
根据IEEE754标准 ,对于单精度浮点数来讲,尾数是23位,因此截取23位二进制,当然是从左到右第一个不为0的数字开始,
因此0.3的float 的尾数为:0.010011001100110011001101
注意看此处的最终一位是1,而不是0, 而原始二进制串中是0,这里就运用了四舍五入的方法,回忆一下,在10进制中除了0.57四舍五入保留一位小数的结果是0.6,那就是因为第2位小数是7printf 没有输出,超过了5所以进1位,在二进制中就看下一位是1还是0,如果是1就进位。原始二进制串中的第24位为1,因此进位到23位printf 没有输出,因此23位变为1.
那么我们接下来吧 0.3的float 的尾数即0.010011001100110011001101转换为10进制看看
结果是:0.300000011920928955078125
这就是为什么
printf("%f",f); 可以得到 0.300000
printf("%.8f",f);可以得到 0.30000001
可以再多输出一些位数:
printf("%.15f",f);可以得到0.300000011920929
其实可以发现,这里输出也是四舍五入
将0.300000011920928955078125 保留15位小数得到0.300000011920929
至于第4个双精度输出为什么结果是大于0.3,那是因为它的尾数有52位,因此在截取二进制位的之后,因为53位是0,所以52位数字维持不变,实际上比以前的数要小一些,因为53位之后的数位依然有很多1存在。
那么也有一个疑问,为什么
3、
double f = 0.3;
printf("%.8lf",f);
输出的是:0.30000000
而不是:0.29999999
这里是因为C语言在输出处理的之后,再次使用了四舍五入。这只是为什么我们用%f输出0.3能看到0.30000.
本文来自电脑杂谈,转载请注明本文网址:
https://www.pc-fly.com/a/ruanjian/article-126160-1.html
按国际法