日前帮朋友看一个程序,一个WHILE循环,退出条件是等于一个双精度数,成果程序未依照料想条件退出,由此想到了双精度数的精度问题。
计算机中的双精度数都存在精度丢失的问题,因而一般不宜用持平进行判别。
能够看出,0.8+(0.42-0.5)!=0而下面(0.08+0.42)-0.5 =0
上面!=0可是+1后却等于1。
双精度浮点数确实不适合用持平来判别。
日前帮朋友看一个程序,一个WHILE循环,退出条件是等于一个双精度数,结果程序未按照预想条件退出,由此想到了双精度数的精度问题。计算机
日前帮朋友看一个程序,一个WHILE循环,退出条件是等于一个双精度数,成果程序未依照料想条件退出,由此想到了双精度数的精度问题。
计算机中的双精度数都存在精度丢失的问题,因而一般不宜用持平进行判别。
能够看出,0.8+(0.42-0.5)!=0而下面(0.08+0.42)-0.5 =0
上面!=0可是+1后却等于1。
双精度浮点数确实不适合用持平来判别。