您的位置 首页 资料

labview的深化探究—-双精度数精度问题

日前帮朋友看一个程序,一个WHILE循环,退出条件是等于一个双精度数,结果程序未按照预想条件退出,由此想到了双精度数的精度问题。计算机

日前帮朋友看一个程序,一个WHILE循环,退出条件是等于一个双精度数,成果程序未依照料想条件退出,由此想到了双精度数的精度问题

计算机中的双精度数都存在精度丢失的问题,因而一般不宜用持平进行判别。

能够看出,0.8+(0.42-0.5)!=0而下面(0.08+0.42)-0.5 =0
上面!=0可是+1后却等于1。

双精度浮点数确实不适合用持平来判别。

声明:本文内容来自网络转载或用户投稿,文章版权归原作者和原出处所有。文中观点,不代表本站立场。若有侵权请联系本站删除(kf@86ic.com)https://www.86ic.net/ziliao/211551.html

为您推荐

联系我们

联系我们

在线咨询: QQ交谈

邮箱: kf@86ic.com

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

返回顶部