码迷,mamicode.com
首页 > 其他好文 > 详细

浮点类型

时间:2015-04-08 12:57:53      阅读:196      评论:0      收藏:0      [点我收藏+]

标签:

技术分享

浮点运算:

浮点运算就是实数运算,由于计算机只能存储整数,所以实数都是约数,这样浮点运算很慢而且会有误差

技术分享

计算结果后面多了一个1,这个1是运算的误差,这就表明2.6保存在内存中是以约数形式来保存,是有一定误差,在数值运算中最好用整型运算

 

技术分享

 

浮点类型

标签:

原文地址:http://www.cnblogs.com/sflik/p/4401875.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!