1.1 数据类型 Java中的数据类型分为基本数据类型和引用数据类型两种。关于引用类型，我们在后面的学习中会逐渐理解的，这里不再赘述，重点介绍基本数据类型。在Java中有8种基本数据类型来存储数值、字符和布尔值，如图4.1所示。 图4.1 Java数据类型 1.3.1 整数类型 整数类型用来存储整数 ...
分类：
编程语言 时间：
2018-01-26 21:03:09
阅读次数：
220
问题描述：我们都知道对于涉及钱的数据必须使用BigDecimal类型进行存储，今天在查询mongo时仍然有精度问题，虽然我在代码中使用了Big Decimal类型，但mongo中使用的是double类型。我初步推断是mongoTemplate在类型转换时出现了问题，根源还是因为mongodb中使用了 ...
分类：
数据库 时间：
2018-01-26 20:54:10
阅读次数：
394
此文解释了为何float的范围比int大（同样4字节），但有些int是float无法正确表达的（精度丢失） java中的float和double的精度问题 1、背景知识 在java中没有细讲，只是讲了float占32位（bit），double占 64位。 对于计算机来说，用位数表示是合适的。但有人喜 ...
分类：
编程语言 时间：
2018-01-11 16:01:53
阅读次数：
125
# 听说你的模型损失是NaN 有时候，模型跑着跑着，损失就莫名变NaN了。不过，经验告诉我们，大部分NaN主要是因为除数是0或者传给log的数值不大于0。下面说说是log出NaN的几种常见解决方法。 毕竟， 计算机的是无法表示所有实数的，尽管有些函数得出的结果只能无限近似0，但是由于计算机精度问题， ...
分类：
其他好文 时间：
2017-12-22 23:55:41
阅读次数：
125
听说你的模型损失是NaN 有时候，模型跑着跑着，损失就莫名变NaN了。不过，经验告诉我们，大部分NaN主要是因为除数是0或者传给log的数值不大于0。下面说说是log出NaN的几种常见解决方法。 毕竟， 计算机的是无法表示所有实数的，尽管有些函数得出的结果只能无限近似0，但是由于计算机精度问题，最后 ...
分类：
其他好文 时间：
2017-12-22 23:54:15
阅读次数：
217
当使用double进行商业运算时，double计算会丢失精度。可以使用BigDecimal进行计算。 [java] view plain copy print?import java.math.BigDecimal; import org.junit.Tes ...
分类：
编程语言 时间：
2017-12-20 13:31:26
阅读次数：
146
问题描述 在JS计算四则运算时会遇到精度丢失的问题，会引起诸多问题，看看以下例子： 例如：在chrome控制台输入 0.1 + 0.7 输出结果是 0.7999999999999999 例如：0.1+0.2 输出结果：0.30000000000000004 例如：0.1277 10000000000 ...
分类：
Web程序 时间：
2017-12-04 00:02:23
阅读次数：
249
转自：http://superivan.iteye.com/blog/963628 [1] 精确的浮点运算： 在Java里面，有时候为了保证数值的准确性需要精确的数据，先提供一个例子就可以发现问题了： 按照我们的期待，上边应该是什么结果呢，但是看输出我们就会发现问题了： 这样的话这个问题就相对严重了 ...
分类：
其他好文 时间：
2017-12-03 14:42:18
阅读次数：
179
%g用于打印浮点型数据时，会去掉多余的零，至多保留六位有效数字（不同于%e的默认保留小数点后6位） 当%g用于打印超过6位的浮点型数据时，因为精度问题，%f不得不输出一个不精确的超过六位的数字，%e也是同样，而%g此时会选择%e格式进行输出，并且按第一条要求，去掉多余的零，并且四舍五入到6位数字。这 ...
分类：
其他好文 时间：
2017-12-03 00:40:45
阅读次数：
258
球的半径和体积 题目描述 输入球的中心点和球上某一点的坐标，计算球的半径和体积 输入描述: 球的中心点和球上某一点的坐标，以如下形式输入：x0 y0 z0 x1 y1 z1 输出描述: 输入可能有多组，对于每组输入，输出球的半径和体积，并且结果保留三位小数为避免精度问题，PI值请使用arccos(- ...
分类：
其他好文 时间：
2017-11-28 01:22:15
阅读次数：
96
