今天，发生一件非常有趣的事情。 公司同事问了我一个问题：为什么 2.0 1.1 = 0.89999999 呢？不应该是 0.9吗？ 原来是，他问了周围一圈的同事，都给他的是同一个回答，说这是精度问题。他百思不得其解，怎么就会产生精度问题呢。再问，就没人知道原因了。 然后，我就看到了他抱着一本厚厚的书 ...
分类：
其他好文 时间：
2019-12-05 21:49:32
阅读次数：
363
问题：后端返回了个Long型的数据，在前端展示时最后2位变为00了 例如返回Long型的数据为75874464836881101，结果接口返回变为75874464836881100了 解决方法： 1、针对单个接口解决该问题 直接将Long型字段换成String类型字符串返回，再获取接口展示数据正确~ ...
分类：
Web程序 时间：
2019-11-23 16:08:06
阅读次数：
123
一、前言 我们在进行php开发的时候经常会遇到浮点型的问题，特别是涉及金额的部分，常常需要进行加减运算。当小数点的位数比较多的时候，往往容易犯一些很低级的错误。这里记录一下php的精度计算和封装的小demo。 二、关于php的高精度问题 1、概念解释 这篇文章的解释最清楚： php高精度计算问题 2 ...
分类：
Web程序 时间：
2019-11-13 14:46:32
阅读次数：
398
错误的方法 浮点数运算的精度问题导致等式左右的结果并不是严格相等，而是相差了个微小的值。 正确的方法 javascript console.log(Math.abs(0.1 + 0.2 0.3) ...
分类：
编程语言 时间：
2019-11-03 11:10:28
阅读次数：
116
https://www.html.cn/archives/7340 解决办法 ...
分类：
Web程序 时间：
2019-11-01 18:06:40
阅读次数：
198
首先考虑暴力维护，显然极端数据就会炸裂，那么用什么来维护呢？ 考虑一个很 NB 的公式log(n*m)=log(n)+log(m) OK ，这道题到此结束 我们只要把乘积转化为对数，最后再还原就可以了，也不用考虑精度问题，本蒟蒻试着用pow，然后它死了。 代码 ...
分类：
其他好文 时间：
2019-10-13 00:30:55
阅读次数：
94
1 0pts 2 10pts 3 100pts 本想装个逼，从后面开始做，确实t3第一个AC，获得了紫色high light,BUT，第二题自己造的极端数据都过了，结果上讲台看，0分！！怎么可能？！检查了一下精度问题，没毛病啊，在最后两分钟发现我把题读错了……我以为必须要是升序的数列……被坑惨了，两 ...
分类：
其他好文 时间：
2019-10-08 15:58:48
阅读次数：
88
https://codeforces.com/contest/1220/problem/A Input 4 ezor Input Output 0 Output https://codeforces.com/contest/1220/problem/B 注意溢出， 精度问题 https://code ...
分类：
其他好文 时间：
2019-10-04 13:37:19
阅读次数：
83
1.1954北京坐标系是参心坐标系，参考椭球是(苏联)克拉索夫斯基椭球。1954北京坐标系的观测不严密，坐标原点在苏联境内，很快暴露出精度问题，现在已基本停用。 2.西安1980坐标系也是参心坐标系，坐标原点在陕西省泾阳县永乐镇。椭球参数是1975国际椭球参数。该椭球精度比克拉索夫斯基椭球精度高很多 ...
分类：
其他好文 时间：
2019-10-03 16:21:34
阅读次数：
100
代码如下：主要是利用java中写好的DecimalFormat类进行设置（#，0，%） 控制台显示如下： ...
分类：
编程语言 时间：
2019-10-01 09:43:50
阅读次数：
107
