1.java.math.BigDecimal(处理计算机精度问题，计算机处理的结果往往跟人类十进制的规范结果不同，会有点损失) 2.举例 3.BigDecimal.valueOf()（一般是将字符串传入构造方法中创建一个BigDecial对象，但是如果想传入一个变量，使之变得更灵活，就用这个方法创建 ...
分类：
其他好文 时间：
2017-09-28 13:10:01
阅读次数：
161
乘法逆元及其求法 1.乘法逆元定义：在wiki中也叫倒数，当然是% p 后的，其实就是倒数。如果ax≡1(mod p),且gcd（a，p）=1（a与p互质），则称a关于模p的乘法逆元为x。 在求解除法取模问题(a/b)%m时，我们可以转化为(a%(b?m))/b， 但是如果b很大，则会出现爆精度问题 ...
分类：
其他好文 时间：
2017-09-17 11:37:10
阅读次数：
198
1. php的一个精度问题，具体什么精度自己查。 2017.000000000001=2017 2016.999999999999=2017 直接拿谷歌浏览器访问那个链接就可以拿到flag 2. 访问admin.php，在admin页面里一个js里面发现信息。 然后如下访问就行了，那个key的值即使 ...
分类：
Web程序 时间：
2017-09-16 23:13:45
阅读次数：
262
java有8中数据类型： 关于float和double的范围和精度问题可以参看这篇文章以及这篇文章 为什么boolean的长度既可以是1字节也可以是4字节呢？ 理由来源是《Java虚拟机规范》一书中的描述：“虽然定义了boolean这种数据类型，但是只对它提供了非常有限的支持。在Java虚拟机中没有 ...
分类：
编程语言 时间：
2017-09-14 21:53:32
阅读次数：
274
一道很水的题目，一开始用Set做。莫名其妙WA了，后来想了想。精度问题很关键！！！ Set AC写法 #include <cstdio> #include <algorithm> #include <set> using namespace std; int n,tot; double x[233] ...
分类：
其他好文 时间：
2017-09-08 20:33:55
阅读次数：
120
POJ 1064 题意 有N条绳子，它们长度分别为Li。如果从它们中切割出K条长度相同的绳子的话，这K条绳子每条最长能有多长？答案保留小数点后2位。 思路 二分搜索。这里要注意精度问题，代码中有详细说明；还有printf的%.2f会四舍五入的，需要*100再取整以截取小数点后两位。 #include... ...
分类：
其他好文 时间：
2017-09-08 18:11:45
阅读次数：
229
BigDecimal bignum1 = new BigDecimal("10"); BigDecimal bignum2 = new BigDecimal("5"); BigDecimal bignum3 = null; //加法 bignum3 = bignum1.add(bignum2); S ...
分类：
其他好文 时间：
2017-09-08 13:30:27
阅读次数：
164
POJ 1064 题意 有N条绳子，它们长度分别为Li。如果从它们中切割出K条长度相同的绳子的话，这K条绳子每条最长能有多长？答案保留小数点后2位。 思路 二分搜索。这里要注意精度问题，代码中有详细说明；还有printf的%.2f会四舍五入的，需要*100再取整以截取小数点后两位。 #include... ...
分类：
其他好文 时间：
2017-09-06 23:54:02
阅读次数：
256
要说清楚Java浮点数的取值范围与其精度，必须先了解浮点数的表示方法与浮点数的结构组成。因为机器只认识01，你想表示小数，你要机器认识小数点这个东西，必须采用某种方法。比如，简单点的，float四个字节，前两个字节表示整数位，后两个字节表示小数位（这就是一种规则标准），这样就组成一个浮点数。而Jav... ...
分类：
编程语言 时间：
2017-08-29 17:16:15
阅读次数：
245
都是精度问题，移动平台开发针对大量性能不一的GPU。各种无法预料的问题。 UV动画出现卡顿，解决方案，限制UV的范围。只能缓解。 涉及到_Time的使用时，很大几率会出现问题。不管是使用_Time进行UV顶点，还是顶点动画，在一些移动设备尤其是旧的移动设备上，shader mode 2.0，frag ...
分类：
移动开发 时间：
2017-08-17 14:31:21
阅读次数：
254
