题意：求n阶乘的位数。解法：斯特林公式，，然后取log10就是位数了，因为精度问题需要化简这个式子，特判1。代码：#include#include#include#include#include#include#include#include#include#include#include#incl...
分类：
其他好文 时间：
2015-09-30 16:27:40
阅读次数：
153
无需修改实体和配置，在MySql中使用和SqlServer一致的并发控制。修改RowVersion类型不可取，修改为Timestamp更不可行。Sql Server的RowVersion生成一串唯一的二进制保证Row的版本，无关TimeStamp，更无论TimeStamp的精度问题。使用MySql触...
分类：
数据库 时间：
2015-09-29 20:25:27
阅读次数：
401
Java浮点数类型就是Java中的小数类型（在内存中是2进制小数）精度问题：就是小数点后面的位数后缀doubledorDfloatforFdouble64位，float32位double的精度是float的两倍默认类型：double类型计算有误差有舍入，不能进行精确计算packageday03;
publicclassDemo01{
publicstaticv..
分类：
编程语言 时间：
2015-09-26 18:47:00
阅读次数：
229
double?d=100*1.005; 结果d的结果为100.49999999999999 怎么解决这种问题呢，用DecimalFormat,它对double类型的进行四舍五入处理用法如下： DecimalFormat?df=new?DecimalFormat（pattern）...
分类：
编程语言 时间：
2015-08-28 13:41:30
阅读次数：
155
double?d=100*1.005; 结果d的结果为100.49999999999999 怎么解决这种问题呢，用DecimalFormat,它对double类型的进行四舍五入处理用法如下： DecimalFormat?df=new?DecimalFormat（pattern）...
分类：
编程语言 时间：
2015-08-28 11:18:18
阅读次数：
169
题意很好理解的贪心题，然而却卡疯了的精度坑。再次理解一下double小数运算时可能导致的精度问题，本题为避免该问题可以将小数乘以100化为整数进行比较，输出的时候再除以100就ok；思路也很好想，数据也不大，直接贴代码吧。 1 #include 2 #include 3 #include ...
分类：
其他好文 时间：
2015-08-27 20:54:52
阅读次数：
176
JavaScript小数在做四则运算时，精度会丢失，这会在项目中引起诸多不便，先请看下面脚本。 1 //加减 2 9 16 [code] 17 按正常计算的话，除第一行外(因为其本身就不能除尽)，其他都应该要得到精确的结果，从弹出的结果我们却发现不是我们想要的正确结果。为了解决浮点数...
分类：
编程语言 时间：
2015-08-19 12:36:08
阅读次数：
157
1.创建
1）可以通过赋值创建
2）可以通过浮点数字符串创建
3.通过分数，可以比较精确的表现某些数值，而不是由于浮点数的精度问题，而造成结果的差异...
分类：
编程语言 时间：
2015-08-19 09:29:22
阅读次数：
161
由于java里面有一些东西比c/c++方便（尤其是大数据高精度问题，备受广大ACMer欢迎），所以就可以灵活运用这三种来实现编程，下面是我自己在各种大牛那里总结了一些，同时加上自己平时遇到的一些java上面的东西，像结构体排序什么的都有添加进去，博客一直会在更新，对初学者还是有一些帮助的，大牛们就....
分类：
编程语言 时间：
2015-08-14 18:53:40
阅读次数：
149
最近工作中经常遇到需要处理浮点型计算的问题，开始一直都在用把浮点数先乘以10的对应小数的位数的次方化成整数再去开始计算。例如100.01+100.02，可以化成（100.01*100+100.02*100）/100来做计算，但是最近发一个浮点数乘以一个10的次方也会有精度问题发生，突然感觉前面的工作...
分类：
Web程序 时间：
2015-08-10 01:39:52
阅读次数：
161
