零 | 序 前几天在找一个代码问题时，苦思不得其解，简直要怀疑人生。查看各种参数，输入输出，都符合条件，最后各种排除法之后，定位到一段简单的代码，简化后大致如下： 原代码中本来预想c应该会等于3230，可是最后的结果却是3229！！！ 第一反应就觉得应该是浮点数精度问题，但是怎么条理清晰地向别人解释 ...
分类：
其他好文 时间：
2018-08-05 14:31:13
阅读次数：
154
1. 适用范围??? SylixOS下实现高精度定时器和普通定时器功能，本文档介绍普通定时器的精度问题，适用于SylixOS开发工程师，使用者应具备SylixOS基础知识以及基本编程能力。2. 实现原理??? SylixOS下在应用层创建定时器时系统会申请定时器控制块，在启动定时器时将定时器控制块加入到全局扫描链表中，由内核线程负责循环扫
分类：
其他好文 时间：
2018-08-01 15:21:08
阅读次数：
146
这个题困扰了我长达1年多，终于在今天下午用两个小时理清楚啦 要注意的有以下几点： 1.a=b=c=0时 因为x有无穷种答案，所以不对 2.注意精度问题 3.b^2-4ac<0时也算对 Problem Description With given integers a,b,c, you are ask ...
分类：
其他好文 时间：
2018-07-24 18:01:34
阅读次数：
149
当我们遇到long不行的时候就要考虑这个BinInteger了，因为这是只要你内存够大，就能输入很大的数，用这个处理高精度问题，是很容易的一件事，对于我这刚学java的萌新来说，长见识了，确实比C方便 BigInteger 任意大的整数，原则上是，只要你的计算机的内存足够大，可以有无限位的 强制类型 ...
分类：
编程语言 时间：
2018-07-18 14:15:35
阅读次数：
128
BigDecimal除法的精度问题 在使用BigDecimal的除法时，遇到一个鬼畜的问题，本以为的精度计算，结果使用返回0，当然最终发现还是自己的使用姿势不对导致的，因此记录一下，避免后面重蹈覆辙 <! more I. 问题抛出 在使用BigDecimal做高精度的除法时，一不注意遇到了一个小问题 ...
分类：
其他好文 时间：
2018-07-06 20:21:44
阅读次数：
201
基础数据类型 大家都知道，Java中表示小数的基本类型有float, double， 如果你想计算0.3 - 0.1，很遗憾答案并不是0.2，有些人会说，用BigDecimal就可以啦，float和double就是会存在精度问题的。本文想探究一下，为什么， 为什么会无法得到正确答案。 先讲一些题外话 ...
分类：
其他好文 时间：
2018-07-01 13:03:54
阅读次数：
147
1.判断当前控制器是否在显示： 2.解决白屏问题： 其实白屏问题还是控制器的跳转问题。 3.数据转模型： 注意数据模型的类型，否则不能正确转换。 4.NSNumber 与 NSString 转换精度问题： https://www.aliyun.com/jiaocheng/400490.html 5. ...
分类：
编程语言 时间：
2018-06-21 20:16:28
阅读次数：
153
浮点型 Name CTS Type Description Significant Figures Range (approximate) float System.Single 32-bit single-precision floating point 7 ±1.5 × 10?45 to ±3. ...
js在数字计算加、减、除法时，因为IEEE 754会有精度丢失，完善一下，需要用到哪个，只要mul和你用到的函数就OK ...
分类：
Web程序 时间：
2018-06-12 14:09:10
阅读次数：
212
https://www.nowcoder.com/acm/contest/127/E 一道很简单的期望题，已知概率p求期望 显然期望为1/p 但在精度处理上就有点麻烦了，题目要求答案以最简分数的形式输出，误差要小于1e-6 但我一开始错误的使用了除法运算求1/p，再求（1/p*1e6)/1e6的最简 ...
分类：
其他好文 时间：
2018-06-03 16:22:26
阅读次数：
132
