1.bc常用计算工具，而且支持浮点运算：[root@web01shell]#echo1+1|bc2浮点数精度问题未解决[root@web01shell]#echo"1.2*1.2"|bc1.4[root@web01shell]#echo"scale=2;1.2*1.2"|bc1.44[root@web01shell]#echo"5.0/3.0"|bc1[root@web01shell]#echo"scale=2;5.0/6.0"|bc.832.expr不..
分类：
系统相关 时间：
2017-07-31 14:35:14
阅读次数：
145
在工作中遇到，一个多表联合查询的情况，查询出来的有些字段精度太高，小数点后达到8个0，现在客户要求报表只要精确到0.01 ，就是只要小数点后面只要保存两位，另外还需要四舍五入 在网上找了点资料，自己测试了下，下面给大家分享下： 创建一个测试表 USE test CREATE TABLE studen ...
分类：
数据库 时间：
2017-07-27 15:43:01
阅读次数：
162
JavaScript 浮点数及运算精度调整总结 JavaScript 只有一种数字类型 Number，而且在Javascript中所有的数字都是以IEEE-754标准格式表示的。浮点数的精度问题不是JavaScript特有的，因为有些小数以二进制表示位数是无穷的。 作者：来源：theWalker|2 ...
分类：
编程语言 时间：
2017-07-19 20:24:08
阅读次数：
206
问题： 用xgboost/gbdt在在调参的时候把树的最大深度调成6就有很高的精度了。但是用DecisionTree/RandomForest的时候需要把树的深度调到15或更高。用RandomForest所需要的树的深度和DecisionTree一样我能理解，因为它是用bagging的方法把Deci ...
分类：
其他好文 时间：
2017-07-16 18:20:18
阅读次数：
293
IEEE 754 浮点数的表示精度探讨 前言 从网上看到不少程序猿对浮点数精度问题有非常多疑问，在论坛上发贴询问。非常多热心人给予了解答，但我发现一些解答中有些许小的错误和认识不当之处。我以前做过数值算法程序，尽管基本可用，可是被浮点数精度问题所困扰；事情过后，我花了一点时间搜集资料，并细致研究。有 ...
分类：
其他好文 时间：
2017-07-16 16:40:57
阅读次数：
182
以解析解的形式求一元二次方程、一元三次方程、一元四次方程的所有实数根。一元三次方程采用盛金公式，一元四次方程采用费拉里法。考虑浮点计算精度问题，计算结果更加准确可靠。 ...
分类：
编程语言 时间：
2017-07-10 13:27:35
阅读次数：
276
转自：北岛知寒 计算几何头疼的地方一般在于代码量大和精度问题，代码量问题只要平时注意积累模板一般就不成问题了。精度问题则不好说，有时候一个精度问题就可能成为一道题的瓶颈，简直“画龙点睛”。这些年的题目基本是朝着越来越不卡精度的方向发展了，但是也不乏一些奇怪的题，另外有些常识不管题目卡不卡，都是应该知 ...
分类：
其他好文 时间：
2017-07-07 23:37:15
阅读次数：
298
一个上午，写了4道概率dp（全英文，我竟然发现自己完全能懂），感觉只要把状态抓好，还是挺简单的吧，dp题就是这样，完全不用担心超时。 经过每一道题这么调试的辛苦之后，总结出一个经验，就是，概率dp一定要注意精度问题。（但也不能开太大，我有一道题就是开了long double 然后就调了半天。 第一题 ...
分类：
其他好文 时间：
2017-06-20 12:33:50
阅读次数：
161
// BigDecimal是处理double精度问题的对象 BigDecimal b1 = new BigDecimal("10"); BigDecimal b2 = new BigDecimal("10"); // 结果 BigDecimal result = null; // 加 result ...
分类：
其他好文 时间：
2017-06-12 20:35:25
阅读次数：
109
c++实习高精度加法 最近遇到一个c++实现高精度加法的问题，高精度问题往往十复杂但发现其中的规律后发现并没有那么复杂，这里我实现了一个整数的高精度加法，主要需要注意以下几点： 1：将所需输入的数据以字符数组的形式输入，建立字符数组，建立相应的整数数组，然后一一映射，以此来实现数据的输入，需要注意的 ...
分类：
编程语言 时间：
2017-05-29 11:06:33
阅读次数：
239
