码迷,mamicode.com
首页 >  
搜索关键字:小数 浮点数 内存存储 阶码 尾数 指数    ( 17393个结果
MVC 4中的前端渲染 @Helper指令
如果我们需要在一个页面或多个页面显示如人民币格式(后台传回来的无¥)¥的格式化、或是对后台数据作如保留小数个数等处理,这些东西经常要用到,特别是一些NULL值的处理,有可能会出错。这时我们可以通过创建 一个.csHtml文件(当然你也可以以把方法写在要用的当前页面中),封装一个方法,直接在各个用到的...
分类:Web程序   时间:2014-07-12 00:55:32    阅读次数:229
关于Currency类型和 TCurrencyFiled的悲剧
这2天程序出问题, 用户结算金额经常莫名其妙的多出了小数点后几位, 不用思考 肯定是因为浮点精度不准确的问题查了一下, 程序中的数据类型使用的是Currency, 按照数据类型的描述, 这个金额类型应该是以实数形式存储的, 完全不会出现精度不准确的问题, 那为什么现实中还是会有莫名其妙的小数出现呢继...
分类:其他好文   时间:2014-07-11 11:11:33    阅读次数:216
matlab 基本变量和函数
Matlab预定义变量预定义变量功能描述pi圆周率,精确至小数点后15位i,j虚数inf,Inf无穷大nan,NaN非数值数据,如0/0clock时钟date日期eps计算机能区分两个数据之间的最下误差ans默认保存结果的变量(若没指定赋值变量)format格式设置格式效果short4位小数long...
分类:其他好文   时间:2014-07-11 10:02:19    阅读次数:185
【剑指offer】旋转数组的最小数字
题目描述:             把一个数组最开始的若干个元素搬到数组的末尾,称之为数组的旋转。输入一个递增排序的数组的一个旋转,输出旋转数组的最小元素。例如数组{3,4,5,1,2}为{1,2,3,4,5}的一个旋转,该数组的最小值为1。 分析描述:        求一个数组中的最小值,最简单的办法就是逐个比较数组中各个元素的值,遍历完整个数组,即可得数组中最小元素。但...
分类:其他好文   时间:2014-07-11 08:27:37    阅读次数:206
mysql分表方法-----MRG_MyISAM引擎分表法
一般来说,当我们的数据库的数据超过了100w记录的时候就应该考虑分表或者分区了,这次我来详细说说分表的一些方法。目前我所知道的方法都是MYISAM的,INNODB如何做分表并且保留事务和外键,我还不是很了解。 首先,我们需要想好到底分多少个表,前提当然是满足应用。这里我使用了一个比较简单的分表方法,就是根据自增id的尾数来分,也就是说分0-9一共10个表,其取值也很好做,就是对10进行取模。...
分类:数据库   时间:2014-07-11 00:09:28    阅读次数:357
大端小端格式详解
1. 什么是大端,什么是小端: 所谓的大端模式,是指数据的低位保存在内存的高地址中,而数据的高位,保存在内存的低地址中; 所谓的小端模式,是指数据的低位保存在内存的低地址中,而数据的高位保存在内存的高地址中。 2.为什么会有大小端: 为什么会有大小端模式之分呢?这是因为在计算机系统中,我们是以字节为单位的,每个地址单元都对应着一个字节,一个字节为8bit。但是在C语言中除了8bit的cha...
分类:其他好文   时间:2014-07-10 23:14:54    阅读次数:173
POJ 2823 Sliding Window 单调队列题解
本题是单调队列题解的入门,当然也可以使用RMQ 和 线段树,不过速度都没有单调队列那么快。 单调队列难点: 1 如何入列,保存数据 -- 最小单调队列的时候, 所有数都入列一次,在新的数据准备入列的时候,增加判断,如果当前数值小于队尾数值,那么队尾数值就出列。空队列的时候直接入列。 2 保存的数列是什么样的? 举例吧: 1 3 -1 -3 5 3 6 7 构建最小单调队列 第一个数值1...
分类:Windows程序   时间:2014-07-10 20:42:58    阅读次数:281
常用正则表达式
"^\d+$" //非负整数(正整数 + 0)"^[0-9]*[1-9][0-9]*$" //正整数"^((-\d+)|(0+))$" //非正整数(负整数 + 0)"^-[0-9]*[1-9][0-9]*$" //负整数"^-?\d+$" //整数"^\d+(\.\d+)?$" //非负浮点数(正...
分类:其他好文   时间:2014-07-09 14:06:46    阅读次数:263
华为测试 求小球落地5次后所经历的路程和第5次反弹的高度
假设一个球从任意高度自由落下,每次落地后反跳回原高度的一半; 再落下, 求它在第5次落地时,共经历多少米?第5次反弹多高? 输入起始高度,int型 分别输出第5次落地时,共经过多少米第5次反弹多高 【去掉小数末尾无效的0】 样例输入:1 样例输出:2.875                     0.03125 #include using namespace std; d...
分类:其他好文   时间:2014-07-09 12:44:34    阅读次数:344
Java导出防止小数显示不全工具类
1、说明      在做项目的过程中,发现导出功能中的数据显示不全,如“0.4”,会显示成“.4”;“-0.8”会显示成“-.8”      现在,通过以下Java工具类保证导出的数据(特别是小数)显示全 2、Java工具类 /** * @Title:DecimalPoint.java * @Package:com.you.model * @Description:解决导出时...
分类:编程语言   时间:2014-07-09 09:49:04    阅读次数:164
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!