最近在做项目中发现一个Bug,直接把进程搞死,查了一下,居然是一个最不起眼的地方导致的,在此记录一下。先看下面代码#include #include using namespace std;int main(){ char aa[1024] = {0}; float f = 50.123...
分类:
其他好文 时间:
2014-07-06 18:14:13
阅读次数:
188
public static double Round( double
value,//要舍入的双精度浮点数。 int
digits//返回值中的小数数字。)将双精度浮点值按指定的小数位数舍入。说明:由于用十进制数表示浮点数或对浮点数进行算术运算可能导致的误差,在某些情况下,Round(Double,...
分类:
其他好文 时间:
2014-06-29 14:30:54
阅读次数:
222
1 SELECT 2 col.name AS 列名, 3 typ.name as 数据类型, 4 col.max_length AS 占用字节数, 5 col.precision AS 数字长度, 6 col.scale AS 小数位数, 7 col.is_nu...
分类:
数据库 时间:
2014-06-27 16:39:34
阅读次数:
291
浮点数说明:小数点左边,能大到多少?小数点右边,又能大到多少?小数型float(M),decimal(M,D)M叫“精度”---->代表总位数(不包含点),而D是标度,代表小数位(小数右边的位数)例:float(6,2)------>-999999.99到9999.99在该例子中6是M(精度)2是D(标度)mysql>..
分类:
其他好文 时间:
2014-06-16 16:43:09
阅读次数:
184
关于处理小数点位数的几个oracle函数()1. 取四舍五入的几位小数select
round(1.2345, 3) from dual;结果:1.2352. 保留两位小数,只舍select trunc(1.2345, 2) from
dual;结果:1.23select trunc(1.2399,...
分类:
数据库 时间:
2014-06-12 23:19:06
阅读次数:
324
parseInt,parseFloat,parseDouble在JS中是将值转换成相应的类型;alert(parseFloat(12.44644).toFixed(2));
分类:
Web程序 时间:
2014-06-12 21:21:22
阅读次数:
225
第3个版本用浮点数计算平均值,并且添加了小数位固定和强制类型转换3个文件GradeBook.h//
GradeBook.h// Definition of class GradeBook that determines a class average.//
Member functions are ...
分类:
其他好文 时间:
2014-06-01 11:34:10
阅读次数:
340
SQL Server 数据类型映射.NET Framework 4.5SQL Server 和
.NET Framework 基于不同的类型系统。例如,.NET FrameworkDecimal结构的最大小数位数为 28,而 SQL Server 的
decimal 和 numeric 数据类型的最...
分类:
数据库 时间:
2014-05-31 04:19:47
阅读次数:
388
Format属性:日期:输入d(表示简易日期)。2007/5/1 0:00:00 输入d之后 变成
2007/5/1 金额:输入C0(表示货币),系统会根据设定值产生对应的货币符号,至于0则表示保留小数0位。36,216 输入C0之后变成
数量:输入N0,表示呈现数...
分类:
数据库 时间:
2014-05-26 01:29:24
阅读次数:
304
算术运算符+ - * /(除)
%(取余)除法运算的结果与运算对象有关,两个数都为int,则商也是int;被除数和除数只要有一个含小数位,结果就为小数。取余的运算对象必须为整数,余数的符号与被除数相同。
13%-3==1 -13%3==-1关系运算符> >= < <= !=(不等于) ==(等于)逻...
分类:
编程语言 时间:
2014-05-25 03:51:31
阅读次数:
219