码迷,mamicode.com
首页 >  
搜索关键字:小数 浮点数 内存存储 阶码 尾数 指数    ( 17393个结果
sql点滴42—mysql中的数据结构
MySQL 的数值数据类型可以大致划分为两个类别,一个是整数,另一个是浮点数或小数。许多不同的子类型对这些类别中的每一个都是可用的,每个子类型支持不同大小的数据,并且 MySQL 允许我们指定数值字段中的值是否有正负之分或者用零填补。 表列出了各种数值类型以及它们的允许范围和占用的内存空间。类型 ....
分类:数据库   时间:2014-07-03 10:55:23    阅读次数:193
js 保留两位小数
1. 最笨的办法.......function get() { var s = 22.127456 + ""; var str = s.substring(0,s.indexOf(".") + 3); alert(str); }2. 正则 效果不错3. 他就比较聪明了.....4.会用新鲜东西的.....
分类:Web程序   时间:2014-07-03 10:39:46    阅读次数:205
Python数据类型转换
Python数据类型之间的转换函数描述int(x [,base])将x转换为一个整数long(x [,base] )将x转换为一个长整数float(x)将x转换到一个浮点数complex(real [,imag])创建一个复数str(x)将对象 x 转换为字符串repr(x)将对象 x 转换为表达式...
分类:编程语言   时间:2014-07-03 09:48:00    阅读次数:217
斐波拉契数列的快速求法
由斐波拉契数列的公式:f(n)=f(n-1)+f(n-2),如果使用递归方法,非常的简短易懂,但是重复计算太多,时间复杂度成指数形势增长。由矩阵乘法可以得到:又于是有剩下的就是计算矩阵的过程了。
分类:其他好文   时间:2014-07-03 06:09:18    阅读次数:183
python2.7 print函数
1、输出十六进制,十进制,八进制>>> hex = 0xff>>> print 'hex=%x,dec=%d,oct=%o' %(hex,hex,hex)hex=ff,dec=255,oct=3772、输出浮点数>>> import math>>> print '%f' %math.pi3.1415...
分类:编程语言   时间:2014-07-03 00:24:22    阅读次数:263
c语言中long long类型的赋值
long long unsigned int num = 20140701092715;在C语言中编译器会把没有小数的数值常量默认为整形,这条语句编译器会报警告: [root@localhost ~]# gcc -o test 1.c 1.c: In function ‘main’: 1.c...
分类:编程语言   时间:2014-07-01 18:56:09    阅读次数:233
浮点型在内存当中的存储方式
浮点型变量在计算机内存中占用4字节(Byte),即32-bit。遵循IEEE-754格式标准。一个浮点数由2部分组成:底数m 和 指数e。 ±mantissa × 2exponent(注意,公式中的mantissa 和 exponent使用二进制表示)底数部分 使用2进制数来表示此浮点数的实际值。指...
分类:其他好文   时间:2014-07-01 18:26:06    阅读次数:199
C++中出现的计算机术语
access labels(访问标号)  类的成员可以定义为 private,这能够防止使用该类型的代码访问该成员。成员还可以定义为 public,这将使该整个程序中都可访问成员。  address(地址)  一个数字,通过该数字可在存储器上找到一个字节。  arithmetic types(算术类型)  表示数值即整数和浮点数的类型。浮点型值有三种类型:long double 、dou...
分类:编程语言   时间:2014-07-01 15:44:56    阅读次数:277
【hoj】1013just the facts
首先,这个题是要求出给定数字的阶乘结果的倒数第一个不为0 的尾数,这需要我们通过阶乘的性质归纳总结出一定的规律,其次,由于题目要求的数字较大,对于高精度的数据可以适当采用java来求解 原文链接http://blog.csdn.net/rappy/article/details/1903360 首先对数列 d [10] = {1, 1, 2, 3, 4, 1, 6, 7, 8, 9} ...
分类:其他好文   时间:2014-07-01 15:00:55    阅读次数:269
openGL剪裁区
/*** 缓冲区工具类*/public class BufferUtil {/** * 将浮点数组转换成字节缓冲区 */public static ByteBuffer arr2ByteBuffer(float[] arr){ByteBuffer ibb = ByteBuffer.allocateD...
分类:其他好文   时间:2014-07-01 11:43:54    阅读次数:231
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!