码迷,mamicode.com
首页 > 其他好文 > 详细

数值存储

时间:2016-10-30 16:26:43      阅读:251      评论:0      收藏:0      [点我收藏+]

标签:数位   log   符号位   images   div   数值   精度   sig   sem   

  以补码存储

 

  十进制&二进制转换,表格法

如,123D -> 01111011B

技术分享 

 

  单精度浮点存储  

  符号位(1 Sign):0正,1负;

  指数位(8 Exponent):需要加偏置值Bias,127 + 指数值;

  尾数部分(23 Mantissa):弃小数点前那个恒1并在右端以0补全位数;

如,1234.625F -> 100 1101 0010.101 -> 1.00 1101 0010 101 * 2^10

Sign    0

Exponent   10,127+10 -> 1000 1001

Mantissa  0011 0100 1010 1000 0000 000 

0 1000 1001 0011 0100 1010 1000 0000 000 -> 449A5400

内存中小尾存储,00 54 9A 44     

 

  双精度浮点存储

  符号位(1 Sign):0正,1负;

  指数位(11 Exponent):需要加偏置值Bias,1023 + 指数值;

  尾数部分(52 Mantissa):弃小数点前那个恒1并在右端以0补全位数;

如,1234.625 -> 100 1101 0010.101 -> 1.00 1101 0010 101 * 2^10

Sign    0

Exponent   10,1023+10 -> 100 0000 1001

Mantissa  0011 0100 1010 1000 0000 0000 0000 0000 0000 0000 0000 0000 0000

0 100 0000 1001 0011 0100 1010 1000 0000 0000 0000 0000 0000 0000 0000 0000 0000 -> 40934A8000000000

内存中小尾存储,00 00 00 00 80 4A 93 40

 

  浮点指令

.386
.model flat, stdcall ;32 bit memory model
option casemap :none ;case sensitive

.code

FloatCase proc

mov ebp, esp
sub esp, 5ch
push ebx
push esi
push edi
lea edi, [ebp - 5ch]
mov ecx, 17h
mov eax, 0cccccccch
rep stos dword ptr [edi]
mov dword ptr [ebp - 4], 43000000h //128.0
mov dword ptr [ebp - 8], 40800000h //4.0
mov dword ptr [ebp - 0ch], 40000000h //2.0
mov dword ptr [ebp - 10h], 42000000h //32.0
mov dword ptr [ebp - 14h], 41000000h //8.0
mov dword ptr [ebp - 18h], 0
mov dword ptr [ebp - 1ch], 42b00000h //88.0
fld dword ptr [ebp - 4] //st0 = 128.0
fmul dword ptr [ebp - 8] //st0 = 128.0 * 4.0 = 512.0
fdiv dword ptr [ebp - 0ch] //st0 = 512.0 / 2.0 = 256.0
fst dword ptr [ebp - 4] //[ebp - 4] = st0 = 256.0
fdiv dword ptr [ebp - 4] //st0 = 256.0 / 256.0 = 1.0
fmul dword ptr [ebp - 10h] //st0 = 1.0 * 32.0 = 32.0
fdiv dword ptr [ebp - 14h] //st0 = 32.0 / 8.0 = 4.0
fst dword ptr [ebp - 10h] //[ebp - 10h] = st0 =  4.0
fadd dword ptr [ebp - 1ch] //st0 = 4.0 + 88.0 = 92.0
fst dword ptr [ebp - 10h] //[ebp - 10h] = st0 = 92.0
pop edi
pop esi
pop ebx
mov esp, ebp
pop ebp

ret

FloatCase endp

start:
invoke FloatCase
ret

end start

计算出浮点值:
43000000h -> 0100 0011 0000 0000 0000 0000 0000 0000
符号:0正数
指数:1000 0110,128+6-127 -> 7
1.0 * 10^7 -> 1000 0000 -> 128.0f

40800000h -> 0100 0000 1000 0000 0000 0000 0000 0000
符号:0正数
指数:1000 0001,128+1-127 -> 2
1.0 * 10^2 -> 100 -> 4.0f

40000000h -> 0100 0000 0000 0000 0000 0000 0000 0000
符号:0正数
指数:1000 0000,128-127 -> 1
1.0 * 10^1 -> 10 -> 2.0f

42000000h -> 0100 0010 0000 0000 0000 0000 0000 0000
符号:0正数
指数:1000 0100,128+4-127 -> 5
1.0 * 10^5 -> 100000 -> 32.0f

41000000h -> 0100 0001 0000 0000 0000 0000 0000 0000
符号:0正数
指数:1000 0010,128+2-127 -> 3
1.0 * 10^3 -> 1000 -> 8.0f

42b00000h -> 0100 0010 1011 0000 0000 0000 0000 0000
符号:0正数
指数:1000 0101,128+5-127 -> 6
1.011 * 10^6 -> 1011000 -> 88.0f

st0 = 92.0

数值存储

标签:数位   log   符号位   images   div   数值   精度   sig   sem   

原文地址:http://www.cnblogs.com/nonebutnow/p/6013165.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!