float和double的精度
作者: jillzhang
联系⽅式:
1 范围
float和double的范围是由指数的位数来决定的。
float的指数位有8位,⽽double的指数位有11位,分布如下:
float:
1bit(符号位)
8bits(指数位)
23bits(尾数位)
double:
1bit(符号位)
11bits(指数位)
52bits(尾数位)
在数学中,特别是在计算机相关的数字(浮点数)问题的表述中,有⼀个基本表达法[1]:
float数值范围
 value of floating-point = significand x base ^ exponent , with sign --- F.1
  译为中⽂表达即为:
 (浮点)数值 =      尾数    ×    底数 ^ 指数,(附加正负号)---------------- F.2
于是,float的指数范围为-127~128,⽽double的指数范围为-1023~1024,并且指数位是按补码的形式来划分的。其中负指数决定了浮点数所能表达的绝对值最⼩的数;⽽正指数决定了浮点数所能表达的绝对值最⼤的数,也即决定了浮点数的取值范围。
float的范围为-2^128 ~ +2^128,也即-3.40E+38 ~ +3.40E+38;double的范围为-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308。
2 精度
float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的,其整数部分始终是⼀个隐含着的“1”,由于它是不变的,故不能对精度造成影响。
float:2^23 = 8388608,⼀共七位,这意味着最多能有7位有效数字,但绝对能保证的为6位,也即float的精度为6~7位有效数字;double:2^52 = 4503599627370496,⼀共16位,同理,double的精度为15~16位。
单精度类型(float)和双精度类型(double)存储
2009-11-24 13:57
C 语⾔和C#语⾔中,对于浮点类型的数据采⽤单精度类型(float)和双精度类型(double)来存储,float数据占⽤32bit, double数据占⽤64bit,我们在声明⼀个变量float f= 2.25f的时候,是如何分配内存的呢?如果胡乱分配,那世界岂不是乱套了么,其实不论是float还是double在存储⽅式上都是遵从IEEE的规范的,float遵从的是IEEE R32.24 ,⽽double 遵从的是R64.53。
⽆论是单精度还是双精度在存储中都分为三个部分:
1. 符号位(Sign) : 0代表正,1代表为负
2. 指数位(Exponent):⽤于存储科学计数法中的指数数据,并且采⽤移位存储
3. 尾数部分(Mantissa):尾数部分
其中float的存储⽅式如下图所⽰:
⽽双精度的存储⽅式为:
R32.24和R64.53的存储⽅式都是⽤科学计数法来存储数据的,⽐如8.25⽤⼗进制的科学计数法表⽰就为:8.25*100,⽽120.5可以表⽰
为:1.205*102, 这些⼩学的知识就不⽤多说了吧。⽽我们傻蛋计算机根本不认识⼗进制的数据,他只认识0,1,所以在计算机存储中,⾸先要将上⾯的数更改为⼆进制的科学计数法表⽰,8.25⽤⼆进制表⽰可表⽰为1000.01,我靠,不会连这都不会转换吧?那我估计要没辙了。120.5⽤⼆进制表⽰为:1110110.1⽤⼆进制的科学计数法表⽰1000.01可以表⽰为1.0001*23,1110110.1可以表⽰为1.1101101*26,任何⼀个数都的科学计数法表⽰都为1.xxx*2n, 尾数部分就可以表⽰为xxxx,第⼀位都是1嘛,⼲嘛还要表⽰呀?可以将⼩数点前⾯的1省略,所以23bit 的尾数部分,可以表⽰的精度却变成了 24bit,道理就是在这⾥,那24bit能精确到⼩数点后⼏位呢,我们知道9的⼆进制表⽰为1001,所以4bit能精确⼗进制中的1位⼩数点, 24bit就能使float能精确到⼩数点后6位,⽽对于指数部分,因为指数可正可负,8位的指数位能
表⽰的指数范围就应该为:-127-128了,所以指数部分的存储采⽤移位存储,存储的数据为元数据+127,下⾯就看看8.25和120.5在内存中真正的存储⽅式。
⾸先看下8.25,⽤⼆进制的科学计数法表⽰为:1.0001*23
按照上⾯的存储⽅式,符号位为:0,表⽰为正,指数位为:3+127=130 ,位数部分为,故8.25的存储⽅式如下图所⽰:
⽽单精度浮点数120.5的存储⽅式如下图所⽰:
那么如果给出内存中⼀段数据,并且告诉你是单精度存储的话,你如何知道该数据的⼗进制数值呢?其实就是对上⾯的反推过程,⽐如给出如下内存数据:0100001011101101000000000000,⾸先我们现将该数据分段,0 10000 0101 110 1101 0000 0000 0000 0000,在内存中的存储就为下图所⽰:
根据我们的计算⽅式,可以计算出,这样⼀组数据表⽰为:1.1101101*26=120.5
⽽双精度浮点数的存储和单精度的存储⼤同⼩异,不同的是指数部分和尾数部分的位数。所以这⾥不再详细的介绍双精度的存储⽅式了,只将120.5的最后存储⽅式图给出,⼤家可以仔细想想为何是这样⼦的
下⾯我就这个基础知识点来解决⼀个我们的⼀个疑惑,请看下⾯⼀段程序,注意观察输出结果
float f = 2.2f;
double d = (double)f;
Console.WriteLine(d.ToString("0.0000000000000"));
f = 2.25f;
d = (double)f;
Console.WriteLine(d.ToString("0.0000000000000"));
可能输出的结果让⼤家疑惑不解,单精度的2.2转换为双精度后,精确到⼩数点后13位后变为了2.2000000476837,⽽单精度的 2.25转换为双精度后,变为了2.2500000000000,为何2.2在转换后的数值更改了⽽2.25却没有更改呢?很奇怪吧?其实通过上⾯关于两种存储结果的介绍,我们已经⼤概能到答案。⾸先我们看看2.25的单精度存储⽅式,很简单 0 1000 0001 001 0000 0000 0000 0000 0000,⽽2.25的双精度表⽰为:0 100 0000 0001 0010 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000,这样2.25在进⾏强制转换的时候,数值是不会变的,⽽我们再看看2.2呢,2.2⽤科学计数法表⽰应该为:将⼗进制的⼩数转换为⼆进制的⼩数的⽅法为将⼩数*2,取整数部分,所以0.282=0.4,所以⼆进制⼩数第⼀位为0.4的整数部分0,0.4×2=0.8,第⼆位为0,0.8*2= 1.6,第三位为1,
0.6×2 = 1.2,第四位为
1,0.2*2=0.4,第五位为0,这样永远也不可能乘到=1.0,得到的⼆进制是⼀个⽆限循环的排列 ,对于单精度数据来说,尾数只能表⽰24bit的精度,所以2.2的float存储为:
但是这样存储⽅式,换算成⼗进制的值,却不会是2.2的,应为⼗进制在转换为⼆进制的时候可能会不准确,如2.2,⽽double类型的数据也存在同样的问题,所以在浮点数表⽰中会产⽣些许的误差,在单精度转换为双精度的时候,也会存在误差的问题,对于能够⽤⼆进制表⽰的⼗进制数据,如 2.25,这个误差就会不存在,所以会出现上⾯⽐较奇怪的输出结果。