先提一下Double和Float的存储
bit为单位 符号位 指数位 尾数位
Float 1 8 11
Double 1 11 52
因此,
float: 2^23 = 8388608 七位,保证6位的精度
double:保证16位的精度
本文共 193 字,大约阅读时间需要 1 分钟。
先提一下Double和Float的存储
bit为单位 符号位 指数位 尾数位
Float 1 8 11
Double 1 11 52
因此,
float: 2^23 = 8388608 七位,保证6位的精度
double:保证16位的精度
转载于:https://www.cnblogs.com/isaWanderland/archive/2013/03/23/2977681.html