分类: 第五篇:浮点数的精度问题

1 篇文章

thumbnail
浮点数的精度问题
浮点数的精度问题 一:浮点数储存结构 任何数据在内存中都是以二进制的形式存储的,浮点数也不例外,浮点数分为单精度与双精度 单精度浮点数float占4字节、32位 双精度浮点数double占8字节、64位。 遵循IEEE二进制算数标准;float和double的二进制存储结构都分成三部分::符号位+指数位+尾数位。 Sign/符号位 Exponent…
Copyright © 2022 Egon的技术星球 egonlin.com 版权所有 帮助IT小伙伴学到真正的技术