浮点型转字符型有效位数问题

2023-06-13,,

float是单精度型占4个字节(32位),只能提供7位有效数字,小数点后最多保留6位。
double是双精度型占4个字节(64位),只能提供16位有效数字,小数后最多保留6位。



遇到的问题: 83427.746 在float类型下转成NSstring 类型 变成83427.742188产生巨大偏差,导致四舍五入,在Double类型下正常,经测试发现大于65536之后,三位小数都会失真

《浮点型转字符型有效位数问题.doc》

下载本文的Word格式文档,以方便收藏与打印。