我把126.70193105这个数赋值给long double型的变量后,变量值变成了126.701931774…,只有小数点后六位是对的,从小数点第七位就变成一些奇怪的数,这是什么问题呢?是否是DSP28335芯片的精度不够?有什么好的解决方法吗?
HeiHei:
单精度浮点本身就是6位的有效精度吧
我把126.70193105这个数赋值给long double型的变量后,变量值变成了126.701931774…,只有小数点后六位是对的,从小数点第七位就变成一些奇怪的数,这是什么问题呢?是否是DSP28335芯片的精度不够?有什么好的解决方法吗?
HeiHei:
单精度浮点本身就是6位的有效精度吧