TI中文支持网
TI专业的中文技术问题搜集分享网站

DSP28335在CCS6中 long double 数据类型丢精度问题

我把126.70193105这个数赋值给long double型的变量后,变量值变成了126.701931774…,只有小数点后六位是对的,从小数点第七位就变成一些奇怪的数,这是什么问题呢?是否是DSP28335芯片的精度不够?有什么好的解决方法吗?

HeiHei:

单精度浮点本身就是6位的有效精度吧

赞(0)
未经允许不得转载:TI中文支持网 » DSP28335在CCS6中 long double 数据类型丢精度问题
分享到: 更多 (0)