TI中文支持网
TI专业的中文技术问题搜集分享网站

请问有人用过F28335的Q30格式吗?按照文档,应该有10位有效数字,为什么我的只有7位?

有人用过q格式定点运算吗,为什么我转换的数不准?

比如_IQ30(-1.903162068687379),结果是-1.903162122;

按照官方文档,应该有10位有效数字,为什么我的只有7位 ?
请各路大神各显神通,感激不尽!

yy l:

回复 Seven Han:

谢谢您,按照您的方法_IQ30 (-1.903162068687379L)结果为-1.24871802,说明是可以实现的;我找了另一种方法 _atoIQ30("-1.248718019721931"),也可以实现,结果为-1.248718019,这个没有四舍五入。

赞(0)
未经允许不得转载:TI中文支持网 » 请问有人用过F28335的Q30格式吗?按照文档,应该有10位有效数字,为什么我的只有7位?
分享到: 更多 (0)