有人用过q格式定点运算吗,为什么我转换的数不准?
比如_IQ30(-1.903162068687379),结果是-1.903162122;
按照官方文档,应该有10位有效数字,为什么我的只有7位 ?
请各路大神各显神通,感激不尽!
yy l:
回复 Seven Han:
谢谢您,按照您的方法_IQ30 (-1.903162068687379L)结果为-1.24871802,说明是可以实现的;我找了另一种方法 _atoIQ30("-1.248718019721931"),也可以实现,结果为-1.248718019,这个没有四舍五入。