网上查资料得出:根据单精度浮点在机器内的表示方法,其对应的十进制有效位是6或7位,请问,在C6678DSP内进行单精度浮点运算时,其精度是多少?谢谢大家,急急急……………
Shine:
编译器手册里有单精度浮点运算的表示范围。
7.4 Data Types
www.ti.com/…/sprui04b.pdf
xuefeng Li1:
回复 Shine:
现在需要的是单精度运算的精度,而非范围,谢谢大家了,急急急
网上查资料得出:根据单精度浮点在机器内的表示方法,其对应的十进制有效位是6或7位,请问,在C6678DSP内进行单精度浮点运算时,其精度是多少?谢谢大家,急急急……………
编译器手册里有单精度浮点运算的表示范围。
7.4 Data Types
www.ti.com/…/sprui04b.pdf
回复 Shine:
现在需要的是单精度运算的精度,而非范围,谢谢大家了,急急急