不能是INT16字型的?
INT8精度不够呀~
Willows Zhu:
回复 Andy Yin1:
嗯~是的,最小的精度达到0.125时幅度范围为-4到3.825。感觉这个范围很小,要是用ASIC设计定点化后软比特都能用13bit幅度范围,这精度是不是有点太低啦?
为什么软比特只能是6bit的幅度?
Andy Yin1:
回复 Willows Zhu:
您好,
没太理解前面的意思。
6bit是TCP3d对输入有效bit的限制,具体可以看看手册,有明确说明。
不能是INT16字型的?
INT8精度不够呀~
回复 Andy Yin1:
嗯~是的,最小的精度达到0.125时幅度范围为-4到3.825。感觉这个范围很小,要是用ASIC设计定点化后软比特都能用13bit幅度范围,这精度是不是有点太低啦?
为什么软比特只能是6bit的幅度?
回复 Willows Zhu:
您好,
没太理解前面的意思。
6bit是TCP3d对输入有效bit的限制,具体可以看看手册,有明确说明。