TI中文支持网
TI专业的中文技术问题搜集分享网站

TDA4VM: SSD+MobileNetV2检测模型量化后损失超过10%

Part Number:TDA4VM

问题1:使用pytorch1.5训练SSD+MobileNetV2检测模型,在SDK7.3上量化(numParamBits=8,numFeatureBits=8),模型量化精度损失很大,平均每个类别15%。
曾经改进实验:调整量化参数,并使用全16bit量化,量化损失有所提升,但量化精度损失还是比较高平,均每类3%。
引申问题1:SSD+MobileNetV2模型,在量化时,不管如何调整量化参数,车灯类识别率始终为0,对应车灯类置信度值很低,几乎为0.

Shine:

请升级到最新的SDK 8试试。https://www.ti2k.com/wp-content/uploads/ti2k/DeyiSupport_DSP_PROCESSOR-SDK-RTOS-J721E

赞(0)
未经允许不得转载:TI中文支持网 » TDA4VM: SSD+MobileNetV2检测模型量化后损失超过10%
分享到: 更多 (0)