Part Number:TDA4VM
问题1:使用pytorch1.5训练SSD+MobileNetV2检测模型,在SDK7.3上量化(numParamBits=8,numFeatureBits=8),模型量化精度损失很大,平均每个类别15%。
曾经改进实验:调整量化参数,并使用全16bit量化,量化损失有所提升,但量化精度损失还是比较高平,均每类3%。
引申问题1:SSD+MobileNetV2模型,在量化时,不管如何调整量化参数,车灯类识别率始终为0,对应车灯类置信度值很低,几乎为0.
Shine:
请升级到最新的SDK 8试试。https://www.ti2k.com/wp-content/uploads/ti2k/DeyiSupport_DSP_PROCESSOR-SDK-RTOS-J721E