Dear Sudhanand,
Hello!
I have a question when I do the FFT in 2048 size (6 stage).
1) You said "the scaling factor should be 1/sqrt(4) = 1/2 when in 256 size". Then , in 2048 size (6 stage), 1/sqrt(6) is not the the power of 2, cna I treat it as 1/sqrt(16) or 1/sqrt(9);
2) when in 2048 size, i set the parameter as following:
bDynamicScaleEnable:0
radixScalingValLast:0
radixScalingVal[0]:2
radixScalingVal[1]:2
radixScalingVal[2]:1
radixScalingVal[3]:1
radixScalingVal[4]:1
radixScalingVal[5]:1
radixScalingVal[6]:0
The result does not fit to what the sample project give in the dynamic scaling (max error reach to more than 50).
2^3 * 2^-SUM(si) * 2^-sout * 2^-S_LTE * (output_scaling * 2^-7)
SUM(si) =8 sout=0 if not counting the (-7), the (3-8=-5) is correspongding to the block exponent (5) when in dynamic sclaing.
Can you give som e advise when the fft size is 2048?
3) 2^3 * 2^-SUM(si) * 2^-sout * 2^-S_LTE * (output_scaling * 2^-7) {output scaling entered in Q1.7}
Can I understand this word as " when output sclaing is not 128, the result of the formula of static scaling is equal to 0"?
Thanks in advanced!
Alan
Andy Yin1:
在dynamic scaling enable时,只有output scaling是需要用户配置,取值范围为(0,1],定标Q7,对应配置定点值(0,128],此时FFTC会输出scaling factor总和;
在static scaling时,各级scaling factor均可配,具体每级的配置数值由应用仿真决定。
chen xie:
回复 Andy Yin1:
谢谢您的回复。
帖子是我发在国外那个论坛上的,目前没有任何回复。
麻烦再询问一下: 静态scaling每个级上的scaling factor (0-3)配置后,可能得到会动态配置相同的结果么,我这边误差较大。
再次感谢!
Andy Yin1:
回复 chen xie:
scaling会影响幅度,只要你配置的静态scaling因子与动态调整因子一致即可,即使不一致你也可以观察幅度会存在倍数的关系。
chen xie:
回复 Andy Yin1:
影响幅度这是可以接受的的,但是目前在相同幅度下,无法做到和动态scaling的结果一样(目前我认为动态幅度是正确的)。
我分析原因是:动态scaling实在有溢出的时候移位,是按需求来的;但是在静态下,我不知道这哪一个Stage下才会有溢出,这样就增加了不确定性,导致错误。
不知道您是否也遇见过这样的问题,顺便祝您五一假期愉快!
chen xie:
回复 chen xie:
比如之前第一个帖子里的参数配置就只能达到相同数量级,但是数值上和动态结果有差异。
Andy Yin1:
回复 chen xie:
如果你不清楚根据输入数据范围得到各级的静态factor的话,建议使用动态scaling保证性能。关于静态时数据是否存在溢出,可以查看状态寄存器CLIPPING_DETECT_REGISTER。
chen xie:
回复 Andy Yin1:
您好!在麻烦问一下您:如何根据输入数据的大小决定静态各级的参数这方面有什么参考经验或者文档么?谢谢您!
chen xie:
回复 Andy Yin1:
真心感谢,五一期间我做一下测试,不管结果都及时向您和论坛反馈一下吧!
chen xie:
回复 chen xie:
目前多次测试可以和动态一样了 但是具体内部机制还不了解
谢谢!