在使用F28377时,定义的浮点数A运算后越界了,显示为+Inf;我将A乘以0或者乘以0.0,它仍然为+Inf,为什么不是等于0呢,谢谢!
Green Deng:个人认为,一旦出现运算结果溢出,那这个结果就不能用之前的数据类型来定义了,如果再用这个“数”来做运算的话是不能用运算方式来处理的
在使用F28377时,定义的浮点数A运算后越界了,显示为+Inf;我将A乘以0或者乘以0.0,它仍然为+Inf,为什么不是等于0呢,谢谢!
k m:
回复 Green Deng:
我认为的是我定义了变量A,A映射到一个内存空间,当A运算越界后,该内存空间会把越界的高位数据丢掉,A应该还是能够正常进行运算的,至少整型数据是这样处理的;
浮点数的处理方式就不确定了,浮点数越界我是这样产生的,初始化A = 1.0;A = 3*A一直做循环,当判断A越界后,将A乘以0,A仍然为+Inf,其内存空间里数据也没有发生变化;但是,当判断A越界后,将A除以10,此时A显示不为+Inf,而是一个浮点数范围内的一个数,其内存空间里数据也发生了变化;
所以想了解浮点数越界后乘法运算是怎样处理的,谢谢!