Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG
在写完fract除法之后,偶尔发此刻vdsp的一个头文件中提供了fract16除法运算的函数,这个文件就是VisualDSP 5.0\Blackfin\include\fract_math.h:
/* Produces a result which is the fractional division of f1 by f2. Not a builtin
* as written in C code. */
#pragma inline
#pragma always_inline
static fract16 div_s(fract16 _a, fract16 _b) {
int x = (int)_a;
int y = (int)_b;
fract16 rtn;
int i;
int aq;
if (x==0) {
rtn = 0;
}
else if (x>=y) {
rtn = 0x7fff;
}
else {
x <<= 16;
x = divs(x, y, &aq);
for (i=0; i<15; i++) {
x = divq(x, y, &aq);
}
rtn = (fract16) x;
}
return rtn;
}
这个内联函数和vdsp文档中提供的示例函数完全一样,也就是说,它存在一个《Vdsp(bf561)中的浮点运算(14):fract16除法》中提到的缺陷,假如你用它计较一个正的小数和一个负的小数的除法,它将绝不客套地返回1。
好比用它计较 0.2 / -0.4,这个是不该该呈现饱和的!
呈现这个问题的原因在于
int x = (int)_a;
int y = (int)_b;
然后就举办了x和y的较量,由于举办的是整数的较量,正数显然永远大于负数,所以就造成了这样的问题。
以0.2 / -0.4为例:
0.2转换为以十六进制暗示的数为0x1999,而-0.4则为0xCCCC,当这两个值赋给x和y后别离酿成了0x00001999和0xffffcccc,也就是6553和-13108,哈哈,正数大于负数,小学生都知道!
等候下一个update可以批改。