Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG
当前位置:以往代写 > C/C++ 教程 >Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG
2019-06-13

Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG

Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG

在写完fract除法之后,偶尔发此刻vdsp的一个头文件中提供了fract16除法运算的函数,这个文件就是VisualDSP 5.0\Blackfin\include\fract_math.h:

/* Produces a result which is the fractional division of f1 by f2. Not a builtin
* as written in C code. */
#pragma inline
#pragma always_inline
static fract16 div_s(fract16 _a, fract16 _b) {
  int x = (int)_a;
  int y = (int)_b;
  fract16 rtn;
  int i;
  int aq;
  if (x==0) {
    rtn = 0;
  }
  else if (x>=y) {
    rtn = 0x7fff;
  }
  else {
    x <<= 16;
    x = divs(x, y, &aq);
    for (i=0; i<15; i++) {
      x = divq(x, y, &aq);
    }
    rtn = (fract16) x;
  }
  return rtn;
}

这个内联函数和vdsp文档中提供的示例函数完全一样,也就是说,它存在一个《Vdsp(bf561)中的浮点运算(14):fract16除法》中提到的缺陷,假如你用它计较一个正的小数和一个负的小数的除法,它将绝不客套地返回1。

好比用它计较 0.2 / -0.4,这个是不该该呈现饱和的!

呈现这个问题的原因在于

int x = (int)_a;
int y = (int)_b;

然后就举办了x和y的较量,由于举办的是整数的较量,正数显然永远大于负数,所以就造成了这样的问题。

以0.2 / -0.4为例:

0.2转换为以十六进制暗示的数为0x1999,而-0.4则为0xCCCC,当这两个值赋给x和y后别离酿成了0x00001999和0xffffcccc,也就是6553和-13108,哈哈,正数大于负数,小学生都知道!

等候下一个update可以批改。

    关键字:

在线提交作业