fract16是VDSP的另一种浮点类型,它使用1.15的格式:
最高位为符号位,其余为数据位,没有指数和尾数的概念。
最大值:+0.999969482421875
最小值:-1
分辨率:2-15 = 0.000030517578125
在blackfin里面使用fract类型进行计算可以获得最好的性能,但是要求在使用之前对需要进行计算的数据进行归一化,而且必须保证在计算过程中不会产生溢出。
在对数据归一化的时候,通常是需要进行浮点计算的,因此要产生很多额外的开销,如果使用fract进行的计算量小于归一化的计算量,那就没有必要使用它。比如vdsp文档里面提及的那个例子:
时间: 2024-09-29 13:00:27