服务器之家:专注于服务器技术及软件下载分享
分类导航

PHP教程|ASP.NET教程|Java教程|ASP教程|编程技术|正则表达式|C/C++|IOS|C#|Swift|Android|VB|R语言|JavaScript|易语言|vb.net|

服务器之家 - 编程语言 - C/C++ - 解决了个困扰了2天的问题,定点运算问题

解决了个困扰了2天的问题,定点运算问题

2021-04-07 14:58ganxingming C/C++

本文主要讲解定点运算问题,需要的朋友可以参考一下。

分母变小了,相当于左移了

 

复制代码 代码如下:

a=1-b/c;
|b|<pow(2,23)
|c|=pow(2,26)

 

|a|<1

 

在运算个过程中,需要把该运算转换成定点运算。
想了2天,都没有想出怎么可以保证a的精度,因为a可能很小,如果简单的

 

复制代码 代码如下:
a<<=8;

 

是无法保证a的精度的。

今天快要下班时,突然有灵机一动:

 

复制代码 代码如下:
c>>=6;
b<<=8;
a=1<<14-b/c; //相当于 a<<14,保证了a的精度

 

分子不能左移太多位,分母右移,解决问题了。
发散思维说起来很容易,做起来不容易呀!

以上就是本文的全部内容,希望能给大家一个参考,也希望大家多多支持服务器之家。

延伸 · 阅读

精彩推荐