请问乘积超过2的32次方怎么处理？-分修一班人的回答

请问乘积超过2的32次方怎么处理？

2019-07-14 13:58发布

我的程序是这样的：accel_lim = ((long)step*decel) / (accel+decel);由于step和decel比较大，所以他们的乘积可能超过2的32次方-1，但是除以(accel+decel)后肯定是小于2的32次方的，为什么我算出来的结果是错误的。

友情提示: 此问题已得到解决，问题已经关闭,关闭后问题禁止继续编辑，回答。

10条回答

2019-07-15 17:03

fantasyo老时光发表于 2019-2-27 15:05
这样会丢精度。

使用浮点数应该没问题的吧