我有std :: pow()返回值的问题.基本上,我在代码中有以下行: #include cmathint main(){ double rate = 1.0033333333333334; int m = 360; unsigned int period = 1; double res = std::pow(rate, -(m-period+1));} res的值为inf.但是
#include <cmath> int main() { double rate = 1.0033333333333334; int m = 360; unsigned int period = 1; double res = std::pow(rate, -(m-period+1)); }
res的值为inf.但是,当我在调试时将std :: pow(rate, – (m-period 1))粘贴到Visual Studio watch时,它具有正确的值0.30179586515268314.有谁知道这种差异的根源是什么?
见http://coliru.stacked-crooked.com/a/ec78c5172cf53e03
你的问题来自你对pow的调用的 – (m-period 1)部分.期间被宣布为unsigned int period = 1;
所以什么时候
-(m-period+1)
得到你的评价
-(int - unsigned int + int) == -(unsigned int)
所以你得到360作为unsigned int,当你否定它时,它会回绕并变成一个非常大的数字(32位int为4294966936).这意味着你在做
1.0033333333333334 ^ 4294966936
不
1.0033333333333334 ^ -360
您需要创建句点和int才能获得正确的结果.
如果您的数字不能为负数,请不要使用无符号类型.没有任何关于unsigned的停止负数,它只是将它们变成正数.如果要确保数字不是负数,请使用带符号的类型和if语句.