【golang踩坑日记(二)】int32强制转换2147483648会变成负数
//这里输入dividend = -2147483648
func int trans(dividend int){d := int32(math.Abs(float64(dividend)))fmt.Println(d) //输出-2147483648
}
这个方法是为了取输入值的绝对值,执行完math.abs()这个方法之后会变成正数2147483648,但是由于2147483648 > int32的最大值(-2,147,483,648 到 2,147,483,647),结果输出就变成了-2147483648。
正确做法只要将int32变成int64就行了
func int trans(dividend int){d := int64(math.Abs(float64(dividend)))fmt.Println(d) //输出-2147483648
}
至于为什么上面那种会输出负数,底层是怎么处理的,有无大佬指点一下
本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!
