int 转 double 的一个坑
int 转 double 的一个坑
首先，看这样这个语句
int max = (int) Math.pow(2, 31);
输出的应该是 2 32 2^{32} 232 的值，我们看运行结果
我们再看看科学计算器算出来的
这个时候问题就出来了，我们对比发现，结果相差1。
这里就是一个小坑，因为int在内存中的数值范围：2147483647 ~ -2147483648
而 2 32 2^{32} 232刚好比它的最大值大1。所以造成了这个情况。
这是使用中需要注意的一点！ 如果强转的值大于目标类型的最大值，则会发生精度缺失。
你把一桶水倒进一个杯子中，多余的水都流出来了，杯子中只能盛与其容量相等的水，反过来，把杯子水倒进桶中，它能盛下，而且还没满。
本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场，不承担相关法律责任。如若转载，请注明出处。 如若内容造成侵权/违法违规/事实不符，请点击【内容举报】进行投诉反馈！