cloud_wei 分别计算以下三个简单的加减运算: 0.33-0.5+0.17 0.17-0.5+0.33 0.33+0.17-0.5 显然,三者的值都是0,但是大家的计算机或许就没有这么聪明了,不信试一试。哈哈
yihui 浮点数的问题嘛,不奇怪 计算机中数的表示是容易被大家忽视的问题,统计计算或数值计算的第一节课往往都会举这样的例子,比如整数形式存储的2^31=2147483647加上整数1就变成-2147483648了,等等 关于这方面的一篇经典文章What Every Computer Scientist Should Know About Floating-Point Arithmetic:http://docs.sun.com/source/806-3568/ncg_goldberg.html