楼主 yfan17 |
Q:为什么(42.1-42.2)+1的结果显示0.8999999999999990? A:这一奇怪的结果是浮点运算造成的。我们习惯于十进制思考问题,但计算机采用二进制、四进制、八进制和十六进制。Excel在进行数值运算时,先把数值转换成十六进制,计算完成后再把结果以十进制显示出来。 为了消除浮点误差的影响,可作以下设置:先把单元格格式设为显示2位小数,点击“Office”按钮,“Excel选项”,“高级”,勾选“将精度设为所显示的精度”,Excel即按所选精度显示数据。 |
2楼 悠悠 |
嘻嘻,了解了 |
3楼 jyz6620 |
|
4楼 gouweicao78 |
【微软官方】 在 Excel 中浮点运算可能会给出不准确的结果 解决方案1、ROUND函数进行保留。2、设置显示精度为准。 |