为什么VBA中1.16*100 取整后不等于116 等于115 ？

作者：绿色风分类：时间：2022-08-17 浏览：90

楼主 apolloh	Q：为什么VBA中1.16100 取整后不等于116 等于115 ？可执行如下代码做测试。 Sub djj() Dim K1, K2, J, N K1 = "原值 " K2 = "原值Int(K1 100)后" I = 1.16 N = Int(I * 100) K1 = K1 & ":" & I K2 = K2 & ":" & N MsgBox K1 & Chr(13) & K2 End Sub A：这是由Excel浮点计算精度不足引起的错误，Excel的计算精度为15位有效数字，i = 1.16 * 100的计算结果是浮点型数值，在计算机内存中存储为115.999999999999，取整后就变成115。
2楼 wjmm	那有解决办法吗？即取整后就变成116
3楼 apolloh	就本例而言使用ROUND即可，其他地方遇到要具体分析。 Sub djj() Dim K1, K2, J, N K1 = "原值 " K2 = "原值Round(K1 * 100,0)后" I = 1.16 N = Round(I * 100, 0) K1 = K1 & ":" & I K2 = K2 & ":" & N MsgBox K1 & Chr(13) & K2 End Sub

免责声明

有感于原ExcelTip.Net留存知识的价值及部分知识具有的时间限定性因素，经与ExcelTip.Net站长Apolloh商议并征得其同意，现将原属ExcelTip.Net的知识帖采集资料于本站点进行展示，供有需要的人士查询使用，也慰缅曾经的论坛时代。所示各个帖子的原作者如对版权有异议，可与本人沟通提出，或于本站点留言，我们会尽快处理。在此，感谢ExcelTip.Net站长Apolloh的支持，感谢本站点所有人**绿色风（QQ:79664738)**的支持与奉献，特此鸣谢！
------本人网名**KevinChengCW（QQ:1210618015)**原ExcelTip.Net总版主之一

评论列表