Bootstrap

计算机的错误计算(二十四)

摘要  计算机的错误计算(二十一)就案例 20^{65}-20^{65-0.1^{15}} 展示了“两个不相等数相减,差为0”。本节给出新的计算过程:不停增加计算精度直到出现非0结果。这个过程与结果表明,即使是专业数学软件,对这个问题的处理,也不尽完美。

       对于 20^{65}-20^{65-0.1^{15}} 来说,正如计算机的错误计算(二十一)所述,双精度下,其输出为0. 容易想到,要获得有效数字,必须提高计算精度。

       下面展示在数学软件 Maple 中的计算过程。

       Maple 初始的默认位数是10位。从上可知,直到有效位数增加到 17位,才获得有效数字。但是,不知大家注意到没有?17位有效位数下,只显示 3位数字“110”。从后面的结果知,四舍五入后应该是“111”。所以,首先,17位有效位数下只输出 3位数字,其次,输出的还不全对。

       您感觉如何?觉得难还是不难?以为只要增加精度就行?上面可是专业数学软件!

       最后,若您想验证 Maple 软件的结果,可以访问 ISReal 计算器, 可信计算icon-default.png?t=N7T8http://www.isrealsoft.cn/

;