精确特定操作的实证研究与自动处理方法

摘要:使用高精度浮点数进行数学计算是减少误差的常用方法,然而我们发现在某些操作中,高精度浮点数可能导致更大的误差。本文提出了一种轻量级搜索算法用于检测并修复这类操作,实验证明该方法可以显著减少误差。

作者:Ran Wang, Xinrui He

论文ID:1511.06227

分类:Numerical Analysis

分类简称:cs.NA

提交时间:2015-12-07

PDF 下载: 英文版 中文版pdf翻译中