GCC实现ISO 18037:2008标准定点算术中的舍入问题
摘要：gcc编译器实现固定点算术数据类型和操作中缺乏的舍入至最近模式引起的各种问题。我们证明，在常数转换、将一个数字类型转换为一个精度较低的类型和乘法的结果的转换中不执行舍入至最近。此外，我们还展示了固定点算术中混合精度操作在进行算术运算之前就会丢失参数的精度。ISO 18037:2008标准旨在为嵌入式系统标准化C语言扩展，包括固定点算术。嵌入式系统通常基于ARM处理器，到目前为止已生产了大约1000亿台。因此，本文中讨论的关于数值问题的观察结果可能相当危险，并且对于这些嵌入式系统正在运行的各种类型的应用程序来说非常重要。
作者：Mantas Mikaitis
论文ID：2001.01496
分类：Mathematical Software
分类简称：cs.MS
提交时间：2020-08-11