核心运算隔离分段式处理的数学函数可靠性优化

摘要：

针对基础数学函数在高性能计算中可靠性较差的问题,本文提出了一种核心运算隔离分段式处理的数学函数可靠性优化方法.首先采用寄存器运算对浮点异常情况进行编码优化,然后在浮点函数运算过程中,以集中运算的方式对核心运算进行隔离,并对运算异常阶段进行分段式处理,最后结合基础数学函数算法特点,以低误差的幂运算和求和运算为主体实现一种适用于基础数学函数的低误差计算方法.仿真实验结果表明,本文提出的方法对于以计算密集型存在的众多高性能计算,能够降低其计算误差.

关键词：数学函数、可靠性优化、核心运算隔离、分段式处理量法、函数误差优化

所属期刊栏目：33

分类号：O174.4(数学分析)

在线出版日期：2017-12-21（万方平台首次上网日期，不代表论文的发表时间）

页数：共4页

页码：20-23