10.3969/j.issn.1671-0142.2007.03.023
工程数学中数值计算应注意的一些原则
指出了工程问题的数值计算中出现误差的渠道及原因,分析了这些误差可能会引起的后果.通过具体例子说明要避免这些误差须遵循的原则.用数值稳定性好的计算方法;两个数量级相差很大的数进行加减运算时,防止小的那个数加减不到大的数中;避免两个相近的数相减,损失有效数字;防止出现机器零和溢出停机;在除法运算中,避免除数的绝对值远小于被除数的绝对值;简化计算步骤,减少运算次数.
数值计算、准确值、误差、有效数字
7
TB115(工程基础科学)
2007-07-16(万方平台首次上网日期,不代表论文的发表时间)
共3页
68-70