混合精度谱变换方法的设计与实现
  • 【摘要】

    本文通过对谱变换各部分计算进行分析,设计了一种64位32位混合精度谱变换计算方法.该方法对谱变换计算中精度敏感部分采用了64位高精度计算,精度不敏感部分采用用户指定精度计算的策略.数值试验表明:在进行谱正、逆变换计算时,混合方法计算量比纯32位计算时有增加,但比纯64位计算时减少较多.尤其在高分辨率时,混合方法计算比纯32位计算时间增加较小.混合方法在计算精度方面较纯32位计算时提高较大,可以满足... 展开>>本文通过对谱变换各部分计算进行分析,设计了一种64位32位混合精度谱变换计算方法.该方法对谱变换计算中精度敏感部分采用了64位高精度计算,精度不敏感部分采用用户指定精度计算的策略.数值试验表明:在进行谱正、逆变换计算时,混合方法计算量比纯32位计算时有增加,但比纯64位计算时减少较多.尤其在高分辨率时,混合方法计算比纯32位计算时间增加较小.混合方法在计算精度方面较纯32位计算时提高较大,可以满足精度要求. 收起<<

  • 【作者】

    赵军  宋君强 

  • 【作者单位】

    国防科技大学计算机学院计算机研究所,410073

  • 【会议名称】

    第8届全国并行计算大会

  • 【会议时间】

    2004-07-26

  • 【会议地点】

    辽宁大连

  • 【主办单位】

    全国并行计算委员会

  • 【语种】

    chi

  • 【关键词】

    天气预报  数值分析  谱变换计算