混合精度谱变换方法的设计与实现

【摘要】
本文通过对谱变换各部分计算进行分析,设计了一种64位32位混合精度谱变换计算方法.该方法对谱变换计算中精度敏感部分采用了64位高精度计算,精度不敏感部分采用用户指定精度计算的策略.数值试验表明:在进行谱正、逆变换计算时,混合方法计算量比纯32位计算时有增加,但比纯64位计算时减少较多.尤其在高分辨率时,混合方法计算比纯32位计算时间增加较小.混合方法在计算精度方面较纯32位计算时提高较大,可以满足... 展开>>
【作者】
赵军宋君强
【作者单位】
国防科技大学计算机学院计算机研究所,410073
【会议名称】
第8届全国并行计算大会
【会议时间】
2004-07-26
【会议地点】
辽宁大连
【主办单位】
全国并行计算委员会
【语种】
chi
【关键词】
天气预报数值分析谱变换计算