本文通过对谱变换各部分计算进行分析,设计了一种64位32位混合精度谱变换计算方法.该方法对谱变换计算中精度敏感部分采用了64位高精度计算,精度不敏感部分采用用户指定精度计算的策略.数值试验表明:在进行谱正、逆变换计算时,混合方法计算量比纯32位计算时有增加,但比纯64位计算时减少较多.尤其在高分辨率时,混合方法计算比纯32位计算时间增加较小.混合方法在计算精度方面较纯32位计算时提高较大,可以满足... 展开>>
国防科技大学计算机学院计算机研究所,410073
第8届全国并行计算大会
2004-07-26
辽宁大连
chi