|
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有账号?注册
x
最近在计算中遇到一个奇怪的现象:一个除霜的计算,我一开始直接用双精度计算,为了计算的准确(资料上说双精度比单精度计算更准确),但得到的结果很是奇怪,流线有点不对,都不知道为什么会那么流动。之后,我修改了下,先进行单精度计算,在算了大概1000步后,基本稳定后再改为双精度计算,得到的结果就比较好,也符合实际的情况。
我想问的是,1、双精度计算适合的范围有要求吗?比如什么样的计算不能直接用双精度?
2、如果不能直接用双精度来计算,是否要先用单精度,待基本稳定后再改为双精度?
3、是否有朋友遇到和我相同的问题,大家可以一起讨论下。 |
|