流体中文网»论坛 › 教学科研 › CFD实战技术 › [求助]matlab中调整计算精度

发新帖

查看: 2356|回复: 1

[求助]matlab中调整计算精度

发表于 2004-6-17 10:28:27 | 显示全部楼层 |阅读模式

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？注册

x

在matlab中计算时，数据到了10^-6以下就被省略了，怎么调整精度？

回复

使用道具举报

发表于 2004-6-23 10:28:53 | 显示全部楼层

[求助]matlab中调整计算精度

Matlab采用双精度计算的，被省略只是显示的问题
用format long可以看到后面省略掉的东西

回复支持反对

使用道具举报

发新帖

快速回复 返回顶部 返回列表