fluent能调节精度吗

linlin8211 · 发表于 2008-2-3 11:50:13

您需要登录才可以下载或查看，没有账号？注册

x

我用fluent修改一些材料的属性，但是由于位数很多，fluent会自动的四舍五入，这样造成的误差很大，这个精度可以调节吗

cupidvenus · 发表于 2008-2-4 09:16:16

用双精度求解器试试

linlin8211 · 发表于 2008-2-5 09:45:22

双精度也试过了，精度也是有限的，由于我修改的cp值，它不能用udf，所以，大侠们看看还有别的办法吗

cupidvenus · 发表于 2008-2-15 09:12:51

材料属性有必要那么多位吗？材料的属性本来就是测量出来的，就有一定的误差，如果你保留的位数超过误差范围，那么多的位数又有什么用？

linlin8211 · 发表于 2008-2-15 21:22:20

属性是用软件拟和的公式，位数不对的话，精度就没了，而且差的是数量级的，呵呵

		自动登录	找回密码
密码			注册