问题描述
- 多线程如何克服浮点数计算不准确的缺点?
-
多线程浮点数的累加和求均方差,如何克服浮点数计算不准确的缺点,计算结果存在不确定性怎么解决?
解决方案
浮点数存在存储的精度误差和进制转换误差,如果你要提高精度,可以考虑用字符数组模拟手工十进制计算,但是性能会比较低。
解决方案二:
那要看你是什么语言,什么开发环境了?在java中,有一个BigDecimal可以提供精确的数值计算的。
时间: 2024-11-08 01:06:14
浮点数存在存储的精度误差和进制转换误差,如果你要提高精度,可以考虑用字符数组模拟手工十进制计算,但是性能会比较低。
解决方案二:
那要看你是什么语言,什么开发环境了?在java中,有一个BigDecimal可以提供精确的数值计算的。