最终计算出的结果是我要用jfreechart画曲线图用的纵轴值,若直接用计算出的NaN结果代入画图的话,画出的图根本没有曲线显示。无论我怎么放大也看不到曲线,恳请高手指点该如何处理这个问题。能把NaN类型转换成double类型吗?
如果不是算术错误,确实是精度不够,那样该怎样做“转换处理”呢,怎么转换成double?
可以计算一个参考值,在计算后比对,误差大就是精度不够。一般不是天文级的应用都够。出现精度不够情况就要,改用BigDecimal类的高精度十进制实数。