|
jony7788
級別: 工控俠客
|
圖片:
圖片:
用三菱PLC(FX-3U)計算對數(shù),發(fā)現(xiàn)同EXCEL直接計算的有差異,兩個數(shù)值都是相差0.09,是什么原因造成的呢。 [ 此帖被jony7788在2023-09-29 20:26重新編輯 ] |
|---|---|
|
|
|
gzcjx555
QQ 296686949
級別: 網(wǎng)絡(luò)英雄
|
計算精度問題,三菱FX3U只支持單精度浮點計算,32位,EXCEL默認(rèn)使用雙精度浮點,也就是64位。 |
|
|---|---|---|
|
本帖最近評分記錄:
|
|
jony7788
級別: 工控俠客
|
感謝! 后面發(fā)現(xiàn)當(dāng)數(shù)值大于一定值的時候,兩者的計算結(jié)果是一樣的。 |
|---|---|
|
|
|
niningtt
級別: 工控俠客
|
你PLC計算的結(jié)果0.004,0.007只是四舍五入的三位小數(shù)結(jié)果,實際按32為浮點數(shù)還有幾位有效數(shù)字,只是編程軟件沒有顯示出來,不表示那是計算的參數(shù)值 |
|---|---|
|
本帖最近評分記錄: |