,,

工控人家園 三菱工控論壇 請教FX3U浮點數(shù)的精度，有效數(shù)只有4位？

a86116403

級別: 探索解密

精華主題: 0
發(fā)帖數(shù)量: 37 個
工控威望: 147 點
下載積分: 694 分
在線時間: 12(小時)
注冊時間: 2016-03-18
最后登錄: 2018-06-11
查看a86116403的主題 / 回貼

樓主發(fā)表于: 2018-01-21 15:25

只看樓主 | 小中大

只有4位，應(yīng)該是7位才是吧

gzcjx555

QQ 296686949

級別: 工控俠客

精華主題: 0
發(fā)帖數(shù)量: 551 個
工控威望: 4758 點
下載積分: 464 分
在線時間: 408(小時)
注冊時間: 2014-02-15
最后登錄: 2025-05-08
查看gzcjx555的主題 / 回貼

1樓發(fā)表于: 2018-01-21 16:36

只看該作者 | 小中大

程序監(jiān)控是只有三位小數(shù)，但是批量監(jiān)控的時候，是全部賦值進(jìn)去了的。

聯(lián)系電話15071699246，QQ296686949

a86116403

級別: 探索解密

精華主題: 0
發(fā)帖數(shù)量: 37 個
工控威望: 147 點
下載積分: 694 分
在線時間: 12(小時)
注冊時間: 2016-03-18
最后登錄: 2018-06-11
查看a86116403的主題 / 回貼

2樓發(fā)表于: 2018-01-21 17:09

只看該作者 | 小中大

那就是說實際上有7位有效數(shù)值的對吧，只是顯示了4位對吧

a86116403

級別: 探索解密

精華主題: 0
發(fā)帖數(shù)量: 37 個
工控威望: 147 點
下載積分: 694 分
在線時間: 12(小時)
注冊時間: 2016-03-18
最后登錄: 2018-06-11
查看a86116403的主題 / 回貼

3樓發(fā)表于: 2018-01-21 17:10

只看該作者 | 小中大

引用
引用第1樓gzcjx555于2018-01-21 16:36發(fā)表的 :
程序監(jiān)控是只有三位小數(shù)，但是批量監(jiān)控的時候，是全部賦值進(jìn)去了的。

那就是說實際上有7位有效數(shù)值的對吧，只是顯示了4位對吧

工控人家園 三菱工控論壇 請教FX3U浮點數(shù)的精度，有效數(shù)只有4位？

http://m.bizsrc.cn
訪問內(nèi)容超出本站范圍，不能確定是否安全
繼續(xù)訪問	取消訪問

欧美日韩在线一区二区-欧美日韩在线一区二区三区-欧美日韩在线一区亚洲二区-欧美日韩在线永久免费播放-欧美日韩整片中文字幕-欧美日韩制服丝袜六区