,,

工控人家園 綜合討論 百思不得其解之--浮點(diǎn)運(yùn)算DEDIV

影帝剛

級別: 正式會員

精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 53 點(diǎn)
下載積分: 826 分
在線時間: 3(小時)
注冊時間: 2018-03-23
最后登錄: 2022-03-28
查看影帝剛的主題 / 回貼

樓主發(fā)表于: 2018-03-24 12:26

全看 | 小中大

圖1

圖2

浮點(diǎn)運(yùn)算為什么D110里面是0.001 。D120里面是4.17e+005 。這些都是怎么換算的，算不出來。

caoxj007

級別: 探索解密

精華主題: 0
發(fā)帖數(shù)量: 29 個
工控威望: 159 點(diǎn)
下載積分: 1075 分
在線時間: 326(小時)
注冊時間: 2013-04-24
最后登錄: 2025-03-13
查看caoxj007的主題 / 回貼

1樓發(fā)表于: 2018-03-24 13:08

全看 | 小中大

D110里面的數(shù)據(jù)是0.0006472491，顯示保留三未小數(shù)就是0.001

本帖最近評分記錄：

下載積分:+1(影帝剛) 熱心助人！

工控人家園 綜合討論 百思不得其解之--浮點(diǎn)運(yùn)算DEDIV

http://m.bizsrc.cn
訪問內(nèi)容超出本站范圍，不能確定是否安全
繼續(xù)訪問	取消訪問

欧美日韩在线一区二区-欧美日韩在线一区二区三区-欧美日韩在线一区亚洲二区-欧美日韩在线永久免费播放-欧美日韩整片中文字幕-欧美日韩制服丝袜六区