萬(wàn)分之一天平讀數(shù)精確到幾位
萬(wàn)分之一天平可準(zhǔn)確到小數(shù)點(diǎn)后第四位0.0001g。根據(jù)電子天平的技術(shù)參數(shù)，zui小稱量量，線性誤差，重復(fù)性，不同天平其實(shí)是不一樣的，哪怕都是萬(wàn)分之一的，0.0002肯定是做不到的。0.025g太小了，滿足不了zui小稱量要求，這個(gè)相對(duì)誤差相當(dāng)大的。一般小于5g,天平允許誤差+/-0.5e,也就是+/-0.0005g。
因?yàn)樾?shù)點(diǎn)后第4位數(shù)字是估讀，有可能四舍五入，所以第4位一般意義上是不準(zhǔn)確的，嚴(yán)格上來說他精確到小數(shù)點(diǎn)后第3位。
在取小數(shù)近似數(shù)的時(shí)候，如果尾數(shù)的高位數(shù)字是4或者比4小，就把尾數(shù)去掉。如果尾數(shù)的高位數(shù)是5或者比5大，就把尾數(shù)舍去并且在它的前一位進(jìn)"1",這種取近似數(shù)的方法叫做四舍五入法。
四舍五入是一種精確度的計(jì)數(shù)保留法，與其他方法本質(zhì)相同。但特殊之處在于，采用四舍五入，能使被保留部分的與實(shí)際值差值不超過zui后一位數(shù)量級(jí)的二分之一：假如0～9等概率出現(xiàn)的話，對(duì)大量的被保留數(shù)據(jù)，這種保留法的誤差總和是zui小的。這也是我們使用這種方法為基本保留法的原因。
“推薦閱讀”
金鉆推薦
相關(guān)新聞動(dòng)態(tài)
- 稱重模塊代替電子天平在恒溫恒濕箱稱重的應(yīng)用
- 天平減震臺(tái)對(duì)天平實(shí)驗(yàn)數(shù)據(jù)有什么影響？
- 普利賽斯天平的常見特點(diǎn)和優(yōu)勢(shì)
- 什么是復(fù)檢秤？它的特性優(yōu)勢(shì)有哪些？
- 不銹鋼地磅帶引坡在食品工廠的應(yīng)用
- 電解槽稱重模塊
- 帶移動(dòng)電源電子秤,24小時(shí)不間斷使用續(xù)航能力強(qiáng)
- 自動(dòng)化配套在線復(fù)檢秤的應(yīng)用
- OEM稱重傳感器在離子電池電解液項(xiàng)目中應(yīng)用
- 水分測(cè)定儀在離子電池電解液項(xiàng)目中應(yīng)用
