您好,欢迎访问苏州金钻称重衡器官方网站! 在线留言常见问答网站地图
苏州金钻称重衡器

金钻15年衡器-实验室仪器行业服务经验为您提供工业称重-仪器系统解决方案

24小时
服务热线
:400-664-2889
:13771967889

资讯中心
当前位置首页 » 金钻新闻中心 » 新闻动态 » 万分之一天平读数精确到几位

万分之一天平读数精确到几位

返回列表 来源:金钻 查看手机网址
扫一扫!万分之一天平读数精确到几位扫一扫!
浏览:- 发布日期:2021-01-13 11:45:26【

万分之一天平准确到小数点后第四位0.0001g。根据电子天平的技术参数,zui小称量量,线性误差,重复性,不同天平其实是不一样的,哪怕都是万分之一的,0.0002肯定是做不到的。0.025g太小了,满足不了zui小称量要求,这个相对误差相当大的。一般小于5g,天平允许误差+/-0.5e,也就是+/-0.0005g。



因为小数点后第4位数字是估读,有可能四舍五入,所以第4位一般意义上是不准确的,严格上来说他精确到小数点后第3位。

万分之一天平



在取小数近似数的时候,如果尾数的高位数字是4或者比4小,就把尾数去掉。如果尾数的高位数是5或者比5大,就把尾数舍去并且在它的前一位进"1",这种取近似数的方法叫做四舍五入法。

四舍五入是一种精确度的计数保留法,与其他方法本质相同。但特殊之处在于,采用四舍五入,能使被保留部分的与实际值差值不超过zui后一位数量级的二分之一:假如0~9等概率出现的话,对大量的被保留数据,这种保留法的误差总和是zui小的。这也是我们使用这种方法为基本保留法的原因。


00000 X
正在整改>>