北京普天同创生物科技有限公司
标准物质网
在线客服
在理化检测中,经常要对某些量进行测定,并对测得的数据进行计算。对直接测量值(测定读数值)应取几位数字?对间接测量值(直接测量值经函数关系计算得到的结果)要保留几位数字?这都是数据处理中面临的首要问题。
(一)直接测量值有效数字位数的确定
有效数字即实际能测得的数字,其一般只保留一位可疑数字(介于仪器两个最小分度之间的数值,为估计读数),其余数字都是准确的。例如:滴定分析中某次滴定管的读数为20.85mL,其中“20.8”是根据滴定管刻度示值准确读取的,末位“5”为估计读数;实际体积可能是20.84mL,也可能是20.86mL。有效数字位数不能超过其测量仪器的精密度。如当用25mL滴定管测定溶液体积时,当测量体积大于10mL小于25mL时,应记录为4位有效数字,如24.22;当测定体积小于10mL,应记录3位有效数字,如8.12mL。若记成8.120就错了。
注意:
(1)有效数字的位数不仅代表数值的大小,还反映了测量的相对误差。
例如:使用滴定管移取25mL液体,记为25.00mL,4位有效数字,其相对误差为:
(±0.01/25.00)×100%=±0.04%
如果使用量筒量取25mL液体,则记为25.0mL,3位有效数字,其相对误差为:
(±0.1/25.0)×100%=±0.4%
尽管在数学上25.00=25.0,但对测量值来说,25.00≠25.0,因其反映的测量准确度相差10倍。
(2)有效数字的位数与十进位制单位的变换无关,与小数点的位置无关。例如,用天平称量一物质的质量0.2050g,4位有效数字。当取质量的单位为毫克时,记做20.50mg,依然是4位有效数字。小数点的位置只与所用质量单位有关,与称量精度无关。
(3)数据中非零数字之间或之后的“0”均属于有效数字,其他的“0”作为数字定值。如表1-9所示。
(4)pH、lgK等对数值,有效数字为小数部分,如pH=4.34,2位有效数字。
表1-9分析天平称量结果示例
(二)计算结果有效数字位数的确定和数值修约
食品理化检测结果一般是一组原始数据的运算结果,而诸多原始数据的有效数字位数往往不一致,因此在运算时需要按照一定的规则确定计算结果的有效数字位数,并据此进行相关的数值修约,以确保检测结果数据的准确性。
1.数值修约
数值修约遵守《GB8170-2008数值修约规则》,常被习惯称之为“四舍六进五凑偶”规则。为便于操作,可按如下口诀简明记忆,即“四舍六进,五看前后;五后非零则进一,五后皆零凑偶尾;五前奇数五进一,五前偶数五舍去”,示例见表1-10。
表1-10数值修约示例
2.计算结果有效数字的合理取位
计算结果的精度取决于测量精度最差的那个原始数据的精度,故计算结果有效数字的位数取决于参与运算之各量的有效数字位数及运算方式。《GB/T5009.1-2003食品卫生检验方法理化部分总则》中规定:
加减法计算的结果,其小数点以后保留的位数,应与参加运算各数中小数
位数最少(即绝对误差最大)的那个数相同。如:
0.0121+25.64+0.05782=?
计算器算得值为26.70992,小数位数最少的数是25.64,故结果应保留两位小数,即修约值为26.71。
乘除法计算的结果,其有效数字保留的位数,应与参加运算各数中有效数字位数最少(即相对误差最大)的那个数相同。如:
0.0121×25.64×1.05782=?
计算器算得值为0.328182308,有效数字位数最少的数是0.0121,故结果应保留3位有效数字,即修约值为0.328。
注意:
(1)测定读数值按其仪器准确度确定了有效数字位数后,先进行运算,运算后的数值再修约。
(2)复杂运算时,其中间过程多保留一位有效数字,最后结果再取应有的位数。
(3)被运算数据的第一位数字等于或大于8时,其有效数字应多算一位。例如9.28mL,表面上是三位有效数字,计算中可作四位有效数字看待。
(4)计算公式中出现的非测量所得的自然数或常数,可看成具有无限多位数。如水的相对分子质量为:
2×1.008+16.00=18.02
其中“2”可视为具有无限多位数。
(5)一般来说,对于高组分含量(>10%)的测定,要求分析结果有四位有效数字;对于中组分含量(1%~10%),要求有三位有效数字;对于低组分含量(<1%),要求有两位有效数字。若国家标准有明确要求时,则按照标准执行。如GB/T5009.13-2003中规定,原子吸收光谱法测定食品中的铜时,“计算结果保留两位有效数字,试样含量超过10mg/kg时保留三位有效数字”。
相关链接:食品检测技术标准相关简介
文章来源:《食品理化检测技术》
版权与免责声明:转载目的在于传递更多信息。
如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。
如涉及作品内容、版权等问题,请在作品发表之日起两周内与本网联系,否则视为放弃相关权利。
通话对您免费,请放心接听
温馨提示:
1.手机直接输入,座机前请加区号 如18601949136,010-58103629
2.我们将根据您提供的电话号码,立即回电,请注意接听
3.因为您是被叫方,通话对您免费,请放心接听
登录后才可以评论