北京普天同创生物科技有限公司
标准物质网
在线客服
2.2.2有效数字的修约规则
在处理分析数据时,涉及的各测量值的有效数字位数可能不同。从误差传递原理可知,通过运算所得的结果,其误差总比个别测量的误差大。数据计算所得结果的误差取决于各测量值(特别是误差较大的测量值)的误差。所以,为保证计算结果的准确度与实验数据相符合,则需要对其有效数字的位数确定,多余部分一概舍弃,我们将该过程称为数字修约。其基本原则如下:
2.2.2.1采用“四舍六入五留双”的规则
该规则规定:当多余位数的首位≤4时,舍去;多余位数的首位≥6时,进位;等于5时,如果5后数字不为0,则进位;如果5后数字为0,则视5前面是奇数还是偶数,采用“奇进偶舍”的方法进行修约,是被保留数据的末位为偶数。
例如,将下列数据修约为两位有效数字:
7.549→7.5 3.3690→3.4 7.4501→7.5
0.007350→0.0074 0.8450→0.84
2.2.2.2禁止分次修约
修约应一次到位,不得连续多次进行修约,例如,将数据2.345 7修约为两位,则为2.345 7→2.3;然而若分次修约:2.345 7→2.346→2.35→2.4这样出现了错误。
2.2.2.3可多保留一位有效数字进行运算
在大量运算中,为了提高运算速度,且又不使修约误差迅速累积,则可采用“安全数字”。即将参与运算各数的有效数字修约到比绝对误差最大的数据多保留一位,再运算后,将结果修约到应有的位数。例如,计算5.3527、2.3、0.054及3.35的和。按加减法的运算法则,其计算结果只保留一位小数。在计算过程中我们不妨多保留一位,则上述数据计算,可写成
5.35+2.3+0.05+3.35=11.05
计算结果可修约为11.0。
2.2.2.4修约标准偏差
对标准偏差的修约,其结果应使准确度降低。例如,某计算结果的标准偏差为0.213,取两位有效数字,修约为0.21。在做统计检验时,标准偏差可多保留1~2位数参与运算,计算结果的统计量可多保留一位数字与临界值比较。
2.2.2.5与标准限度值比较时不应修约在分析测定中常需要将测定值与标准限度进行比较,从而确定样品是否合格。
文章来源:《分析化学分析方法的原理及应用研究》
版权与免责声明:转载目的在于传递更多信息。
如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。
如涉及作品内容、版权等问题,请在作品发表之日起两周内与本网联系,否则视为放弃相关权利。
通话对您免费,请放心接听
温馨提示:
1.手机直接输入,座机前请加区号 如18601949136,010-58103629
2.我们将根据您提供的电话号码,立即回电,请注意接听
3.因为您是被叫方,通话对您免费,请放心接听
登录后才可以评论