北京普天同创生物科技有限公司

  • 标准物质/标准样品生产认可证书
  • CNAS实验室认可证书
  • 标准物质定级证书
  • 豫南检测资质认定证书
  • 质量管理体系认证证书
  • 伟业计量高企认证证书
  • 中国计量测试学会合作单位
新闻
  • 产品
  • 仪器
  • 新闻
  • 证书
  • 规程
  • 帖子
  • 课堂

在线客服

环境监测中的近似计算规则

发布时间:2020-06-17 00:00 作者:实验与分析 阅读量:1953

日常环境监测过程中,经常会需要进行数据的计算,就会遇到计算过程中有效位数数位该如何取舍的问题。下面介绍一下环境监测中数据的近似计算规则。

1、加法和减法

几个近似值相加减时,其和或差的有效数字位数,与小数点后位数最少者相同。在运算过程中,可以多保留一位小数。计算结果则按数值修约规则处理。

几个近似值相加减时,其和或差的有效数字决定于绝对误差最大的数值,即最后结果的有效数字自左起不超过参加计算的近似值中第一个出现的可疑数字。在小数的加减计算中,结果所保留的小数点后的位数与各近似值中小数点后位数最少者相同。

例:1.7250 + 74.3 + 21.23 ≈ 1.72 +74.3 + 21.23 = 97.25

最后计算结果按照修约规则处理,表示为:97.2。

2、乘法和除法

几个近似值相乘除时,所得积与商的有效数字位数决定于各种值中有效数字位数最少者。在实际运算时,先将各近似值修约至比有效数字位数最少者多保留一位,最后将计算结果按上述规则处理。

几个近似值相乘除时,所得积与商的有效数字位数决定于相对误差最大的近似值,即最后结果的有效数字位数要与近似值中有效数字位数最少者相同。

例:1.141 × 4.3 × 0.131 ≈ 1.14 × 4.3 × 0.131 = 0.642162

最后计算结果按照修约规则处理,表示为:0.64。

3、乘方和开方

近似值乘方或开方时,原近似值有几位有效数字,计算结果就可以保留几位有效数字。

例:1.3222 = 1.747684

最后计算结果应保留四位有效数字:1.748。

例:1.4141/2 = 1.189117…

最后计算结果应保留四位有效数字:1.189。

4、对数和反对数

在近似值的对数计算中,所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。

例:[H+]浓度为7.00 ×10-2 mol/L的pH值计算。

pH = -lg[H+] = -lg[7.00 ×10-2] = 1.154901…(真数7.00×10-2是三位有效数字)

最后计算结果是求对数,小数点后的位数应保留三位有效数字:1.155。

例:pH为4.00的溶液中[H+]的浓度计算。

[H+] = -lg[H+] = 4.00 (对数4.00小数点后有两位数字,故真数要有两位有效数字)

最后计算结果应保留二位有效数字:1.0×10-4 mol/L

5、求4个或4个以上准确度接近的数值的平均值时,其有效数字位数可增加一位。

例:(1.20+1.21+1.23+1.23)/4 = 1.2175

最后计算结果按照修约规则处理,可表示为:1.218。

评论

登录后才可以评论

立即登录
分享到微信
关闭
普天同创
请告知您的电话号码,我们将立即回电

通话对您免费,请放心接听

温馨提示:

1.手机直接输入,座机前请加区号 如18601949136,010-58103629

2.我们将根据您提供的电话号码,立即回电,请注意接听

3.因为您是被叫方,通话对您免费,请放心接听