食品检验工培训

有效数字修约与运算法则在检验中的运用

有效数字修约与运算法则在检验中的运用

2.1.3.1有效数字的基本概念:
    所谓有效数字:具体地说,是指在分析工作中实际能够测量到的数字。所谓能够测量到的是包括最后一位估计的,不确定的数字。 我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。

(1)有效数字在检验工作中所能得到有实际意义的数值,其最后一位数字欠准是允许的,这由可靠数字和最后一位不确定数字组成的数值,即为有效数字。

(2)有效数字的定位(数位),是指确定欠准数字的位置,这个位置确定后,其后面的数字均为无效数字。
例如,一支25ml的滴定管,其最小刻度为0.1ml,如果滴定管的体积介符于20.9ml到21.0ml之间,则需估计一位数字,读出20.97ml,这个7就是个欠准的数字,这个位置确定后,它有效位数就是4个,即使其后面还有数字也只是无效数字。

(3)在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
例如:35000,若有两个无效零,则为三位有效位数,应写作350×102或3.50×104;有三个无效零,则为两位有效位数,应写作35×103或3.5×104

(4)在其他10进位数中,有效数字系指从非零数字最左一位向右数而得到的位数,例如:3.2、 0.32、0.032和0.0032均为两位有效位数;0.320为三位有效位数;10.00为四位有效位数;12.490为五位有效位数。

(5)非连续型数值:(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位。例如,H2SO4中的2和4是个数。常数л和系数等。数值的有效位数可视为无限多位。每1ml××滴定液(0.1mol/L)中的0.1为名义浓度,规格项下的0.3g或“1ml:25mg”中的“0.3”、“1”、“25”均为标示量,其有效位数,也为无限多位。即在计算中,其有效位数应根据其他数值的最少有效位数而定。

(6)pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。
如:pH=11.26 ([H+]=5.5×10-12mol/L),其有效数字只有两位。

(7)有效数字的首位数字为8或9时,其有效位数可以多计一位,例如:85%与115%,都可以看成是三位有效数字;99.0%与101.0%都可以看成是四位有效数字。
★分析结果的有效数字所能达到的位数不能超过方法最低检测质量浓度的有效位数所能达到的位数。例如,一个方法的最低检出质量浓度为0.02mg/L,则分析结果报0.088 mg/L就不合理,应报0.09 mg/L。
2.1.3.2数字的修约及其取舍规则

(1)数字修约是指拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。

(2)修约间隔是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整倍数。例如:指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。

(3)进舍原则

①拟舍去数字的最左一位数字少于5时,则舍去,即保留的各位数字不变。  例如,例1,将12.1496,修约到一位小数(十分位),得12.1。
例2,将12.1496,修约到两位有效位数,得12。

②拟舍去数字的最左一位数字大于5时,或者是5,而后跟有并非全部为0的数字,则进一,即在保留的末位数字加1。
例1,将1268,修约到百数位,得13×102
例2,将1268,修约到十数位(即三位有效数字) , 得127×10。
例3, 将10.502修约到个数位,得11。

③拟舍去数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数为奇数(1,3,5,7,9)则进一。为偶数(2,4,6,8,0)则舍弃。(留双的原则)
例1,将1.050按间隔为0.1(10-1)修约,修约值为:1.0。
例2,将0.350按间隔为0.1(10-1)修约,修约值为:0.4。
例3,将2500按间隔为1000(103)修约,修约值为:2×103
例4,将3500按间隔为1000(103)修约,修约值为:4×103
例5,将0.0325修约成两位有效位数,修约值为:0.032或3.2×10-2
例6,将32500修约成两位有效位数,其修约值为:32×103

★   在相对偏差(RSD)中,采用“只进不舍”的原则,
如,0.163%,如为两个有效位时,宜修约为0.17%;
0.52%,如为一个有效位时,宜修约为0.6%。

★  标准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998,如果小数点后都是9时,是保留小数点后四位。标准曲线斜率b有效位数,应与自变量x有效数字位数相等,或最多比自变量x保留一位。截距a最后一位数则应与因变量y值的最后一位取齐,或最多比y保留一位数。

★   不许连续修约。
拟修约的数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则连续修约。
例,15.4546,修约间隔1,
正确的做法为:   15.4546→15。
不正确的做法为:15.4546→15.455→15.46→15.5→16。

  • 为了便于记忆,上述规则可归纳成以下口诀:四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。
    2.1.3.3运算法则

(1)在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的;

(2) 多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大,因此相加减时应以诸数值中绝对误差最大,(即欠准数字的数位最大)的数值为准,以确定其他数在运算中保留的数位和决定计算结果的有效数位。

(3)许多数值相乘除时,所得的积或商的相对误差必较任何一个数值的相对误差大,因此相乘除时应以诸数值中相对误差最大,(即有效位数最少)的数值为准,确定其它数值在运算中保留的有效位数和决定计算结果的有效数位。

(4)在运算过程中,为减少舍入误差,其他数值的修约可以暂时多保留一位,等运算到结果时,再根据有效位数弃去多余的数字。
例1:   13.65+0.00823+1.633=?
本例是数值相加减,在三个数值中,13.65的绝对误差最大,其最末一位数为百分位(即小数后二位),因此将其它各数暂先保留至千分位。即把0.00823修约为0.008,1.633不变。
进行运算: 13.65+0.00823+1.633=13.65+0.008+1.633=15.291然后修约至百分位,即为:15.29。
例2:   14.131×0.07654÷0.78=?
本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为二位有效位数,因此各数值均应暂时保留三位有效位数进行运算: 14.131×0.07654÷0.78 =14.1×0.0765÷0.78=1.08÷0.78 =1.38
再将结果修约为两位有效位数,即1.4

2.1.3.4注意事项:

(1)正确记录检测所得的数值  应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定, 确定数字的有效位数(或数位),检测值必须与测量的准确度相符合,记录全部准确数字和一位欠准数字。

(2)正确掌握和运用规则进行计算时,应执行进舍规则和运算规则,如用计算器进行计算,也应将计算结果经修约后再记录下来。

(3)要根据取样的要求,选择相应的量具。
“精密称定”系指称取重量应准确到所取重量的0.1%,根据不同的取样量而选用不同精度的天平。如需分别精密称取5g、500mg、10mg、样品,按0.1%的精度要求,这三个样品应分别精确到5mg、0.5mg和0.01mg,因此应分别选用万分之一(感量为0.1mg)、十万分之一(感量为0.01mg)和百万分之一(感量为0.001mg)的天平进行称量。
在实际操作中,当取样量>0.1g时,则按精确至0.1mg称量,即应选用感量为0.1mg的天平称量 ;当取样量为100mg~10mg时,则按精确至0.01mg称量,即应选用感量为0.01mg的天平称量 ;当取样量为10mg以下时,则按精确至0.001mg称量,即应选用感量为0.01mg的天平称量 ;
但在称量基准物质时,要求>0.5g时,按精确至0.1mg 称量;≤0.5g时,按精确至0.01mg称量。(要求更高)
“精密量取”应选用符合国家标准的移液管,必要时应加校正值。
“称定”(或“量取”)系指称取的重量(或量取的容量)应准确至所取重量(或容量)的百分之一。(千分之一天平)
取用量为“约××”时,系指取用量不得超过规定量的100±10%。如取约0.5g时,可称取0.45g~0.55g。
取用量的精度未作特殊规定时,应根据其数值的有效位数选用与之相应的量具;如规定量取5ml、5.0ml、5.00ml时,则应分别选用5~10ml的量筒、5~10ml的刻度吸管或5ml的移液管进行量取。

 兰冠教育学院食品检验员培训小编温馨提醒您关注:东莞食品检验员培训去哪里报名

本文网址:http://www.foodkz.com/3568.html 版权所有:广州食品检验工培训

发表回复