分析操作中的有效數(shù)字、數(shù)字修約規(guī)則
有效數(shù)字
分析檢驗(yàn)中直接或間接測(cè)定的量,一般都用數(shù)字表示,但它與數(shù)學(xué)中的“數(shù)”不同,而僅僅表示量度的近似值。在測(cè)定值中只保留一位可疑數(shù)字,如0.0123與1.23都為三位有效數(shù)字。當(dāng)數(shù)字末端的“0”不作為有效數(shù)字時(shí),要改寫成用乘以10n來表示。如24600取三位有效數(shù)字,應(yīng)寫作2.46×104。
1運(yùn)算規(guī)則
1.1 除有特殊規(guī)定外,一般可疑數(shù)表示末位1個(gè)單位的誤差。
1.2 復(fù)雜運(yùn)算時(shí),其中間過程多保留一位有效數(shù),最后結(jié)果須取應(yīng)有的位數(shù)。
1.3 加減法計(jì)算的結(jié)果,其小數(shù)點(diǎn)以后保留的位數(shù),應(yīng)與參加運(yùn)算各數(shù)中小數(shù)點(diǎn)后位數(shù)最少的相同
1.4 乘除法計(jì)算的結(jié)果,其有效數(shù)字保留的位數(shù),應(yīng)與參加運(yùn)算各數(shù)中有效數(shù)字位數(shù)最少的相同。
2 方法測(cè)定中按其儀器精度確定了有效數(shù)的位數(shù)后,先進(jìn)行運(yùn)算,運(yùn)算后的數(shù)值再修約。
數(shù)字修約規(guī)則
1 在擬舍棄的數(shù)字中,若左邊第一個(gè)數(shù)字小于5(不包括5)時(shí),則舍去,即所擬保留的末位數(shù)字不變。
例如:將14.2432修約到保留一位小數(shù)。
修約前 修約后
14.2432 14.2
2 在擬舍棄的數(shù)字中,若左邊第一個(gè)數(shù)字大于5(不包括5)時(shí),則進(jìn)一,即所擬保留的末位數(shù)字加例如:將26.4843修約到只保留一位小數(shù)。
修約前 修約后
26.4843 26.5
3 在擬舍棄的數(shù)字中,若左邊第一位數(shù)字等于5,其右邊的數(shù)字并非全部為零時(shí),則進(jìn)一,即所擬保留的末位數(shù)字加一。
例如:將1.0501修約到只保留一位小數(shù)。
修約前 修約后
1.0501 1.1
4 在擬舍棄的數(shù)字中,若左邊第一個(gè)數(shù)字等于5,其右邊的數(shù)字皆為零時(shí),所擬保留的末位數(shù)字若為奇數(shù)則進(jìn)一,若為偶數(shù)(包括“0”)則不進(jìn)。
例如:將下列數(shù)字修約到只保留一位小數(shù)。
修約前 修約后
0.3500 0.4
0.4500 0.4
1.0500 1.0
5 所擬舍棄的數(shù)字,若為兩位以上數(shù)字時(shí),不得連續(xù)進(jìn)行多次修約,應(yīng)根據(jù)所擬舍棄數(shù)字中左邊第一個(gè)數(shù)字的大小,按上述規(guī)定一次修約出結(jié)果。
例如:將15.4546修約成整數(shù)。
正確的做法是:
修約前 修約后
15.4546 15
不正確的做法是:
修約前 一次修約 二次修約 三次修約 四次修約(結(jié)果)
15.4546 15.455 15.46 15.5 16