泰特仪器-分析操作中的有效数字、数字修约规则

有效数字

分析检验中直接或间接测定的量，一般都用数字表示，但它与数学中的“数”不同，而仅仅表示量度的近似值。在测定值中只保留一位可疑数字，如0.0123与1.23都为三位有效数字。当数字末端的“0”不作为有效数字时，要改写成用乘以10ⁿ来表示。如24600取三位有效数字，应写作2.46×10⁴。

1运算规则

1.1 除有特殊规定外，一般可疑数表示末位1个单位的误差。

1.2 复杂运算时，其中间过程多保留一位有效数，zui后结果须取应有的位数。

1.3 加减法计算的结果，其小数点以后保留的位数，应与参加运算各数中小数点后位数最少的相同

1.4 乘除法计算的结果，其有效数字保留的位数，应与参加运算各数中有效数字位数最少的相同。

2 方法测定中按其仪器精度确定了有效数的位数后，先进行运算，运算后的数值再修约。

数字修约规则

1 在拟舍弃的数字中，若左边个数字小于5（不包括5）时，则舍去，即所拟保留的末位数字不变。

例如：将14.2432修约到保留一位小数。

修约前     修约后

14.2432     14.2

2 在拟舍弃的数字中，若左边个数字大于5（不包括5）时，则进一，即所拟保留的末位数字加例如：将26.4843修约到只保留一位小数。

修约前      修约后

26.4843      26.5

3 在拟舍弃的数字中，若左边位数字等于5，其右边的数字并非全部为零时，则进一，即所拟保留的末位数字加一。

例如：将1.0501修约到只保留一位小数。

修约前      修约后

1.0501       1.1

4 在拟舍弃的数字中，若左边个数字等于5，其右边的数字皆为零时，所拟保留的末位数字若为奇数则进一，若为偶数（包括“0”）则不进。

例如：将下列数字修约到只保留一位小数。

修约前      修约后

0.3500        0.4

0.4500        0.4

1.0500        1.0

5 所拟舍弃的数字，若为两位以上数字时，不得连续进行多次修约，应根据所拟舍弃数字中左边个数字的大小，按上述规定一次修约出结果。

例如：将15.4546修约成整数。

正确的做法是：

修约前      修约后

15.4546       15

不正确的做法是：

修约前 一次修约  二次修约  三次修约  四次修约（结果）

15.4546  15.455    15.46   15.5       16