1) 数据运算中计量数字位数的选择
加减运算,以小数点后位数最少的数为准,位数较多的其他数,可比其多保留一位,再多余的小数应舍去。计算结果以小数点后最少的位数为准,当此数仍要参加后续计算时,可多保留一位。
乘、除(含乘方开方)运算,以有效数字位数最少的那个数字为准。其余的有效数字均比其多保留一位,运算结果的有效数字位数应与参加余亩按的有效数字为数最少的那个数字相同。
2)数据修约
修约是根据保留位数的要求将其多余位数的数字进行取舍,按照一定的规则,选取一个其值为修约间隔整数倍的数代替已知数,这一过程称为修约。1、以1为间隔的修约规则:a、拟舍弃的数字的最左一位数字小于5则舍去,既保留的各位数字不变。b、拟舍弃的数字的最左一位数字大于5或等于5,而跟随其后的有非全部位零的数字时则进一位。。既保留的末位数字加1。C、拟舍弃的数字的最左一位数字位5,且后面的数字均位零时,看保留的数字最末一位,如是奇数,则进一位,如是偶数则舍去。口诀为:小5舍、大5进、等5时需另定、保留位凑偶需保证。