请教有效数字的问题_数据处理_基础知识专区_仪器问答_仪器信息网

未解决的问题：146739
所有仪器问答：170700

共有 6 人回复了该问答请教有效数字的问题

回复nielei127发表于：2020/2/21 15:53:32悬赏金额：10积分状态：未解决

比如我们标准中的限度规定为1.0 按照我们程序文件，检验结果与标准规定有效位数一致，假如我做了0.843 修约为两位为0.84

但是有同事认为应该是修约为0.8 因为“ 有效数字的首位数字为8或9时,其有效位数可以多计一位。例如85%与115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。”

1# nielei127 回复于：2020-02-21 15:55:32

但我认为当首位为8或9时只是可以看作是多一位有效位数，可以认为不代表一定是，只是应用在计算当中时这样看。大家讨论讨论一直没搞清楚这个问题导致出检验结果时有点为难

扫一扫查看全部6条回复

高级回复快速回复【花三五分钟，帮别人解决一个问题，快乐自己一天！】

未解决问题

相关仪器

相关资料