所有提问
色谱 | 光谱 | 质谱 | 波谱 | 显微镜 | 物性测试 | 样品前处理 | 常用设备 | 食品检测 | 药物分析 | 环境监测 | 实验室建设/管理 | 认证认可 | 基础知识    更多>>
未解决的问题:146784
所有仪器问答:170746
 您现在的位置:首页 > 仪器问答 > 基础知识专区 > 数据处理数据处理论坛
共有 8 人回复了该问答有效数字的运算与修约
 回复chenyuanlin发表于:2020/1/15 23:11:11悬赏金额:20积分 状态:未解决
在日常计算中,遇到这种问题小弟很困惑,希望哪位大虾帮我确定一下,下面的计算是否正确?

0.0231、24.57和1.16832三个数相乘,根据有效数字的运算规则,有效数字的位数取决于相对误差最大的数据的位数,

应该写成 0.0231×24.6×1.17=0.6648642≈0.665
 回复  1# gpwrx  回复于:2020-01-16 08:26:11
要看这三个数是什么数据,如果是原始数据应该全部数据乘完后再修约吧。
扫一扫查看全部8条回复
高级回复快速回复【花三五分钟,帮别人解决一个问题,快乐自己一天!】