作业帮 > 数学 > 作业

其实是很简单的公式,但是在下实在弄不明白了,公式水平不够啊,

来源:学生作业帮 编辑:搜搜做题作业网作业帮 分类:数学作业 时间:2024/07/29 07:40:30
其实是很简单的公式,但是在下实在弄不明白了,公式水平不够啊,
AL列公式=sum(g22:ak22),AQ列公式=AN22+AO22-AP22,AM列为自动等于sheet1里的AR22的数值,AR列公式为=AM22+AQ22-AL22.
那么,我在AP22输入17.5的话,AR22里等于0.1;AP22输入17.7的话,AR22里等于-0.1;为什么输入17.6,AR22就等于这么个结果呢?本来是想将AR22里的数清零的.
请看图:
其实是很简单的公式,但是在下实在弄不明白了,公式水平不够啊,
是这样的,在计算机进行计算的时候,由于数的精度和有效数字的关系,会造成一定的舍入误差.如果是乘法和除法的话,也许你容易理解舍入误差的产生,但是实际上加法和减法也会的.比如说,计算1÷3×3,结果肯定不会是1.当你在AP22输入17.5或17.7时,结果的0.1和-0.1应该也是有尾数的,但是因为尾数相对于0.1太小,在默认的有效数字位数较少的时候,尾数被舍去了.但是当你输入17.6时,结果应该是0,同样应该有很小的尾数.为了保证有效数字,于是就会出现10的-14次方这样极小的数值.
再问: 多谢多谢,我大概懂了,但是怎么解决呢?想把AR22清零
再答: 呃,你可以在单元格右键选择单元格属性,在“数字”选项中选择数值项,选择小数位数,应该就可以了。