四捨五入は、端数の処理方法です。
4以下を切り捨て、5以上を繰り上げます。
このことで、同僚が侃々諤々に、現場と打ち合わせていました。
「四捨五入のタイミング」です。
要は、例えば…
0.4、0.3、0.4のデータ、小数第一位を四捨五入してから足すと、0です。
ところが、そのまま足してから、その結果を四捨五入すると、1になるのです。
どちらも、小数第一位を四捨五入する処理なのに、結果はかなり違う。
時には10以上の差が出ることがあります。
10ったって、どこで四捨五入するかで、その重要度は様々です。
じゃあ、どっちが正しいのか?
そんなものは、ありません。
例えば、各値を相互に比べるような表だと、見方にもよりますが、精度を取るなら後から四捨五入、比べやすさを取るなら、先に四捨五入、かな?
合計値重視なら、後から四捨五入の方が、精度が高まるでしょう。
あと、複数の表を合成する場合もありますね。
方針がぶつかり合ったら困りますが、「エイヤァ!」で、決めちゃうこともあります。
見る方からしても、「これくらいは誤差と見てくれる」場合もありますし、きっちり合わせないと、OKが出ない上司も、いるでしょう。
なので、多くは現場のヒアリングが、必要になるのです。
どちらも間違いではないし、表や方針など、いろんな要素で決まる、この四捨五入の処理方針…。
システム屋さんには意外と、厄介なんですよ。