Line Buffer Overflow…

書くことが多過ぎるとき、バッファーとしてこちらに書きます。不定期更新です。

四捨五入…

四捨五入は、端数の処理方法です。

4以下を切り捨て、5以上を繰り上げます。

 

このことで、同僚が侃々諤々に、現場と打ち合わせていました。

「四捨五入のタイミング」です。

 

要は、例えば…

0.4、0.3、0.4のデータ、小数第一位を四捨五入してから足すと、0です。

ところが、そのまま足してから、その結果を四捨五入すると、1になるのです。

 

どちらも、小数第一位を四捨五入する処理なのに、結果はかなり違う。

時には10以上の差が出ることがあります。

10ったって、どこで四捨五入するかで、その重要度は様々です。

 

じゃあ、どっちが正しいのか?

そんなものは、ありません。

 

例えば、各値を相互に比べるような表だと、見方にもよりますが、精度を取るなら後から四捨五入、比べやすさを取るなら、先に四捨五入、かな?

合計値重視なら、後から四捨五入の方が、精度が高まるでしょう。

 

あと、複数の表を合成する場合もありますね。

方針がぶつかり合ったら困りますが、「エイヤァ!」で、決めちゃうこともあります。

 

見る方からしても、「これくらいは誤差と見てくれる」場合もありますし、きっちり合わせないと、OKが出ない上司も、いるでしょう。

 

なので、多くは現場のヒアリングが、必要になるのです。

 

どちらも間違いではないし、表や方針など、いろんな要素で決まる、この四捨五入の処理方針…。

システム屋さんには意外と、厄介なんですよ。