読者です 読者をやめる 読者になる 読者になる

Line Buffer Overflow…

書くことが多過ぎるとき、バッファーとしてこちらに書きます。不定期更新です。

Overflowの記憶…

パソコン Excel 仕事 エラー 遊び・ゲーム

残業が多めな今日この頃。

公私ともOverflowしそうな日々ですが…

 

パソコンのエラーの「Overflow」は、変数に格納する値、またはそもそもの計算結果が、扱える大きさを超えたときに出ます。

エラー番号は6。

今のExcelでも、たまに出ます。

 

当時のMSXでは、数字は2バイトまで。

符号を付けると、-32768から+32767。

意外と、狭いのです。

 

多分、8ビットパソコンでは、これくらいが限界なのでしょうね。

当時、8ビット機のPC-8801とか、FM-7とかは、専らホビー機としての位置づけでした。

 

一方、PC-9801は16ビット機。

扱ったことはないので推測ですが、恐らく、4ビットの整数が扱えたのでしょう。

そうすると、扱える範囲はこのようになります。

 -2,147,483,648~2,147,483,647

20億も扱えれば、ビジネスユースにも十分耐えました。

なのでPC-9801は「ビジネス機」としての、デビューだったんですよ。

 

…結局、ゲーム機にもなりましたけどね。

 

ちなみに、今のExcelでは「長整数型(Long)」という型があって、先ほどの±約21億の数字を扱えます。

でも、会社によってはこれでは不足です。

また、パソコンは小数の計算が、実は大の苦手。

ビジネスユースでは利益率とか、○○比とか、割り算をする場面が結構ありますが、この時に誤差が出てしまうのです。

そこで通常、金額を扱うときは、「通貨型(Currency)」を使います。

メモリは長整数型の倍、8バイトも使いますが、900兆以上の数値を扱える上、小数点第4位までは、誤差がありません。

 

日本、いや世界中の会社、自治体、あるいは国家での使用にも耐える仕様ですが、もしかしたら…

 

日本の国債費が、超えるかも知れません…!?