HOME何でもない日記[管理]
2021年   3月  
 2021年3月1日(月)   桁あふれエラー
桁あふれエラー
 オーバーフローエラーとも言います。flowは流れる湧き出るという意味があります。

 例えば8桁の電卓の場合、数値が9桁以上になった場合に、エラーを示すEを点灯し、計算を停止させます。

 Cまたは CE,CIを押すとエラー解除ができます。表示される範囲は8桁以内です。説明書によっては概算表示と書いてあります。概算が8桁の場合16桁を超える数値になると、計算不能の意味を示すE 0.が表示されます。

 エラー解除行なった場合、そこに表示されている数値は8桁を超える数値ではなく、8桁以内の数値で扱われます。

 概算表示として次の計算に使えるのは掛け算と割り算です。足し算と引き算の場合は、エラー解除した場合、概算表示として有効な数値は、8桁電卓の場合、プラスマイナス1.9999999億となります。エラー解除してその数値を使おうとしても8桁以内の数値になりますから、注意が必要です。

 その点を留意して計算すると、巨大な数の概算計算ができます。
▲top
CGI-design