原稿の砂場
文字だけのブログの下書き日記。
■ 続々・一般電卓の概算表示2020.10.12

続々・一般電卓の概算表示

 オーバーフローした数値は、エラー解除すると電卓表示表示桁以内の数値になる。

 小数点を読み替えることにより、乗除算においては、大きな桁の計算も可能である。

 乗算においては、電卓の桁数を超える同士の計算は概算にして計算をする。その時小数点は億または兆あるいは京として読み替える。10の何乗としても良い。

 除算においても、乗算と同じ手順をとる。注意点は、計算結果が0になる場合があること。

 例えば、8桁の電卓でこのような計算をした場合である。

1÷10,000,001

 この場合は電卓の小数が表示桁を超えるから、0とみなされる。

 これらを注意すると、電卓の表示桁を超える概算計算ができる。

 加減算の場合は工夫が必要となる、これは別の記事で紹介したい。


CGI-design