« 松江市交通局 正社員化の取り組み | メイン | キングジムpomera »

2009-02-15

電卓の小数点処理

 電卓に、次の計算をさせてみました。使用した電卓はすべて12桁。

  計算式 2÷36500×100000


  カシオ計算機のDS−20 12桁の古い電卓です。答えを見てみましょう。  5.479452 と表示されています。

 同じくカシオ計算機のDS−120TW 加算器式電卓です。答えは、やはり、  5.479452です。

 キヤノンの電卓、LSー12TUiiです。これも、同じく、5.474952と言う結果がでます。

 カシオ計算機のD−250  シールベタベタ貼っているのはご愛嬌として、計算してみると、  5.47945205479。小数点以下11桁まで計算しています
   
 カシオ計算機、JZ−20E  数年前のテンキー電卓です。これも同じく、  5.47945205479です。
 ここに取り上げた電卓は、すべて、2÷36500と操作すると、表示は、  0.00005479452
 になります。
 次に、×100000の操作をすると、上から3台は、表示からはみ出た分は、切り捨てられて計算をしますが、下の2台は、12桁分の数字547945205479を記憶しておいて演算の処理をしていることになります。これに近いのが関数電卓で、0をたくさん表示させる代わりに指数表示に切り替わります。

 関数電卓の例。シャープ ELー506P 10桁 指数表示に切り替え。  5.479452×10のマイナス5乗  電卓用LSIのプログラムにはいくつかの処理パタンがあるようですね。あなたも電卓の変わった処理を発見してみてはいかがでしょう。   

コメント

コメントを投稿

コメントは記事の投稿者が承認するまで表示されません。