電卓活用研究室／活用事例集／桁指定・丸め計算

　２０００円以上で買える電卓をよく見ると、写真のようなスライドスイッチがついていることがあります。

Ｆ＿ＣＵＴ＿ＵＰ＿５／４
４＿３＿２＿１＿０＿ＡＤＤ２

　という表示が一般的です。前者は、丸め計算。指定された小数点以下の桁数を、
Ｆ＝何もしない
ＣＵＴ＝切り捨て
ＵＰ＝切り上げ
５／４＝四捨五入

　を指定するスイッチです。

　後者は小数点以下何桁に指定するスイッチです。０にすると、１以下の数値の丸め計算になります。

（※ＡＤＤ２については別の機会で取り上げます。）

　丸め計算をしたいときには、Ｆ以外のスイッチに入れておかないと、小数点以下桁指定スイッチを入れても作動しません。

　ところで、電卓の小数点以下の有効桁数は、１２桁の電卓の場合は、次の計算式での求められます。

１２－整数の表示桁＝有効桁数

　小数点の位置が、整数の桁数で、動くことから、浮動小数点方式と呼ばれています。

　電卓が登場した頃は、整数の桁と、小数の桁を固定する固定小数点方式も存在しました。例を挙げると、１２桁の電卓の場合、２に指定すると、答が１０桁を超えるとエラーになってしまいます。

　現在売られている電卓で固定小数点方式は売られていません。

　また、小数点以下の数字が、その桁を指定しないで計算した場合、有効桁数をはみ出した場合、すべて切り捨てられる処理をします。

　１÷３×３が１にならないという現象はこのためです。

　この丸め計算スイッチは、切り捨て誤差を減らそうという目的、有効桁数での端数処理に用いることが出来ます。

　主な利用法はパーセントの合計、複利計算など使えます。

　四捨五入などを使って連続計算すると、当然、誤差が累積していきます。今回は、誤差がどれぐらい出るのか、試してみました。

　√２を１回掛け合わせると、
√２×√２＝２になります。

　これを小数点以下のスイッチを２に指定して、四捨五入、切り上げ、切り捨てでどう答が変わるか計算してみました。

√２の累乗を求める
使用電卓　カシオ　ＤＦ－３２０　小数点２桁以下は丸め計算。

1	2.00	2.00	1.99	2	0.00	0.00	-0.01
2	2.83	2.83	2.81
3	4.00	4.01	3.97	4	0.00	0.01	-0.03
4	5.66	5.67	5.61
5	8.00	8.02	7.93	8	0.00	0.02	-0.07
6	11.31	11.35	11.21
7	15.99	16.06	15.85	16	-0.01	0.06	-0.15
8	22.61	22.72	22.41
9	31.98	32.13	31.69	32	-0.02	0.13	-0.31
10	45.23	45.44	44.81
11	63.96	64.27	63.37	64	-0.04	0.27	-0.63
12	90.45	90.90	89.61
13	127.92	128.56	126.72	128	-0.08	0.56	-1.28
14	180.91	181.82	179.20
15	255.85	257.14	253.42	256	-0.15	1.14	-2.58
16	361.83	363.65	358.39
17	511.70	514.28	506.83	512	-0.30	2.28	-5.17
18	723.65	727.31	716.76
19	1023.40	1028.58	1013.65	1024	-0.60	4.58	-10.35
20	1447.31	1454.64	1433.51
21	2046.81	2057.18	2027.28	2048	-1.19	9.18	-20.72
22	2894.63	2909.30	2867.00
23	4093.63	4114.38	4054.55	4096	-2.37	18.38	-41.45
24	5789.27	5818.62	5733.99
25	8187.26	8228.78	8109.08	8192	-4.74	36.78	-82.92
26	11578.53	11637.26	11467.97
27	16374.51	16457.57	16218.15	16384	-9.49	73.57	-165.85
28	23157.05	23274.52	22935.92
29	32749.01	32915.15	32436.28	32768	-18.99	147.15	-331.72
30	46314.09	46549.06	45871.82
31	65498.01	65830.32	64872.54	65536	-37.99	294.32	-663.46

　表の右側は、真値との誤差を表しています。計算が２回おきに、２の倍数になるために、その部分の誤差を表示しています。
　
　四捨五入で計算した場合、５回目の８は、正確にでます。ただし、次の７回目の答え１６から、答が真の値より減少していきます。

　切り上げで計算した場合は、回数を重ねるごとに誤差が累積していきます。切り捨ての場合の誤差は、回を重ねるごとに大きくなっていきます。

　グラフにしたのが下の表です。

　回数が進むごとに、誤差が広がりが大きくなっていきます。

　このように電卓で計算するとき、特に小数点になる、除算などには、誤差がつきまとっています。