ケタ落ち
浮動小数点数の加減算を実行したとき、けた落ちが発生する演算はどれか。ここで、有効けたは、仮数部3けたに対して,演算は6けたで行われるものとする。[平成12年度秋期 (旧)第2情報処理技術者試験]
ア 0.123×10の2乗 + 0.124×10の−2乗
イ 0.234×10の5乗 − 0.221×10の2乗
ウ 0.556×10の6乗 + 0.552×10の4乗
エ 0.556×10の7乗 − 0.552×10の7乗
けた落ちとは、ほぼ同じ値の 2つの数値を減算したときに、有効桁数が少なくなってしまう現象のことです。
ポイントは「ほぼ同じ値」というころ。
指数に注目してみましょう。
アは、2と-2
イは、5と2
ウは、6と4
エは、7と7 エを計算してみると、0.004×10の7乗です。有効桁数が3ケタのところ、1ケタに減ってしまっています。ここで、答えはほぼ確定。答えはエ。念のため、ほかの選択肢も確認すると、
ア 0.123×10の2乗 + 0.124×10の−2乗=12.3+0.00124=12.3012=0.123012×10の2乗 ケタ落発生なし
イ 0.234×10の5乗 − 0.221×10の2乗=23400-22.1=23377.9 =0.233779×10の5乗 ケタ落ち発生なし
ウ 0.556×10の6乗 + 0.552×10の4乗=556000+5520=561520=0.56152×10の6乗 ケタ落ち発生なし
この問題では、さらっと解説してしまいましたが、既出の浮動小数点の解説も合わせてご確認ください。