2010-11-15から1日間の記事一覧

ケタ落ち

浮動小数点数の加減算を実行したとき、けた落ちが発生する演算はどれか。ここで、有効けたは、仮数部3けたに対して,演算は6けたで行われるものとする。[平成12年度秋期 (旧)第2情報処理技術者試験]ア 0.123×10の2乗 + 0.124×10の−2乗 イ 0.234×10の5乗 −…