浮動小数点数の加減算を実行したとき、けた落ちが発生する演算はどれか。ここで、有効けたは、仮数部3けたに対して,演算は6けたで行われるものとする。[平成12年度秋期 (旧)第2情報処理技術者試験]ア 0.123×10の2乗 + 0.124×10の−2乗 イ 0.234×10の5乗 −…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。