情報処理基礎論 a 第 1 回 (イントロダクション / 数値の表現 ) 「数値変換」 講義ノート目次

計算機における整数の表現、実数の表現をまとめる。 計算機では正の整数 (0, 自然数) を除き、工夫が必要である。

整数の表現

計算機は補数を用いて、負の整数や引き算を定義する。

0d -9 は 0b1001 であるが、 この補数は 0b0111 となる。引き算の代りに補数を加えて、 繰り上がった桁を引いたものとして求める。

繰り上がった桁を落すと、0b 1001 = 0d 9 を得る。

実数の表現

計算機では、実数を符号部、仮数部、指数部からなる浮動小数点表示で表す。 - 9.87654 × 10 ³ を例で示すと、次のようになる。

10 進数表示で有効数字は 6 桁程度。