大学院情報処理演習 第 12 回 (Taylor 展開) 「倍精度計算の意味」 講義ノート目次

有効数字の考え方と数値計算での桁落ちについて。