基礎プログラミング I 第4回 プログラミングの方法 「数値計算の結果で使える method の紹介」 (講義ノート)

数値計算をした場合は、library を読みこませる。 library は require 'library 名' を冒頭に付け加えて、 利用可能とする。 数値なので、数値計算用の変数として使われることをはじめに宣言する。

#!/usr/koeki/bin/ruby
require 'bigdecimal'

c = BigDecimal("3.456")

p c.round(2) 	 # 四捨五入
p c.ceil(2)  	 # 切り上げ
p c.floor(2) 	 # 切り捨て

得られた結果は少し変わった出力方法となっている。

#<BigDecimal:データをしまった場所,'数値結果',8(16)>

となる。E1 は 10 ** (-1) に等しい。一般に数値に読みかえるには、

En = 10 ** (-n)

となる。

このプログラムの結果をそれぞれ調べ、 なぜそうなるのか答えよ。また自分で数値を変更したパターンをいくつか作り、 それについても調べよ。