33件ヒット
[1-33件を表示]
(0.265秒)
検索結果
先頭3件
-
BigDecimal
:: ROUND _ HALF _ UP -> Integer (18201.0) -
BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認 する際の値を返します。
BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認
する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
. mode(s) -> Integer | nil (130.0) -
BigDecimal の計算処理の制御方法を設定、確認します。
...cimal::EXCEPTION_INFINITY のとき、無限(+ or -Infinity)
* BigDecimal::EXCEPTION_UNDERFLOW のとき、ゼロ
* BigDecimal::EXCEPTION_OVERFLOW のとき、+Infinity か -Infinity
* BigDecimal::EXCEPTION_ZERODIVIDE のとき、+Infinity か -Infinity
BigDecimal::EXCEPTION_INFINITY、BigDec......。
=== 丸め処理指定
計算途中の丸め操作の指定ができます。
//emlist[][ruby]{
require 'bigdecimal'
flag = BigDecimal::ROUND_HALF_UP # デフォルト値
f = BigDecimal::mode(BigDecimal::ROUND_MODE,flag)
//}
の形式で指定します。
ここで、flag は以下(括弧内......す。
* BigDecimal::ROUND_UP 全て切り上げます。
* BigDecimal::ROUND_DOWN 全て切り捨てます(truncate)。
* BigDecimal::ROUND_HALF_UP 四捨五入します(デフォルト)。
* BigDecimal::ROUND_HALF_DOWN 五捨六入します。
* BigDecimal::ROUND_HALF_EVEN 四捨六入... -
BigDecimal
. mode(s , v) -> Integer | nil (130.0) -
BigDecimal の計算処理の制御方法を設定、確認します。
...cimal::EXCEPTION_INFINITY のとき、無限(+ or -Infinity)
* BigDecimal::EXCEPTION_UNDERFLOW のとき、ゼロ
* BigDecimal::EXCEPTION_OVERFLOW のとき、+Infinity か -Infinity
* BigDecimal::EXCEPTION_ZERODIVIDE のとき、+Infinity か -Infinity
BigDecimal::EXCEPTION_INFINITY、BigDec......。
=== 丸め処理指定
計算途中の丸め操作の指定ができます。
//emlist[][ruby]{
require 'bigdecimal'
flag = BigDecimal::ROUND_HALF_UP # デフォルト値
f = BigDecimal::mode(BigDecimal::ROUND_MODE,flag)
//}
の形式で指定します。
ここで、flag は以下(括弧内......す。
* BigDecimal::ROUND_UP 全て切り上げます。
* BigDecimal::ROUND_DOWN 全て切り捨てます(truncate)。
* BigDecimal::ROUND_HALF_UP 四捨五入します(デフォルト)。
* BigDecimal::ROUND_HALF_DOWN 五捨六入します。
* BigDecimal::ROUND_HALF_EVEN 四捨六入...