るりまサーチ

最速Rubyリファレンスマニュアル検索!
176件ヒット [1-100件を表示] (0.060秒)

別のキーワード

  1. bigdecimal mode
  2. bigdecimal round_mode
  3. openssl fips_mode=
  4. bigdecimal save_rounding_mode
  5. readline vi_editing_mode

ライブラリ

クラス

検索結果

<< 1 2 > >>

bigdecimal (38616.0)

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

...bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。

//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456...
...equire "bigdecimal"
BigDecimal
("1.0") / BigDecimal("-Infinity") # => -0.0
//}

正の非常に小さな BigDecimal の値は 0 を表す値になります。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.0") / BigDecimal("Infinity") # => 0.0
//}

精度については BigDecimal.mode も併...
...]{
require "bigdecimal"
p BigDecimal("2").div(3, 12).to_s(10) # 2.0 / 3.0
# => 0.6666666666 67e0
//}

: truncate, round, ceil, floor

これらのメソッドは小数点からの相対位置を指定して桁数を決定します。

//emlist[][ruby]{
require "bigdecimal"
p BigDecimal("6.66666666...

BigDecimal.mode(s) -> Integer | nil (35550.0)

BigDecimal の計算処理の制御方法を設定、確認します。

...
BigDecimal
の計算処理の制御方法を設定、確認します。

第2引数を省略、または nil を指定すると現状の設定値を返します。

@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal
::ROUND_MODE のいずれか...
...で指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal
::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効になります。
それ以外の場合は、true、false、nil の...
...e 'bigdecimal'
flag = false # デフォルト値
f = BigDecimal::mode(BigDecimal::EXCEPTION_NaN,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_INFINITY,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_UNDERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_OVERFLOW,flag)
f = BigDecimal::mode(Bi...

BigDecimal.mode(s, v) -> Integer | nil (35550.0)

BigDecimal の計算処理の制御方法を設定、確認します。

...
BigDecimal
の計算処理の制御方法を設定、確認します。

第2引数を省略、または nil を指定すると現状の設定値を返します。

@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal
::ROUND_MODE のいずれか...
...で指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal
::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効になります。
それ以外の場合は、true、false、nil の...
...e 'bigdecimal'
flag = false # デフォルト値
f = BigDecimal::mode(BigDecimal::EXCEPTION_NaN,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_INFINITY,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_UNDERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_OVERFLOW,flag)
f = BigDecimal::mode(Bi...

BigDecimal#round(n) -> BigDecimal (35525.0)

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

...クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal
::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同...
...

BigDecimal
.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」にします。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").round # => 1
BigDecimal
("-...
...1.23456").round # => -1
//}

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を丸めます(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁...

BigDecimal#round(n, b) -> BigDecimal (35525.0)

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

...クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal
::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同...
...

BigDecimal
.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」にします。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").round # => 1
BigDecimal
("-...
...1.23456").round # => -1
//}

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を丸めます(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁...

絞り込み条件を変える

BigDecimal#round -> Integer (35425.0)

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

...クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal
::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同...
...

BigDecimal
.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」にします。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").round # => 1
BigDecimal
("-...
...1.23456").round # => -1
//}

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を丸めます(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁...

BigDecimal::ROUND_MODE -> Integer (29242.0)

BigDecimal の計算結果の丸め処理を設定、確認する際の値を返します。

...
BigDecimal
の計算結果の丸め処理を設定、確認する際の値を返します。

BigDecimal
.mode の第 1 引数に指定します。詳細については
BigDecimal
.mode を参照してください。...

BigDecimal#save_rounding_mode { ... } -> object (29233.0)

丸め処理に関する BigDecimal.mode の設定を保存してブロックを評価します。 ブロック中で変更した設定はブロックの評価後に復元されます。

...丸め処理に関する BigDecimal.mode の設定を保存してブロックを評価します。
ブロック中で変更した設定はブロックの評価後に復元されます。

ブロックの評価結果を返します。...

BigDecimal::ROUND_CEILING -> Integer (23129.0)

BigDecimal の計算結果の丸め処理で数値の大きい方に繰り上げるかどう かを設定、確認する際の値を返します。

...
BigDecimal
の計算結果の丸め処理で数値の大きい方に繰り上げるかどう
かを設定、確認する際の値を返します。

BigDecimal
.mode の第 2 引数に指定します。...

BigDecimal::ROUND_DOWN -> Integer (23129.0)

BigDecimal の計算結果の丸め処理で全て切り捨てるかどうかを設定、確 認する際の値を返します。

...
BigDecimal
の計算結果の丸め処理で全て切り捨てるかどうかを設定、確
認する際の値を返します。

BigDecimal
.mode の第 2 引数に指定します。...

絞り込み条件を変える

<< 1 2 > >>