るりまサーチ

最速Rubyリファレンスマニュアル検索!
733件ヒット [1-100件を表示] (0.034秒)

別のキーワード

  1. bigdecimal/util to_d
  2. bigdecimal round
  3. bigdecimal bigdecimal
  4. bigdecimal new
  5. bigdecimal div

クラス

モジュール

キーワード

検索結果

<< 1 2 3 ... > >>

bigdecimal (38640.0)

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

...bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。

例:

require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456789E...
...BigDecimal では正確な値を得る事ができます。

例1: 0.0001 を 10000 回足す場合。

sum = 0
for i in (1..10000)
sum = sum + 0.0001
end
print sum # => 0.9999999999999062

例2: 0.0001 を 10000 回足す場合。(BigDecimal)

require 'bigdecimal'

sum = BigDecimal(...
...+ BigDecimal("0.0001")
end
print sum # => 0.1E1

例3: 1.2 - 1.0 と 0.2 との比較

require "bigdecimal"

(BigDecimal("1.2") - BigDecimal("1.0")) == BigDecimal("0.2") # => true

(1.2 - 1.0) == 0.2 # => false

=== 特別な値

正確な計算結果の提供のために、BigDecimal...

BigDecimal#>(other) -> bool (35100.0)

self が other より大きい場合に true を、そうでない場合に false を返しま す。

self が other より大きい場合に true を、そうでない場合に false を返しま
す。

BigDecimal#<=>(other) -> -1 | 0 | 1 | nil (23100.0)

self が other より大きい場合に 1 を、等しい場合に 0 を、小さい場合には -1 をそれぞれ返します。

self が other より大きい場合に 1 を、等しい場合に 0 を、小さい場合には
-1 をそれぞれ返します。

self と other が比較できない場合には nil を返します。

BigDecimal#>=(other) -> bool (23100.0)

self が other より大きいか等しい場合に true を、そうでない場合に false を返します。

self が other より大きいか等しい場合に true を、そうでない場合に false
を返します。

BigDecimal.mode(s) -> Integer | nil (17392.0)

BigDecimal の計算処理の制御方法を設定、確認します。

...
BigDecimal
の計算処理の制御方法を設定、確認します。

第2引数を省略、または nil を指定すると現状の設定値を返します。

@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal
::ROUND_MODE のいずれか...
...で指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal
::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効になります。
それ以外の場合は、true、false、nil の...
...uire 'bigdecimal'
flag = false # デフォルト値
f = BigDecimal::mode(BigDecimal::EXCEPTION_NaN,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_INFINITY,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_UNDERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_OVERFLOW,flag)
f = BigDecimal::mode...

絞り込み条件を変える

BigDecimal.mode(s, v) -> Integer | nil (17392.0)

BigDecimal の計算処理の制御方法を設定、確認します。

...
BigDecimal
の計算処理の制御方法を設定、確認します。

第2引数を省略、または nil を指定すると現状の設定値を返します。

@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal
::ROUND_MODE のいずれか...
...で指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal
::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効になります。
それ以外の場合は、true、false、nil の...
...uire 'bigdecimal'
flag = false # デフォルト値
f = BigDecimal::mode(BigDecimal::EXCEPTION_NaN,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_INFINITY,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_UNDERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_OVERFLOW,flag)
f = BigDecimal::mode...

BigDecimal#round(n) -> BigDecimal (17358.0)

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

...クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal
::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同...
...す。

BigDecimal
.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」にします。

require "bigdecimal"
BigDecimal
("1.23456").round # => 1
BigDecimal
("-1.2345...
...6").round # => -1

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を丸めます(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を丸...

BigDecimal#round(n, b) -> BigDecimal (17358.0)

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

...クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal
::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同...
...す。

BigDecimal
.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」にします。

require "bigdecimal"
BigDecimal
("1.23456").round # => 1
BigDecimal
("-1.2345...
...6").round # => -1

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を丸めます(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を丸...

BigDecimal#divmod(n) -> [BigDecimal, BigDecimal] (17332.0)

self を other で割った商 q と余り r を、 [q, r] という 2 要素の配列にし て返します。

...て返します。

商は負の無限大負方向に丸められます。

@param n self を割る数を指定します。

例:

require 'bigdecimal'

a = BigDecimal("42")
b = BigDecimal("9")

a.divmod(b)
# => [#<BigDecimal:f74b3a14,'0.4E1',4(16)>, #<BigDecimal:f74b3a64,'0.6E1',4(12)>]...

BigDecimal#round -> Integer (17258.0)

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

...クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal
::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同...
...す。

BigDecimal
.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」にします。

require "bigdecimal"
BigDecimal
("1.23456").round # => 1
BigDecimal
("-1.2345...
...6").round # => -1

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を丸めます(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を丸...

絞り込み条件を変える

BigDecimal#ceil(n) -> BigDecimal (17237.0)

self 以上の整数のうち、最も小さい整数を計算し、その値を返します。

...数を整数で指定します。

require "bigdecimal"
BigDecimal
("1.23456").ceil # => 2
BigDecimal
("-1.23456").ceil # => -1

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n >= 0 なら、小数点以下 n + 1 位の数字を...
...を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

require "bigdecimal"
BigDecimal
("1.23456").ceil(4).to_f # => 1.2346
BigDecimal
("15.23456").ceil(-1).to_f # => 20.0...

BigDecimal#floor(n) -> BigDecimal (17237.0)

self 以下の最大整数を返します。

...m n 小数点以下の桁数を整数で指定します。

require "bigdecimal"
BigDecimal
("1.23456").floor # => 1
BigDecimal
("-1.23456").floor # => -2

以下のように引数 n を与えることもできます。
n >= 0 なら、小数点以下 n + 1 位の数字を操作します
(小...
...を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

require "bigdecimal"
BigDecimal
("1.23456").floor(4).to_f # => 1.2345
BigDecimal
("15.23456").floor(-1).to_f # => 10.0...

BigDecimal.new(s) -> BigDecimal (17230.0)

このメソッドは deprecated です。Kernel.#BigDecimal を使用してください。

...このメソッドは deprecated です。Kernel.#BigDecimal を使用してください。

新しい BigDecimal オブジェクトを生成します。

詳しくは Kernel.#BigDecimal を参照してください。...

BigDecimal.new(s, exception: true) -> BigDecimal | nil (17230.0)

このメソッドは deprecated です。Kernel.#BigDecimal を使用してください。

...このメソッドは deprecated です。Kernel.#BigDecimal を使用してください。

新しい BigDecimal オブジェクトを生成します。

詳しくは Kernel.#BigDecimal を参照してください。...

BigDecimal.new(s, n) -> BigDecimal (17230.0)

このメソッドは deprecated です。Kernel.#BigDecimal を使用してください。

...このメソッドは deprecated です。Kernel.#BigDecimal を使用してください。

新しい BigDecimal オブジェクトを生成します。

詳しくは Kernel.#BigDecimal を参照してください。...

絞り込み条件を変える

BigDecimal.new(s, n, exception: true) -> BigDecimal | nil (17230.0)

このメソッドは deprecated です。Kernel.#BigDecimal を使用してください。

...このメソッドは deprecated です。Kernel.#BigDecimal を使用してください。

新しい BigDecimal オブジェクトを生成します。

詳しくは Kernel.#BigDecimal を参照してください。...

BigDecimal._load(str) -> BigDecimal (17223.0)

引数で指定された文字列を元に BigDecimal オブジェクトを復元します。 Marshal.#load から呼び出されます。

...文字列を元に BigDecimal オブジェクトを復元します。
Marshal.#load から呼び出されます。

@param str 復元する値を表す文字列を指定します。

@raise TypeError 引数に不正な文字が含まれる場合に発生します。

@see BigDecimal#_dump, Marshal.#...

BigDecimal#%(n) -> BigDecimal (17220.0)

self を n で割った余りを返します。

...割る数を指定します。

require 'bigdecimal'
x = BigDecimal((2**100).to_s)
( x % 3).to_i # => 1
(-x % 3).to_i # => 2
( x % -3).to_i # => -2
(-x % -3).to_i # => -1

戻り値は n と同じ符号になります。これは BigDecimal#remainder とは
異なる点に注意して...

BigDecimal#modulo(n) -> BigDecimal (17220.0)

self を n で割った余りを返します。

...割る数を指定します。

require 'bigdecimal'
x = BigDecimal((2**100).to_s)
( x % 3).to_i # => 1
(-x % 3).to_i # => 2
( x % -3).to_i # => -2
(-x % -3).to_i # => -1

戻り値は n と同じ符号になります。これは BigDecimal#remainder とは
異なる点に注意して...
<< 1 2 3 ... > >>