るりまサーチ

最速Rubyリファレンスマニュアル検索!
66件ヒット [1-66件を表示] (0.019秒)

別のキーワード

  1. bigdecimal/util to_d
  2. bigdecimal round
  3. bigdecimal div
  4. bigdecimal mode
  5. bigdecimal ceil

ライブラリ

クラス

キーワード

検索結果

BigDecimal#>=(other) -> bool (39100.0)

self が other より大きいか等しい場合に true を、そうでない場合に false を返します。

self が other より大きいか等しい場合に true を、そうでない場合に false
を返します。

BigDecimal#ceil(n) -> BigDecimal (21143.0)

self 以上の整数のうち、最も小さい整数を計算し、その値を返します。

...指定します。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").ceil # => 2
BigDecimal
("-1.23456").ceil # => -1
//}

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n >= 0 なら、小数点以下 n + 1 位の数字...
...桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").ceil(4).to_f # => 1.2346
BigDecimal
("15.23456").ceil(-1).to_f # => 20.0
//}...

BigDecimal#floor(n) -> BigDecimal (21143.0)

self 以下の最大整数を返します。

...の桁数を整数で指定します。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").floor # => 1
BigDecimal
("-1.23456").floor # => -2
//}

以下のように引数 n を与えることもできます。
n >= 0 なら、小数点以下 n + 1 位の数字を操作します
(小数...
...にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").floor(4).to_f # => 1.2345
BigDecimal
("15.23456").floor(-1).to_f # => 10.0
//}...

BigDecimal#ceil -> Integer (21043.0)

self 以上の整数のうち、最も小さい整数を計算し、その値を返します。

...指定します。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").ceil # => 2
BigDecimal
("-1.23456").ceil # => -1
//}

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n >= 0 なら、小数点以下 n + 1 位の数字...
...桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").ceil(4).to_f # => 1.2346
BigDecimal
("15.23456").ceil(-1).to_f # => 20.0
//}...

BigDecimal#floor -> Integer (21043.0)

self 以下の最大整数を返します。

...の桁数を整数で指定します。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").floor # => 1
BigDecimal
("-1.23456").floor # => -2
//}

以下のように引数 n を与えることもできます。
n >= 0 なら、小数点以下 n + 1 位の数字を操作します
(小数...
...にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal
("1.23456").floor(4).to_f # => 1.2345
BigDecimal
("15.23456").floor(-1).to_f # => 10.0
//}...

絞り込み条件を変える

bigdecimal (6604.0)

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

...bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。

//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456...
...に対し、BigDecimal では正確な値を得る事ができます。

//emlist[例1: 0.0001 を 10000 回足す場合。][ruby]{
sum = 0
for i in (1..10000)
sum = sum + 0.0001
end
print sum # => 0.9999999999999062
//}

//emlist[例2: 0.0001 を 10000 回足す場合。(BigDecimal)][ruby]{
requi...
...cture] 内部構造

BigDecimal
内部で浮動小数点は構造体(Real)で表現されます。
そのうち仮数部は unsigned long の配列 (以下の構造体要素 frac) で管理されます。
概念的には、以下のようになります。

<浮動小数点数> = 0.xxxxxxxxx * BASE...